O Comando de Operações Especiais dos EUA (SOCOM) busca expertise em deepfake para operações de propaganda em compras.
No documento RFP publicado pelo The Intercept, o SOCOM está solicitando “Operações de suporte de informações militares (MISO)” para “operações de influência, engano digital, interrupção da comunicação e campanhas de desinformação nos níveis tático e operacional”.
Especificamente, o SOCOM pede “deep fake” de próxima geração ou tecnologia similar” para gerar mensagens para operações de influência em “canais não tradicionais em ambientes pares/próximos relevantes” – o que soa como disseminação direcionada de propaganda deepfake nas redes sociais. Na mesma seção, SOCOM pede tecnologias para coletar dados de fluxos de informação públicos e abertos, como mídia social e local, para informar campanhas de influência direcionadas.
A SOCOM também planeja “apropriar-se” dos dispositivos IoT para “coletar dados e informações das populações locais para permitir a análise de quais mensagens podem ser populares e aceitas por meio da triagem dos dados recebidos”. Isso permitiria ao MISO criar e disseminar mensagens com maior probabilidade de serem aceitas pela população local, de acordo com o documento.
Militares dos EUA usam tecnologia de engano controversa
Deepfakes são mídias falsas geradas por IA, como fotos, vídeos ou trilhas sonoras. Na maioria dos casos, as palavras são colocadas na boca das pessoas ou as pessoas são mostradas em um contexto enganoso.
Os vídeos deepfake podem ser particularmente convincentes, especialmente nas mídias sociais, onde a qualidade do vídeo e a atenção são baixas. Um recente deepfake do psicólogo americano Jordan Peterson enganou muitos usuários do Twitter, apesar dos erros de sincronização labial que eram óbvios à segunda vista.
No ano passado, uma possível tentativa de deepfake politicamente direcionada relacionada à crise na Ucrânia apareceu nas redes sociais. Em um vídeo obviamente falso, Presidente ucraniano, Volodymyr Selensky exortou seu povo a depor as armas.
Embora deepfakes podem ser usados para entretenimento, o termo original tem uma conotação negativa. Foi cunhado pelo usuário do Reddit “deepfakes”, que popularizou um algoritmo de IA que pode ser usado para substituir os rostos de pessoas em pornografia pelos de celebridades ou colegas. Leia mais em nosso história dos deepfakes.
Um Estudo da UE sobre o estado dos deepfakes, publicado no outono de 2021, conclui que as técnicas de deepfake estão se tornando mais acessíveis, baratas e melhores, tornando-as um risco com a escalada da comunicação audiovisual nas redes sociais.
O série de ficção científica “The Capture” mostra o potencial de uso indevido da tecnologia deepfake muito sofisticada no contexto da manipulação política e, em última instância, militar.