Sumário
Em um vídeo, o presidente ucraniano, Volodymyr Zelenskyy, pede a seu povo que deponha as armas. Pode ser a primeira tentativa de grande manipulação política usando deepfakes.
Ele tem que tomar decisões difíceis, diz Fake Zelenskyy, mas o povo ucraniano deve encarar a verdade: a defesa falhou e não há amanhã. Ele renuncia ao cargo e aconselha a Ucrânia a depor as armas e voltar para suas famílias. “Você não deve morrer nesta guerra”, diz Fake-Zelenskyy.
Ataque paralelo via site de notícias e mídia social
Os criadores do vídeo falso primeiro hackearam o site da Ucrânia24 e divulgue o vídeo através de seus canais. Em seguida, acabou nas redes sociais como Twitter, Facebook e Instagram.
No entanto, não teve grandes chances de viralizar: o falso é mal feito. A cabeça de Zelenskyy parece estar colada ao pescoço, e a iluminação em seu rosto e corpo é notavelmente diferente. Até os leigos percebem que algo está errado aqui.
O falso Zelenskyy também deve falar com sotaque russo, e sua voz também tem o típico som ligeiramente ecoado e entrecortado de uma voz gerada por máquina. As expressões faciais, por outro lado, são convincentes.
Vídeo: via Mikael Thalen / Twitter
O presidente ucraniano reagiu prontamente à tentativa desajeitada de falsificação e publicou um vídeo curto para smartphone com uma refutação através de seus canais oficiais. Além disso, o governo ucraniano preparou cidadãos por possíveis ataques de vídeo deepfake já no início de março, nos quais Zelenskyy poderia anunciar a rendição aos militares russos.
“Este não será um vídeo real, mas criado por algoritmos de aprendizado de máquina. Os vídeos criados com essas tecnologias são quase indistinguíveis dos vídeos reais”, alertou o Centro Ucraniano de Comunicações Estratégicas e Segurança da Informação no Facebook em 2 de março.
Vídeo Zelenskyy: Deepfake ou não?
o Centro de Segurança e Tecnologia Emergente e Nathaniel Gleicher , responsável pelas políticas de segurança da Meta, chama o vídeo falso de Zelenskyy de deepfake. A Meta removeu o vídeo de suas plataformas.
Mounir Ibrahim, da empresa de verificação de autenticidade de vídeo Truepic, está deixando em aberto a questão de saber se o vídeo é um deepfake , ou seja, um vídeo forjado com tecnologia AI ou um vídeo falso criado por outros meios, antes de realizar uma análise aprofundada. Assim que houver um consenso sobre isso, atualizarei o artigo.
Se a suspeita do deepfake se provar correta, o vídeo falso de Zelenskyy seria histórico, apesar de sua baixa qualidade: seria a primeira tentativa documentada de manipulação política profunda usando um deepfake. Pesquisadores e políticos alertam sobre esse perigo potencial há anos.
O fato de a falsificação de Zelenskyy ter sido rapidamente descoberta e excluída devido à sua execução malsucedida e, posteriormente, não ter causado danos, não deve ser considerado um sinal claro ou da resiliência da mídia social a vídeos falsos.
Demonstrações mostram que deepfakes de alta qualidade , dificilmente reconhecíveis como falsificações, são possíveis e provavelmente têm um efeito muito diferente. A falsificação de Zelenskyy também está a apenas algumas horas de trabalho de ser de qualidade muito melhor.
Estudos recentes concluem que as pessoas podem ser enganadas por deepfakes de melhor qualidade mesmo quando os procuram especificamente.
Leia mais sobre deepfakes:
- Deepfakes versus alfabetização midiática
- As pessoas não reconhecem os deepfakes – e confiam mais neles
- Deepfakes agora são ainda mais versáteis