Sumário
O psicólogo canadense Jordan Peterson apareceu em vários vídeos e podcasts, então há muito material de vídeo e áudio dele disponível gratuitamente. Isso o torna um alvo fácil para deepfakes.
O avatar deepfake de Peterson insulta o governo alemão, o que é comemorado no Twitter pelos críticos do governo alemão que divulgaram o vídeo. Eles não percebem que se apaixonaram por um deepfake.
Desde o surgimento de deepfakes por volta de 2017houve temores sobre seu potencial nocivo, especialmente por abuso político e formação de opinião nas mídias sociais. Até agora, esses medos não se concretizaram. Mas o exemplo a seguir mostra que o risco é real.
Deepfake de Jordan Peterson engana usuários alemães do Twitter
A lingua alemã Usuário do Twitter “Snicklink” espalha vídeos deepfake com motivação política no Twitter, incluindo o de Peterson no final de fevereiro. Snicklink chama seus vídeos de “ativismo de IA” e “guerra de memes digitais” para “vencê-los com suas próprias armas”. Em seu Peterson Deepfake, Snicklink faz comentários depreciativos sobre um lapso de linguagem da ministra das Relações Exteriores, Annalena Baerbocks.
Em um segundo vídeo, Snicklink usa um deepfake de Peterson para agradecer seu “público alemão” por seu gentil apoio ao seu vídeo sobre o “ridículo governo alemão”.
Apesar das falhas técnicas do vídeo, muitos usuários do Twitter se apaixonaram pelo deepfake de Petersonsentindo-se justificados em suas opiniões políticas e divulgando o vídeo.
“Nós nos tornamos o motivo de chacota do mundo – completamente merecido”, escreve um usuário. “O governo alemão é um show de palhaços”, diz outro.
Um usuário está satisfeito com o alcance internacional da Peterson. “Jordan Peterson tem alcance… a esta altura, quase todo mundo deveria ter percebido que a Alemanha é comandada pelos melhores dos melhores.”
“A falta de educação e a inteligência inferior tornaram-se a base de sustentação do governo, que se elegeu com apenas 39% dos votos, descontados os não votantes. E enquanto a sociedade civil alemã ainda espera que ninguém no exterior perceba, a realidade é, Dr. Peterson,” escreve um crítico do governo alemão que acredita que as declarações de Peterson são verdadeiras.
O mesmo usuário mais tarde descobre que ele se apaixonou por um deepfakecitando a duração do vídeo como o motivo: “Por causa da duração do vídeo, não achei que alguém seria louco o suficiente para se esforçar tanto, especialmente porque Peterson é legal.”
Peterson original chama deepfakes de “perigosos além da crença”
Esses exemplos mostram como os deepfakes políticos podem ser enganosos. Após uma inspeção mais detalhada, a faixa de áudio e o movimento dos lábios não correspondem. No entanto, em pequenas telas de smartphones ou ao navegar rapidamente pelas mídias sociais, isso é quase imperceptível.
Além disso, muitos usuários carecem de alfabetização midiática, aparentemente confiando em Peterson para fazer tais declarações em vez de questioná-las criticamente.
O deepfake do Snicklink ganhou força suficiente para que o original Jordan Peterson falou sobre isso: “Há um deepfake de IA de mim fazendo comentários depreciativos sobre o governo alemão circulando. A voz está desligada, mas é moderadamente convincente.”
A criação de tal vídeo deve ser considerada um crime punível com pelo menos dez anos de prisão, disse Peterson. A tecnologia é “perigosa além da crença”, disse ele.