Sumário
Uma Inteligência Artificial treinada para criar imagens realistas que são quase indistinguíveis das reais. Um exemplo é a prisão imaginária de Donald Trump. Isso novamente levanta a questão de como regular as imagens de IA.
O lançamento de Midjourney v5 em particular, destaca os riscos das imagens de IA nas mídias sociais e editoriais. Os resultados do midjourney,os mais recentes modelos de imagem AI é ainda mais foto realista do que nas versões anteriores. A renderização muitas vezes imprecisa de mãos e dedos, usada anteriormente para expor rapidamente as gerações de IA, também foi significativamente aprimorada desde o Midjourney v5.
Na segunda-feira, 20 de março, um tema esteve especialmente presente nas redes sociais: a possível prisão do ex-presidente dos Estados Unidos, Donald Trump. Eliot Higgins, fundador da organização investigativa holandesa Bellingcat, passou seu tempo visualizando essas cenas com Midjourney v5.
Fotos falsas de Trump atingem mais de cinco milhões de pessoas
“Fazendo fotos de Trump sendo preso enquanto espera a prisão de Trump”, comentou em um tuíte com duas de um total de 50 imagens geradas, que até então já haviam sido visualizadas mais de cinco milhões de vezes. Os meios de comunicação pegaram as imagens, dando-lhes um alcance ainda maior.
Seus comentários, juntamente com as falhas óbvias das imagens, como a estranha representação de pernas, devem ser suficientes para mostrar que as imagens não são reais, disse Higgins. “Não tive a intenção de fazer nenhuma crítica inteligente ou algo do tipo. Mas então meio que ganhou vida própria.”
As imagens ainda estão disponíveis no Twitter – mas Higgins suspeita que não tenha mais acesso ao Midjourney como resultado desse incidente. Enquanto Notícias do Buzzfeed não teve resposta de Midjourney, uma indicação é que a palavra “preso” foi adicionada à sua lista de palavras proibidas. Alguém em Midjourney parece ter notado e reagido ao que aconteceu.
Midjourney não proíbe explicitamente imagens políticas de IA
Diretrizes da comunidade do Midjourney proíbe amplamente imagens que sejam “inerentemente desrespeitosas, agressivas ou abusivas”, bem como “conteúdo adulto ou gore”. Conteúdo explicitamente político não é mencionado.
Até agora, Midjourney não comentou o incidente, nem se eles podem considerar uma alteração nas regras para impedir que personagens políticos sejam gerados. Em nossos próprios testes, conseguimos criar imagens com Putin, Trump, Merkel ou Biden sem problemas, enquanto “Xi Jinping” está bloqueado.
No entanto, a proibição de palavras imediatas individuais é uma reflexão tardia, porque com as imagens falsas de Trump já alcançando um alcance enorme, o dano potencial já teria sido feito. Além disso, frases alternativas como “Trump algemado” ainda eram possíveis após a proibição de “preso”, a proibição geral da palavra ‘preso” foi criticada na comunidade Midjourney porque o termo pode ser usado em outros contextos legítimos para geração de imagem.
“Não que isso vá aparecer nas métricas de alguém, mas acabei de cancelar meu plano de 50 dólares por mês porque acho estúpido que a palavra “preso” agora seja banida como resultado do totalmente inevitável como imagens de uma prisão falsa de Donald Trump circulando no Twitter”, escreveu um usuário no Discord de Midjourney.
À medida que o foto realismo da IA continua avançando, é provável que as críticas ao Midjourney e aos geradores de imagens semelhantes aumentem, embora a represa para imagens falsas possa ter rompido de qualquer maneira com soluções de código aberto como Difusão estável.
Parece que a Previsão de 2017 feita por Ian Goodfellow, o inventor da tecnologia deepfake inicial, Generative Adversarial Networks (GANs), está se tornando realidade: que as pessoas não podem mais confiar em imagens e vídeos na web. Agora só falta alguém contar para as pessoas.