Sumário
A start-up dinamarquesa Jumpstory promete um Netflix para imagens e curadoria de seu conteúdo com inteligência artificial. O cofundador Jonathan Løw fala comigo sobre o uso de IA, autenticidade e sobre uma decisão fundamental contra o conteúdo gerado por IA.
Em 2018, Jonathan Løw e Anders Thiim fundaram a Jumpstory, uma espécie de Netflix para imagens. A ideia: acesso a milhões de imagens e vídeos por uma taxa mensal de 29.
Em seus 20 anos de experiência em marketing e comunicação digital, ambos trabalharam repetidamente com fotos clássicas e estavam insatisfeitos com a qualidade, modelos de licenciamento e preços. Então eles projetaram sua própria plataforma.
Além de preços simples e modelos de licenciamento, a Jumpstory visa se destacar com a qualidade das imagens e vídeos disponíveis: A empresa promete imagens autênticas que devem se destacar claramente dos clichês de fotos – e que garantem não ter sido geradas por fontes artificiais inteligência.
“Não somos contra o uso de IA, afinal, nós mesmos usamos.”
O DECODIFICADOR: Antes desta entrevista, conversamos sobre autenticidade. Você pode dizer aos nossos leitores o que isso significa para o Jumpstory?
Jonathan Low: Na JumpStory temos uma promessa aos nossos clientes, e até temos uma seção dedicada em nosso site, onde falamos sobre isso. É a nossa “Promessa de Autenticidade”.
Prometemos aos usuários obter apenas imagens 100% autênticas e sem imagens geradas por IA. Você não encontra nenhum material gerado por IA; sem deepfakes; nada de clichê. Apenas imagens 100% reais de pessoas reais em situações da vida real.
Nossas fotos não são feitas por profissionais, mas sim por amadores. Eles são como as moscas na parede – capturando a vida, enquanto ela acontece, ao contrário de muitos fotógrafos profissionais que tendem a encenar tudo.
O DECODIFICADOR: Jumpstory usa IA para reconhecer imagens autênticas. Você pode explicar como isso funciona?
Jonathan Low: Na JumpStory não somos contra o uso de IA, porque nós mesmos a usamos. No entanto, não achamos que deva ser usado para gerar pessoas ou realidades falsas. Isso pode ser bom em jogos de computador, mas não como parte de nossas comunicações e vidas cotidianas, porque acabamos com um mundo onde não sabemos o que é real e o que não é. E quem quer viver em um mundo assim?
Empresas como OpenAI, Midjourney etc. usam inteligência artificial e criam mídia sintética e conteúdo artificial. Isso é fascinante na superfície, mas também representa um risco real. Não apenas os aspectos legais são confusos, para dizer o mínimo, mas também vejo isso como uma ameaça fundamental a um dos princípios fundamentais da humanidade: a confiança.
Sem confiança, não temos nada. Nenhuma mídia. Sem democracias. Sem relacionamentos. Tudo depende da confiança. Se você começar a jogar com confiança e realidade, estará em um caminho muito perigoso.
No entanto, não acho que gigantes da tecnologia como Facebook, Google e outros realmente se importem com isso. Eles apenas veem excelentes modelos de negócios surgindo, então contribuem para o hype da IA.
Em JumpStory, trabalhamos com ‘Inteligência Autêntica’. Usamos IA para identificar quais imagens são originais, autênticas e, é claro, legais de usar. Ainda não somos perfeitos nisso, mas estamos trabalhando muito para alcançá-lo porque achamos que é a coisa certa a fazer.
Se você entrar em detalhes de como funciona, é como a maioria dos outros aprendizados de máquina, onde você ensina à máquina o que procurar e focar. No nosso caso, usamos conjuntos de dados de conteúdo autêntico, que selecionamos e classificamos manualmente, e então liberamos a máquina e a deixamos aprender o que procurar e como priorizar, porque no final do dia queremos que o máquina para apresentar aos nossos clientes o conteúdo mais autêntico possível.
“Só porque você pode fazer algo, não significa que você deva.”
O Jumpstory oferece várias ferramentas de IA que permitem aos usuários editar imagens ou fazer upload de texto, por exemplo, que é analisado por um modelo de IA que carrega imagens correspondentes da biblioteca Jumpstory.
Na entrevista, Løw me conta que a empresa fez experiências iniciais com GANs para gerar imagens, mas acabou decidindo não usar IA para geração de imagens.
O DECODIFICADOR: Se um sistema de IA pode reconhecer a autenticidade, você não acha que um dia a IA poderá reproduzi-la?
Jonathan Low: No futuro, a IA pode produzir quase tudo, mas só porque você pode fazer algo, não significa que deva.
Às vezes, sinto que o mundo da tecnologia, que de muitas maneiras amo e no qual trabalho há mais de 20 anos, é obcecado por tecnologia e não por ética, moral e debates mais filosóficos sobre o propósito da tecnologia e da IA.
Agora, todo mundo está falando sobre diversidade e levando as agendas da mídia sensacionalistas para o espaço tecnológico, mas isso é muito mais fundamental do que as tendências atuais da sociedade. Trata-se do que queremos que os computadores façam e do que não queremos que eles façam.
O DECODIFICADOR: Você pode explicar por que você decidiu não usar imagens geradas por IA?
Jonathan Low: Não quero que a IA reproduza a autenticidade e borre totalmente as linhas entre a realidade e a farsa. Não porque possa ameaçar parte do meu negócio, mas porque acho que é ética e moralmente errado e uma ameaça à confiança de que falei antes.
Vemos repetidas vezes que a tecnologia muitas vezes está à frente tanto da lei quanto da nossa ética, e acho isso fundamentalmente preocupante. É inevitável, considerando os bilhões e bilhões de dólares investidos em tecnologia, e não em filosofia e ética, por exemplo, mas mesmo que seja inevitável, ainda devemos questioná-lo e desafiá-lo.
“As questões legais são potencialmente enormes.”
Enquanto Jumpstory se opõe fortemente ao conteúdo gerado por IA, DALL-E 2 da OpenAI e meio da jornada já estão em amplo uso. No entanto, Løw diz que o uso de tais sistemas apresenta riscos legais potenciais: ele vê as imagens do DALL-E 2 e outros sistemas como replicações editadas de conjuntos de dados que não podem ser usados para fins comerciais.
O DECODIFICADOR: Você me disse que vê alguns riscos legais, ou pelo menos um risco maior para os usuários, em comparação com, digamos, Jumpstory. Por que é que?
Jonathan Low: Como acabei de mencionar, muitas vezes é o caso de novas tecnologias que são criadas antes de concordarmos com alguns limites legais para elas. Este também é o caso de Midjourney, DALL-E 2, Google Imagen e assim por diante.
As questões legais são potencialmente enormes. (…) Sistemas como fontes DALL-E 2/imagens extraídas de inúmeros sites públicos, e não há nenhum precedente legal direto nos EUA que sustente dados publicamente disponíveis como uso justo. Portanto, as questões legais se aplicam às imagens geradas E ao conjunto de dados usado para treiná-las.
Existem grandes problemas com os direitos sobre as imagens e as pessoas, lugares e objetos dentro das imagens nas quais modelos como DALL-E 2 são treinados.
O DECODIFICADOR: Supondo que esses riscos possam ser mitigados, onde você vê pessoalmente aplicativos para sistemas de IA generativos como o DALL-E 2?
Jonathan Low: Muitas pessoas me perguntaram se achamos que o DALL-E 2 fechará a indústria de fotografia. Minha resposta a esta pergunta é não. No entanto, com certeza irá desafiar algumas partes da indústria – por exemplo, a parte de ilustrações da indústria.
Eu também acho que a IA generativa pode ser uma contribuição muito legal para os designers – tanto no nível da ideia quanto na criação de alguns designs. Não acho que muitas coisas na vida sejam preto e branco, então não vejo isso matando todas as carreiras criativas, mas provavelmente desafiará os designers gráficos a reinventar como estão trabalhando e que parte do a cadeia de valor em que devem se concentrar.
Quando se trata especificamente da indústria de banco de imagens, algumas plataformas de banco de imagens podem começar a usar essas novas tecnologias para expandir suas ofertas de serviços, bem como seus repositórios de banco de imagens. Pelo menos é isso que vejo acontecendo se você falar sobre Shutterstock e iStock. Mas se falamos de JumpStory, não queremos ir por esse caminho, como mencionei antes.
Como empresa, você não deve pensar apenas onde pode ganhar dinheiro rápido e novo, mas também no que acredita e no que é certo. Pode nos chamar de old school, mas na JumpStory nós realmente amamos o mundo real, então queremos contribuir para um mundo onde as pessoas continuem confiando umas nas outras tanto quanto possível, e deepfakes e visuais gerados por IA são uma séria ameaça para esta.