Sumário
Muitos aplicativos de namoro estão enfrentando golpistas, e o Filteroff também sentiu o aperto. A resposta da empresa: um chatbot GPT-3 trolls de volta.
Em fevereiro de 2019, OpenAI demonstrou GPT-2 , o primeiro grande modelo de linguagem capaz de gerar texto tão bem que a empresa achou muito perigoso lançá-lo imediatamente. Caso contrário, a Internet pode ser inundada com textos falsos críveis escritos automaticamente. Em vez disso, a OpenAI lançou uma pequena variante que escrevia textos de menor qualidade e, ao longo do ano, aos poucos, lançou os modelos maiores.
O excesso de texto esperado não se materializou. A aparição massiva de bots sociais também parecia improvável. Em 2021, o modelo de linguagem significativamente maior GPT-3 seguido. O OpenAI inicialmente restringiu o acesso aqui também. Desta vez, porém, a inteligência artificial passou a ser um serviço pago, que está disponível sem lista de espera desde novembro de 2021.
É irônico que o sistema de IA, antes considerado perigoso, agora esteja sendo usado contra aqueles que a OpenAI vê como atores que podem abusar do sistema: os golpistas.
Aplicativo de namoro Filteroff coloca golpistas em um pool de namoro escuro
Fundada em 2019, startup Filtro desligado opera um aplicativo de namoro com o mesmo nome que tem enfrentado cada vez mais golpistas à medida que sua base de usuários cresce nos últimos dois anos.
Um exemplo do Filteroff:
Você conhece uma jovem simpática chamada Carolina. Depois de conversar com ela por uma semana, você a convida para sair. Ela concorda em vir. Mas no último minuto, ela manda uma mensagem:
— Meu carro quebrou no caminho para sua casa. Você pode me enviar $ 40 para que eu possa consertá-lo o mais rápido possível? Vales-presente do Google Play seriam bons.’”
A Filteroff emprega três pessoas – eles não poderiam simplesmente “jogar dinheiro no problema”, disse a empresa. Em vez disso, a Filteroff desenvolveu a detecção de golpistas que, uma vez identificados, move os golpistas para fora do pool de namoro normal e para um pool de namoro escuro.
Lá, além de outros golpistas, apenas perfis de bot esperam para vasculhar os golpistas humanos com fotos falsas geradas por GAN e chatbots GPT-3.
O GPT-3 da OpenAI envolve golpistas em conversas confusas
Os golpistas não obtêm sua alocação no dark namoro pool e, portanto, se envolvem em pelo menos uma conversa frustrante de IA. Para manter o custo do GPT-3 baixo, o Filteroff reduziu o número de palavras que podem ser geradas e filtrou automaticamente algum conteúdo por meio de comandos regex.
No processo, alguns erros aconteceram, escreve um dos três fundadores da startup. GPT-3 às vezes para no meio de uma frase ou usa frases duplicadas.
Ainda assim, algumas conversas publicadas são ótimas. Por exemplo, quando um golpista reclama de bots na plataforma, um chatbot muda de gênero, tem três profissões ao mesmo tempo ou um golpista espera em vão por quatro cartões do Google Playstore. A empresa leu algumas conversas e as publicou no YouTube.
Uma visão geral dos melhores diálogos está disponível em Série Sammer Bot da Filteroff . De acordo com Filteroff, todos os chats eram criptografados e apenas aqueles entre golpistas e bots eram transmitidos para a empresa.