Sumário
A empresa alemã OpenCage mostra o que pode dar errado quando as pessoas confiam no ChatGPT para suas pesquisas.
De acordo com o ChatGPT, a empresa alemã de geocodificação OpenCage vende acesso a uma interface de programação que converte números de telefone celular em localizações de telefone.
No entanto, o OpenCage não oferece essa “pesquisa reversa de número de telefone” e nunca o fez.
“Este não é um serviço que prestamos. Não é um serviço que já fornecemos, nem um serviço que temos planos de fornecer. Na verdade, não é um serviço que somos tecnicamente capazes de fornecer”, escreveu o cofundador da OpenCage, Ed Freyfogle, no blog da empresa.
Em vez disso, o OpenCage oferece uma API que converte endereços físicos em coordenadas de latitude e longitude para uso em mapas, por exemplo.
ChatGPT atrai novos usuários, que saem desapontados
A desinformação da IA foi descoberta pelo OpenCage por meio de pesquisa de mercado. Alguns novos usuários do serviço citaram o “ChatGPT” como canal de referência. Em dois meses, essas referências isoladas se transformaram em um “fluxo constante”, de acordo com o OpenCage.
No entanto, muitos dos novos usuários encaminhados via ChatGPT testaram brevemente a API de geocodificação e depois pararam. Como o comportamento do usuário estava muito longe da norma, o OpenCage procurou alguns deles. Eles reclamaram que o serviço não estava funcionando como planejado.
Alarmado, o OpenCage investigou mais – e encontrou o que procurava no ChatGPT. Com o prompt “script de pesquisa reversa de número de telefone”, o chatbot da OpenAI emitiu um script Python com uma explicação para a solicitação que estava tentando se conectar aos servidores da OpenCage.
“Olhando para a resposta bem formulada do ChatGPT, é compreensível que as pessoas acreditem que isso funcionará”, escreve Freyfogle.
O Opencage tornou o problema público há cerca de uma semana e o OpenAI pode já ter corrigido o bug. Para mim, a única maneira de reproduzi-lo era adicionar “opencage” ao prompt “script de pesquisa reversa de número de telefone”.
Erro humano como causa – escalonamento de IA como problema
OpenCage chama a situação criada pelo ChatGPT de “extremamente frustrante” porque leva a clientes insatisfeitos. As solicitações de suporte estão chegando diariamente porque a pesquisa reversa de telefone prometida pelo ChatGPT não está realmente lá.
Do ponto de vista do OpenCage, não há dúvida de que o ChatGPT obteve as informações erradas dos tutoriais do YouTube com defeito. Um problema que a empresa já havia apontado em abril de 2022.
No entanto, o ChatGPT representa um desafio muito maior para o OpenCage do que os vídeos defeituosos do YouTube devido à sua escalabilidade: “Vídeos tutoriais ruins nos causaram um punhado de inscrições frustradas. Com o ChatGPT, o problema é várias ordens de magnitude maior.”
Além disso, as pessoas são mais céticas em relação às respostas humanas do que as do ChatGPT, disse Freyfogle.
“O ChatGPT está fazendo exatamente o que seus criadores pretendiam – produzindo uma resposta coerente e crível. Se essa resposta é verdadeira, não parece importar nem um pouco”, escreve Freyfogle, alertando, “você absolutamente não pode confiar que a saída do ChatGPT seja verdadeira”.