Sumário
O cofundador da OpenAI, Sam Altman, adverte contra o uso do ChatGPT para tópicos importantes.
Ainda mais rápida e intensa do que os geradores de imagem, a tecnologia de IA alcançou o mainstream por meio de ChatGPT . No Twitter, #ChatGPT está em alta, e inúmeras pequenas e grandes mídias estão reportando sobre o assunto. respostas às vezes surpreendentes e textos do modelo de texto mais recente do OpenAI . Alguns até atribuem ao ChatGPT o avanço da inteligência artificial, o início de uma nova era da computação.
A enorme resposta prova acima de tudo: treinamento com feedback humano funciona . O fato de o ChatGPT ser tão bem recebido provavelmente tem menos a ver com o texto ou código de saída, que está qualitativamente a par do que o GPT-3.5 vem produzindo desde o início de 2022 e o GPT-3 desde 2020.
O espanto do ChatGPT tem muito mais a ver com sua interface: a IA, graças à sua otimização para o diálogo por meio de feedback humano, quase sempre parece entender seus parceiros de chat. Mesmo com instruções mal escritas, o sistema tem boas respostas prontas. Isso é novo.
O ChatGPT ultrapassa os limites, mas não os ultrapassa
Alguns já veem um ponto de viragem para o quase monopólio do Google nos motores de busca. Em vez de procurar por um termo e, em seguida, recitar sites, você pode simplesmente deixar o ChatGPT gerar respostas para suas perguntas.
Mas esse cenário provavelmente será maior no futuro, se ocorrer: o ChatGPT pode estar ultrapassando os limites de grandes modelos de linguagem, mas ainda não os ultrapassou.
O ChatGPT continua a sofrer com os problemas fundamentais dos modelos de linguagem atuais:
- Eles inventam fatos,
- mas apresente-os com grande confiança em palavras polidas,
- eles não oferecem nenhuma avaliação da confiabilidade das informações
- e sem transparência na fonte.
- Além disso, grandes modelos de linguagem podem reforçar preconceitos e criar novos .
Existem conceitos sobre como resolver esses problemas, como dar acesso à Internet aos LLMs, mas ainda não há soluções.
O Google, por sua vez, introduziu seu próprio grande modelos de linguagem como PaLM – LaMDA para diálogos – meses atrás, mas ainda não os colocou no mercado, em parte devido às preocupações de segurança mencionadas acima. É claro que o Google tem mais perguntas a responder sobre seu próprio modelo de negócios, baseado na publicidade em mecanismos de busca, ele teria que se reinventar em partes – e, portanto, não pode se apressar como o OpenAI.
A comunidade científica também protestou contra o modelo de linguagem científica da Meta Galactica devido a questões de segurança e confiabilidade, e plataforma de código Stack Overflow teve o suficiente do absurdo do ChatGPT em poucos dias .
O co-fundador da OpenAI, Sam Altman, pisa no freio
O cofundador da OpenAI, Sam Altman, conhece os pontos fracos do ChatGPT – e os destaca explicitamente no Twitter. Isso pode ser em parte modéstia (falsa) ou gerenciamento inteligente de expectativas, mas também é a verdade.
O ChatGPT é “incrivelmente limitado”, escreve Altman, mas “bom o suficiente em algumas coisas para criar uma impressão enganosa de grandeza.”
Atualmente, diz ele, é um erro usar o ChatGPT para tarefas importantes. O sistema é um vislumbre do progresso; em termos de robustez e confiabilidade, ainda há muito trabalho a ser feito, escreve Altman.
Para inspiração criativa, o ChatGPT é ótimo, mas não para respostas confiáveis a questões factuais, disse ele. “Vamos trabalhar muito para melhorar!” Altman escreve.
Mais interessante que o ChatGPT, que ainda é baseado no GPT-3, será o salto de qualidade com o GPT-4 no próximo ano. Há rumores de que o sistema será introduzido no primeiro trimestre de 2023.
O CTO da Microsoft, Scott Stein, prometeu há alguns dias que 2023 seria o “ano de IA mais emocionante de todos os tempos”. A Microsoft é um dos maiores investidores da OpenAI, então Stein já pode ter uma ideia do que o GPT-4 é capaz.