Sumário
Com o ChatGPT, a OpenAI está atualmente testando um modelo de linguagem de uso geral baseado em diálogo. De acordo com o cientista cognitivo Gary Marcus, o ChatGPT é apenas uma amostra do GPT-4.
Rumores sobre o GPT-4 circulam pela web há semanas e eles têm duas coisas em comum: o GPT-4 deve superar significativamente o GPT-3 e o ChatGPT e será lançado relativamente cedo na primavera.
A OpenAI está atualmente executando um programa de concessão conjunta com a Microsoft , cujos participantes provavelmente já têm acesso ao GPT-4. O CTO da Microsoft, Scott Stein, previu recentemente um ano de IA ainda mais significativo em 2023 .
GPT-4 vai “explodir mentes”
O psicólogo e cientista cognitivo Gary Marcus está se juntando ao frenesi do GPT-4, dizendo que conhece várias pessoas que já testaram o GPT-4. “Garanto que as mentes vão explodir”, escreve Marcus, que é conhecido como um crítico dos grandes modelos de linguagem, ou mais precisamente, de seu manejo na vida cotidiana.
O GPT-4, disse ele, “irá eclipsar totalmente o ChatGPT” e criar ainda mais buzz. Tecnicamente, Marcus espera que o GPT-4 ofereça mais parâmetros e seja treinado com mais dados, “uma fração significativa da internet como um todo”. “GPT-4 vai ser um monstro”, escreve Marcus.
No que diz respeito à sua arquitetura, Marcus não espera diferenças significativas e, portanto, assume que GPT-4 terá os mesmos pontos fracos que GPT-3 ou ChatGPT : O modelo de IA carece de uma compreensão básica do mundo, levando a, às vezes, arrepiar os cabelos – ou, mais perigosamente, sutis – distorções. Devido a essa falta de confiabilidade, o cofundador da OpenAI Sam Altman recentemente desaconselhou o uso do ChatGPT para tarefas importantes .
Embora o GPT-4 definitivamente parecer mais inteligente do que seus predecessores, sua arquitetura interna permanece problemática. Suspeito que o que veremos seja um padrão familiar: imenso zumbido inicial, seguido por uma inspeção científica mais cuidadosa, seguida pelo reconhecimento de que muitos problemas permanecem.
Gary Marcus
Marcus é um defensor de sistemas híbridos de IA que combinam aprendizado profundo com regras pré-programadas. Em sua opinião, dimensionar grandes modelos de linguagem é apenas parte da solução no caminho para a inteligência artificial geral. Ele espera que a indústria de IA avance cada vez mais em direção a essa abordagem híbrida nos próximos anos, citando IA de Diplomacia de Meta como um exemplo positivo.
ChatGPT como um assassino do Google? Aqui vem outro contra-argumento
Enquanto isso, o Twitter aponta outro desafio no uso de grandes modelos de linguagem como mecanismos de busca: quem é responsável pelos resultados? Quando um mecanismo de pesquisa gera uma lista de páginas da Web, os operadores das páginas da Web são essencialmente responsáveis pelo conteúdo de suas páginas. Mas e se o ChatGPT, um produto da OpenAI, gerar todo o conteúdo?
Não está claro até que ponto o OpenAI realmente regula questões críticas no ChatGPT, as diretrizes de conteúdo são conhecidas de GPT-3 e DALL-E 2 , ou se o feedback humano conduz o modelo de linguagem em certas direções políticas ou em direção a atitudes sociais. O mais provável é uma mistura de ambos.
Treinamento de feedback humano (RLHF) é um fator chave de sucesso do ChatGPT. OpenAI incentiva o processo de feedback no versão mais recente do ChatGPT para obter mais dados de feedback e vê RLHF como fundamental para AGI que leva em conta as necessidades humanas .
Independentemente do surgimento de um conjunto de regras para o modelo de IA, o provedor do modelo, neste caso o ChatGPT, provavelmente enfrentará críticas: O OpenAI censura muito ou pouco, dependendo do ponto de vista e do tópico . O OpenAI poderia permitir que o ChatGPT gerasse argumentos contra as mudanças climáticas?
Os provedores de mecanismos de pesquisa enfrentam questões morais e éticas semelhantes, como quais links incluir no índice e qual a classificação deles nos resultados da pesquisa. Sistemas como o ChatGPT tornam esse dilema e o poder social associado ainda mais evidente ao agrupar a responsabilidade pelo acesso e conteúdo em uma organização.
Eu sou cético que um sistema como O ChatGPT poderá substituir a pesquisa do Google em breve, mesmo que O Google está supostamente soando o alarme . Eu acho que é mais provável que as respostas de IA verificadas sejam adicionadas à pesquisa existente, ou seja, uma extensão da pesquisa sem clique do Google com conteúdo AI. Nesse cenário, o Google seria o vencedor e os proprietários de sites seriam os perdedores. Negócios, como sempre.