Com o modelo de linguagem grande GPT-3, a OpenAI estabeleceu recordes no processamento de máquina de linguagem natural. Qual é o próximo?
Wojciech Zaremba é cofundador da OpenAI, onde liderou a pesquisa de robótica baseada em IA por vários anos antes de a OpenAI abandoná-la em outubro de 2022. De acordo com Zaremba, isso ocorreu porque o caminho do treinamento de grandes modelos de IA, os chamados modelos fundamentais, com feedback humano era mais promissor para a OpenAI em seu caminho para a AGI do que a pesquisa em robótica.
GPT-4 para GPT-X
Agora Zaremba está dando uma prévia de como grandes modelos de linguagem como o próximo GPT-4 podem mudar a forma como nos comunicamos. O cofundador da OpenAI acredita que a IA terá um impacto semelhante ou até maior na comunicação humana do que a Internet.
Por exemplo, futuros modelos de IA poderiam ler um livro e depois conversar sobre seu conteúdo e responder a perguntas – personalizadas de acordo com os interesses e conhecimentos dos indivíduos. Esse princípio também pode ser aplicado a e-mails, notícias e outras formas de informação, escreve Zaremba.
IA como coach de vida
Zaremba também descreve uma auxílio avançado de pensamento e escrita de IA que ajuda na classificação do pensamento, detecta erros na argumentação e ajuda a tornar as mensagens “compreensíveis e mais gentis”.
Ele também acha que o GPT é “bastante empático” quando devidamente solicitado, então futuros modelos de IA conversacional podem ajudar na autodescoberta. “Está claro que a IA pode se tornar um treinador de vida fantástico, professor de meditação ou terapeuta”, escreve Zaremba.
Essa IA faria dissolver barreiras linguísticas é tão óbvio que não há necessidade de mencioná-lo, de acordo com Zaremba.
Primeiras indicações de GPT-4
Zaremba não faz suas previsões no vácuo: em setembro passado, por exemplo, a OpenAI introduziu um modelo de IA que pode iterativamente resumir livros grandes graças ao feedback humano. A OpenAI vem experimentando esse recurso desde o GPT-2.
E o caso de A IA conversacional do Google Lamda e Blake Lemoine mostra que a IA de conversação pode desenvolver algum poder de persuasão e, assim, ser útil como um parceiro de conversação. As AIs de tradução de muitos provedores já chegaram à vida cotidiana há muito tempo.
É possível que a lista de desejos do GPT de Zaremba também seja uma prévia dos novos recursos do GPT-4. CEO da OpenAI Sam Altman já confirmou no outono passado que o GPT-4 está em desenvolvimento .
O GPT-4 será novamente um modelo somente de texto, o que significa que não será treinado multimodalmente como DALL-E 2 e será semelhante em escopo a GPT-3 mas serão treinados com dados de alta qualidade e fornecerão melhores algoritmos e ajustes mais precisos, disse Altman.