Os pesquisadores de IA da Meta estão estudando o cérebro humano para aprender como desenvolver uma inteligência artificial melhor. A IA, por sua vez, poderia primeiro nos ajudar a entender melhor o cérebro humano.
Apesar do enorme progresso da inteligência artificial nos últimos anos, especialmente no processamento de fala e imagem, o processo de aprendizagem dos sistemas de IA está longe da eficiência humana.
Grandes modelos de linguagem processam quantidades gigantescas de dados para aprender um idioma. Quanto mais dados, melhor: os modelos de linguagem são treinados com bilhões de sentenças até que eles dominem mais ou menos um idioma. Para os humanos, alguns milhões são aproximadamente o suficiente.
“Humanos e crianças, em particular, adquirem linguagem de forma extremamente eficiente. Eles aprendem a fazer isso rapidamente e com uma quantidade extremamente pequena de dados. Esta requer uma habilidade que no momento permanece desconhecido”, diz Jean-Rémi-King, pesquisador sênior de IA da Meta AI.
Apesar do treinamento com enormes quantidades de dados, os sistemas de IA têm fraquezas significativas em consistência e lógica ao gerar textos mais longos até histórias inteiras. Há uma razão para isso: a IA geralmente apenas prevê a próxima palavra; os humanos, por outro lado, projetam ideias, ações e narrativas inteiras com base em palavras individuais.
Na trilha da inteligência humana
Em um estudo de longo prazo, meta-pesquisadores, portanto, querem comparar as ativações em redes neuronais com as do cérebro humano ao processar a linguagem natural. Eles esperam descobrir mais sobre as diferenças preditivas entre o cérebro e o modelo de IA.
A equipe de AI da Meta relata descobertas iniciais com base em uma comparação da atividade cerebral em 345 exames de fMRI de pessoas ouvindo uma narrativa e ativação neural em modelos de linguagem que tinham a mesma narrativa como entrada.
Os modelos de linguagem que são mais comparáveis à atividade cerebral preveriam novas palavras particularmente bem com base no contexto (“Era uma vez … uma vez”), descobriram os pesquisadores. Para eles, essa previsão baseada em entrada está no centro do aprendizado auto-supervisionado e pode ser a chave para a compreensão da linguagem humana.
Objetivo do Meta: IA de nível humano
“Nossos resultados mostram que regiões específicas do cérebro, como os córtices pré-frontal e parietal, são melhor explicadas por modelos de linguagem aprimorados com representações profundas de palavras distantes no futuro”, escreve a equipe de IA da Meta.
Esses resultados iniciais lançariam luz sobre a “organização computacional do cérebro humano e sua natureza inerentemente preditiva”, abrindo caminho para melhores modelos de IA.
Ainda assim, a previsão humana vai muito além dos modelos de linguagem da IA, e muitos dos trabalhos do cérebro humano permanecem obscuros.
No entanto, a pesquisa até o momento mostrou que existem semelhanças quantificáveis entre cérebros e modelos de IA, a partir do qual pode ser possível tirar conclusões sobre as funções do cérebro humano. “Ferramentas de aprendizado profundo tornaram possível esclarecer a hierarquia do cérebro de maneiras que não eram possíveis antes”, escreve a equipe. Isso, por sua vez, criaria novas oportunidades na neurociência.
O estudo de longo prazo sobre o cérebro humano faz parte de um esforço para criar inteligência artificial de nível humano, de acordo com a Meta. O chefe de IA da Meta, Yann LeCun, recentemente compartilhou sua visão da arquitetura de IA do futuro que também é modelado após o cérebro humano.