Sumário
A pesquisadora de IA Melanie Mitchell mostra por que o caminho para a inteligência geral artificial é difícil e como a pesquisa de IA pode evoluir para uma ciência real.
Desde a A pesquisa de IA começou na década de 1950, o campo tem sido marcado por previsões otimistas, grandes investimentos – e posterior decepção. A pesquisadora de IA Melanie Mitchell adverte que essa interação de “primavera de IA” e “inverno de IA” pode ainda não ter terminado. Apesar dos rápidos desenvolvimentos e avanços graças às redes neurais, ainda esperamos por carros autônomos, robôs domésticos multifuncionais e parceiros de conversa artificiais.
Mitchell vê uma razão para o ciclo através de nossa compreensão ainda limitada da natureza e complexidade da inteligência. Em seu artigo “Por que a IA é mais difícil do que você pensa”, ela identifica quatro falácias que ainda moldam a pesquisa de IA e sua comunicação – e cuja evasão promoveria um progresso real.
Falácia 1: A inteligência estreita está em um continuum com a inteligência geral
Os avanços da IA em uma tarefa específica, como ler ou escrever, são frequentemente descritos como o primeiro passo em direção a uma forma mais geral de inteligência artificial, disse Mitchell. O computador de xadrez Deep Blue foi descrito como o primeiro passo em uma revolução da IA. A IA de texto GPT-3 da OpenAI foi descrita como um passo em direção à inteligência geral. Numerosos outros exemplos demonstraram esse otimismo.
O filósofo americano Hubert Dreyfus estava desde cedo em guerra com as grandes promessas da pesquisa de IA. Ele falou do “falácia do primeiro passo”. Esta é a alegação de que, desde o início da pesquisa de IA, estamos nos movendo em um continuum em direção à IA geral “para que qualquer melhoria em nossos programas, por mais trivial que seja, conte como progresso”.
Essa suposição, disse ele, é comparável à de que o primeiro macaco a subir em uma árvore avançou para pousar na lua. O “obstáculo inesperado” no suposto continuum do progresso da IA sempre foi um problema de bom senso, Mitchell cita Dreyfus.
Falácia 2: Coisas fáceis são fáceis e coisas difíceis são difíceis
Logo após o início da pesquisa de IA, ficou claro que era “mais difícil do que o previsto” criar inteligência artificial, disse pessoas como John McCarthy, um dos fundadores da pesquisa de IA. A lenda da IA Marvin Minsky, outro cofundador do campo de pesquisa, explicou os fatos em uma frase: “Coisas fáceis são difíceis”.
Coisas que os humanos fazem todos os dias sem pensar, como se movimentar pelo mundo, conversar ou caminhar por uma calçada movimentada, acabaram sendo os desafios mais difíceis para as máquinas. Em contraste, as tarefas supostamente difíceis, como raciocínio lógico, jogar xadrez, Go ou traduzir sentenças para centenas de idiomas acabaram sendo comparativamente fáceis.
A IA é mais difícil do que pensamos porque desconhecemos a complexidade de nossos próprios processos de pensamento, diz Mitchell. Os seres humanos são tão naturalmente capazes nas áreas de percepção e habilidades motoras que fazem o difícil parecer fácil.
“Em geral, estamos menos conscientes do que nossas mentes fazem melhor”, disse Minsky.
Falácia 3: A atração de dispositivos mnemônicos esperançosos
As pessoas geralmente descrevem animais ou máquinas em termos que se referem ao ser humano. processos cognitivos, conativos e afetivos . Em 1976, o cientista da computação Drew McDermott cunhou o termo “mnemônicos esperançosos” para descrever isso.
“Uma das principais fontes de simplismo em programas de IA é o uso de termos como ‘ENTENDER’ ou ‘OBJETIVO’ para se referir a programas e estruturas de dados. Se um pesquisador chama o loop principal de seu programa de ‘ENTENDER’, ele está apenas cometendo um raciocínio circular. Mas ele também pode estar enganando muitas pessoas, provavelmente ele mesmo. Em vez disso, o que ele deve fazer é referir-se a esse loop principal como ‘G0034’ e ver se consegue convencer a si mesmo ou a qualquer outra pessoa de que o G0034 implementa abordagens para o entendimento”, cita Mitchell.
Ainda hoje, é comum falar sobre IA dessa maneira, escreve o pesquisador de IA. O cérebro é a inspiração para as redes neurais, diz ela, mas ainda são completamente diferentes. AIs aprendem, mas não podem aplicar o que aprenderam em outros contextos.
Empresas como a IBM, no entanto, falam sobre a leitura, compreensão ou visão de seus produtos, disse ela. Os benchmarks testaram a capacidade de responder a perguntas, compreensão de leitura ou compreensão de linguagem natural. Na melhor das hipóteses, tais demonstrações enganaram o público. Na pior das hipóteses, eles inconscientemente moldaram como os pesquisadores de IA pensam sobre seus próprios sistemas e o quão próximos eles os veem da inteligência humana.
Falácia 4: Toda inteligência está no cérebro
Não há muita coisa acontecendo na mente humana sem um cérebro, isso é claro. Mas a inteligência pode existir sem um corpo? Um cérebro em conserva em uma jarra é tão inteligente quanto um em um crânio humano?
De acordo com Mitchell, a pesquisa de IA predominante responde com um retumbante “sim”. A mente é entendida como uma espécie de computador que recebe, armazena, processa e emite informações. O corpo não desempenha um papel importante. Pelo menos em teoria, o cérebro é completamente destacável do resto do corpo.
Quase todos os sistemas de IA atuais, portanto, não têm corpo – com raras exceções na robótica. Eles também têm interações ambientais severamente limitadas.
Uma tese da ciência cognitiva chamada “incorporação” desafia a noção de que a inteligência biológica não tem nada a ver com corpos. Resumidamente, a tese da incorporação diz que nossa consciência requer um corpo e pressupõe interações físicas.
A cognição, por exemplo, usa habilidades motoras. Um exemplo clássico é contar nos dedos. As crianças aprendem a representar o conceito de número com o movimento do mesmo número de dedos. Com o tempo, o movimento necessário desaparece.
No entanto, a tese da incorporação assume que o cérebro continua a usar os programas para o movimento motor como uma representação para números, mesmo quando o movimento não ocorre mais. Sem o corpo, essas habilidades motoras não existiriam – e, portanto, não haveria como usá-las para contar.
A inteligência humana, de acordo com a tese da incorporação, é um sistema altamente integrado fisicamente. Baseia-se em atributos como emoções, desejos, senso de identidade e autonomia e bom senso. Ainda não está claro se a inteligência pode ser separada desses atributos, escreve Mitchell.
A IA é mais alquimia do que ciência?
Em 1892, o psicólogo William James disse sobre a psicologia de sua época: “Não é uma ciência; é apenas a esperança de uma ciência”.
Essa também é a caracterização perfeita da pesquisa atual de IA, disse Mitchell. Precisamos de um vocabulário mais preciso para as capacidades das máquinas, disse ele. Além disso, uma melhor compreensão da inteligência e como ela se manifesta em vários sistemas da natureza.
Os pesquisadores de IA precisam fazer mais pesquisas conjuntas e colaboração em inteligência com outras ciências, insta Mitchell. Caso contrário, a pesquisa de IA continuará sendo uma espécie de alquimia. Só assim perguntas poderiam ser respondidas, como:
- Como podemos avaliar o progresso real em direção a “geral” ou “humano”, ou a dificuldade de um domínio específico para IA em comparação com humanos?
- Como devemos descrever as capacidades reais dos sistemas de IA sem enganar a nós mesmos e aos outros com pensamentos positivos?
- Até que ponto as várias dimensões da cognição humana (incluindo preconceitos cognitivos, emoções, objetivos e corporeidade) podem existir separadamente?
- Como podemos melhorar nossas intuições sobre o que é inteligência?
Para fazer verdadeiros avanços na pesquisa de IA e, especialmente, para entender por que eles são mais difíceis do que parecem, a pesquisa de IA deve “passar da alquimia para o desenvolvimento de uma compreensão científica da inteligência”, conclui Mitchell.