De acordo com Scott Stein, CTO da Microsoft, 2022 foi o ano de IA mais empolgante de todos os tempos. Mas ele espera ainda mais destaques (e escalas) em 2023. Isso é uma indicação do desempenho do GPT-4?
Em uma retrospectiva do estado da IA, Scott Stein chama o próximo ano de “o ano mais empolgante que a comunidade de IA já teve”. Isso é notável porque A Microsoft é um dos principais investidores na OpenAI a empresa de IA que estabeleceu novos padrões para a comercialização de grandes modelos de IA com GPT-3 , DALL-E 2 e ChatGPT .
Segundo rumores, o GPT-4 será introduzido nos próximos meses. Em sua função como CTO da Microsoft, Stein deve saber exatamente do que o novo modelo de linguagem será capaz. Sua promessa sincera para 2023 pode ser uma indicação de que ele espera outro salto no desempenho.
Além disso, Stein diz que o dimensionamento adicional dos modelos de IA pode levar a um desempenho ainda maior e melhor – outra possível indicação da arquitetura GPT-4. Poderia ser maior.
IA como acelerador de ciência
Além dos avanços na IA generativa para código, texto e imagens, que Stein vê como tendo potencial para aumentar a produtividade e a criatividade, bem como melhorar os fluxos de trabalho, Stein destaca os benefícios da IA para a ciência.
À medida que todos esses enormes sistemas de IA continuam crescendo e evoluindo, acho que podemos esperar que esses avanços mudem fundamentalmente a natureza do trabalho, em alguns lugares mais do que em outros e, em alguns casos, criem toda uma onda de novos empregos que antes não existiam. não existia antes.
Scott Stein
Os modelos de IA desenvolvidos para a ciência teriam as mesmas propriedades de escala que os grandes modelos de linguagem. Eles poderiam “mudar drasticamente” o desempenho de um aplicativo, da dinâmica de fluidos à dinâmica molecular e à descoberta de medicamentos, diz Stein.
“Há uma imensa oportunidade lá. Isso significa remédios melhores, significa que talvez possamos encontrar o catalisador que ainda não temos para resolver nosso problema de emissão de carbono, significa acelerar de maneira geral como os cientistas e outras pessoas com grandes ideias podem trabalhar para tentar resolver os maiores desafios da sociedade, “Stein diz.
Outras empresas e pesquisadores de IA também veem grandes benefícios na IA para o progresso científico fora da TI, por exemplo, na pesquisa do cérebro , aprendizado de idiomas ou medicina .
Stein acredita em escala
Um debate fundamental na comunidade de IA é a benefício contínuo de dimensionar grandes modelos de IA . Até agora, disse Stein, a fórmula de que modelos maiores de IA também desenvolveram melhores e mais habilidades provou ser bem-sucedida. Combinado com escala, o a chamada transição de fase em particular, é um fenômeno inexplicável que pode levar à surgimento de novas habilidades em modelos ainda maiores.
“Acontece que os modelos treinados em mais dados com mais poder de computação têm um conjunto de recursos muito mais rico e generalizado”, diz Stein. “Para ser claro, neste momento, não vemos nenhum fim para os benefícios do aumento escala.” Mais progresso exigirá maior capacidade de computação, que deve ser usada com mais eficiência, acrescenta Stein.
Para uma IA mais segura, Stein cita conjuntos de dados refinados, filtros, bloqueio de solicitações potencialmente prejudiciais e liberação gradual deliberada de modelos grandes como fatores importantes. Também é necessário um plano para lidar com abusos imprevistos após o lançamento de um modelo, como restringir o acesso por meio da API, diz ele.