OpenAI acaba de abrir ChatGPT-API – e é dez vezes mais barato que GPT-3.5

  • Adicionado ambiente de teste

Artigo original de 3 de março de 2023:

A OpenAI lançou um ambiente de teste para a API ChatGPT. Aqui você pode testar a especificação de entrada e mensagens do usuário e comparar a saída de 3.5-turbo e 3.5-turbo-0301.

Artigo original de 1º de março de 2023:

OpenAI abre o ChatGPT e Whisper API para desenvolvedores. Isso permite que os serviços de IA sejam integrados a aplicativos e produtos.

Até agora, ChatGPT estava disponível apenas por meio da interface web da empresa de IA, mesmo no Versão Pro por $ 20 por mês.

Agora, a OpenAI está abrindo a API para desenvolvedores, fornecendo acesso direto ao modelo ChatGPT, além dos modelos GPT-3, GPT-3.5 e Codex.

Os custos do ChatGPT caíram de acordo com a OpenAI

Uma série de otimizações em todo o sistema reduziu o custo do ChatGPT em 90% desde seu lançamento inicial em dezembro, e essas economias agora estão sendo repassadas aos usuários da API.

O modelo agora disponível é chamado gpt-3.5-turbo e custa 0,002 por 1.000 tokens – dez vezes mais barato que os modelos GPT-3.5 existentes, de acordo com a OpenAI. Ao mesmo tempo, o gpt-3.5-turbo é considerado o melhor modelo, mesmo fora dos aplicativos de bate-papo; os primeiros testadores migraram de text-davinci-003 para gpt-3.5-turbo com apenas pequenas alterações em seus prompts, de acordo com a postagem no blog. As primeiras empresas como Snap e Shopify já estão usando o modelo.

Ao contrário dos modelos GPT mais antigos, os modelos ChatGPT, como gpt-3.5-turbo, processam “uma sequência de mensagens com metadados” em vez de texto não estruturado. Nos exemplos, o OpenAI mostra que a entrada pode incluir atribuições de função ou categorias de conteúdo, por exemplo, além de uma solicitação para traduzir uma frase. Para mais informações, consulte o instruções para enviar solicitações para o modelo ChatGPT.

Novo modelo ChatGPT e Whisper API disponíveis hoje, ChatGPT se torna mais amigável à privacidade

A OpenAI oferece outros modelos ChatGPT além do estável gpt-3.5-turbo, hoje o gpt-3.5-turbo-0301 foi lançado, e um novo lançamento estável deve ocorrer em abril. Todas as solicitações são tratadas pela nuvem Azure da Microsoft, os desenvolvedores também podem agendar instâncias dedicadas, como já vazou. De acordo com a OpenAI, isso começa a fazer sentido econômico após 450 milhões de tokens por dia.

Além do modelo ChatGPT, a OpenAI também está abrindo acesso à API para o modelo de fala para texto do Whipser para transcrições. O modelo large-v2 custa 0,006 por minuto e aceita os formatos m4a, mp3, mp4, mpeg, mpga, wav e webm.

Com os modelos atualizados, surge outra inovação que será de particular interesse para usuários ou organizações com preocupações de privacidade: “Os dados enviados por meio da API não são mais usados ​​para melhorias de serviço (incluindo treinamento de modelo), a menos que a organização aceite”.

Mais informações estão disponíveis no Postagem no blog OpenAI.