GPT-4 Turbo estende o comprimento do contexto para 128.000 tokens

A OpenAI acaba de anunciar o GPT-4 Turbo, em seu primeiro evento OpenAI DevDay . GPT-4 Turbo estende o comprimento do contexto para 128.000 tokens.

A empresa afirma que os 128 mil tokens são comparáveis a um livro de 300 páginas, então os usuários agora terão muito mais espaço para interagir com o ChatGPT em uma única discussão.

Embora o comprimento ilimitado do contexto ainda esteja em desenvolvimento, como cobrimos uma história no início deste ano em que a Microsoft está tentando alcançá-lo, estender o comprimento do contexto do GPT-4 a tal ponto será mais do que útil.

O GPT-4 Turbo é mais capaz e tem conhecimento de eventos mundiais até abril de 2023. Possui uma janela de contexto de 128k para caber o equivalente a mais de 300 páginas de texto em um único prompt. Também otimizamos seu desempenho para que possamos oferecer o GPT-4 Turbo a um preço 3x mais barato para tokens de entrada e um preço 2x mais barato para tokens de saída em comparação com o GPT-4.

OpenAI

O GPT-4 Turbo está atualmente disponível em modo de visualização, mas a OpenAI promete lançar sua versão estável nas próximas semanas.

O GPT-4 Turbo terá um acompanhamento de instruções aprimorado e, de acordo com a OpenAI, esta versão do GPT também contará com novas melhorias para chamadas de funções.

Estamos lançando diversas melhorias hoje, incluindo a capacidade de chamar múltiplas funções em uma única mensagem: os usuários podem enviar uma mensagem solicitando múltiplas ações, como “abrir a janela do carro e desligar o A/C”, o que anteriormente exigiria múltiplas ida e volta com o modelo ( saiba mais ). Também estamos melhorando a precisão da chamada de função: é mais provável que o GPT-4 Turbo retorne os parâmetros de função corretos.

OpenAI

O modelo também será capaz de produzir resultados reproduzíveis, o que, segundo as próprias palavras da OpenAI, é inestimável para os desenvolvedores.

Esse recurso beta é útil para casos de uso como reprodução de solicitações de depuração, gravação de testes de unidade mais abrangentes e, geralmente, maior grau de controle sobre o comportamento do modelo. Nós da OpenAI temos usado esse recurso internamente para nossos próprios testes de unidade e o consideramos inestimável.

OpenAI

Junto com o GPT-4 Turbo, o GPT 3.5 Turbo também está chegando e será lançado com vários novos recursos.

O novo 3.5 Turbo suporta instrução aprimorada, modo JSON e chamada de função paralela. Por exemplo, nossas avaliações internas mostram uma melhoria de 38% nas tarefas de seguimento de formato, como geração de JSON, XML e YAML. Os desenvolvedores podem acessar este novo modelo chamando gpt-3.5-turbo-1106 na API. Os aplicativos que usam o nome gpt-3.5-turbo serão atualizados automaticamente para o novo modelo em 11 de dezembro. Os modelos mais antigos continuarão acessíveis passando gpt-3.5-turbo-0613 na API até 13 de junho de 2024.

OpenAI

O que você acha do novo GPT-4 Turbo?