GPT-4 Turbo увеличивает длину контекста до 128 000 токенов.

OpenAI только что анонсировала GPT-4 Turbo на своем первом мероприятии OpenAI DevDay . GPT-4 Turbo увеличивает длину контекста до 128 000 токенов.

Компания заявляет, что 128 000 токенов сопоставимы с 300-страничной книгой, поэтому у пользователей теперь будет гораздо больше места для взаимодействия с ChatGPT в рамках одного обсуждения.

Хотя неограниченная длина контекста все еще находится в разработке, как мы рассказывали ранее в этом году, когда Microsoft пытается достичь этого, расширение GPT-4 длины контекста до такой степени будет более чем полезным.

GPT-4 Turbo более функционален и обладает знаниями о мировых событиях до апреля 2023 года. Он имеет контекстное окно размером 128 КБ, поэтому в одном приглашении может разместиться эквивалент более 300 страниц текста. Мы также оптимизировали его производительность, поэтому мы можем предлагать GPT-4 Turbo по цене в 3 раза дешевле для входных токенов и в 2 раза дешевле для выходных токенов по сравнению с GPT-4.

ОпенАИ

GPT-4 Turbo в настоящее время доступен в режиме предварительного просмотра, но OpenAI обещает выпустить его стабильную версию в ближайшие недели.

GPT-4 Turbo будет иметь улучшенное следование инструкциям, и, согласно OpenAI, эта версия GPT также будет содержать новые улучшения для вызова функций.

Сегодня мы выпускаем несколько улучшений, в том числе возможность вызывать несколько функций в одном сообщении: пользователи могут отправлять одно сообщение с запросом нескольких действий, например «открыть окно автомобиля и выключить кондиционер», что раньше требовало нескольких действий. поездки туда и обратно с моделью ( подробнее ). Мы также повышаем точность вызова функций: GPT-4 Turbo с большей вероятностью будет возвращать правильные параметры функции.

ОпенАИ

Модель также будет способна выдавать воспроизводимые результаты, что, по словам OpenAI, имеет неоценимое значение для разработчиков.

Эта бета-функция полезна для таких случаев использования, как воспроизведение запросов на отладку, написание более полных модульных тестов и, как правило, более высокая степень контроля над поведением модели. Мы в OpenAI используем эту функцию для собственных модульных тестов и считаем ее бесценной.

ОпенАИ

Наряду с GPT-4 Turbo, также появится GPT 3.5 Turbo, который будет выпущен с множеством новых функций.

Новый 3.5 Turbo поддерживает улучшенное следование инструкциям, режим JSON и параллельный вызов функций. Например, наши внутренние оценки показывают улучшение формата на 38 % при выполнении таких задач, как генерация JSON, XML и YAML. Разработчики могут получить доступ к этой новой модели, вызвав gpt-3.5-turbo-1106 в API. Приложения, использующие имя gpt-3.5-turbo, будут автоматически обновлены до новой модели 11 декабря. Доступ к более старым моделям будет по-прежнему возможен после передачи gpt-3.5-turbo-0613 в API до 13 июня 2024 г.

ОпенАИ

Что вы думаете о новом GPT-4 Turbo?