GPT-4 Turbo розширює довжину контексту до 128 000 токенів

OpenAI щойно анонсувала GPT-4 Turbo на своїй першій в історії події OpenAI DevDay . GPT-4 Turbo розширює довжину контексту до 128 000 токенів.

Компанія стверджує, що 128 000 токенів можна порівняти з 300-сторінковою книгою, тому користувачі тепер матимуть набагато більше місця для взаємодії з ChatGPT в одному обговоренні.

Хоча необмежену довжину контексту все ще розробляють, оскільки раніше цього року ми розповідали про те, як Microsoft намагається цього досягти, розширення GPT-4 до такого ступеня буде більш ніж корисним.

GPT-4 Turbo має більші можливості та має відомості про події у світі до квітня 2023 року. Він має контекстне вікно розміром 128 КБ, тож може вмістити еквівалент понад 300 сторінок тексту в одній підказці. Ми також оптимізували його продуктивність, щоб ми могли запропонувати GPT-4 Turbo за втричі нижчою ціною на вхідні токени та в 2 рази нижчою ціною на вихідні токени порівняно з GPT-4.

OpenAI

Наразі GPT-4 Turbo доступний у режимі попереднього перегляду, але OpenAI обіцяє випустити його стабільну версію найближчими тижнями.

GPT-4 Turbo матиме наступні покращені інструкції, і, згідно з OpenAI, ця версія GPT також містить нові покращення для виклику функцій.

Сьогодні ми випускаємо кілька вдосконалень, зокрема можливість викликати кілька функцій в одному повідомленні: користувачі можуть надіслати одне повідомлення із запитом на кілька дій, наприклад «відкрити вікно автомобіля та вимкнути кондиціонер», для чого раніше вимагалося кілька дій. тури з моделлю в обидві сторони ( докладніше ). Ми також покращуємо точність виклику функцій: GPT-4 Turbo з більшою ймовірністю повертатиме правильні параметри функції.

OpenAI

Модель також буде здатна видавати відтворювані результати, що, за словами OpenAI, є безцінним для розробників.

Ця бета-функція корисна для таких випадків використання, як повторне відтворення запитів на налагодження, написання більш комплексних модульних тестів і загалом отримання вищого рівня контролю над поведінкою моделі. Ми в OpenAI використовували цю функцію для власних модульних тестів і визнали її безцінною.

OpenAI

Разом із GPT-4 Turbo також виходить GPT 3.5 Turbo, яка буде випущена з кількома новими функціями.

Новий 3.5 Turbo підтримує покращене виконання інструкцій, режим JSON і паралельний виклик функцій. Наприклад, наші внутрішні оцінки показують покращення формату на 38% після таких завдань, як створення JSON, XML і YAML. Розробники можуть отримати доступ до цієї нової моделі, викликавши gpt-3.5-turbo-1106 в API. Програми, які використовують ім’я gpt-3.5-turbo, будуть автоматично оновлені до нової моделі 11 грудня. Старіші моделі й надалі будуть доступні за допомогою gpt-3.5-turbo-0613 в API до 13 червня 2024 року.

OpenAI

Що ви думаєте про новий GPT-4 Turbo?