GPT-4 Turbo はコンテキストの長さを 128,000 トークンに拡張します

OpenAI は、初のOpenAI DevDay イベントで GPT-4 Turbo を発表しました。GPT-4 Turbo は、コンテキストの長さを 128,000 トークンまで拡張します。

同社によれば、128,000 トークンは 300 ページの書籍に匹敵するため、ユーザーは 1 回のディスカッションで ChatGPT を操作できるスペースが大幅に増えることになります。

無制限のコンテキスト長はまだ開発中ですが、Microsoft がそれを達成しようとしているという話を今年初めに取り上げたように、GPT-4 でコンテキスト長をこれほどまで拡張することは、十分以上に役立つでしょう。

GPT-4 Turbo はより高性能で、2023 年 4 月までの世界の出来事に関する知識を持っています。GPT-4 Turbo には 128k コンテキストウィンドウがあり、1 つのプロンプトに 300 ページ以上のテキストに相当するものを収めることができます。また、パフォーマンスも最適化したため、GPT-4 Turboを GPT-4 と比較して入力トークンの3 倍安い価格、出力トークンの 2 倍安い価格で提供できるようになりました。

OpenAI

GPT-4 Turbo は現在プレビューモードで利用可能ですが、OpenAI は数週間以内に安定版をリリースすると約束しています。

GPT-4 Turbo では命令フォローが改善されており、OpenAI によると、この GPT バージョンでは関数呼び出しの新たな改善も行われる予定です。

本日、単一のメッセージで複数の機能を呼び出す機能など、いくつかの改善をリリースします。ユーザーは、以前は複数の操作が必要だった「車の窓を開けてエアコンをオフにする」など、複数のアクションを要求する 1 つのメッセージを送信できるようになります。モデルとのラウンドトリップ (詳細を参照)。また、関数呼び出しの精度も向上しています。GPT-4 Turbo は、正しい関数パラメーターを返す可能性が高くなります。

OpenAI

このモデルは再現可能な出力も可能であり、OpenAI 自身の言葉によれば、これは開発者にとって非常に貴重です。

このベータ機能は、デバッグのためのリクエストの再生、より包括的な単体テストの作成、一般にモデルの動作をより高度に制御するなどのユースケースに役立ちます。OpenAI では、この機能を社内で独自の単体テストに使用してきましたが、非常に貴重であることがわかりました。

OpenAI

GPT-4 Turbo に加えて、GPT 3.5 Turbo も登場し、複数の新機能を備えてリリースされます。

新しい 3.5 Turbo は、改良された命令追従、JSON モード、並列関数呼び出しをサポートしています。たとえば、内部評価では、JSON、XML、YAML の生成などのタスクに続く形式で 38% の改善が示されています。開発者は、API で gpt-3.5-turbo-1106 を呼び出すことで、この新しいモデルにアクセスできます。gpt-3.5-turbo 名を使用するアプリケーションは、12 月 11 日に新しいモデルに自動的にアップグレードされます。2024 年 6 月 13 日までは、API で gpt-3.5-turbo-0613 を渡すことで古いモデルに引き続きアクセスできます。

OpenAI

新しい GPT-4 Turbo についてどう思いますか?