GPT-4 Turbo 將上下文長度擴展到 128,000 個令牌

OpenAI 剛剛在其首屆OpenAI DevDay 活動中宣布了 GPT-4 Turbo 。GPT-4 Turbo將上下文長度擴展到 128,000 個令牌。

該公司表示，128,000 個代幣相當於一本 300 頁的書，因此用戶現在將有更多空間在一次討論中與 ChatGPT 互動。

雖然無限上下文長度仍在開發中，正如我們今年早些時候報導的那樣，微軟正在努力實現這一目標，但 GPT-4 將其上下文長度擴展到這樣的程度將非常有用。

GPT-4 Turbo 能力更強，了解截至 2023 年 4 月的世界事件。它具有 128k 上下文窗口，因此可以在單一提示中容納相當於 300 多頁文字的內容。我們還優化了其性能，因此與 GPT-4 相比，我們能夠以便宜 3 倍的輸入代幣價格和便宜 2 倍的輸出代幣價格提供 GPT-4 Turbo。

開放人工智慧

GPT-4 Turbo 目前以預覽模式提供，但 OpenAI 承諾在接下來的幾週內發布其穩定版本。

GPT-4 Turbo 將會有一個改進的指令，根據 OpenAI 的說法，這個 GPT 版本也會對函數呼叫進行新的改進。

我們今天發布了幾項改進，包括在一條訊息中調用多個功能的能力：用戶可以發送一條訊息來請求多個操作，例如“打開車窗並關閉空調”，而這在以前需要多個操作模型往返（了解更多）。我們也提高了函數呼叫的準確性：GPT-4 Turbo 更有可能傳回正確的函數參數。

開放人工智慧

該模型還能夠產生可重複的輸出，根據 OpenAI 自己的話來說，這對開發人員來說是無價的。

此測試版功能對於重播偵錯請求、編寫更全面的單元測試以及通常對模型行為具有更高程度的控制等用例非常有用。我們 OpenAI 一直在內部使用此功能進行我們自己的單元測試，並發現它非常有價值。

開放人工智慧

與GPT-4 Turbo一起，GPT 3.5 Turbo也即將到來，並且將發布多項新功能。

新的 3.5 Turbo 支援改進的指令追蹤、JSON 模式和平行函數呼叫。例如，我們的內部評估顯示，格式遵循任務（例如產生 JSON、XML 和 YAML）提高了 38%。開發者可以透過呼叫API中的gpt-3.5-turbo-1106來存取這個新模型。使用 gpt-3.5-turbo 名稱的應用程式將於 12 月 11 日自動升級到新模型。在 2024 年 6 月 13 日之前，可以透過在 API 中傳遞 gpt-3.5-turbo-0613 繼續存取舊模型。

開放人工智慧

您對新款 GPT-4 Turbo 有什麼看法？