GPT-4 Turbo는 컨텍스트 길이를 128,000개 토큰으로 확장합니다.

OpenAI는 최초의 OpenAI DevDay 이벤트 에서 GPT-4 Turbo를 발표했습니다 . GPT-4 Turbo는 컨텍스트 길이를 128,000개 토큰으로 확장합니다.

회사는 128,000개의 토큰이 300페이지 분량의 책과 비슷하므로 이제 사용자는 단일 토론에서 ChatGPT와 상호 작용할 수 있는 훨씬 더 많은 공간을 갖게 될 것이라고 말합니다.

무제한 컨텍스트 길이는 아직 개발 중이지만 올해 초 Microsoft가 이를 달성하려고 노력하고 있다는 이야기를 다루었듯이 GPT-4는 컨텍스트 길이를 그 정도까지 확장하는 것이 매우 유용할 것입니다.

GPT-4 Turbo는 더 많은 능력을 갖추고 2023년 4월까지의 세계 사건에 대한 지식을 갖추고 있습니다. 128k 컨텍스트 창이 있으므로 단일 프롬프트에 300페이지 이상의 텍스트에 해당하는 내용을 넣을 수 있습니다. 또한 GPT-4에 비해 입력 토큰의 경우 3배 , 출력 토큰의 경우 2배 저렴한 가격으로 GPT-4 Turbo를 제공할 수 있도록 성능을 최적화했습니다 .

오픈AI

GPT-4 Turbo는 현재 미리보기 모드로 제공되지만 OpenAI는 다음 주에 안정적인 버전을 출시할 것을 약속합니다.

GPT-4 Turbo에는 다음 지침이 개선되었으며 OpenAI에 따르면 이 GPT 버전에는 함수 호출에 대한 새로운 개선 사항도 포함되어 있습니다.

우리는 오늘 단일 메시지로 여러 기능을 호출하는 기능을 포함하여 몇 가지 개선 사항을 발표합니다. 사용자는 이전에는 여러 번 필요했던 “차 창문을 열고 에어컨을 꺼주세요”와 같은 여러 작업을 요청하는 하나의 메시지를 보낼 수 있습니다. 모델과의 왕복 여행( 자세히 알아보기 ) 또한 함수 호출 정확도도 향상되었습니다. GPT-4 Turbo는 올바른 함수 매개변수를 반환할 가능성이 더 높습니다.

오픈AI

이 모델은 또한 OpenAI 자체 표현에 따르면 개발자에게 매우 귀중한 재현 가능한 출력을 제공할 수 있습니다.

이 베타 기능은 디버깅 요청 재생, 보다 포괄적인 단위 테스트 작성, 일반적으로 모델 동작에 대한 더 높은 수준의 제어와 같은 사용 사례에 유용합니다. OpenAI에서는 자체 단위 테스트를 위해 이 기능을 내부적으로 사용해 왔으며 이 기능이 매우 중요하다는 것을 알았습니다.

오픈AI

GPT-4 Turbo와 함께 GPT 3.5 Turbo도 출시될 예정이며 여러 가지 새로운 기능이 탑재되어 출시될 예정입니다.

새로운 3.5 Turbo는 향상된 명령 따르기, JSON 모드 및 병렬 함수 호출을 지원합니다. 예를 들어 내부 평가에서는 JSON, XML, YAML 생성과 같은 작업에 따른 형식이 38% 개선된 것으로 나타났습니다. 개발자는 API에서 gpt-3.5-turbo-1106을 호출하여 이 새로운 모델에 액세스할 수 있습니다. gpt-3.5-turbo 이름을 사용하는 애플리케이션은 12월 11일에 자동으로 새 모델로 업그레이드됩니다. 이전 모델은 2024년 6월 13일까지 API에서 gpt-3.5-turbo-0613을 전달하여 계속 액세스할 수 있습니다.

오픈AI

새로운 GPT-4 Turbo에 대해 어떻게 생각하시나요?