Що таке плагіни ChatGPT і як вони працюють

ChatGPT збив світ з ніг за останні кілька місяців після того, як він був випущений для громадськості. Справді, невже минуло лише кілька місяців? Вплив, який він справив, дає відчуття, що він існує вже багато років.

Але попри всі його достоїнства, у нього був один маленький недолік, який був не таким вже й малим; він не мав доступу до останньої інформації. Єдина інформація, яку він мав, була до середини 2021 року. Але OpenAI нарешті починає це змінювати. Ні, він не навчався на нових даних. Однак OpenAI нарешті реалізує ранню підтримку плагінів у ChatGPT, які дозволяють йому підключатися до Інтернету, а також деяких сторонніх служб!

Що таке плагіни ChatGPT?

Плагіни — це інструменти, розроблені спеціально для мовних моделей. Вони розширюють можливості чат-бота та дозволяють йому виконувати раніше неможливі завдання. Наприклад, тепер він може отримувати інформацію в реальному часі, як-от спортивні результати, ціни на акції, виконувати дії від імені користувача, як-от бронювання авіаквитків, і отримувати інформацію з бази знань, як-от документи компанії тощо.

З моменту запуску ChatGPT плагіни були найбільш затребуваними серед користувачів, і OpenAI нарешті їх запропонував. Але їх випуск буде поступовим, повторюваним. Спочатку OpenAI випустив лише кілька плагінів сторонніх розробників і кілька власних плагінів.

Доступ для користувачів, а також розробників, які хочуть створювати плагіни, наразі також обмежений. Крім того, як кінцевий користувач, наразі доступ надається лише користувачам ChatGPT Plus, але ChatGPT каже, що вони планують розширити розгортання в майбутньому.

Доступ можна подати лише після приєднання до їхнього списку очікування , що передбачає заповнення невеликої анкети щодо того, чому ви бажаєте отримати доступ і чи бажаєте ви надати відгук.

Список сторонніх плагінів включає:

Expedia – цей плагін дозволить вам спланувати свою наступну подорож за допомогою ChatGPT, маючи повну інформацію про наявність і ціни готелів, авіарейсів тощо.
FiscalNote – цей плагін ChatGPT надасть вам доступ до юридичної, політичної та нормативної інформації та даних у реальному часі.
Instacart – використовуйте ChatGPT, щоб замовляти продукти в найближчих продуктових магазинах і супермаркетах.
KAYAK – Використовуйте KAYAK у ChatGPT, щоб знаходити автомобілі, готелі, оренду тощо в рамках визначеного бюджету.
Klarna Shopping – шукайте та порівнюйте ціни в різних онлайн-магазинах у своїй розмові в ChatGPT.
Milo Family AI – плагін для батьків, щоб покращити виховання дітей.
OpenTable – отримуйте рекомендації ресторанів і посилання на бронювання в чатах.
Купуйте в Shopify – шукайте товари різних брендів.
Slack – використовуйте ChatGPT із Slack, щоб спростити спілкування
Говоріть – отримайте репетитора мови на основі штучного інтелекту
Wolfram – Отримайте ChatGPT для доступу до обчислень, знань з математики тощо.
Zapier – використовуйте цей плагін для взаємодії з більш ніж 5000 програмами в ChatGPT.

Є також два плагіни від самого OpenAI: Browsing (веб-браузер) та інтерпретатор коду, а також плагін із відкритим кодом під назвою Retriever. Наразі всі плагіни знаходяться на стадії альфа-тестування.

Як працюють ці плагіни?

Відповідно до OpenAI, плагіни — це «очі та вуха» для таких мовних моделей, як ChatGPT. Справа в мовних моделях полягає в тому, що вони можуть навчатися лише на основі своїх навчальних даних і це навчання може бути обмеженим. ChatGPT може самостійно надавати лише текстові інструкції. Ці плагіни можуть змусити його слідувати цим інструкціям, а також зробити доступною інформацію, яка надто свіжа, надто особиста або надто конкретна, яку не можна включити до даних навчання.

Але існує проблема безпеки, яка виникає, коли ви думаєте про модель штучного інтелекту, яка виконує інструкції та виконує дії від вашого імені. Ось чому плагіни розгортаються повільно. OpenAI будує їх, керуючись безпекою як основним принципом, і стежитиме за їх використанням у реальному світі.

Давайте розглянемо, як працюють деякі з цих моделей плагінів.

Перегляд

Це плагін, який з’єднує ChatGPT з Інтернетом і є одним із двох плагінів від самого OpenAI. Плагін використовує API пошуку Bing від Microsoft у не дуже цікавому повороті подій; обидві компанії мали угоди багато років тому. Крім початкових інвестицій, Microsoft тепер також використовує технологію OpenAI для роботи свого нового Bing AI.

Модель не тільки вміє переглядати сторінки в Інтернеті, але й знає, коли переглядати сторінки в Інтернеті, а коли ні. Наприклад, коли користувач запитує у ChatGPT інформацію про Оскар 2023, він точно шукає в Інтернеті запит. Але коли його запитують про першу в історії премію «Оскар», він не шукає в Інтернеті, оскільки ця інформація є частиною його тренувальних даних.

Отже, щоб змусити ChatGPT переглядати Інтернет, вам потрібно буде вибрати модель/плагін «Перегляд».

Тепер, коли користувач вводить запит, який вимагає від нього переглядати Інтернет, він це зробить; процес займе деякий час, оскільки боту знадобиться час, щоб ознайомитися з інформацією. Розгорнувши плитку «Перегляд веб-сторінок…», ви можете побачити потік дій ChatGPT, поки він не згенерує відповідь.

Там ви можете побачити, за якими запитами він шукав, які посилання він натискав і коли він читає в режимі реального часу. Він використовує текстовий веб-браузер, щоб він міг виходити за межі результатів пошуку та фактично читати веб-сайти та переходити по них.

Щойно ChatGPT дізнається про події, він, як і раніше, дасть вам відповідь своєю моделлю природної мови. Але відповідь міститиме цитати, коли її буде створено за допомогою моделі перегляду. Натиснувши цитату, ви перейдете на веб-сайт. Цей конкретний аспект такий самий, як і Bing Chat AI.

З точки зору безпеки, текстовий браузер може робити лише запити GET, що зменшує певні ризики. Наприклад, модель може лише отримувати інформацію з Інтернету, але не може виконувати «транзакційні» операції, як-от надсилання форми.

Інтерпретатор коду

Модель Code Interpreter, другий плагін від OpenAI, надає ChatGPT інтерпретатор Python. Це також надає йому деякий короткочасний дисковий простір.

Сеанс триває протягом одного чату, тому наступний дзвінок може продовжуватись на основі попереднього дзвінка, але існує верхнє обмеження часу. Крім того, Інтерпретатор коду також підтримує завантаження файлів і завантаження файлів із результатами.

Щоб зберегти його в безпеці, OpenAI зберігає його в ізольованому середовищі виконання з брандмауером. Доступ до Інтернету також вимкнено для Інтерпретатора коду. Відповідно до OpenAI, хоча цей крок обмежує функціональність моделі, вони вважають, що спочатку це правильний крок.

Перед початком розмови необхідно вибрати модель «Інтерпретатор коду».

Коли користувач вводить підказки, які вимагають використання плагіна Code Interpreter, ChatGPT починає використовувати його для виконання необхідних обчислень. Як і під час перегляду, користувач може побачити потік обчислень ChatGPT, натиснувши «Показати роботу», і всі кроки обчислення будуть видимі.

У початкових тестах OpenAI виявив, що цей плагін корисний у певних сценаріях. До них належать:

Розв’язування математичних задач, як кількісних, так і якісних, які, відверто кажучи, раніше користувачі вважали ChatGPT дурницею.
Аналіз даних і візуалізація, що викликає захват у багатьох користувачів.
Перетворення файлів між форматами

OpenAI очікує, що користувачі відкриють більше корисних завдань, які може виконувати Інтерпретатор коду, коли вони його випробують.

Плагіни сторонніх виробників

Решта плагінів підпадають під модель плагінів. Це також включає плагін Retriever з відкритим кодом від OpenAI, який розробники зможуть використовувати, і 12 плагінів сторонніх розробників.

Після вибору моделі плагінів зі спадного меню користувач може встановити потрібні плагіни з магазину.

Ось як плагіни працюватимуть у двох словах:

Коли користувачі активують плагін, встановивши його (їх не буде автоматично активовано) і почнуть розмову, OpenAI додасть короткий опис плагіна до ChatGPT у повідомленні. Це повідомлення не бачать кінцеві користувачі, але воно міститиме опис плагіна, кінцеві точки та приклади. Отже, доки ви не вирішите використовувати плагін у розмові, ChatGPT не матиме про нього жодних відомостей. Ви повинні активувати плагіни, які хочете використовувати в кожній розмові.

Тепер ви можете відправити свій запит у ChatGPT. Якщо бот вважає доцільним викликати плагін, він зробить це за допомогою виклику API. Іншими словами, він може сам вирішити, чи потрібно викликати плагін.

Потім він включить результати, отримані від плагіна, у відповідь, яку він згенерує для вас.

Ось приклад того, як ChatGPT використовує плагіни з OpenTable, Wolfram та Instacart. Користувач просить ChatGPT порекомендувати веганський ресторан на суботу та веганський рецепт на неділю. Вони також просять розрахувати калорії для рецепту, який він рекомендує, використовуючи Wolfram, а також замовити інгредієнти для рецепту в Instacart. ШІ-бот робить саме це.

По-перше, він використовує OpenTable, щоб рекомендувати ресторан і посилання для бронювання.

Він рекомендує веганський рецепт (що міг робити раніше), а потім розраховує калорії для рецепту за допомогою Wolfram.

Нарешті, він додає всі необхідні інгредієнти до кошика на Instacart і надає користувачеві посилання, яке користувач може просто натиснути, щоб завершити замовлення!

Плагіни повністю змінять спосіб роботи ChatGPT. Швидкість, з якою штучний інтелект прогресує за останні кілька місяців, робить життя таким же страшним і прекрасним, чи не так?