OpenAI API

Ми випускаємо API для доступу до нових моделей штучного інтелекту, розроблених OpenAI. На відміну від більшості систем штучного інтелекту, створених під один конкретний сценарій, API сьогодні пропонує універсальний інтерфейс «текст на вході — текст на виході», що дає змогу випробувати його майже для будь-якого завдання англійською мовою. Тепер ви можете подати запит на доступ, щоб інтегрувати API у свій продукт, створити зовсім нову програму або допомогти нам краще зрозуміти сильні й слабкі сторони цієї технології.

За будь-якого текстового запиту API сформує продовження, намагаючись дотриматися заданого вами зразка. Ви можете «налаштувати» його, надавши лише кілька прикладів бажаної поведінки — успішність у такому разі залежатиме від складності завдання. API також дає змогу підвищувати ефективність у виконанні конкретних завдань — шляхом навчання на наданому вами наборі прикладів (малому чи великому) або на основі відгуків користувачів чи маркувальників.

Ми створили API так, щоб ним було легко користуватися будь-кому, але водночас він залишався достатньо гнучким, аби посилювати можливості команд з машинного навчання. Насправді, багато наших команд зараз використовують API, щоб зосередитися на дослідженнях машинного навчання, а не на проблемах розподілених систем. Наразі API працює на моделях із сімейства GPT‑3⁠(відкривається у новому вікні), доповнених численними покращеннями швидкості та пропускної здатності. Машинне навчання розвивається надзвичайно швидко, і ми безперервно вдосконалюємо наші технології, щоб наші користувачі завжди залишалися на передовій.

Швидкий прогрес у цій галузі призводить до появи нових, інколи несподіваних застосувань штучного інтелекту — як позитивних, так і негативних. Ми блокуватимемо доступ до API для очевидно шкідливих сценаріїв використання — зокрема переслідування, спаму, радикалізації чи астротурфінгу. Але ми також розуміємо, що неможливо передбачити всі наслідки цієї технології. Тому зараз ми запускаємо її у форматі приватної бета-версії, а не у відкритому доступі, паралельно розробляючи інструменти, які дадуть користувачам більше контролю над контентом, що повертає API, та проводячи дослідження мовних технологій у контексті безпеки — зокрема аналізу, пом’якшення й втручання у випадках шкідливої упередженості. Ми ділитимемося набутим досвідом, щоб наші користувачі та ширша спільнота могли створювати більш гуманні та корисні системи штучного інтелекту.

Окрім того, що API є джерелом доходу, яке допомагає нам покривати витрати⁠ на реалізацію нашої місії⁠, він стимулює нас зосереджуватися на створенні універсальних технологій штучного інтелекту — удосконалювати їх, робити придатними для практичного використання та враховувати їхній реальний вплив. Ми сподіваємося, що API суттєво знизить бар’єр входу⁠(відкривається у новому вікні) для створення корисних продуктів на основі штучного інтелекту, що зрештою приведе до появи інструментів і сервісів, які сьогодні важко навіть уявити.

Цікавитеся роботою з API? Долучайтеся до компаній на кшталт Algolia⁠(відкривається у новому вікні), Quizlet⁠(відкривається у новому вікні) і Reddit⁠(відкривається у новому вікні), а також до дослідників з таких установ, як Інститут Міддлбері⁠(відкривається у новому вікні), у нашій закритій бета-версії⁠(відкривається у новому вікні).

Зрештою, найбільше ми піклуємося про⁠ те, щоб загальний штучний інтелект приносив користь усім. Ми розглядаємо розроблення комерційних продуктів як один із способів забезпечити достатнє фінансування для досягнення цієї мети.

Ми також вважаємо, що безпечне розгортання потужних систем штучного інтелекту у світі буде складним завданням. Випускаючи API, ми тісно співпрацюємо з нашими партнерами, щоб побачити, які виклики виникають при використанні систем штучного інтелекту в реальному світі. Це дасть нам змогу краще зрозуміти, як відбуватиметься розгортання майбутніх систем штучного інтелекту, і що потрібно зробити, щоб вони були безпечними та корисними для всіх.

Існує три основні причини, чому ми це зробили. По-перше, комерціалізація технології допомагає нам фінансувати наші поточні дослідження, заходи безпеки та політичні ініціативи у сфері штучного інтелекту.

По-друге, багато моделей, що лежать в основі API, є дуже великими, що вимагає значного досвіду для їх розробки та розгортання, і робить їх експлуатацію дуже дорогою. Це ускладнює отримання вигоди від базової технології будь-кому, окрім великих компаній. Ми сподіваємося, що API зробить потужні системи штучного інтелекту доступнішими для малого бізнесу та організацій.

По-третє, модель API дозволяє нам легше реагувати на зловживання технологією. Оскільки передбачити всі майбутні сценарії використання наших моделей складно, безпечніше спершу надавати доступ через API й поступово його розширювати, ніж випускати модель з відкритим кодом, доступ до якої вже неможливо обмежити, якщо згодом з’ясується, що вона може бути використана у шкідливих цілях.

Починаючи з GPT‑2, однією з головних проблем для нас було потенційно зловмисне використання моделі (наприклад, для поширення дезінформації), якому важко запобігти, коли модель має відкритий вихідний код. У випадку з API ми можемо ефективніше запобігати неправильному використанню, надаючи доступ лише схваленим клієнтам і для чітко визначених сценаріїв використання. У нас діє обов’язковий процес перевірки перед запуском, який має пройти кожна запропонована програма, перш ніж її буде дозволено використовувати у виробничому середовищі. У межах виробничих перевірок ми оцінюємо програми за кількома критеріями й ставимо запитання на кшталт: «Чи належить це до підтримуваних сценаріїв використання?», «Наскільки відкрита ця програма?», «Який рівень ризику вона несе?», «Як ви плануєте реагувати на можливе неправомірне використання?» та «Хто є кінцевими користувачами вашої програми?».

Ми припиняємо доступ до API для тих випадків використання, які доведено завдають або мають на меті завдати фізичної, емоційної чи психологічної шкоди людям. Це стосується, зокрема, переслідування, навмисного введення в оману, радикалізації, астротурфінгу, спаму, а також програм, у яких бракує надійних обмежувальних механізмів для запобігання зловживанням з боку кінцевих користувачів. У міру того, як ми накопичуємо практичний досвід роботи з API, ми й надалі вдосконалюватимемо категорії використання: і щоб розширити перелік програм, які можемо підтримувати, і щоб уточнити категорії для тих випадків, де існують ризики неправильного використання.

Одним з ключових факторів, який ми враховуємо при схваленні використання API, є ступінь, в якій програма демонструє відкриту або обмежену поведінку щодо базових генеративних можливостей системи. Відкриті програми API (тобто ті, що дозволяють безперешкодно генерувати великі обсяги настроюваного тексту за допомогою довільних запитів) особливо вразливі до зловживань. До обмежень, які допомагають зробити генеративні сценарії використання безпечнішими, належать: системи з участю людини, обмеження доступу для кінцевих користувачів, постобробка результатів, фільтрація контенту, обмеження довжини введення й виведення, активний моніторинг та тематичні обмеження.

Ми також продовжуємо досліджувати можливі способи зловживання моделями, доступними через API, зокрема у співпраці зі сторонніми дослідниками в межах нашої програми академічного доступу⁠(відкривається у новому вікні). На даний момент ми починаємо з дуже обмеженої кількості дослідників і вже маємо деякі результати від наших академічних партнерів з Інституту Міддлбері⁠(відкривається у новому вікні), Університету Вашингтона та Інституту штучного інтелекту Аллена⁠(відкривається у новому вікні). Ми вже маємо десятки тисяч заявників на цю програму і наразі віддаємо пріоритет заявкам, зосередженим на дослідженнях справедливості та представництва.

Пом’якшення негативних ефектів, зокрема шкідливої упередженості, — складне завдання для всієї індустрії й водночас надзвичайно важливе. Як ми обговорюємо в статті про GPT‑3⁠(відкривається у новому вікні) та картці моделі⁠(відкривається у новому вікні), наші моделі API дійсно демонструють упередження, які будуть відображені у створеному тексті. Ось дії, які ми вживаємо для вирішення цих проблем:

• Ми розробили правила використання, які допомагають розробникам зрозуміти та вирішити потенційні проблеми з безпекою.
• Ми активно взаємодіємо з користувачами, щоб краще зрозуміти їхні сценарії використання й створити інструменти, які дають змогу виявляти шкідливі упередження та своєчасно на них реагувати.
• Ми досліджуємо прояви шкідливої упередженості, а також ширші питання справедливості й представництва. Це дає нам змогу краще документувати наявні моделі та спрямовувати подальші вдосконалення майбутніх моделей.
• Ми усвідомлюємо, що упередженість виникає на перетині самої системи та реального контексту її використання. Оскільки програми, створені на основі наших технологій, є соціотехнічними системами, ми співпрацюємо з розробниками, щоб вони впроваджували належні процеси й механізми «людини в циклі» для моніторингу небажаної поведінки.

Наша мета — поглиблювати розуміння потенційної шкоди від використання API в різних контекстах і постійно вдосконалювати інструменти та процеси, щоб звести таку шкоду до мінімуму.

Оновлено 18 вересня 2020 р.