API OpenAI

Мы выпускаем API для доступа к новым ИИ-моделям, разработанным OpenAI. В отличие от большинства систем искусственного интеллекта, которые создаются для решения одной конкретной задачи, сегодняшний API предоставляет универсальный интерфейс «текст на входе — текст на выходе», позволяя пользователям применять его практически для любой задачи на английском языке. Теперь вы можете запросить доступ, чтобы интегрировать API в свой продукт, разработать совершенно новое приложение или помочь нам изучить сильные и слабые стороны этой технологии.

Если вы передадите любую текстовую подсказку, API вернет текстовое продолжение, стараясь воспроизвести заданный вами образец. Вы можете «запрограммировать» его, показав ему всего несколько примеров того, что вы хотели бы, чтобы он делал; его успех обычно варьируется в зависимости от сложности задачи. API также позволяет улучшать производительность в выполнении конкретных задач, используя обучение на наборе данных (маленьком или большом), который вы предоставляете, или на основе отзывов от пользователей или маркировщиков.

Мы разработали API так, чтобы он был прост в использовании для всех, но также достаточно гибким, чтобы повысить производительность команд, занимающихся машинным обучением. На самом деле, многие из наших команд теперь используют API, чтобы сосредоточиться на исследованиях в области машинного обучения, а не на проблемах распределённых систем. Сегодня API запускает модели с весами из семейства GPT‑3⁠(открывается в новом окне) с множеством улучшений в скорости и пропускной способности. Машинное обучение развивается очень быстро, и мы постоянно обновляем наши технологии, чтобы пользователи оставались в курсе последних достижений.

Темпы прогресса в этой области означают, что часто появляются удивительные новые приложения ИИ, как положительные, так и отрицательные. Мы закроем доступ к API в случае явно вредоносного использования, например, в целях преследования, спама, радикализации или астротурфинга. Но мы также знаем, что не можем предвидеть все возможные последствия этой технологии, поэтому сегодня мы запускаем закрытую бета-версию, а не общедоступную, создавая инструменты, которые помогут пользователям лучше контролировать контент, возвращаемый нашим API, и исследуя аспекты безопасности языковых технологий (такие как анализ, смягчение и вмешательство в случае вредной предвзятости). Мы будем делиться тем, что узнаём, чтобы наши пользователи и более широкое сообщество могли создавать более человекоориентированные системы  искусственного интеллекта.

Помимо того, что API является источником дохода, помогающим нам покрывать расходы⁠ в рамках нашей миссии⁠, это также подтолкнуло нас к более чёткому фокусу на технологиях общего назначения в области ИИ — к совершенствованию самих технологий, повышению их применимости и учету их влияния на реальный мир. Мы надеемся, что API значительно снизит барьер⁠(открывается в новом окне) для создания полезных продуктов на базе ИИ, что приведет к появлению инструментов и услуг, которые сегодня трудно представить.

Заинтересованы в изучении API? Присоединяйтесь к таким компаниям, как Algolia⁠(открывается в новом окне), Quizlet⁠(открывается в новом окне) и Reddit⁠(открывается в новом окне), а также к исследователям из таких организаций, как Институт Миддлбери⁠(открывается в новом окне), в нашей закрытой бета-версии⁠(открывается в новом окне).

В конечном счете, самое главное для нас⁠, чтобы общий искусственный интеллект приносил пользу всем. Мы рассматриваем разработку коммерческих продуктов как один из способов обеспечить достаточное финансирование для достижения успеха.

Мы также полагаем, что безопасное развертывание мощных систем искусственного интеллекта в мире будет сложной задачей. Выпуская API, мы тесно взаимодействуем с партнёрами, чтобы понять, какие вызовы возникают при использовании ИИ-систем в реальном мире. Это поможет направить наши усилия на понимание того, как будет происходить развертывание будущих ИИ-систем, и что нам нужно сделать, чтобы они были безопасными и полезными для всех.

Для этого есть три основных причины. Во-первых, коммерциализация технологии помогает нам оплачивать наши текущие исследования в области ИИ, а также усилия по обеспечению безопасности и разработке политики.

Во-вторых, многие модели, лежащие в основе API, очень большие, требуют значительного опыта для разработки и развертывания, и их эксплуатация обходится очень дорого. Это затрудняет возможность воспользоваться преимуществами базовой технологии для кого-либо, кроме крупных компаний. Мы надеемся, что API сделает мощные системы искусственного интеллекта более доступными для малого бизнеса и других организаций.

В-третьих, модель API позволяет нам более эффективно реагировать на неправильное использование технологии. Поскольку трудно предсказать дальнейшие сценарии использования наших моделей, безопаснее выпускать их через API и постепенно расширять доступ, чем публиковать модель с открытым исходным кодом, доступ к которой не может быть изменён, если выяснится, что она приводит к вредоносным применениям .

С GPT‑2 одной из наших ключевых проблем было вредоносное использование модели (например, для дезинформации), что трудно предотвратить, если модель становится открытым исходным кодом. В API мы можем лучше предотвращать злоупотребления, ограничивая доступ только для утверждённых клиентов и сценариев использования. У нас есть обязательный процесс проверки перед тем, как предлагаемые приложения могут быть запущены в эксплуатацию. В ходе производственных обзоров мы оцениваем приложения по нескольким критериям, задавая такие вопросы, как: Является ли это поддерживаемым сценарием использования в настоящее время?, Насколько открытым является приложение?, Насколько рискованно приложение?, Как вы планируете предотвращать потенциальные злоупотребления?, и Кто являются конечными пользователями вашего приложения?.

Мы закрываем доступ к API для случаев, когда установлено, что они причиняют (или направлены на причинение) физического, эмоционального или психологического вреда людям, включая, но не ограничиваясь, домогательствами, преднамеренным обманом, радикализацией, астротурфингом или спамом, а также для приложений, в которых отсутствуют достаточные механизмы защиты от злоупотреблений со стороны конечных пользователей. По мере накопления опыта практической работы с API мы будем постоянно уточнять категории использования, которые можем поддерживать, чтобы, с одной стороны, расширять спектр приложений, а с другой — вводить более детализированные категории для тех, которые вызывают у нас опасения  относительно потенциальных злоупотреблений.

Одним из ключевых факторов при одобрении использования API является то, насколько приложение демонстрирует открытое либо ограниченное поведение с учётом базовых генеративных возможностей системы. Открытые приложения API (т. е. те, которые обеспечивают беспрепятственную генерацию больших объёмов настраиваемого текста с помощью произвольных промптов) особенно уязвимы для злоупотреблений. Ограничения, которые могут сделать генеративные сценарии использования более безопасными, включают в себя разработку систем, в которых человек остается в процессе, ограничения доступа конечного пользователя, постобработку результатов, фильтрацию контента, ограничения длины ввода и вывода данных, активный мониторинг и ограничения по тематике.

Мы также продолжаем проводить исследования возможных злоупотреблений моделями, предоставляемыми API, включая сотрудничество со сторонними исследователями через нашу программу академического доступа⁠(открывается в новом окне). В настоящее время мы начинаем с очень ограниченного числа исследователей и уже имеем некоторые результаты от наших академических партнеров из Института Миддлбери (Middlebury Institute)⁠(открывается в новом окне), Университета Вашингтона (University of Washington) и Института Аллена по ИИ (Allen Institute for AI)⁠(открывается в новом окне). У нас уже есть десятки тысяч заявок на участие в этой программе, и в настоящее время мы отдаем приоритет приложениям, ориентированным на исследования в области справедливости и репрезентативности .

Смягчение негативных последствий, включая вредную предвзятость, — сложная и крайне значимая для всей отрасли задача. Как мы обсуждаем в статье GPT‑3⁠(открывается в новом окне) и карточке модели⁠(открывается в новом окне), наши модели API демонстрируют предвзятость, которая будет отражена в сгенерированном тексте. Вот шаги, которые мы предпринимаем для решения этих проблем:

• Мы разработали руководящие принципы использования, которые помогают разработчикам понять и устранить потенциальные проблемы безопасности.
• Мы тесно сотрудничаем с пользователями, чтобы понять их сценарии использования и разработать инструменты для выявления и вмешательства с целью смягчения вредной предвзятости.
• Мы проводим собственные исследования проявлений вредной предвзятости и более широких проблем справедливости и репрезентативности, которые помогут нам в работе над улучшением документации существующих моделей, а также над различными усовершенствованиями будущих моделей.
• Мы признаем, что предвзятость — это проблема, которая проявляется на пересечении системы и развернутого контекста; приложения, созданные с использованием наших технологий, являются социотехническими системами, поэтому мы работаем с нашими разработчиками, чтобы убедиться, что они внедряют соответствующие процессы и системы с участием человека (human-in-the-loop) для мониторинга нежелательного поведения.

Наша цель — глубже понимать, какой потенциальный вред может возникать при использовании API в разных контекстах, и постоянно улучшать инструменты и процессы, которые помогают этот вред минимизировать. 

Обновлено 18 сентября 2020 года.