Политика предоставления общего доступа и публикации

Для снижения возможных рисков, связанных с контентом, создаваемым ИИ, мы установили следующую политику в отношении разрешенного распространения.

Публиковать собственные подсказки и ответы, равно как и вести прямые трансляции применения или демонстрировать наши продукты группам людей, как правило, разрешается. При этом необходимо соблюдать следующие правила:

• Проверять каждый сгенерированный ответ вручную перед публикацией или во время прямой трансляции.
• Делать привязку контента к своему имени или своей компании.
• Указывать, что контент создан с использованием ИИ таким образом, чтобы это было очевидно и понятно всем пользователям без исключения.
• Не публиковать контент, который нарушает нашу Политику в отношении контента⁠⁠ или может быть оскорбительным для других.
• При использовании запросов аудитории в качестве подсказок руководствоваться здравым смыслом — не следует вводить подсказки, которые могут привести к нарушениям нашей Политики в отношении контента⁠⁠.

Если вы хотите удостовериться в том, что команде OpenAI известно о конкретном ответе, вы можете отправить нам сообщение на электронную почту или воспользоваться инструментами информирования в Playground.

• Не забывайте о том, что вы взаимодействуете с моделью, которая не подвергается какой-либо обработке, то есть мы не отфильтровываем предвзятые или негативные ответы. (Также вы можете прочитать подробнее о внедрении нашего бесплатного сервиса конечной точки модерации⁠⁠(открывается в новом окне).)

Авторы, которые желают опубликовать свой собственный написанный контент (например, книгу, сборник рассказов и т.д.), который частично был создан при помощи OpenAI API, могут сделать это при соблюдении следующих условий:

• Публикуемый контент приписывается вашему имени или компании.
• Роль ИИ в создании контента четко раскрывается таким образом, чтобы ни один читатель не мог упустить это, и чтобы обычному читателю это было достаточно легко понятно.
• Темы контента не нарушают Политику в отношении контента⁠⁠ или Условия использования⁠⁠ OpenAI, например, не связаны с контентом для взрослых, спамом, контентом, вызывающим ненависть или провоцирующим насилие, или иными вариантами использования, которые могут нанести общественный вред.
• Убедительная просьба воздержаться от распространения результатов, которые могут быть оскорбительными для других.

Например, в предисловии или вступительном слове (или похожем разделе) необходимо детализировать вклад участников при составлении проекта, редактировании и т.д. Нельзя подавать контент, созданный с помощью API, как контент, полностью созданный человеком или полностью созданный ИИ. Полную ответственность за публикуемый контент несет человек.

Вот несколько стандартных выражений, которые можно использовать для описания творческого процесса, при условии их точности:

Мы считаем важным, чтобы широкая аудитория имела возможность оценивать наши исследования и продукты, в частности, для понимания и устранения возможных недостатков, а также проблем с безопасностью или предвзятостью наших моделей. Соответственно, мы приветствуем исследовательские публикации, связанные с OpenAI API.

• В некоторых случаях мы можем осветить вашу работу внутри компании или за ее пределами.
• В иных случаях, например, если публикации связаны с безопасностью или нецелевым использованием API, мы можем предпринять соответствующие действия, чтобы защитить наших пользователей.
• Если в ходе вашего исследования вам станет известно о каких-либо проблемах с безопасностью API, просьба незамедлительно сообщить о них в нашу Программу координированного раскрытия уязвимостей⁠.

Существует ряд исследовательских направлений, которые нам интересно изучить с помощью OpenAI API. Если вас интересует возможность субсидируемого доступа, просьба предоставить нам подробности планируемого использования исследования в заявке на участие в Программе доступа для исследователей⁠⁠.

В частности, мы считаем следующие направления особенно важными, но вы также можете сформулировать свое собственное направление:

• Согласование. Как понять, какую цель, если таковая имеется, модель преследует лучше всего? Как повысить степень соответствия данной цели предпочтениям пользователя, например,с помощью быстрого проектирования или тонкой настройки подсказок?
• Справедливость и репрезентативность. Как следует устанавливать критерии производительности для справедливости и репрезентативности в языковых моделях? Как можно улучшить языковые модели, чтобы эффективно поддерживать цели, касающиеся справедливости и репрезентативности, в конкретных ситуациях в реальных условиях применения?
• Междисциплинарные исследования. Как при разработке ИИ можно опираться на знания из других областей, например, философии, когнитивной науки и социолингвистики?
• Интерпретируемость и прозрачность. Как эти модели работают с точки зрения механики? Можно ли определить модели, которые в них используются, или извлечь из модели скрытые знания, сделать выводы из процесса обучения или предсказать неожиданное поведение в будущем?
• Возможность нецелевого использования. Как такие системы, как API, могут быть использованы не по назначению? Какие виды подходов тестирования на уязвимости можно разработать, чтобы помочь нам и другим разработчикам ИИ задуматься об ответственном развертывании подобных технологий?
• Изучение модели. Модели, подобные тем, что обслуживаются API, имеют различные возможности, которые нам еще предстоит изучить. Мы с воодушевлением относимся к исследованиям в различных сферах, включая пределы возможностей моделей, лингвистические свойства, рассуждения, основанные на здравом смысле, и возможности применения для решения многих других проблем.
• Устойчивость. Генеративные модели характеризуются неравномерным распределением возможностей: в одних областях они крайне эффективны, тогда как в других — на удивление слабы. Насколько устойчивы крупные генеративные модели к «естественным» изменениям в подсказках, например, формулировкам одной и той же идеи разными словами, с ошибками или без? Можно ли предсказать области или задачи, для которых большие генеративные модели с большей вероятностью окажутся устойчивыми (или неустойчивыми), и как это соотносится с обучающими данными? Существуют ли методы, с помощью которых можно предсказать или смягчить сценарии наихудшего поведения? Как можно измерить надежность в контексте обучения с небольшим количеством примеров (например, при вариации формулировок подсказок)? Можно ли обучать модели таким образом, чтобы они соответствовали свойствам безопасности с очень высоким уровнем надежности, даже при использовании данных, специально подобранных для введения модели в заблуждение?

Обратите внимание, что из-за большого количества запросов нам требуется время для их рассмотрения, и не все исследования будут иметь приоритет для субсидирования. Мы свяжемся с вами только в том случае, если ваша заявка будет отобрана для предоставления субсидии.