ИИ, доступный для всех и в любой точке мира: наш подход к локализации

Миссия OpenAI заключается в том, чтобы искусственный интеллект приносил пользу всему человечеству. Чтобы воплотить эту миссию, мы адаптируем наши решения под реальные потребности людей по всему миру.

ИИ все чаще рассматривается как элемент критически важной национальной инфраструктуры, сопоставимый по значимости с электроэнергией. Правительства и учреждения по всему миру стремятся обеспечить своим гражданам и экономикам доступ к самым мощным и передовым ИИ-системам, чтобы они могли воспользоваться возможностями эпохи ИИ.

Чтобы ИИ оправдал эти ожидания, он должен быть близким и понятным на местном уровне. Это означает поддержку местных языков и акцентов, соблюдение местного законодательства и уважение культурных норм и ценностей.

При этом лишь ограниченное количество стран располагает возможностями для самостоятельной разработки передовых ИИ-моделей. Для большинства вопрос стоит не в том, как создать модель с нуля, а в том, как адаптировать лучшие существующие ИИ-системы под свои конкретные потребности. Это подтверждают наши регулярные диалоги с правительствами по всему миру: им нужен суверенный ИИ, создаваемый в партнерстве, а не просто локализованные версии готовых решений.

В рамках инициативы OpenAI for Countries⁠ мы изучаем практические подходы к локализации ИИ. Цель состоит в том, чтобы обеспечить развитие локализованных ИИ-систем при сохранении преимуществ глобальной модели передового уровня.

В настоящее время в рамках инициативы ChatGPT Edu, мы тестируем локализованную версию ChatGPT для студентов в Эстонии с учетом национальных учебных программ и педагогических методик. Мы также изучаем возможности запуска пилотных проектов по локализации и в других странах. В рамках нашей приверженности принципам прозрачности в исследованиях и внедрении ИИ мы делимся более подробной информацией о том, как именно работает локализация.

Спецификация модели⁠ — это общедоступный документ, который описывает принципы и ожидаемое поведение наших ИИ-моделей. Мы обучаем модели работать в соответствии со спецификацией и постоянно совершенствуем ее в рамках совместного процесса, охватывающего всю команду OpenAI и учитывающего обратную связь, которую наши специалисты получают от людей по всему миру. Спецификация модели включает весь спектр способов использования наших моделей: от ChatGPT и решений, которые разработчики создают на нашей платформе, до других сценариев применения.  Эти правила применяются во всех случаях внедрения наших моделей и устанавливают четкие границы допустимых изменений, а также нашу обязанность обеспечивать прозрачность при их внесении.

Спецификация модели включает в себя «принципы красных линий⁠(открывается в новом окне)», которые применяются ко всем вариантам внедрения, включая проекты в рамках программы OpenAI for Countries. В них мы подчеркиваем, что безопасность людей и права человека являются ключевыми приоритетами миссии OpenAI, и четко обозначаем следующее:

• Мы не допускаем использования наших моделей для причинения серьезного вреда, включая акты насилия, создание оружия массового поражения, терроризм, преследование или массовую слежку.
• Мы не допускаем использования наших моделей для целенаправленного или массового лишения людей доступа или участия, манипулирования ими, ограничения их самостоятельности или участия в гражданских процессах.
• Мы привержены защите конфиденциальности людей в их взаимодействии с ИИ.

Когда OpenAI предоставляет собственный пользовательский продукт напрямую потребителям, такой как ChatGPT, мы также берем на себя обязательство обеспечивать следующее:

• Пользователи должны иметь простой и удобный доступ к достоверной информации, критически важной для безопасности, предоставляемой нашими моделями.
• Настройка, персонализация и локализация не могут отменять обязательные правила, закрепленные в спецификации модели. Это относится и к принципу объективной точки зрения⁠(открывается в новом окне), который означает, что локализация может влиять на язык или тон, но не может изменять содержание или баланс представляемых фактов. 
• Люди должны понимать ключевые правила и причины, лежащие в основе поведения наших моделей. Например, если контент был исключен по юридическим требованиям, это будет однозначно указано в каждом ответе модели с пояснением типа удаленной информации и причины ее удаления без раскрытия самого удаленного содержания. Аналогичным образом любая добавленная информация также будет явно обозначена.

Развивая локализованный, суверенный ИИ в рамках программы OpenAI for Countries, мы намерены и дальше делиться полученным опытом и открыто совершенствовать наш подход.