Наш подход к партнерствам с государством и в сфере национальной безопасности

Правительства начинают использовать передовые системы ИИ для все более важных задач, в том числе в сфере национальной безопасности. Это создает новые требования к лабораториям ИИ, правительствам и гражданскому обществу: им необходимо совместно определять, как такие инструменты следует применять в особо ответственных областях. 

Мы считаем, что демократические общества должны иметь возможность использовать ИИ для защиты людей и критической инфраструктуры, предоставления государственных услуг и реагирования на новые угрозы — в том числе в таких областях, как киберзащита и биологическая безопасность, где ИИ может дать защитникам значимое преимущество. Но все более мощные системы ИИ необходимо внедрять так, чтобы укреплять демократическую подотчетность, сохранять значимую роль человеческого суждения и верховенство закона, а также усиливать демократические институты, а не концентрировать власть.

Сегодня мы публикуем Принципы OpenAI в области национальной безопасности, чтобы обеспечить прозрачность нашего подхода к партнерствам с государственными структурами и к использованию нашей технологии в целях национальной безопасности.

Эти принципы отражают усилия всей компании по выработке более комплексного подхода к нашей работе в сфере национальной безопасности и правоохранительной деятельности по мере развития нашей технологии. Мы привлекли ведущего эксперта по национальной безопасности Дэвида Криса, чтобы он помог организовать этот процесс и представить независимую оценку, провели сессии сбора обратной связи по всей компании и вовлекли сотрудников из разных команд — от исследований и безопасности до политики и партнерств с государственными структурами.

Мы публикуем их сейчас, расширяя работу с правительством США и партнерами из союзных стран в критически важных оборонительных областях, особенно в кибер- и биобезопасности. За последний месяц в рамках нашей программы киберзащиты Daybreak⁠ мы уже заключили партнерства «Trusted Access for Cyber» с Австралией, Канадой, Японией, Республикой Корея, Францией, Германией, Польшей, Нидерландами и институтами ЕС, такими как ENISA. У нас также развивается доверенное партнерство с правительством Великобритании в области кибербезопасности, тестирования и оценки. Аналогичный подход мы применяем и в сфере биобезопасности. В прошлом месяце мы также объявили о расширении доверенного доступа к нашей модели GPT‑Rosalind для отдельных партнеров из правительства США и союзных стран, работающих над задачами общественного здравоохранения и биологической обороны.

Эти принципы распространяются на наши текущие и будущие партнерства в сфере национальной безопасности и правоохранительной деятельности, включая уже ведущуюся работу с Министерством войны США. Когда ранее в этом году мы объявили о нашем соглашении, мы сформулировали несколько договорных ограничений: не использовать технологии OpenAI для массовой внутренней слежки, не использовать технологии OpenAI для управления автономными системами вооружений и не использовать технологии OpenAI для автоматизированного принятия решений с высокими ставками. Эти ограничения соответствуют принципам, которыми мы делимся сегодня.

Мы считаем правильным ясно обозначать, как нашу технологию можно и нельзя использовать, и открыто сообщать об этих ограничениях. Но многие из самых важных вопросов об ИИ в государственном управлении, особенно в сфере национальной безопасности, должны решаться через демократический процесс. Роль таких компаний, как наша, — помогать принимать эти решения на основе фактов, а не принимать их единолично. Именно поэтому мы поддерживаем законодательные инициативы по созданию гарантий для некоторых наиболее рискованных военных применений ИИ, в том числе в контексте внутренней слежки, автономных систем вооружений и других видов высокорискового использования, которые напрямую влияют на национальную безопасность США.

Ознакомьтесь с принципами здесь⁠(открывается в новом окне).