Соглашение с Военным министерством США

Вчера мы достигли соглашения с Пентагоном о развертывании передовых систем ИИ в закрытых средах, а также призвали распространить те же условия на все компании в сфере ИИ.

Мы убеждены, что наше соглашение предусматривает больше защитных механизмов, чем любые предыдущие договорённости о развёртывании ИИ в закрытых средах, включая соглашение с Anthropic. Вот почему.

В основе нашей работы с Военным министерством США (Department of War, DoW) — три основные «красные линии», которых также придерживаются другие ведущие лаборатории в сфере ИИ:

• Запрет на использование технологий OpenAI для массовой внутренней слежки.
• Запрет на использование технологий OpenAI для управления автономными системами вооружения. 
• Запрет на использование технологий OpenAI для автоматического принятия критически важных решений (например, в системах социального рейтинга).

Другие ИИ-лаборатории ослабили или вовсе убрали свои ограничения. При развертывании систем в сфере национальной безопасности они полагаются в основном на существующие правила использования как на главный способ защиты. Мы считаем, что наш подход лучше защищает от неприемлемого использования технологий.

В рамках соглашения соблюдение наших критических ограничений обеспечивается за счет расширенного многослойного подхода к безопасности. Мы сохраняем за собой полный контроль над нашим стеком безопасности: развертывание происходит через облако, в процесс вовлечены проверенные сотрудники OpenAI, а наши интересы защищены строгими контрактными обязательствами. Это всё в дополнение к уже существующим надежным мерам защиты, предусмотренным законодательством США. 

Мы твердо верим в демократию. Учитывая значимость этих технологий, мы убеждены, что единственный верный путь вперед лежит через глубокое взаимодействие между разработчиками в сфере ИИ и демократическими институтами. Мы также понимаем, что наши технологии создают новые глобальные вызовы, и хотим, чтобы у защитников Соединенных Штатов были в распоряжении лучшие инструменты.

Соглашение включает:

1. Архитектура развертывания. Это исключительно облачное решение, в котором мы применяем собственный комплекс мер безопасности, основанный на вышеупомянутых и иных принципах. Мы не предоставляем Военному министерству США модели без защитных механизмов или модели, не прошедшие обучение по стандартам безопасности. Кроме того, мы не размещаем наши модели на периферийных устройствах, что исключает возможность их использования в автономном летальном оружии. 

Наша архитектура развертывания позволит нам независимо проверять соблюдение «красных линий», включая запуск и обновление классификаторов.

2. Контракт. Вот некоторые из его положений:

Военное министерство США может использовать систему ИИ для любых законных целей в соответствии с применимым законодательством, оперативными требованиями и устоявшимися протоколами безопасности и надзора. Система ИИ не будет использоваться для самостоятельного управления автономным оружием в тех случаях, когда закон, нормативные акты или политика Министерства требуют контроля со стороны человека; она также не будет использоваться для принятия иных критических решений, требующих утверждения человеком, в рамках тех же полномочий. В соответствии с директивой Военного министерства США 3000.09 (от 25 января 2023 г.), любое использование ИИ в автономных и полуавтономных системах должно проходить строгую верификацию, валидацию и испытания, чтобы обеспечить их работу в соответствии с назначением в реалистичных условиях перед развертыванием.

При осуществлении разведывательной деятельности любая обработка частной информации будет осуществляться в соответствии с Четвертой поправкой к Конституции США, Законом о национальной безопасности 1947 года (National Security Act of 1947), Законом о наблюдении за иностранной разведкой 1978 года (Foreign Intelligence Surveillance Act, FISA), Указом президента № 12333 (Executive Order 12333), а также применимыми директивами Военного министерства США, требующими наличия чётко определённой цели внешней разведки. В соответствии с указанными правовыми нормами система ИИ не должна использоваться для неограниченного мониторинга частной информации граждан США. Система также не должна использоваться для правоохранительной деятельности внутри страны, за исключением случаев, разрешённых Законом Posse Comitatus и другим применимым законодательством.

3. Привлечение экспертов по ИИ. Проверенные инженеры OpenAI будут работать непосредственно на объектах правительства, а специалисты по безопасности и согласованности с соответствующими допусками обеспечат непрерывный контроль. 

Почему вы это делаете? 

Во-первых, мы считаем, что вооруженным силам США абсолютно необходимы мощные модели ИИ для поддержки их миссии, особенно в условиях растущих угроз со стороны потенциальных противников, которые все активнее интегрируют технологии ИИ в свои системы. Мы не спешили заключать контракт на работу в секретной среде, так как считали наши системы и механизмы защиты недостаточно готовыми. Мы проделали большую работу, чтобы гарантировать: развертывание в закрытом контуре будет сопровождаться мерами безопасности, исключающими пересечение «красных линий». 

Мы не хотели — и по-прежнему не хотим — убирать ключевые технические защитные механизмы ради повышения производительности при работе, связанной с национальной безопасностью. Это неправильный подход к поддержке вооруженных сил США. 

Во-вторых, мы также хотели снизить напряженность между Военным министерством США и американскими лабораториями ИИ. Благополучное будущее потребует реального и глубокого сотрудничества между правительством и лабораториями ИИ. В рамках данной договоренности мы попросили предоставить аналогичные условия всем ИИ-лабораториям и, в частности, призвали правительство урегулировать вопросы с Anthropic. Текущее положение дел — крайне неудачный способ начинать новый этап сотрудничества между государством и разработчиками ИИ.

Почему вам удалось достичь соглашения, а Anthropic — нет? Вы подписали условия, которые они отказались подписывать?

Исходя из того, что нам известно, мы считаем, что наш контракт предоставляет более надежные гарантии и более ответственные меры защиты, чем предыдущие соглашения, включая первоначальный контракт с Anthropic. Мы считаем, что в данном случае наши «красные линии» легче контролировать, так как развертывание ограничено исключительно облаком (без доступа на периферийные устройства). Это позволяет нашему стеку безопасности работать максимально эффективно и гарантирует участие проверенных сотрудников OpenAI в процессе контроля.

Мы не знаем, почему Anthropic не удалось достичь этого соглашения, и надеемся, что они и другие лаборатории также рассмотрят этот вариант.

Считаете ли вы, что Anthropic должна быть признана «угрозой цепочке поставок»?

Нет, и мы ясно обозначили нашу позицию по этому вопросу правительству.

Позволит ли эта сделка Военному министерству США использовать модели OpenAI для создания автономного оружия? 

Нет. Учитывая наш стек безопасности, исключительно облачное развертывание, текст контракта, а также действующие законы, нормативные акты и государственную политику, мы уверены, что это исключено. Мы также привлечем к этому процессу сотрудников OpenAI для дополнительного контроля.  

Позволит ли эта сделка Военному министерству США использовать модели OpenAI для массовой слежки за гражданами США?

Нет. Учитывая нашу систему безопасности, текст контракта и действующие законы, которые строго ограничивают Военное министерство США в вопросах слежки внутри страны, мы уверены, что это исключено. Кроме того, для дополнительной уверенности в процесс будут вовлечены сотрудники OpenAI.  

Придется ли вам развертывать модели без системы безопасности?

Нет, мы сохраняем полный контроль над развертываемым стеком безопасности и не будем проводить внедрение без защитных фильтров. Кроме того, наши исследователи в области безопасности и согласованности будут следить за процессом и со временем помогут улучшать системы. Мы знаем, что другие ИИ-лаборатории ослабили защитные фильтры моделей и полагаются в основном на типовые правила использования, но мы считаем, что наш многоуровневый подход лучше защищает от недопустимой эксплуатации.

Что произойдет, если правительство нарушит условия соглашения?

Мы можем расторгнуть это соглашение, как и любое другое, если контрагент нарушит условия. Мы не ожидаем, что это произойдет.

Что, если правительство просто изменит закон или действующие политики Военного министерства США?

В нашем контракте содержатся прямые ссылки на действующие законы и нормы в области слежки и автономного оружия. Это гарантирует, что даже в случае их изменения в будущем, использование наших систем должно будет по-прежнему соответствовать текущим стандартам, зафиксированным в соглашении. 

Как вы отвечаете на аргументы, которые Anthropic привела в своем блоге⁠(открывается в новом окне) о дискуссии с Военным министерством США?

В своей публикации Anthropic указывает две свои «красные линии» (у нас те же две, плюс третья: запрет на автоматизированное принятие критических решений) и объясняет, почему они не верят, что соблюдение этих линий было бы гарантировано в тех контрактах, которые Военное министерство США предлагало на тот момент. Ниже приведены причины, по которым мы считаем, что эти же «красные линии» будут действовать и в нашем соглашении:

• Массовая внутренняя слежка. В ходе нашего взаимодействия стало очевидно, что Военное министерство США считает массовую внутреннюю слежку незаконной и не планирует использовать ИИ для этой цели. Мы прямо указали в нашем соглашении, что это не подпадает под правомерное использование.
• Полностью автономное оружие. Облачная модель развертывания, закрепленная в нашем контракте, не позволит обеспечивать работу полностью автономного оружия, так как для этого потребовалось бы размещение системы на самих устройствах. 

В дополнение к этим мерам наш контракт предусматривает дополнительные многоуровневые защитные механизмы, включая нашу систему безопасности и участие технических экспертов OpenAI.