США продвигают безопасность ИИ через действия штатов и федерального правительства

Автор: Крис Лехейн, директор направления «Глобальные отношения»

От столиц штатов по всей стране до Вашингтона и международных саммитов — сегодня формируются серьезные подходы к регулированию передовых ИИ-систем. Совместными усилиями они продвигают демократическое видение будущего искусственного интеллекта.

Калифорния, Нью-Йорк и, совсем недавно, Иллинойс продвинули законодательство о безопасности передовых моделей, которое помогает стране двигаться к общей базовой основе управления самыми мощными системами ИИ.

Эти усилия отражают набирающую силу идею, которую OpenAI называет обратным федерализмом: штаты помогают задавать общее направление через единую рамочную систему. По мере того как работа под руководством штатов сближается с усилиями на федеральном уровне, начинает формироваться национальный стандарт, закладывающий основу для глобальной системы ИИ под лидерством США. Мы считаем, что лучший способ обеспечить пользу ИИ для многих, а не только для избранных, — чтобы ключевые решения, начиная с безопасности передовых моделей, принимались демократическими правительствами, а не исключительно лабораториями передового ИИ.

В конечном счете Соединенным Штатам лучше всего служила бы национальная рамочная система, основанная на этом принципе. Но пока ее нет, штаты могут приблизить нас к этому, принимая законы, которые отражают друг друга. Шаг за шагом они могут создать национальный стандарт де-факто.

И если приоритетом является безопасность, такой национальный стандарт — лучший политический подход, позволяющий (a) сохранить лидерство США в инновациях и не допустить, чтобы его подорвало лоскутное регулирование, которое замедлило бы создание глобального демократического стека ИИ, ориентированного на то, чтобы у защитников были инструменты, необходимые для противодействия злоумышленникам, стремящимся использовать ИИ во вред в таких областях, как кибербезопасность; и (b) поставить США в наиболее выгодную позицию, позволяющую взять национальный стандарт за основу для создания глобального подхода к безопасному развертыванию ИИ, опирающегося на демократические ценности. Если мы хотим создать систему безопасности, которая действительно сделает приоритетом внедрение национального и международного стандартов — а именно это лучше всего поддержит безопасное развертывание ИИ, — потребуются упорная работа, серьезность намерений и стратегия, связывающая штаты, федеральное правительство и международный диалог. Показной подход или популизм здесь не сработают: хаос на уровне штатов не отвечает интересам создания надежной системы безопасности, он лишь приведет к еще большему хаосу.

Чтобы этот подход был успешным, штаты должны продолжать согласовывать ключевые элементы, как это сделали Калифорния, Нью-Йорк и Иллинойс. В целом эти элементы таковы:

• Документированная система безопасности с оценками рисков для передовых моделей, а также публичное раскрытие этих оценок и их результатов.
• Сообщение о серьезных инцидентах в сфере безопасности.
• Управление и подотчетность через независимые объективные аудиты.

В совокупности эти три штата внедрили систему демократического контроля над развертыванием передовых ИИ-систем. Калифорния заложила основу для раскрытия информации. Нью-Йорк показал, что этот подход может быть перенят другими юрисдикциями. Иллинойс дополнил его, потребовав независимой верификации ключевых раскрываемых сведений.

Мы понимаем, что законодательство часто включает дополнительные положения, необходимые для получения голосов при принятии. Но мы считаем, что именно эти элементы необходимы для создания фактического единого национального стандарта через обратный федерализм. Без такой дисциплины мы рискуем столкнуться с размыванием целей регулирования и лоскутным одеялом из законов штатов, которые сложно применять регуляторам, трудно понимать потребителям и которые отвлекают ресурсы разработчиков — особенно в стартапах и малых компаниях, — хотя их лучше было бы направить на безопасность. В частности, как показали последние недели, по мере того как модели ИИ становятся все более мощными, нам нужна согласованная система, которая позволит оперативно обеспечивать доступ к этим инструментам для правительства, критической инфраструктуры, союзников и доверенных партнеров.

Политикам также следует остерегаться размывания зон ответственности. От штатов не следует требовать управления значительными рисками национальной безопасности (или фактического принятия решений в этой сфере от имени всей страны), а также проведения узкоспециализированных технических экспертиз, с которыми лучше справятся федеральные эксперты, имеющие ресурсы, опыт, доступ к засекреченным системам и возможность тесно сотрудничать с нашими командами.

На федеральном уровне администрация Трампа продолжает работать с техническими экспертами и специалистами по национальной безопасности над рамочной системой для тестирования правительством США самых мощных моделей ИИ в сфере кибербезопасности. Эта система определит стандарты, сроки и процедуры тестирования. OpenAI ведет конструктивные обсуждения с администрацией, компаниями отрасли, деловыми объединениями и другими заинтересованными сторонами, которые помогают формировать эту инициативу.

Текущая работа над кибероценками наглядно показывает, почему так важна согласованность действий. На сегодняшний день модели тестируются еще до того, как федеральная нормативная база полностью сформирована, что вполне объяснимо. По мере того как лаборатории проходят этот процесс, стал очевиден один ключевой вывод: нам необходим последовательный и воспроизводимый подход как на уровне штатов, так и на федеральном уровне. Это критически важно, если мы хотим, чтобы самые передовые модели были доступны правительству, защитникам критической инфраструктуры, союзникам и другим доверенным партнерам. Мы ценим стремление Администрации внедрить эту структуру к началу августа.

Федеральная система тестирования поможет обеспечить доступ к передовым инструментам ИИ для правительства, защитников критической инфраструктуры, союзников и других доверенным партнеров. Тем самым она укрепит демократические институты и поможет создать демократический технологический стек ИИ под эгидой США. Сейчас самое время использовать инновационное лидерство Америки в поддержку демократического ИИ.

Ни неопределенный федеральный процесс, ни разрозненный набор законов штатов не создадут целостного режима безопасности передовых ИИ-систем. Нам нужен подход, при котором лучшие специалисты оценивают самые мощные модели, а доверенные защитники получают доступ к этим инструментам достаточно быстро, чтобы опережать злоумышленников.

Конгресс также продвигается вперед. Законодатели в обеих палатах и от обеих партий — в том числе совсем недавно члены Палаты представителей Джей Обернолт и Лори Трахан — обратили внимание на инициативы в штатах и в органах исполнительной власти и предложили проекты федеральной нормативной базы. Ни один законопроект, имеющий реальные шансы на принятие, не будет идеальным. Но мы считаем эту работу продуктивным шагом вперед и полагаем, что многие её положения продуманы и заслуживают поддержки.

Нас также обнадеживает, что лидеры Сената и Палаты представителей прилагают серьезные усилия к разработке предложений по национальному управлению и безопасности передовых моделей; со многими из них у нас состоялись конструктивные беседы. Учитывая масштаб и влияние штатов, которые уже приняли законы сходной направленности, включение этих подходов в федеральное законодательство должно упростить создание единого национального режима безопасности передовых моделей.

План OpenAI по безопасности передовых моделей описывает элементы этой системы, которые мы считаем ключевыми.

Во-первых, федеральное правительство должно возглавлять тестирование и оценку самых передовых систем. Передовой ИИ связан с вопросами национальной безопасности и общественной безопасности, требующие технической экспертизы, ресурсов и доступа, которые ни один штат не может полностью воспроизвести.

Эта работа должна укрепить Центр стандартов и инноваций в области ИИ (CAISI), созданный при президенте Байдене и усиленный при президенте Трампе. CAISI может обеспечить надежные институциональные возможности на федеральном уровне, необходимые для оценки передовых моделей, и сместить фокус безопасности передовых ИИ-систем на предотвращение ущерба еще до его возникновения, вместо того чтобы полагаться преимущественно на привлечение к ответственности постфактум. При разработке любого федерального законодательства необходимо тщательно продумать, как CAISI должен взаимодействовать с другими государственными органами и какую центральную роль он должен играть в процессе тестирования.

Во-вторых, компании, разрабатывающие самые мощные системы, должны выполнять четкие требования, включая независимые аудиты, сообщение об инцидентах, строгие стандарты безопасности и защиту информаторов.

В-третьих, усилия на федеральном уровне и на уровне штатов должны дополнять друг друга. Законы штатов не будут абсолютно идентичными, и мы рассчитываем на сотрудничество с законодателями по всей стране, чтобы гарантировать, что эти меры повышают безопасность и одновременно максимизируют экономические выгоды от внедрения ИИ.

Штаты также должны продолжать выступать в роли «лабораторий демократии» в сферах, не связанных с безопасностью передовых ИИ-систем. Сюда относятся защита молодежи, политика в области энергетики и экологии, а также обучение основам ИИ и повышение цифровой грамотности.

Федеральная нормативная база остается необходимой. Передовые ИИ-системы поднимают вопросы национальной безопасности, экономической конкурентоспособности и общественной безопасности, которые в конечном счете требуют общенациональных стандартов, государственных ресурсов и федеральных институтов для поддержки демократического ИИ.

Национальное законодательство также критически важно для международной нормативной базы в сфере стандартов ИИ под эгидой США. Эта идея обсуждалась несколько недель назад на встрече G7 совместно с Бразилией, Египтом, Индией, Кенией и Кореей, где генеральные директора ведущих лабораторий-разработчиков передовых ИИ-систем говорили о необходимости такого регулирования. После этой встречи генеральный директор OpenAI Сэм Альтман предложил в Financial Times⁠(открывается в новом окне) «международный форум под эгидой США, который устанавливает признанные стандарты, предоставляет экспертный и беспристрастный анализ возможностей и рисков и делает технологию доступной для стран и компаний, которые участвуют в нем и соблюдают правила». На этой неделе генеральный директор Google DeepMind Демис Хассабис также изложил содержательные идеи в своем новом докладе. Федеральное законодательство — обязательно двухпартийное — создало бы прочную основу для этих международных усилий.

Сейчас этот импульс заметен на каждом уровне. Штаты формируют общие подходы. Конгресс и исполнительная власть движутся к созданию общенациональной нормативной базы. А мировые лидеры начинают обсуждать международные стандарты. Если каждый уровень будет опираться на другой, США смогут обеспечить лидерство при создании глобальной нормативной базы, основанной на демократическом видении ИИ. И именно такой подход по координации усилий на основе демократических ценностей по-настоящему ставит безопасность на первое место.