США просувають безпеку ШІ через дії штатів і федерального уряду

Автор: Кріс Легейн, директор із глобальних питань

Від столиць штатів по всій країні до Вашингтона й міжнародних форумів формуються серйозні підходи до врядування передовим ШІ. Разом вони просувають демократичне бачення ШІ.

Каліфорнія, Нью-Йорк, а нещодавно й Іллінойс просунули законодавство про безпеку передового ШІ, яке допомагає країні рухатися до спільної базової основи для врядування найпотужнішими системами ШІ.

Ці зусилля відображають динаміку навколо того, що OpenAI називає зворотним федералізмом: штати допомагають визначити спільний напрям через єдину систему. Оскільки робота на рівні штатів збігається із зусиллями на федеральному рівні, починає формуватися національний стандарт, що закладає основу для глобальної системи ШІ під проводом США. Ми вважаємо, що найкращий спосіб забезпечити користь ШІ для багатьох — це ухвалювати критично важливі рішення, починаючи з безпеки передового ШІ, демократичними урядами, а не лише лабораторіями передового ШІ.

В ідеалі Сполученим Штатам найкраще слугувала б національна система, заснована на цьому принципі. Але за її відсутності штати можуть наблизити нас до неї, ухвалюючи закони, що віддзеркалюють один одного. Крок за кроком вони можуть створити фактичний національний стандарт.

І якщо безпека є пріоритетом, такий національний стандарт — найкращий політичний підхід, щоб забезпечити: (a) збереження інноваційного лідерства США, яке не підриватиме клаптикова система регулювання, що сповільнила б розбудову глобального демократичного стеку ШІ, орієнтованого на те, щоб добросовісні сили мали потрібні інструменти для захисту від зловмисників, які прагнуть неправомірно використовувати ШІ в таких сферах, як кібербезпека; і (b) найсильніші позиції США для перетворення національного стандарту на глобальний підхід до безпечного розгортання ШІ, побудований на демократичних цінностях. Якщо ми хочемо створити структуру безпеки, яка справді надаватиме пріоритет запровадженню національного й міжнародного стандарту — а саме це найкраще підтримає безпечне розгортання ШІ, — потрібні наполеглива праця, серйозність намірів і стратегія, що поєднує штати, федеральний уряд та міжнародну дискусію. Показовий підхід або демонстрація чеснот тут не спрацюють: хаос на рівні штатів не відповідає інтересам сталого підходу до безпеки й лише призведе до ще більшого хаосу.

Щоб цей підхід був успішним, штати мають і надалі узгоджувати ключові елементи, як це зробили Каліфорнія, Нью-Йорк та Іллінойс. Загалом ці елементи такі:

• Задокументована система безпеки з оцінками ризиків для передових моделей і публічним розкриттям цих оцінок та їхніх результатів.
• Повідомлення про серйозні інциденти безпеки.
• Врядування та підзвітність через незалежні об’єктивні аудити.

Разом ці три штати вбудували демократичний нагляд у розгортання передового ШІ. Каліфорнія створила базову систему розкриття інформації. Нью-Йорк показав, що цей підхід можна запроваджувати в різних юрисдикціях. Іллінойс доповнив його вимогою незалежної перевірки ключових розкриттів інформації.

Ми розуміємо, що законодавство часто містить додаткові положення, потрібні для здобуття голосів за його ухвалення. Але ми вважаємо, що саме ці елементи необхідні для створення фактичного національного стандарту через зворотний федералізм. Без такої дисципліни ми ризикуємо розмиванням політики й клаптиковою системою законів штатів, яку регуляторам складно забезпечувати, споживачам — важко розуміти, а ресурси розробників, особливо стартапів і малих компаній, відволікаються від безпеки, куди їх було б краще спрямувати. Зокрема, як показали останні кілька тижнів, у міру того як моделі ШІ стають дедалі потужнішими, нам потрібна узгоджена система, яка дасть змогу передати інструменти в руки уряду, критичної інфраструктури, союзників і довірених партнерів.

Політики також мають запобігати розширенню мандата. Не слід вимагати від штатів управляти значними ризиками національної безпеки (або фактично ухвалювати рішення з національної безпеки від імені всієї країни) чи проводити високотехнічні перевірки, які краще здійснювати федеральним експертам, що мають ресурси, фаховість, доступ до засекречених систем і здатність тісно працювати з нашими командами.

На федеральному рівні адміністрація Трампа продовжує працювати з технічними експертами та фахівцями з національної безпеки над системним підходом до урядового тестування найпотужніших моделей ШІ у сфері кібербезпеки. Ця система визначить стандарти, строки й процеси тестування. OpenAI веде конструктивні обговорення з адміністрацією, компаніями галузі, бізнес-об’єднаннями та іншими зацікавленими сторонами, які допомагають формувати ці зусилля.

Поточна робота над оцінюванням у сфері кібербезпеки показує, чому послідовність має значення. Сьогодні, і це зрозуміло, моделі тестують ще до завершення федеральної структури. Працюючи над цим процесом, лабораторії дійшли чіткого висновку: нам потрібен послідовний і відтворюваний підхід як на рівні штатів, так і на федеральному рівні. Це необхідно, якщо ми хочемо, щоб найпотужніші моделі були в руках уряду, захисників критичної інфраструктури, союзників та інших довірених партнерів. Ми підтримуємо мету адміністрації запровадити цю структуру до початку серпня.

Федеральна система тестування допоможе передати передові інструменти ШІ уряду, захисникам критичної інфраструктури, союзникам та іншим довіреним партнерам. Завдяки цьому вона зміцнить демократичні інституції та допоможе побудувати очолюваний США демократичний стек ШІ. Настав час використати інноваційне лідерство Америки на підтримку демократичного ШІ.

Ані невизначений федеральний процес, ані клаптикова система законів штатів не створять узгодженого режиму безпеки передового ШІ. Нам потрібен підхід, за якого найкращі тестувальники оцінюють найпотужніші моделі, а довірені захисники отримують доступ до цих інструментів достатньо швидко, щоб випереджати зловмисників.

Конгрес також рухається вперед. Законодавці в обох палатах і з обох партій, зокрема нещодавно представники Джей Обернолт і Лорі Траган, звернули увагу на події у штатах та виконавчій владі й запропонували власні проєкти федеральної структури. Жоден проєкт для обговорення, який має реалістичний шлях до ухвалення, не буде ідеальним. Але ми розглядаємо цю роботу як продуктивний крок уперед і вважаємо, що багато її положень є продуманими та заслуговують на підтримку.

Нас також надихає те, що лідери Сенату й Палати представників докладають серйозних зусиль до пропозицій щодо національного врядування та безпеки передового ШІ, і ми провели конструктивні розмови з багатьма з них. З огляду на розмір і вплив штатів, які вже ухвалили закони зі схожим напрямом, включення цих підходів до федерального законодавства має полегшити створення єдиного національного режиму безпеки передового ШІ.

План OpenAI щодо безпеки передового ШІ окреслює те, що ми вважаємо ключовими елементами цієї системи.

По-перше, федеральний уряд має очолити тестування й оцінювання найбільш передових систем. Передовий ШІ порушує питання національної безпеки та громадської безпеки, що потребують технічної експертизи, ресурсів і доступу, які жоден штат не може повністю відтворити.

Ця робота має посилити Центр стандартів та інновацій у сфері ШІ (CAISI), створений за президента Байдена й зміцнений за президента Трампа. CAISI може забезпечити сталий федеральний потенціал, потрібний для оцінювання передових моделей і для зміщення безпеки передового ШІ в бік запобігання шкоді до її виникнення, а не переважної опори на відповідальність постфактум. Будь-яке федеральне законодавство має ретельно визначити, як CAISI має взаємодіяти з рештою уряду і яку роль він має відігравати в центрі тестування.

По-друге, компанії, що розробляють найпотужніші системи, мають відповідати чітким вимогам, зокрема щодо незалежних аудитів, повідомлення про інциденти, сильних стандартів безпеки та захисту викривачів.

По-третє, федеральні зусилля та зусилля штатів мають взаємно підсилювати одне одного. Закони штатів не будуть цілком однаковими, і ми сподіваємося працювати з політиками по всій країні, щоб вони зміцнювали безпеку й водночас максимально розкривали економічні переваги ШІ.

Штати також мають і надалі бути лабораторіями демократії в сферах поза безпекою передового ШІ, зокрема в захисті молоді, електроенергетичній та екологічній політиці, а також освіті й грамотності у сфері ШІ.

Федеральна система залишається необхідною. Передовий ШІ порушує питання національної безпеки, економічної конкурентоспроможності та громадської безпеки, які зрештою потребують національних стандартів, національних спроможностей і національних інституцій для підтримки демократичного ШІ.

Національне законодавство також критично важливе для міжнародної системи стандартів ШІ під проводом США. Цю ідею кілька тижнів тому обговорювали на G7 разом із Бразилією, Єгиптом, Індією, Кенією та Кореєю, де генеральні директори провідних лабораторій передового ШІ говорили про потребу в такій системі. Після цієї зустрічі генеральний директор OpenAI Сем Альтман запропонував у Financial Times⁠(відкривається у новому вікні) «міжнародний форум під проводом США, який установлює прийняті стандарти, надає експертний і неупереджений аналіз можливостей та ризиків і робить технологію доступною для країн і компаній, що беруть участь і дотримуються правил». Цього тижня генеральний директор Google DeepMind Деміс Хассабіс також представив продумані ідеї в новій статті. Федеральне законодавство — обов’язково двопартійне — створило б міцну основу для цих міжнародних зусиль.

Тепер ця динаміка помітна на кожному рівні. Штати формують спільні підходи. Конгрес і виконавча влада рухаються до національної системи. А світові лідери починають обговорювати міжнародні стандарти. Якщо кожен із цих рівнів спиратиметься на інші, США зможуть очолити розроблення глобальної системи, заснованої на демократичному баченні ШІ. І саме такий підхід демократичного узгодження щодо ШІ справді ставить безпеку на перше місце.