Вікно можливостей для формування політики у сфері ШІ відкрите. Нам потрібно діяти.

Ми вступили в новий етап розвитку можливостей ШІ, і це вимагає нового етапу в політиці у сфері ШІ. Жодна компанія, галузь чи держава не здатна впоратися з цим викликом самотужки. У цей момент нам потрібно віддавати перевагу реальним і значущим діям, а не прагненню до ідеальної політики.

Ось що ми робимо:

1. Наполягаємо на обов'язкових загальнонаціональних вимогах щодо безпеки ШІ. Ми хочемо співпрацювати з Конгресом над обов'язковим загальнонаціональним регулюванням безпеки ШІ з урахуванням можливостей моделей.

2. Підтримуємо динаміку у штатах. Поки Конгрес не вжив відповідних заходів, ми й надалі підтримуватимемо законодавчі ініціативи штатів, які зміцнюють ширшу систему безпеки ШІ. Сьогодні ми оголошуємо про підтримку чотирьох законопроєктів Каліфорнії: SB 813 щодо загальної інфраструктури для незалежних оцінювань безпеки, AB 1405 щодо стандартів для аудиторів ШІ, SB 1119 щодо захисту молоді та AB 1864 щодо заходів захисту від біологічних загроз із використанням ШІ.

3. Розвиваємо галузеві стандарти. Ми співпрацюватимемо з іншими лабораторіями, що розробляють передовий ШІ, над розвитком стандартів для передового ШІ, уже зараз формуючи добровільну ініціативу незалежно від того, чи матиме вона підтримку держави.

4. Формуємо глобальні стандарти. Ми виступатимемо за сумісні міжнародні підходи до оцінювання можливостей, управління ризиками, збереження контролю з боку людини та визначення того, коли й у який спосіб слід уповільнювати або зупиняти розробку, навіть якщо це означатиме повільніше розширення можливостей моделей.

Наш головний науковець Якуб Пахоцький нещодавно написав⁠, що стрімке зростання машинного інтелекту, включно з потенціалом рекурсивного самовдосконалення, вимагає «надзвичайної обережності». OpenAI продовжуватиме шукати технічні рішення для узгодженості й моніторингу, розбудовувати захисні системи та за потреби сповільнювати розробку. Однак самої лише технічної роботи всередині окремих лабораторій буде недостатньо. Нам також потрібні спільні стандарти — зокрема щодо того, коли розробку слід сповільнювати чи зупиняти.

На кону надзвичайно багато. Передовий ШІ може прискорити розробку нових лікарських засобів⁠, зміцнити критичну інфраструктуру⁠, розширити економічні можливості⁠ та допомогти розв'язати наукові проблеми⁠, над якими людство працює вже не одне покоління. Однак можливості, завдяки яким моделі стають кориснішими, також несуть ризики, і вони не залишаться зосередженими лише в кількох лабораторіях, що працюють із передовими моделями. Моделі, які розробляють у різних країнах світу, зокрема відкриті моделі, дедалі більше наближатимуться за можливостями до сучасних передових моделей і ставатимуть широко доступними.

Можливості Astra, перші свідчення прискорення досліджень завдяки ШІ та есе Якуба вказують на одне: ШІ стрімко розвивається, і політика має розвиватися разом із ним.

Грег Брокман описав «вікно можливостей для захисників»⁠(відкривається у новому вікні) як обмежений період, протягом якого передовий ШІ може допомогти фахівцям із захисту зміцнити критично важливі системи, перш ніж потужні можливості для атак стануть широко доступними. Перед політиками постає схожа ситуація: вікно можливостей для створення надійних і довготривалих заходів безпеки поступово закривається, адже можливості ШІ можуть випередити розвиток інституцій, відповідальних за його регулювання.

У міру розширення можливостей ШІ саме впевненість у його безпеці дедалі більше має визначати темп прогресу. Безпека не перешкоджає прогресу. Саме вона дає змогу рухатися далі й приносити користь більшій кількості людей.

Ми посилили моніторинг, узгодження та заходи безпеки на всіх етапах життєвого циклу розробки моделей, зокрема посилили ізоляцію дослідницьких робочих навантажень, пов'язаних із передовими моделями, розширили моніторинг поведінки моделей під час навчання та оцінювання з використанням інструментів і чіткіше визначили, у яких випадках слід повідомляти про проблеми на вищому рівні. Для Astra ми також запровадили обов'язковий моніторинг повної послідовності дій, зокрема ланцюжків міркувань, а також обов'язкове оцінювання узгодженості перед ширшим внутрішнім розгортанням.

Ці заходи безпеки мають і надалі випереджати розвиток можливостей моделей. Якщо подальша розробка або розгортання створюватиме неприйнятний ризик для безпеки, ми сповільнюватимемо або зупинятимемо розробку чи розгортання систем, для яких не можемо забезпечити достатній рівень захисту, як ми вже робили раніше і як цього вимагає наша Рамкова система готовності⁠(відкривається у новому вікні).

Повністю автономного рекурсивного самовдосконалення, за якого системи ШІ самостійно забезпечують створення дедалі потужніших поколінь ШІ, сьогодні ще не відбувається. Ми не повинні прагнути до нього, доки не зможемо забезпечити його безпечність.

Однак ШІ вже прискорює окремі напрями досліджень, необхідних для розробки та узгодження наступного покоління моделей. Наше останнє дослідження⁠ показує, що агенти ШІ здатні виконувати деякі завдання, на які кваліфікованим дослідникам знадобилося б кілька днів. Це ще не рекурсивне самовдосконалення, але воно свідчить про напрям подальшого розвитку.

Це прискорення також можна й необхідно спрямовувати на підвищення безпеки. Наша мета полягає в тому, щоб безпечно створювати автоматизованих ШІ-дослідників, які працюватимуть під наглядом людини та сприятимуть розвитку як глибинного навчання, так і узгодження, використовуючи кожне покоління ШІ, щоб зробити наступне безпечнішим, краще узгодженим і легшим для контролю, а не просто потужнішим.

Уряди мають виробити спільні підходи до оцінювання цього прогресу, збереження дієвого контролю з боку людини та встановлення спільних порогових вимог до безпеки, які визначатимуть, коли й у який спосіб слід уповільнювати або зупиняти розробку. Якщо дотриматися певних порогових вимог до безпеки неможливо без уповільнення зростання можливостей моделей, пріоритет слід віддавати безпеці. Що потужнішою стає технологія, то надійнішими мають бути захисні заходи щодо неї.

Перспектива прискорення розробки ШІ за допомогою самого ШІ вимагає більшого, ніж добровільні зобов'язання. Сполученим Штатам потрібне обов'язкове загальнонаціональне регулювання з урахуванням можливостей моделей, яке розвиватиметься разом із технологіями.

Наш документ Blueprint for Democratic Governance of Frontier AI⁠ визначає шлях до сталої федеральної системи: спільні вимоги до тестування та незалежного оцінювання, посилений кіберзахист, чіткі правила звітування про інциденти, вищий рівень готовності країни та спільні показники для відстеження прогресу на шляху до рекурсивного самовдосконалення.

У Конгресі вже формується кілька серйозних законодавчих пропозицій щодо безпеки передового ШІ. Ми й надалі конструктивно долучатимемося до цієї роботи та розраховуємо підтримати законодавство, яке суттєво підвищить рівень безпеки. Коли на кону так багато, не можна дозволити прагненню до ідеального стати на заваді хорошому. Конгрес має діяти до завершення поточної сесії.

Загальнонаціональна система регулювання має бути дієвою, але чітко спрямованою. Вимоги щодо безпеки передового ШІ мають поширюватися на невелику кількість добре забезпечених ресурсами лабораторій, які розробляють найпотужніші системи, а не на стартапи, невеликих розробників чи дослідників, які працюють далеко від передового рівня. Обов'язки мають відповідати можливостям і ризикам.

Так само політика безпеки передового ШІ не повинна фактично перетворюватися на політику щодо моделей із відкритими вагами. Відкриті моделі можуть бути частиною рішення, особливо у сфері кібербезпеки та в тих випадках, коли вимоги щодо суверенітету, безпеки чи зберігання даних на певній території роблять локальне розгортання кращим варіантом. Більшість із них конкурують не на рівні передових можливостей, а за вартістю, рівнем контролю та затримкою. Як ми підтвердили, підписавши лист «Open Weights and American AI Leadership» («Відкриті ваги й американське лідерство у сфері ШІ»)⁠(відкривається у новому вікні), Америці потрібні як відкриті, так і закриті моделі. Федеральна система регулювання має охоплювати можливості й ризики передового ШІ, не послаблюючи конкуренцію, не закріплюючи переваги чинних лідерів ринку й не витісняючи інновації за кордон.

Дієва система державного регулювання має зменшувати, а не посилювати концентрацію влади. Сьогодні лабораторії, що працюють із передовим ШІ, переважно самі встановлюють правила управління пов’язаними з ним ризиками. Підзвітні суспільству демократичні стандарти, незалежна перевірка та змістовна прозорість мають замінити цю розрізнену систему приватного саморегулювання.

Це має ключове значення для лідерства США. Сполучені Штати не зможуть перемогти в епоху ШІ лише завдяки технологічним можливостям. Технічна перевага мало що важитиме, якщо люди, установи та уряди не довірятимуть технології настільки, щоб упроваджувати її. Надійні заходи безпеки не означають поступок у сфері інновацій. Вони є частиною інфраструктури, необхідної для широкого впровадження технології та збереження довгострокового лідерства США.

Нам вкрай потрібні загальнонаціональні стандарти у сфері ШІ, і кожен, хто працює з передовими технологіями, розуміє, наскільки це нагально. Поки Конгрес не вжив відповідних заходів, штати мають і надалі заповнювати цю прогалину та підвищувати стандарти.

OpenAI підтримала законопроєкт SB 53 у Каліфорнії, RAISE Act у Нью-Йорку, SB 315 в Іллінойсі, а також незалежні аудити, передбачені законодавством про безпеку передового ШІ, яке наразі розглядається в Массачусетсі. Ми закликаємо штати узгоджувати свої підходи навколо цих спільних заходів безпеки. Так вони можуть сформувати фактичний загальнонаціональний базовий стандарт, який Конгрес згодом зможе закріпити законодавчо. Такий підхід ми ⁠називаємо зворотним федералізмом⁠. Водночас гармонізація не означає, що вимоги мають залишатися незмінними.

Сьогодні ми офіційно підтримуємо ще чотири законопроєкти Каліфорнії, які вже схвалив законодавчий орган штату та які передано губернатору Ньюсому. Разом вони охоплюють взаємодоповнювальні складові системи безпеки ШІ.

У разі ухвалення SB 813⁠(відкривається у новому вікні) запровадить процедуру визначення кваліфікованих незалежних організацій, здатних оцінювати ризики ШІ. Як ми зазначали в нашому ⁠(відкривається у новому вікні)плані безпеки передового ШІ⁠(відкривається у новому вікні), ми вважаємо, що вимогу щодо незалежних технічних оцінювань слід установлювати на федеральному рівні, де законодавці можуть визначити єдині стандарти щодо кваліфікації оцінювачів, безпеки та доступу до особливо чутливої інформації. Однак за відсутності дій на федеральному рівні Каліфорнія може допомогти сформувати правила для створення безпечної й дієвої загальнонаціональної системи незалежного оцінювання, яка сприятиме кращим результатам у сфері безпеки.

У разі ухвалення AB 1405⁠(відкривається у новому вікні) встановить для аудиторів ШІ вимоги щодо реєстрації, незалежності, прозорості та підзвітності.

У разі ухвалення SB 1119⁠(відкривається у новому вікні) вимагатиме перевірки віку, оцінювання ризиків, незалежних аудитів, батьківського контролю та заходів захисту дітей і підлітків, які користуються чат-ботами-компаньйонами, від шкідливого контенту. Нещодавно ми висловили підтримку⁠ цьому законопроєкту, який спирається на заходи із захисту молоді, уже впроваджені OpenAI у наших продуктах, ⁠глобальних принципах політики⁠ та через підтримку ⁠(відкривається у новому вікні)Закону про безпечний ШІ для батьків і дітей (Parents & Kids Safe AI Act)⁠(відкривається у новому вікні), а також на засоби захисту, вбудовані в ChatGPT for Teens, зокрема суворіші налаштування за замовчуванням у чутливих сферах, «Тихі години», «Години навчання» та нагадування робити перерви.

У разі ухвалення AB 1864⁠(відкривається у новому вікні) вимагатиме від постачальників послуг із синтезу генів і виробників настільного обладнання для синтезу дотримуватися федеральних стандартів перевірки, посилюючи важливий фізичний захист від біологічних загроз із використанням ШІ.

Деякі з цих законопроєктів ми раніше не підтримували, але тепер переглянули свою позицію з огляду на нещодавнє стрімке зростання можливостей, яке ми спостерігаємо.

Ці законопроєкти не замінюють федерального регулювання. Це серйозні ініціативи, які вже зараз можуть захищати людей, показати, якими мають бути дієві заходи безпеки, і надати поштовх до дій на федеральному рівні.

Самих лише законів недостатньо, щоб зробити передовий ШІ безпечним. Потрібні також конкретні практики в лабораторіях, які розробляють найпотужніші системи. Найнагальніше почати з моніторингу.

Це особливо важливо у випадках неузгодженої поведінки, коли модель досягає певної мети способами, що суперечать намірам людини або встановленим межам, причому для цього їй не обов'язково мати свідомість чи зловмисний намір. У міру того як моделі стають автономнішими, використовують потужніші інструменти й працюють протягом тривалішого часу, розробники мають бути зобов'язані відстежувати таку неузгоджену поведінку та підтверджувати наявність дієвих заходів безпеки.

Моніторинг має бути пов'язаний із чіткими вимогами щодо розкриття інформації. Як ми пропонували в Каліфорнії, компанії мають бути зобов'язані оперативно письмово повідомляти сторони, яких це стосується, якщо під час розробки або оцінювання їхні моделі без дозволу обходять засоби захисту іншої організації та отримують суттєвий доступ до захищених систем або конфіденційної інформації цієї організації, змінюють чи знищують їх. Ми також підтримуємо федеральні вимоги щодо звітування про інші серйозні інциденти, пов'язані з ШІ, і працюємо над визначенням того, які саме інциденти мають підпадати під ці вимоги та що вони мають передбачати.

Як ми повідомляли минулого тижня, OpenAI розробляє систему звітування про серйозні випадки неузгодженої поведінки та систематичного моніторингу активності передових моделей, зокрема під час внутрішнього використання. Спочатку цю роботу проводить сама компанія, але ми сподіваємося, що її результати допоможуть у формуванні ширшої федеральної політики та вимог до звітування.

Ми хочемо співпрацювати з іншими лабораторіями над галузевими стандартами. Такі стандарти мають доповнювати, а не замінювати обов'язкові федеральні заходи безпеки та демократичний нагляд. Однак ми вже вступили в новий етап розвитку можливостей ШІ, тому слід розглядати всі варіанти, зокрема те, що вже зараз можна добровільно запровадити без участі держави.

Зрештою, такі стандарти мають поширюватися й за межі державних кордонів. Моделі, дослідження та технічна експертиза поширюються по всьому світу, а збої в роботі найпотужніших систем можуть мати наслідки далеко за межами країни, у якій їх розробляють. Щоб відігравати провідну роль на міжнародному рівні, Сполучені Штати мають установити надійні стандарти у себе в країні. І ми дедалі більше переконуємося, що також будуть потрібні сумісні міжнародні стандарти.

Зараз відкрите вікно можливостей для формування політики у сфері ШІ. Ми маємо намір ним скористатися.

Це означає діяти невідкладно, зважено й бути готовими адаптуватися. Це означає підтримувати серйозні пропозиції, які суттєво підвищують рівень безпеки, навіть якщо вони не повністю відповідають тому, як ми самі побудували б цю систему. І це означає вдосконалювати підхід у міру розвитку технологій.

Жоден перший крок не буде ідеальним. Але значно більший ризик зараз — це надто довго чекати, перш ніж його зробити.