Стосовно нашої угоди з Військовим міністерством

Учора ми досягли угоди з Пентагоном щодо розгортання передових систем ШІ у засекречених середовищах. Ми попросили їх також зробити це доступним для всіх компаній, що працюють із ШІ.

Ми вважаємо, що наша угода передбачає більше запобіжних обмежень, ніж будь-яка попередня угода щодо розгортання класифікованого ШІ, включно з угодою Anthropic. Ось чому.

У нас є три основні «червоні лінії», якими ми керуємося в роботі з Військовим міністерством і які загалом поділяють кілька інших передових лабораторій:

• забороняється використання технологій OpenAI для масового спостереження за громадянами;
• забороняється використання технологій OpenAI для керування автономними системами озброєння; 
• забороняється використання технологій OpenAI для автоматизованого ухвалення критичних стратегічних рішень (наприклад, у системах соціального рейтингу).

Інші лабораторії ШІ скоротили або прибрали запобіжні обмеження та при розгортанні у сфері національної безпеки в якості основних заходів безпеки покладаються переважно на політики використання. Ми вважаємо, що наш підхід краще захищає від неприйнятного застосування ШІ.

У нашій угоді ми захищаємо наші обмеження за рахунок більш широкого та багаторівневого підходу. Ми зберігаємо повну свободу розсуду щодо нашого комплексу безпеки, виконуємо розгортання через хмару, до процесу залучений допущений персонал OpenAI, і ми маємо надійні договірні гарантії. Усе це є доповненням до надійних існуючих заходів захисту, передбачених законодавством США. 

Ми твердо віримо в демократію. З огляду на важливість цієї технології, ми переконані, що єдиний правильний шлях уперед потребує глибокої співпраці між зусиллями у сфері ШІ та демократичним процесом. Ми також вважаємо, що наша технологія принесе у світ нові ризики, і ми хочемо, щоб люди, які відповідають за оборону США, були споряджені найкращими інструментами.

Що включає наша угода:

1. Архітектура розгортання. Передбачено розгортання виключно в хмарі; комплекс безпеки, який ми використовуємо, включає ці та інші принципи. Ми не надаємо Військовому міністерству моделі без захисних механізмів чи моделі, що не пройшли навчання з урахуванням заходів безпеки, а також не розгортаємо наші моделі на периферійних пристроях (де може існувати можливість їх використання для керування автономною летальною зброєю). 

Наша архітектура впровадження дозволить нам незалежно підтверджувати, що ці «червоні лінії» не перетинаються (зокрема шляхом запуску та оновлення класифікаторів).

2. Наш контракт. Нижче наведено використане нами формулювання:

Військове міністерство може використовувати систему ШІ для всіх законних цілей, відповідно до чинного законодавства, операційних вимог і усталених протоколів безпеки та нагляду. Система ШІ не використовуватиметься для самостійного керування автономною зброєю в будь-якому випадку, коли закон, нормативні акти або політика міністерства вимагають людського контролю, а також не використовуватиметься для ухвалення інших критичних стратегічних рішень, що потребують схвалення людиною, яка ухвалює рішення в межах тих самих повноважень. Відповідно до Директиви 3000.09 Міністерства оборони США (від 25 січня 2023 року), будь-яке використання ШІ в автономних та напівавтономних системах має проходити ретельну верифікацію, валідацію та тестування, аби забезпечити їхню роботу відповідно до задуму в реалістичних середовищах перед розгортанням.

Що стосується розвідувальної діяльності, будь-яка взаємодія з приватною інформацією має здійснюватися відповідно до Четвертої поправки, Закону про національну безпеку 1947 року, Закону про негласне спостереження для мети зовнішньої розвідки 1978 року, Указу 12333 та відповідних директив Міністерства оборони США, що вимагають наявності визначеної мети зовнішньої розвідки. Систему ШІ не можна використовувати для необмеженого моніторингу приватної інформації громадян США згідно з цими повноваженнями. Систему також не можна використовувати для внутрішніх правоохоронних заходів, за винятком випадків, дозволених Законом про військові загони (Posse Comitatus Act) та іншими чинними законами.

3. Залучення експертів з ШІ. На місцях будуть присутні інженери OpenAI з відповідним рівнем допуску, які допомагатимуть уряду. Також до процесу будуть залучені дослідники з безпеки та узгодженості з відповідним рівнем допуску. 

Чому ви це робите? 

По-перше, ми вважаємо, що Збройним силам США абсолютно необхідні потужні моделі ШІ для підтримки їхньої місії, особливо враховуючи зростання загроз з боку потенційних противників, які дедалі активніше інтегрують технології ШІ у свої системи. Раніше ми не укладали контракт на розгортання в умовах роботи з секретною інформацією, оскільки не вважали, що наші заходи безпеки та системи готові до цього. Ми наполегливо працювали над тим, щоб таке розгортання могло відбутися, і розробляли надійні запобіжні заходи, які гарантуватимуть, що «червоні лінії» не буде перетнуто. 

Ми не планували, і не збираємося вилучати ключові технічні захисні механізми задля підвищення продуктивності в роботі у сфері національної безпеки. Ми вважаємо це неправильним підходом до підтримки Збройних сил США. 

По-друге, ми також прагнули до деескалації відносин між Військовим міністерством та лабораторіями ШІ у США. Світле майбутнє вимагає по-справжньому глибокої співпраці між урядом і лабораторіями ШІ. У межах нашої домовленості ми просили, аби ті самі умови були доступні всім лабораторіям ШІ, зокрема аби уряд спробував урегулювати ситуацію з Anthropic; поточний стан справ — кепський спосіб розпочати цей наступний етап співпраці між урядом та лабораторіями ШІ.

Чому вам, на відміну від Anthropic, вдалося укласти цю угоду? Ви підписали таку угоду, яку вони б не підписали?

Виходячи з того, що нам відомо, ми вважаємо, що наш контракт передбачає кращі гарантії та більш відповідальні запобіжні механізми, ніж попередні угоди, зокрема оригінальний контракт Anthropic. Ми вважаємо, що дотримання наших «червоних ліній» забезпечити легше, оскільки в нашому випадку розгортання обмежене лише хмарою (не на периферії), і це підтримує роботу нашого комплексу безпеки так, як ми вважаємо найкращим, при цьому уповноважений персонал OpenAI залишається залученим.

Ми не знаємо, чому Anthropic не змогла укласти цю угоду, і сподіваємося, що вони та інші лабораторії все ж розглянуть цю можливість.

Чи вважаєте ви, що Anthropic слід визнати «загрозою для ланцюга постачання»?

Ні, і ми чітко донесли уряду нашу позицію з цього питання.

Чи дозволить ця угода Військовому міністерству використовувати моделі OpenAI для керування автономною зброєю? 

Ні. Виходячи з нашого комплексу безпеки, рішення про розгортання лише в хмарі, формулювань контракту та чинних законів, нормативних актів і політик, ми впевнені, що цього не станеться. Для додаткової гарантії також буде залучено персонал OpenAI.  

Чи дозволить ця угода Військовому міністерству використовувати моделі OpenAI для масового спостереження за громадянами США?

Ні. Виходячи з нашого комплексу безпеки, формулювань контракту та чинних законів, які суттєво обмежують Військове міністерство в аспекті спостереження за громадянами, ми впевнені, що цього не станеться. Для додаткової гарантії також буде залучено персонал OpenAI.  

Чи будете ви змушені розгортати моделі без залучення комплексу безпеки?

Ні, ми зберігаємо повний контроль над нашим комплексом безпеки, і не будемо виконувати розгортання без залучення засобів захисту. Крім того, до роботи будуть залучені наші дослідники з безпеки та узгодженості, які допомагатимуть із часом удосконалювати системи. Ми знаємо, що інші лабораторії ШІ скоротили захисні обмеження моделі та в якості основних заходів безпеки покладаються на політики використання, але ми вважаємо, що наш багаторівневий підхід краще захищає від неприйнятного застосування ШІ.

Що станеться, якщо уряд порушить умови контракту?

Як і у випадку з будь-яким іншим контрактом, ми можемо розірвати його, якщо контрагент порушуватиме умови. Ми вважаємо, що цього не станеться.

А що, як уряд просто змінить закони або чинні політики, яким підпорядковується Військове міністерство?

Наш контракт прямо посилається на закони та політики щодо спостереження й автономної зброї у тому вигляді, в якому вони існують сьогодні, щоб навіть якщо ці закони або політики зміняться в майбутньому, використання наших систем і надалі мало б залишатися узгодженим із чинними стандартами, відображеними в угоді. 

Як ви відповісте на аргументи, які Anthropic навела у своєму дописі в блозі⁠(відкривається у новому вікні) стосовно їхньої дискусії з Військовим міністерством?

У своєму дописі Anthropic зазначає дві свої «червоні лінії» (у нас наявні ті самі дві «червоні лінії», а також третя — заборона на автоматизоване ухвалення критичних стратегічних рішень) і пояснює, чому, на їхню думку, ці «червоні лінії» можуть не бути дотримані в розглянутих ними контрактах із Військовим міністерством. Нижче наведено причини, чому ми вважаємо, що в нашому випадку ці ж самі «червоні лінії» будуть дотримані:

• Масове спостереження за громадянами. Під час нашого обговорення було очевидно, що Військове міністерство вважає масове спостереження за громадянами незаконним і не планує використовувати ШІ для цієї мети. Ми подбали про те, щоб у нашому контракті було чітко зазначено, що це не підпадає під правомірне використання.
• Повністю автономна зброя. Хмарна поверхня розгортання, охоплена нашим контрактом, не дозволяє забезпечувати роботу повністю автономної зброї, оскільки для цього потрібне периферійне розгортання. 

Окрім цих засобів захисту, наш контракт передбачає додаткові багаторівневі гарантії, зокрема застосування нашого комплексу безпеки та залучення технічних експертів OpenAI.