Посилення демократичного нагляду у сфері національної безпеки

ШІ змінює те, як демократичні уряди захищають своїх громадян. Він може допомагати зупиняти кібератаки, захищати критичну інфраструктуру, раніше виявляти загрози та давати державним службовцям чіткіше уявлення про ситуацію під час кризи. За належного використання ці інструменти можуть зміцнити національну безпеку.

Демократичний нагляд допомагає забезпечити підзвітність органів публічної влади людям, яким вони служать. Оскільки ШІ пришвидшує роботу у сфері національної безпеки та розширює її можливості, відповідальні за нагляд установи також мають іти в ногу з цими змінами. ШІ може швидко й масштабно діяти на основі неповного або застарілого контексту, неправильно заданих цілей чи хибних припущень, через що помилки важче виявити вручну до їх поширення. Нагляд особливо важливий під час використання ШІ у сфері національної безпеки, адже рішення можуть із необхідності бути таємними й мати серйозні наслідки.

Керуючись нашими принципами національної безпеки, ми впроваджуємо рішення для цієї сфери із запобіжними заходами, значущою участю людини в ухваленні рішень і належним наглядом, особливо коли наслідки можуть бути серйозними. Ці принципи також визначають пріоритетом допомогу наглядовим установам у розвитку спроможності контролювати швидке й масштабне використання ШІ.

Державні установи вже мають визначені повноваження та обов’язки щодо нагляду за діяльністю у сфері національної безпеки. Коли в такій діяльності використовується ШІ, підходи до нагляду можуть потребувати розвитку. Традиційний нагляд потребує значних людських ресурсів і стає майже неможливим, коли невеликі команди з методами паперової доби мають перевіряти системи, що працюють із машинною швидкістю.

OpenAI вважає, що потужніші системи потребують суворішого нагляду, і застосовує цей принцип до власної роботи. Наша рамкова система готовності передбачає ретельну перевірку передових моделей перед упровадженням, щоб зрозуміти їхні можливості й визначити, чи достатні запобіжні заходи. Після впровадження перевірка триває у формі постійного моніторингу та аналізу інцидентів, а отримані висновки допомагають удосконалювати запобіжні заходи й розробляти майбутні моделі.

OpenAI не здійснює нагляду за урядом — і не повинна цього робити. Це відповідальність обраних посадовців і створених із цією метою державних установ. Натомість ми можемо за допомогою своїх технологій підтримувати наглядові установи у виконанні їхніх чинних повноважень.

У цій роботі ми керуватимемося трьома принципами.

По-перше, ШІ має посилювати, а не замінювати людське й інституційне судження. Рішення про те, чи є дії уряду законними, належними та узгодженими з чинними правилами й політиками, мають ухвалювати уповноважені органи та законно створені наглядові установи.

По-друге, використання ШІ урядом має бути відстежуваним і зрозумілим для уповноважених наглядових органів. Фахівці, які проводять перевірку, повинні мати змогу зрозуміти внесок ШІ в ухвалення рішення, водночас захищаючи секретну, приватну та безпеково чутливу інформацію.

По-третє, ШІ слід використовувати для розширення можливостей інституцій демократичного нагляду. Ручний нагляд за використанням ШІ в уряді неможливо масштабувати. У міру впровадження ШІ у сфері національної безпеки та іншій державній роботі із серйозними наслідками наглядові органи також мають використовувати його відповідально, прозоро й відповідно до своїх повноважень.

Протягом наступного року ми плануємо розвивати цю ініціативу в таких напрямах:

• Ми співпрацюватимемо з уповноваженими посадовцями, щоб визначити практичні можливості, де інструменти ШІ або технічна підтримка можуть підвищити ефективність нагляду.

• Ми виділимо органам демократичного державного нагляду 5 мільйонів доларів на навчання й технічну підтримку, а також надамо кредити OpenAI для відповідального впровадження та оцінювання інструментів ШІ.

• Разом із наглядовими установами ми випробовуватимемо інструменти, які допоможуть уповноваженим фахівцям перевіряти матеріали щодо державних рішень, ухвалених за сприяння ШІ, зокрема відповідні вхідні й вихідні дані та використання інструментів, щоб краще розуміти вплив ШІ на результати. Де це можливо, інструменти будуть сумісними з іншими системами або не прив’язаними до конкретної моделі. Саме установи-учасниці, а не OpenAI, зберігатимуть контроль над доказами, результатами й висновками, доступ до яких матимуть лише уповноважені державні посадовці.

• Ми залучатимемо громадянське суспільство й технічних експертів, щоб їхні погляди враховувалися під час розроблення цих інструментів OpenAI та визначення підходів до пов’язаної з ними відповідальності.

ШІ може зосереджувати владу або допомагати демократичним інституціям ефективніше її здійснювати та стримувати. Самі лише технології не визначать, яке майбутнє на нас чекає, — це зробить вибір, який людські інституції та компанії здійснюють сьогодні.

Ми оцінюватимемо поступ цієї ініціативи за тим, чи краще уповноважені фахівці виконують свої обов’язки та чи має громадськість вагоміші підстави довіряти, що державні системи ШІ використовуються за призначенням.

У міру розвитку використання ШІ урядом OpenAI і надалі підтримуватиме установи, відповідальні за нагляд.