Наш підхід до партнерств з урядами та у сфері національної безпеки
Уряди починають використовувати передові системи ШІ для дедалі важливішої роботи, зокрема у сфері національної безпеки. Це створює нові нагальні потреби для лабораторій ШІ, урядів і громадянського суспільства — спільно визначати, як ці інструменти мають використовуватися в чутливих контекстах.
Ми вважаємо, що демократичні суспільства мають бути спроможні використовувати ШІ, щоб захищати людей, обороняти критичну інфраструктуру, надавати публічні послуги та реагувати на нові загрози, зокрема в таких сферах, як кібероборона й біологічна безпека, де ШІ може надати захисникам істотну перевагу. Водночас дедалі потужніші системи ШІ слід розгортати так, щоб вони посилювали демократичну підзвітність, змістовне людське судження та верховенство права, а також зміцнювали демократичні інституції, а не концентрували владу.
Сьогодні ми публікуємо Принципи OpenAI щодо національної безпеки, щоб прозоро пояснити наш підхід до партнерств з урядами та використання нашої технології в цілях національної безпеки.
Ці принципи відображають спільну роботу всієї компанії над формуванням більш комплексного підходу до нашої діяльності у сфері національної безпеки та правоохоронної роботи в міру подальшого розвитку нашої технології. Ми залучили провідного експерта з національної безпеки Девіда Кріса, щоб він допоміг організувати процес і надав незалежну оцінку; провели сесії для збору думок у всій компанії та залучили працівників із різних команд — від досліджень і безпеки до політики й урядових партнерств.
Ми публікуємо їх зараз, коли розширюємо нашу співпрацю з урядом США та союзними партнерами в критично важливих оборонних напрямах, особливо у сфері кібер- і біобезпеки. Протягом останнього місяця в межах нашої програми кіберзахисту Daybreak ми вже започаткували партнерства Trusted Access for Cyber з Австралією, Канадою, Японією, Республікою Корея, Францією, Німеччиною, Польщею, Нідерландами та установами ЄС, зокрема ENISA. Ми також маємо дедалі ширше й надійне партнерство з урядом Великої Британії у питаннях кібербезпеки, тестування та оцінювання. Ми застосовуємо схожий підхід і в біобезпеці. Минулого місяця ми також оголосили про розширення довіреного доступу до нашої моделі GPT‑Rosalind для обраних урядових і союзних партнерів США, які підтримують місії у сфері громадського здоров’я та біозахисту.
Ці принципи поширюються на наші нинішні та майбутні партнерства у сфері національної безпеки й правоохоронної діяльності, зокрема на нашу поточну співпрацю з Міністерством війни. Коли ми оголосили про нашу угоду раніше цього року, ми визначили кілька договірних обмежень: технологію OpenAI не можна використовувати для масового внутрішнього спостереження, для керування автономними системами озброєння або для ухвалення особливо відповідальних автоматизованих рішень. Ці обмеження узгоджуються з принципами, які ми сьогодні оприлюднюємо.
Ми вважаємо правильним чітко пояснювати, як нашу технологію можна й не можна використовувати, і бути щодо цього прозорими. Але на багато найважливіших питань про ШІ в урядуванні, особливо у сфері національної безпеки, слід відповідати через демократичний процес. Роль таких компаній, як наша, — надавати інформацію для таких рішень, а не ухвалювати їх самостійно. Саме тому ми підтримуємо законодавчі ініціативи зі встановлення захисних механізмів для деяких військових застосувань ШІ з найвищим рівнем ризику, зокрема в контекстах внутрішнього спостереження, автономних систем озброєння та інших високоризикових застосувань, що безпосередньо впливають на національну безпеку США.
Принципи можна прочитати тут(відкривається у новому вікні).
