Naše dohoda s ministerstvem obrany

Včera jsme dosáhli dohody s Pentagonem o nasazení pokročilých systémů umělé inteligence v utajovaných prostředích a požádali jsme ho, aby je zpřístupnil všem společnostem zabývajícím se umělou inteligencí.

Myslíme si, že naše dohoda má více mantinelů než kterákoli předchozí dohoda o utajovaném nasazení umělé inteligence, včetně dohody společnosti Anthropic. Tady jsou důvody.

Máme tři hlavní mantinely, kterými se řídí naše spolupráce s ministerstvem obrany a které obecně sdílí několik dalších průkopnickými laboratořemi:

• Žádné použití technologie OpenAI k hromadnému sledování v zemi.
• Žádné použití technologie OpenAI k řízení autonomních zbraňových systémů. 
• Žádné použití technologie OpenAI pro automatizovaná rozhodnutí s vysokými riziky (např. systémy, jako je „sociální kredit“).

Jiné laboratoře umělé inteligence omezily nebo odstranily své bezpečnostní mantinely a při nasazení v oblasti národní bezpečnosti se spoléhají především na zásady užívání jako na své primární mantinely. Domníváme se, že náš přístup poskytuje lepší ochranu před nepřijatelným použitím.

V naší dohodě chráníme své mantinely prostřednictvím širšího přístupu složeného z více vrstev. Nad svou bezpečnostní infrastrukturou si ponecháváme plnou kontrolu, nasazujeme ji přes cloud, pracovníci společnosti OpenAI s prověrkou s jsou informováni a máme silnou smluvní ochranu. To vše je navíc k silným stávajícím ochranným opatřením v zákonech USA. 

Pevně věříme v demokracii. Vzhledem k významu této technologie se domníváme, že jediná dobrá cesta vpřed vyžaduje úzkou spolupráci mezi prací v oblasti umělé inteligence a demokratickým procesem. Také věříme, že naše technologie přinese do světa nová rizika, a chceme, aby lidé bránící Spojené státy měli k dispozici ty nejlepší nástroje.

Naše dohoda zahrnuje:

1. Architektura nasazení. Jedná se o nasazení pouze v cloudu s bezpečnostní infrastrukturou, kterou provozujeme my a která zahrnuje tyto a další principy. Neposkytujeme ministerstvu obrany modely s „vypnutými mantinely“ ani modely bez trénování v bezpečnosti ani své modely nenasadíme na okrajová zařízení (kde by mohla existovat možnost použití pro autonomní smrtící zbraně). 

Naše architektura nasazení nám umožní nezávisle ověřit, zda tyto mantinely nebyly překročeny, včetně spouštění a aktualizace klasifikátorů.

2. Naše smlouva. Zde jsou relevantní části:

Ministerstvo obrany může používat systém umělé inteligence pro všechny zákonné účely v souladu s platnými zákony, provozními požadavky a zavedenými bezpečnostními a dohledovými protokoly. Systém umělé inteligence nebude použit k nezávislému řízení autonomních zbraní v žádném případě, kdy zákon, nařízení nebo zásady ministerstva vyžadují lidskou kontrolu, ani nebude použit k přijímání jiných důležitých rozhodnutí, která vyžadují schválení člověkem s rozhodovací pravomocí v rámci stejných pravomocí. Podle směrnice Ministerstva obrany USA 3000.09 (ze dne 25. ledna 2023) musí jakékoli použití umělé inteligence v autonomních a poloautonomních systémech podléhat přísnému ověřování, validaci a testování, aby se zajistilo, že před nasazením budou fungovat dle plánu v realistických prostředích.

V případě zpravodajských činností bude jakékoli nakládání se soukromými údaji v souladu se čtvrtým dodatkem Ústavy, zákonem o národní bezpečnosti z roku 1947 a zákonem o zahraničním zpravodajství a sledování z roku 1978, výkonným nařízením 12333 a příslušnými směrnicemi Ministerstva obrany USA vyžadujícími definovaný účel zahraničního zpravodajství. Systém umělé inteligence nesmí být používán k neomezenému monitorování soukromých údajů osob z USA v souladu s těmito pravomocemi. Systém se rovněž nesmí používat pro vnitrostátní činnosti v oblasti vymáhání práva, s výjimkou případů povolených zákonem Posse Comitatus Act a dalšími příslušnými právními předpisy.

3. Zapojení expertů na umělou inteligenci. Budeme mít nasazené techniky OpenAI s prověrkou, kteří budou státním úřadům pomáhat, a informované výzkumníky s prověrkou. 

Proč to děláte? 

Za prvé si myslíme, že americká armáda nezbytně potřebuje silné modely umělé inteligence na podporu svého poslání, zejména tváří v tvář rostoucím hrozbám ze strany potenciálních protivníků, kteří stále více integrují technologie umělé inteligence do svých systémů. Původně jsme se do smlouvy na utajované nasazení nepouštěli, protože jsme neměli pocit, že naše mantinely a systémy jsou připravené, a usilovně pracujeme na tom, abychom zajistili, že k utajovanému nasazení může dojít se zárukami, které zajistí, že nebudou žádné mantinely překročeny. 

Nebyli jsme ochotni – a stále nejsme – odstranit klíčová technická ochranná opatření, abychom zvýšili výkon při práci v oblasti národní bezpečnosti. To není správný přístup k podpoře americké armády. 

Za druhé, chtěli jsme také zmírnění napětí mezi ministerstvem obrany a americkými laboratořemi umělé inteligence. Dobrá budoucnost bude vyžadovat skutečnou a hlubokou spolupráci mezi státem a laboratořemi umělé inteligence. V rámci dohody jsme požádali, aby všechny laboratoře umělé inteligence měly k dispozici stejné podmínky, a konkrétně aby se stát pokusil vyřešit situaci se společností Anthropic. Současný stav je velmi špatným způsobem, jak zahájit tuto další fázi spolupráce mezi státem a laboratořemi umělé inteligence.

Jak to, že jste dokázali uzavřít dohodu, když se to společnosti Anthropic nepodařilo? Podepsali jste dohodu, kterou by oni nepodepsali?

Na základě toho, co víme, se domníváme, že naše smlouva poskytuje lepší záruky a odpovědnější ochranná opatření než dřívější dohody, včetně původní smlouvy se společností Anthropic. Myslíme si, že naše mantinely jsou zde vymahatelnější, protože nasazení je omezeno pouze na cloud (ne na okrajová zařízení), naše bezpečnostní infrastruktura zůstává v chodu tak, jak považujeme za nejlepší, a pracovníci OpenAI s prověrkou zůstávají v obraze.

Nevíme, proč společnost Anthropic nedokázala dosáhnout dohody, a doufáme, že ji ona i další laboratoře zváží.

Myslíte si, že by společnost Anthropic měla být označena za „riziko dodavatelského řetězce“?

Ne a svůj postoj k tomu jsme státním úřadům jasně sdělili.

Umožní tato dohoda ministerstvu obrany používat modely OpenAI k ovládání autonomních zbraní? 

Ne. Na základě naší bezpečnostní infrastruktury, našeho cloudového nasazení, znění smlouvy a stávajících zákonů, předpisů a zásad jsme si jisti, že se to nemůže stát. Pro ještě větší jistotu budeme také personál OpenAI udržován v obraze.  

Umožní tato dohoda ministerstvu obrany používat modely OpenAI k hromadnému sledování amerických občanů?

Ne. Na základě naší bezpečnostní infrastruktury, znění smlouvy a stávajících zákonů, které silně omezují ministerstvo obrany v domácím sledování, jsme si jisti, že se to nemůže stát. Pro ještě větší jistotu budeme také personál OpenAI udržován v obraze.  

Musíte nasazovat modely bez bezpečnostní infrastruktury?

Ne, nad bezpečnostní infrastrukturou, kterou nasazujeme, si ponecháváme plnou kontrolu a nebudeme ji nasazovat bez bezpečnostních mantinelů. Kromě toho budou naši výzkumníci v oblasti bezpečnosti a souladu v obraze a budou pomáhat v průběhu času systémy vylepšovat. Víme, že jiné laboratoře zabývající se umělou inteligencí omezily ochranná opatření modelu a jako primární pojistku se spoléhaly na zásady používání, ale domníváme se, že náš přístup složený z více vrstev lépe chrání před nepřijatelným použitím.

Co se stane, když stát podmínky smlouvy poruší?

Stejně jako u jakékoli smlouvy ji můžeme vypovědět, pokud protistrana poruší podmínky. Neočekáváme, že se to stane.

Co když stát prostě změní zákon nebo stávající zásady ministerstva obrany?

Naše smlouva výslovně odkazuje na zákony a zásady týkající se sledování a autonomních zbraní v současné podobě, takže i kdyby se tyto zákony nebo zásady v budoucnu změnily, používání našich systémů musí zůstat v souladu se současnými standardy uvedenými ve smlouvě. 

Jak se vypořádáváte s argumenty, které společnost Anthropic uvedla ve svém blogovém příspěvku⁠(otevře se v novém okně) o diskuzi s ministerstvem obrany?

Společnost Anthropic ve svém příspěvku uvádí dva ze svých mantinelů (máme stejné dva mantinely a navíc třetí: automatizované rozhodování s vysokým rizikem) a důvody, proč se domnívá, že tyto mantinely nebudou ve smlouvách, které v té době od ministerstva obrany dostala, dodrženy. Níže uvádíme důvody, proč se domníváme, že stejné mantinely by platily i pro naši smlouvu:

• Hromadné sledování v USA. Z naší interakce bylo jasné, že ministerstvo obrany považuje hromadné domácí sledování za nezákonné a neplánuje ho k tomuto účelu použít. Zajistili jsme, aby skutečnost, že se na to nevztahuje zákonné použití, byla v naší smlouvě výslovně uvedena.
• Plně autonomní zbraně. Rozhraní cloudového nasazení, které je součástí naší smlouvy, by neumožňovalo ovládání plně autonomních zbraní, protože by to vyžadovalo nasazení na okrajová zařízení. 

Kromě těchto ochranných opatření nabízí naše smlouva další vrstvy mantinelů, včetně naší bezpečnostní infrastruktury a technických expertů OpenAI, kteří budou v obraze.