Naša dohoda s Ministerstvom vojny

Včera sme dosiahli dohodu s Pentagonom o nasadení pokročilých systémov umelej inteligencie v utajovaných prostrediach a požiadali sme ho, aby ich sprístupnili aj všetkým spoločnostiam zaoberajúcim sa umelou inteligenciou.

Myslíme si, že naša dohoda má viac ochranných opatrení ako ktorákoľvek predchádzajúca dohoda o nasadení utajovanej umelej inteligencie vrátane dohody so spoločnosťou Anthropic. Tu je dôvod.

Pri práci s Ministerstvom vojny sa riadime tromi hlavnými pravidlami, ktoré sú vo všeobecnosti spoločné pre niekoľko ďalších prelomových laboratórií:

• Žiadne používanie technológie OpenAI na hromadné domáce sledovanie.
• Žiadne používanie technológie OpenAI na riadenie autonómnych zbraňových systémov. 
• Žiadne používanie technológie OpenAI pre automatizované rozhodnutia s vysokými nárokmi (napr. systémy, ako je „sociálny kredit“).

Iné laboratóriá umelej inteligencie znížili alebo odstránili svoje bezpečnostné opatrenia a pri nasadzovaní v oblasti národnej bezpečnosti sa spoliehajú predovšetkým na pravidlá používania ako svoje primárne ochranné opatrenia. Myslíme si, že náš prístup lepšie chráni pred neprijateľným použitím.

V našej dohode chránime naše červené línie prostredníctvom širšieho, viacvrstvového prístupu. Ponechávame si plnú právomoc nad naším bezpečnostným balíkom, nasadzujeme ho cez cloud, preverení zamestnanci OpenAI sú informovaní a máme silné zmluvné ochrany. Toto všetko je navyše k silným existujúcim ochranným opatreniam v americkom práve. 

Pevne veríme v demokraciu. Vzhľadom na dôležitosť tejto technológie veríme, že jediná dobrá cesta vpred si vyžaduje hlbokú spoluprácu medzi úsilím o umelú inteligenciu a demokratickým procesom. Taktiež veríme, že naša technológia prinesie do sveta nové riziká a chceme, aby ľudia brániaci Spojené štáty mali k dispozícii tie najlepšie nástroje.

Naša dohoda zahŕňa:

1. Architektúra nasadenia. Ide o nasadenie iba v cloude s bezpečnostným balíkom, ktorý prevádzkujeme a ktorý zahŕňa tieto a ďalšie princípy. Neposkytujeme Ministerstvu vojny modely bez „bezpečnostných obmedzení“ alebo modely bez bezpečnostného školenia, ani nenasadzujeme naše modely na zariadenia s technológiou edge (kde by mohla existovať možnosť použitia pre autonómne smrtiace zbrane). 

Naša architektúra nasadenia nám umožní nezávisle overiť, či tieto červené čiary nie sú prekročené, vrátane spúšťania a aktualizácie klasifikátorov.

2. Naša zmluva. Tu je relevantný jazyk:

Ministerstvo vojny môže používať systém umelej inteligencie na všetky zákonné účely v súlade s platnými právnymi predpismi, prevádzkovými požiadavkami a zavedenými bezpečnostnými a kontrolnými protokolmi. Systém umelej inteligencie sa nebude používať na nezávislé riadenie autonómnych zbraní v žiadnom prípade, keď zákon, nariadenie alebo politika ministerstva vyžadujú ľudskú kontrolu, ani sa nebude používať na prijímanie iných dôležitých rozhodnutí, ktoré vyžadujú schválenie ľudskou osobou s rozhodovacou právomocou v rámci rovnakých právomocí. Podľa smernice Ministerstva obrany USA 3000.09 (z 25. januára 2023) musí akékoľvek použitie umelej inteligencie v autonómnych a poloautonómnych systémoch prejsť prísnym overovaním, validáciou a testovaním, aby sa zabezpečilo, že pred nasadením budú fungovať podľa plánu v realistických prostrediach.

V prípade spravodajských činností bude akékoľvek nakladanie so súkromnými informáciami v súlade so štvrtým dodatkom, zákonom o národnej bezpečnosti z roku 1947 a zákonom o zahraničnom spravodajstve a sledovaní z roku 1978, výkonným nariadením 12333 a príslušnými smernicami Ministerstva obrany, ktoré vyžadujú definovaný účel zahraničného spravodajstva. Systém umelej inteligencie sa nesmie používať na neobmedzené monitorovanie súkromných informácií osôb z USA v súlade s týmito orgánmi. Systém sa tiež nesmie používať na vnútroštátne činnosti presadzovania práva, s výnimkou prípadov povolených zákonom Posse Comitatus Act a inými platnými právnymi predpismi.

3. Zapojenie odborníkov na umelú inteligenciu. Budeme mať preverovaných, vopred nasadených inžinierov OpenAI, ktorí budú pomáhať vláde, pričom do procesu budú zapojení preverovaní výskumníci v oblasti bezpečnosti a zosúladenia. 

Prečo to robíte? 

Po prvé, myslíme si, že americká armáda absolútne potrebuje silné modely umelej inteligencie na podporu svojho poslania, najmä vzhľadom na rastúce hrozby zo strany potenciálnych protivníkov, ktorí čoraz viac integrujú technológie umelej inteligencie do svojich systémov. Pôvodne sme sa nepúšťali do zmluvy o utajovanom nasadení, pretože sme nemali pocit, že naše záruky a systémy sú pripravené, a tvrdo pracujeme na tom, aby sa utajované nasadenie mohlo uskutočniť so zárukami, ktoré zabránia prekročeniu červených čiar. 

Boli sme – a zostávame – neochotní odstrániť kľúčové technické ochranné opatrenia s cieľom zvýšiť výkonnosť práce v oblasti národnej bezpečnosti. To nie je správny prístup k podpore americkej armády. 

Po druhé, chceli sme tiež zmierniť napätie medzi Ministerstvom vojny a americkými laboratóriami umelej inteligencie. Dobrá budúcnosť si bude vyžadovať skutočnú a hlbokú spoluprácu medzi vládou a laboratóriami umelej inteligencie. Ako súčasť našej dohody sme požadovali, aby boli rovnaké podmienky sprístupnené všetkým laboratóriám umelej inteligencie a konkrétne, aby sa vláda pokúsila vyriešiť napätie so spoločnosťou Anthropic; súčasný stav je veľmi zlým spôsobom, ako začať túto ďalšiu fázu spolupráce medzi vládou a laboratóriami umelej inteligencie.

Prečo ste dokázali dosiahnuť dohodu, keď sa to spoločnosti Anthropic nepodarilo? Podpísal si zmluvu, ktorú by táto spoločnosť nepodpísala?

Na základe toho, čo vieme, sa domnievame, že naša zmluva poskytuje lepšie záruky a zodpovednejšie ochranné opatrenia ako predchádzajúce dohody vrátane pôvodnej zmluvy spoločnosti Anthropic. Myslíme si, že naše červené čiary sú v tomto prípade vynútiteľnejšie, pretože nasadenie je obmedzené iba na cloud (nie na technológiu edge), udržiava náš bezpečnostný balík vo funkčnom stave, o ktorom si myslíme, že je najlepší, a udržiava preverený personál OpenAI v obraze.

Nevieme, prečo sa spoločnosť Anthropic nedokázala dohodnúť na tejto úrovni a dúfame, že táto spoločnosť aj ďalšie laboratóriá ju zvážia.

Myslíte si, že by spoločnosť Anthropic mala byť označená ako „riziko dodávateľského reťazca“?

Nie, a našu pozíciu v tejto veci sme vláde jasne oznámili.

Umožní táto dohoda Ministerstvu vojny používať modely OpenAI na pohon autonómnych zbraní? 

Nie. Na základe nášho bezpečnostného balíka, nášho cloudového nasadenia, zmluvného znenia a existujúcich zákonov, nariadení a politík sme presvedčení, že sa to nemôže stať. Pre dodatočnú istotu budeme mať v procese informovaný aj personál OpenAI.  

Umožní táto dohoda Ministerstvu vojny používať modely OpenAI na vykonávanie hromadného sledovania amerických občanov?

Nie. Na základe nášho bezpečnostného balíka, zmluvného znenia a existujúcich zákonov, ktoré výrazne obmedzujú Ministerstvo vojny v domácom sledovaní, sme presvedčení, že sa to nemôže stať. Pre dodatočnú istotu budeme mať v procese informovaný aj personál OpenAI.  

Musíte nasadzovať modely bez bezpečnostného balíka?

Nie, nad bezpečnostným balíkom, ktorý nasadíme, si ponechávame plnú kontrolu a nebudeme ho nasadzovať bez bezpečnostných ochranných opatrení. Okrem toho budú naši výskumníci v oblasti bezpečnosti a zosúladenia informovaní a budú časom pomáhať zlepšovať systémy. Vieme, že iné laboratóriá umelej inteligencie znížili ochranné opatrenia modelu a ako primárnu ochranu sa spoliehali na zásady používania, ale myslíme si, že náš viacvrstvový prístup lepšie chráni pred neprijateľným používaním.

Čo sa stane, ak vláda poruší podmienky zmluvy?

Ako pri každej zmluve, môžeme ju vypovedať, ak protistrana poruší podmienky. Nepredpokladáme, že sa to stane.

Čo ak vláda jednoducho zmení zákon alebo existujúce politiky Ministerstva vojny?

Naša zmluva výslovne odkazuje na zákony a politiky týkajúce sa sledovania a autonómnych zbraní v ich súčasnej podobe, takže aj keby sa tieto zákony alebo politiky v budúcnosti zmenili, používanie našich systémov musí zostať v súlade so súčasnými normami uvedenými v dohode. 

Ako sa vysporiadate s argumentmi, ktoré spoločnosť Anthropic uviedla vo svojom blogovom príspevku⁠(otvorí sa v novom okne) o diskusii s Ministerstvom vojny?

Vo svojom príspevku spoločnosť Anthropic uvádza dve zo svojich červených čiar (my máme tie isté dve červené čiary plus tretiu: automatizované rozhodovanie s vysokými nárokmi) a dôvody, prečo si nemyslí, že by tieto červené čiary boli dodržané v zmluvách, ktoré v tom čase videli od Ministerstva vojny. Nižšie uvádzame dôvody, prečo si myslíme, že tie isté červené čiary by platili aj pre našu zmluvu:

• Hromadné domáce sledovanie. Z našej interakcie bolo jasné, že Ministerstvo vojny považuje hromadné domáce sledovanie za nezákonné a neplánuje ho na tento účel použiť. Zabezpečili sme, aby bolo v našej zmluve výslovne uvedené, že to nie je kryté v rámci zákonného použitia.
• Plne autonómne zbrane. Rozsah cloudového nasadenia zahrnutý v našej zmluve by neumožňoval napájanie plne autonómnych zbraní, keďže by si to vyžadovalo nasadenie technológie edge. 

Okrem týchto ochrán naša zmluva ponúka ďalšie vrstvené ochranné opatrenia vrátane nášho bezpečnostného balíka a informovaných technických expertov OpenAI.