A Hadügyminisztériummal kötött megállapodásunk

Tegnap megállapodásra jutottunk a Pentagonnal a fejlett AI-rendszerek minősített környezetekben történő bevezetéséről, és kértük, hogy ezt minden AI-vállalat számára tegyék elérhetővé.

Úgy gondoljuk, hogy a megállapodásunk több védelmet tartalmaz, mint bármely korábbi megállapodás a minősített AI-telepítésekre vonatkozóan, beleértve az Anthropic telepítést is. Íme, miért.

Három fő irányelvünk van, amelyek a Védelmi Minisztériummal végzett munkánkat vezérlik, és amelyeket általában több más élvonalbeli labor is oszt:

• Az OpenAI technológia nem használható tömeges belföldi megfigyelésre.
• Tilos az OpenAI technológiájának autonóm fegyverrendszerek irányítására történő használata. 
• Az OpenAI technológia nem használható magas kockázatú automatizált döntésekhez (pl. olyan rendszerek, mint a „társadalmi kredit”).

Más AI-laborok csökkentették vagy megszüntették biztonsági védőkorlátjaikat, és nemzetbiztonsági alkalmazásokban főként felhasználási szabályzatokra támaszkodnak elsődleges védelmi eszközként. Úgy gondoljuk, hogy a mi megközelítésünk jobb védelmet nyújt az elfogadhatatlan használattal szemben.

Megállapodásunkban egy kiterjedtebb, többrétegű megközelítéssel védjük a vörös vonalainkat. Teljes mérlegelési jogkörrel rendelkezünk a biztonsági rendszerünk felett, felhőn keresztül telepítünk, engedélyezett OpenAI-személyzettel dolgozunk, és erős szerződéses garanciákkal rendelkezünk. Mindez az Egyesült Államok jogában meglévő erős védelem mellett. 

Hiszünk a demokráciában. Tekintettel e technológia fontosságára, úgy véljük, hogy az egyetlen helyes előrevezető út az AI kezdeményezések és a demokratikus folyamat közötti mély együttműködést igényli. Úgy véljük továbbá, hogy technológiánk új kockázatokat fog bevezetni a világban, és azt szeretnénk, hogy az Egyesült Államok védelméért felelős szakemberek a legjobb eszközökkel rendelkezzenek.

A megállapodásunk magában foglalja:

1. Bevezetési architektúra. Ez egy kizárólag felhőalapú telepítés, egy általunk futtatott biztonsági csomaggal, amely foglalja ezeket és további elveket. Nem „korlátok nélküli” vagy nem biztonságra betanított modelleket biztosítunk a Védelmi Minisztériumnak, és nem telepítjük a modelljeinket peremeszközökre sem (ahol fennállhatna az autonóm halálos fegyverekhez való felhasználás lehetősége). 

A bevezetési architektúránk lehetővé teszi számunkra annak független ellenőrzését, hogy ezeket a vörös vonalakat nem lépik át, beleértve az osztályozók futtatását és frissítését is.

2. A szerződésünk. A vonatkozó szövegezés itt látható:

A Hadügyminisztérium az AI-rendszert mindennemű jogszerű célra használhatja fel, az alkalmazandó jogszabályokkal, a műveleti követelményekkel, valamint a jól megalapozott biztonsági és felügyeleti protokollokkal összhangban. Az AI-rendszert semmilyen esetben sem kerül felhasználásra önállóan autonóm fegyverek irányítására, ha a jog, a szabályozás vagy a minisztériumi irányelv emberi kontrollt ír elő, és nem arra sem, hogy más, nagy tétű döntéseket vegyen át, amelyek emberi döntéshozó jóváhagyását igénylik ugyanazon felhatalmazások alapján. A Védelmi Minisztérium 3000.09 (2023. január 25.) irányelve szerint az autonóm és félautonóm rendszerekben alkalmazott AI bármely felhasználásának szigorú verifikáción, validáción, és tesztelésen kell átesnie annak biztosítása érdekében, hogy a telepítés előtt valósághű környezetekben a rendeltetésüknek megfelelően működjön.

Hírszerzési tevékenységek során a személyes adatok kezelése megfelel a Negyedik Alkotmánykiegészítésnek, az 1947-es Nemzetbiztonsági Törvénynek és az 1978-as Külföldi Hírszerzési Megfigyelési Törvénynek, a 12333. számú végrehajtási rendeletnek, valamint az alkalmazandó Védelmi Minisztériumi irányelveknek, amelyek meghatározott külföldi hírszerzési célt írnak elő. Az AI-rendszer nem használható az Egyesült Államok személyeinek személyes adatainak korlátozás nélküli megfigyelésére, ezen hatóságok hatáskörének megfelelően. A rendszert belföldi bűnüldözési tevékenységekhez sem szabad használni, kivéve a Posse Comitatus törvény és más alkalmazandó jog által megengedett esetekben.

3. AI-szakértők bevonása. A kormányzaton támogatandó, előre telepített, engedéllyel rendelkező OpenAI-mérnökök segítenek, a folyamatban pedig engedéllyel rendelkező biztonsági és igazítási kutatók is részt vesznek. 

Miért így járnak el? 

Először is úgy gondoljuk, hogy az amerikai hadseregnek feltétlenül szüksége van erős AI-modellekre a küldetés támogatásához, különösen a növekvő fenyegetésekkel szemben, mivel a potenciális ellenfelek egyre inkább integrálják az AI-technológiákat rendszereikbe. Eredetileg nem kötöttünk szerződést a minősített telepítésre, mivel úgy éreztük, hogy biztosítékaink és rendszereink még nem állnak erre készen. Azóta keményen dolgozunk azon, hogy a minősített telepítés megvalósulhasson olyan biztosítékokkal, amelyek garantálják, hogy ne lépjük át a vörös vonalakat. 

Nem voltunk—és továbbra sem vagyunk—hajlandók eltávolítani a kulcsfontosságú technikai védelmi intézkedéseket a nemzetbiztonsági munkához kapcsolódó teljesítmény javítása érdekében. Nem ez a megfelelő megközelítés az amerikai hadsereg támogatására. 

Másodszor, a Védelmi Minisztérium és az amerikai AI-laborok között is szerettük volna enyhíteni a feszültséget. A biztonságos jövőhöz a kormány és az AI-laborok közti valódi és mély együttműködésre lesz szükség. A megkötött megállapodás részeként azt kértük, hogy ugyanazok a feltételek minden AI-labor számára elérhetők legyenek, és kifejezetten azt, hogy a kormány próbálja rendezni a dolgokat az Anthropic-kal; a jelenlegi helyzet nagyon rossz kiindulópont a kormányzat és az AI-laborok közötti következő együttműködési szakaszhoz.

Miért sikerült megállapodásra jutni, amikor az Anthropic nem tudott? Aláírták azt a megállapodást, amit ők nem?

Az általunk ismert információk alapján úgy gondoljuk, hogy a szerződésünk jobb garanciákat és felelősségteljesebb védelmi intézkedéseket nyújt a korábbi megállapodásokhoz képest, beleértve az Anthropic eredeti szerződését is. Úgy gondoljuk, hogy a vörös vonalaink itt jobban érvényesíthetők, mert a telepítés kizárólag felhőalapúra (nem a peremen történik), így a biztonsági rendszerünk úgy működik, ahogyan szerintünk a legjobb, és ellenőrzött OpenAI-személyzettel történik.

Nem tudjuk, miért nem tudta az Anthropic megkötni ezt a megállapodást, és reméljük, hogy ők és további laborok is fontolóra veszik majd.

Ön szerint az Anthropicot „ellátási lánc kockázatként” kellene megjelölni?

Nem, és a kormány számára világossá tettük az ezzel kapcsolatos álláspontunkat.

Lehetővé teszi-e ez a megállapodás, hogy a Hadügyminisztérium OpenAI-modelleket használjon autonóm fegyverek működtetésére? 

Nem. A biztonsági csomagunk, a kizárólag felhőalapú telepítésünk, a szerződés szövegezése, valamint a hatályos törvények, szabályozások és szakpolitikák alapján biztosak vagyunk abban, hogy ez nem történhet meg. Az OpenAI munkatársakat pedig ellenőrizzük a további biztosítékok érdekében.  

Lehetővé teszi-e ez a megállapodás, hogy a Hadügyminisztérium OpenAI modelleket használjon amerikai személyek tömeges megfigyelésére?

Nem. A biztonsági csomagunk, a szerződéses nyelvezet és a meglévő, a Védelmi Minisztériumot a belföldi megfigyeléstől erősen korlátozó törvények alapján biztosak vagyunk abban, hogy ez nem történhet meg. Az OpenAI munkatársakat pedig ellenőrizzük a további biztosítékok érdekében.  

Kell-e modelleket védelmi rendszer nélkül telepíteniük?

Nem, teljes mértékben mi irányítjuk az általunk bevetett biztonsági védelmi rendszert, és nem telepítjük védőkorlátok nélkül. Ezenkívül a biztonsági és összehangolási kutatóink is segítenek a rendszerek idővel történő fejlesztésében. Tudjuk, hogy más AI-laborok csökkentették a modellek védelmi korlátait, és az elsődleges biztosítékként a használati irányelvekre támaszkodtak, de úgy gondoljuk, hogy a többrétegű megközelítésünk jobban véd az elfogadhatatlan felhasználással szemben.

Mi történik, ha a kormány megsérti a szerződés feltételeit?

Mint bármely szerződés esetében, felmondhatjuk, ha a szerződő fél a feltételeket megszegi. Nem számítunk arra, hogy ez bekövetkezne.

Mi van akkor, ha a kormány egyszerűen megváltoztatja a törvényt vagy a meglévő Védelmi Minisztériumi irányelveket?

Szerződésünk kifejezetten a jelejnlegi formájukban hivatkozik a megfigyelési és autonóm fegyverekre vonatkozó törvényekre és szabályozásokra, így még ha ezek a törvények vagy szabályozások a jövőben változnak is, rendszereink használatának továbbra is összhangban kell maradnia a megállapodásban rögzített jelenlegi szabványokkal. 

Hogyan reagálnak azokra az érvekre, amelyeket az Anthropic a blogbejegyzésében⁠(új ablakban nyílik meg) hozott fel a Védelmi Minisztériummal folytatott megbeszélésükről?

Bejegyzésükben az Anthropic két vörös vonalukat jelöli meg (nekünk ugyanaz a két vörös vonalunk van, plusz egy harmadik: az automatizált, nagy tétű döntéshozatal), és kifejtik az okokat, amiért szerintük ezeket a vörös vonalakat nem tartanák tiszteletben a Védelmi Minisztériumtól láttak. Az alábbiakban bemutatjuk, miért véljük úgy, hogy ugyanezek a vörös vonalak a szerződésünkben is érvényesek lennének:

• Tömeges belföldi megfigyelés. Az interakciónk során egyértelmű volt, hogy a Védelmi Minisztérium a tömeges belföldi megfigyelést törvénytelennek tartja, és nem tervezte erre a célra használni. Biztosítottuk, hogy a szerződésünkben egyértelmű legyen a tény, miszerint ez nem tartozik a jogszerű felhasználás körébe.
• Teljesen autonóm fegyverek. A szerződésünkben szereplő felhőalapú telepítési felület nem tenné lehetővé teljesen autonóm fegyverek működtetését, mivel ehhez peremhálózati telepítésre lenne szükség. 

Ezen védelmi intézkedéseken túl a szerződésünk további, többrétegű védelmi intézkedéseket kínál, beleértve a biztonsági csomagunkat és a folyamatba bevont OpenAI technikai szakértőket.