Naš sporazum s Ministarstvom rata
Ažuriranje od 2. ožujka 2026.
Tijekom naših razgovora Ministarstvo je jasno dalo do znanja da dijeli našu predanost osiguravanju da se naši alati neće koristiti za domaći nadzor. Kako bismo naša načela učinili što jasnijima, zajedno smo radili na dodavanju dodatnog teksta u naš ugovor.
Taj tekst izričito navodi da se naši alati neće koristiti za provođenje domaćeg nadzora nad osobama u SAD-u, uključujući putem nabave ili korištenja komercijalno pribavljenih osobnih ili identifikacijskih podataka. Ministarstvo je također potvrdilo da se naše usluge neće koristiti u obavještajnim agencijama Ministarstva rata poput NSA-e. Za pružanje bilo kakvih usluga tim agencijama bio bi potreban novi ugovor.
Novi tekst glasi:
- U skladu s primjenjivim zakonima, uključujući Četvrti amandman na Ustav Sjedinjenih Američkih Država, Zakon o nacionalnoj sigurnosti iz 1947. i Zakon FISA iz 1978., AI sustav ne smije se namjerno koristiti za domaći nadzor nad osobama i državljanima Sjedinjenih Američkih Država.
- Radi izbjegavanja svake sumnje, Ministarstvo ovu ograničavajuću odredbu razumije kao zabranu namjernog praćenja, nadzora ili monitoringa osoba ili državljana SAD-a, uključujući putem nabave ili korištenja komercijalno pribavljenih osobnih ili identifikacijskih podataka.
Ministarstvo rata planira okupiti radnu skupinu sastavljenu od čelnika vodećih AI laboratorija, pružatelja cloud infrastrukture te predstavnika političkih i operativnih zajednica Ministarstva. OpenAI će sudjelovati i očekujemo da će to biti važan forum za daljnji dijalog o novim sposobnostima umjetne inteligencije, privatnosti i izazovima nacionalne sigurnosti.
Ova ažuriranja nadovezuju se na okvir koji smo najavili prošlog tjedna i nadamo se da će pomoći u stvaranju puta za druge laboratorije koji ubuduće žele surađivati s Ministarstvom.
Jučer smo postigli dogovor s Pentagonom o uvođenju naprednih AI sustava u povjerljivim okruženjima, a zatražili smo i da to učine dostupnim svim tvrtkama koje se bave AI-jem.
Smatramo da naš ugovor ima više zaštitnih mjera nego bilo koji prethodni ugovor za povjerljive implementacije AI-ja, uključujući i ugovor tvrtke Anthropic. Evo zašto.
Imamo tri glavna temeljna načela koja usmjeravaju naš rad s Ministarstvom, a koje općenito dijelimo s nekoliko drugih graničnih laboratorija:
- zabranjena je upotreba tehnologije OpenAI za masovni nacionalni nadzor
- zabranjena je upotreba tehnologije OpenAI za usmjeravanje autonomnih sustava oružja
- bez upotrebe tehnologije OpenAI za automatizirane odluke s visokim ulozima (npr. sustavi kao što su „socialni kredit“).
Drugi AI laboratoriji smanjili su ili uklonili svoja sigurnosna ograničenja te su se u implementacijama u području nacionalne sigurnosti primarno oslanjali na svoje politike korištenja kao svoje glavne zaštitne mjere. Smatramo da naš pristup pruža bolju zaštitu od neprihvatljive upotrebe.
U našem ugovoru štitimo naša zaštitna ograničenja kroz širi, višeslojni pristup. Zadržavamo potpunu diskreciju nad našim sigurnosnim sustavom, implementiramo ga putem oblaka, odobreno osoblje OpenAI-ja uključeno je u proces, a imamo i snažne ugovorne zaštitne mjere. Sve je to dodatak snažnim postojećim zaštitama u američkom zakonodavstvu.
Čvrsto vjerujemo u demokraciju. S obzirom na važnost te tehnologije, vjerujemo da jedini dobar put naprijed zahtijeva duboku suradnju između napora AI-ja i demokratskog procesa. Također vjerujemo da će naša tehnologija u svijetu uvesti nove rizike i želimo da osobe odgovorne za obranu Sjedinjenih Američkih Država imaju najbolje alate.
Naš ugovor uključuje sljedeće:
1. Arhitektura implementacije. Ovo je implementacija samo u oblaku, sa sigurnosnim sustavom koji pokrećemo, a koji uključuje ova načela i druga. Ministarstvu ne pružamo modele s „isključenim sigurnosnim ograničenjima” ili modele koji nisu obučeni za sigurnost, niti primjenjujemo naše modele na rubnim uređajima (gdje bi mogla postojati mogućnost upotrebe za autonomno smrtonosno oružje).
Naša arhitektura implementacije omogućit će nam da neovisno provjerimo da se ta sigurnosna ograničenja ne prelaze, uključujući pokretanje i ažuriranje klasifikatora.
2. Naš ugovor. Ovo su relevantni dijelovi:
Ministarstvo rata može upotrebljavati AI sustav u sve zakonite svrhe, u skladu s primjenjivim zakonodavstvom, operativnim zahtjevima te dobro uspostavljenim sigurnosnim i nadzornim protokolima. Sustav AI-ja neće se upotrebljavati za samostalno usmjeravanje autonomnog oružja niti u jednom slučaju u kojem zakon, propis ili politika Ministarstva zahtijeva ljudsku kontrolu, niti će se upotrebljavati za preuzimanje drugih odluka visokog rizika koje zahtijevaju odobrenje ljudskog donositelja odluka na temelju istih ovlasti. U skladu s Direktivom Ministarstva obrane 3000.09 (dtd 25. siječnja 2023.), svaka upotreba AI-ja u autonomnim i poluautonomnim sustavima mora proći rigoroznu verifikaciju, validaciju i testiranje kako bi se osiguralo da djeluju kako je predviđeno u realističnim okruženjima prije njezina uvođenja.
Za obavještajne aktivnosti, svako postupanje s privatnim informacijama bit će u skladu s Četvrtim amandmanom, Zakonom o nacionalnoj sigurnosti iz 1947. godine i Zakonom o stranoj obavještajnoj djelatnosti i nadzoru iz 1978. godine, Izvršnom uredbom 12333 te primjenjivim direktivama Ministarstva obrane koje zahtijevaju definiranu svrhu strane obavještajne djelatnosti. Sustav AI-ja ne smije se upotrebljavati za neograničeno praćenje privatnih informacija osoba iz SAD-a u skladu s navedenim ovlastima. Sustav se ne smije upotrebljavati niti za domaće aktivnosti provedbe zakona, osim kako je dopušteno Zakonom Posse Comitatus i drugim primjenjivim zakonima.
3. Uključenost AI stručnjaka. Imat ćemo provjerene inženjere OpenAI-ja unaprijed raspoređene koji će pomagati vladi, uz provjerene istraživače sigurnosti i usklađenosti koji će biti uključeni u proces.
Zašto to radite?
Prvo, smatramo da američkoj vojsci apsolutno trebaju snažni AI modeli kako bi podržali njihovu misiju, posebno suočeni s rastućim prijetnjama potencijalnih protivnika koji sve više integriraju AI tehnologije u svoje sustave. U početku nismo odmah sklopili ugovor za povjerljivu implementaciju jer nismo smatrali da su naše zaštitne mjere i sustavi spremni te smo naporno radili kako bismo osigurali da se povjerljiva implementacija može provesti uz zaštitne mjere koje osiguravaju da se zaštitna ograničenja ne prijeđu.
Bili smo — i dalje ostajemo — neskloni uklanjanju ključnih tehničkih zaštitnih mjera radi poboljšanja performansi u radu na nacionalnoj sigurnosti. To nije ispravan pristup podršci američkoj vojsci.
Drugo, također smo željeli smiriti situaciju između Ministarstva rata i američkih laboratorija za umjetnu inteligenciju. Dobra budućnost zahtijeva stvarnu i duboku suradnju između vlade i laboratorija za AI. Kao dio našeg dogovora, tražili smo da se isti uvjeti stave na raspolaganje svim laboratorijima za AI i konkretno da vlada pokuša riješiti stvari s tvrtkom Anthropic. Trenutačno stanje vrlo je loš način za započinjanje sljedeće faze suradnje između vlade i laboratorija za AI.
Kako ste vi uspjeli postići dogovor kada tvrtka Anthropic to nije mogla? Jeste li potpisali dogovor koji oni nisu htjeli potpisati?
Na temelju onoga što znamo, vjerujemo da naš ugovor pruža bolja jamstva i odgovornije zaštitne mjere od ranijih sporazuma, uključujući izvorni ugovor tvrtke Anthropic. Smatramo da su naša zaštitna ograničenja bolje provediva jer je implementacija ograničena samo na oblak (ne na rubu), održava naš sigurnosni sustav radi na način koji smatramo najboljim te zadržava uključenost ovlaštenog osoblja OpenAI-ja.
Ne znamo zašto tvrtka Anthropic nije mogla postići takav dogovor i nadamo se da će oni i više laboratorija to razmotriti u budućnosti.
Mislite li da bi se tvrtka Anthropic trebala označiti kao „rizik za opskrbni lanac”?
Ne, i svoje smo stajalište o tome jasno iznijeli vladi.
Hoće li ovaj dogovor omogućiti Ministarstvu rata da OpenAI-jeve modele upotrebljava za pokretanje autonomnog oružja?
Ne. Na temelju našeg sigurnosnog sustava, implementacije isključivo u oblaku, načina na koji je naš ugovor sastavljen te postojećih zakona, propisa i politika, uvjereni smo da se to ne može dogoditi. Također ćemo uključiti osoblje OpenAI-ja u cjelokupni proces radi dodatne sigurnosti.
Hoće li ovaj dogovor omogućiti Ministarstvu rata upotrebe OpenAI-jevih modela za provođenje masovnog nadzora nad osobama unutar SAD-a?
Ne. Na temelju našeg sigurnosnog sustava, načina na koji je naš ugovor sastavljen i postojećih zakona koji snažno ograničavaju Ministarstvo rata u pogledu nacionalnog nadzora, uvjereni smo da se to ne može dogoditi. Također ćemo uključiti osoblje OpenAI-ja u cjelokupni proces radi dodatne sigurnosti.
Morate li uvoditi modele bez sigurnosnog sustava?
Ne, zadržavamo potpunu kontrolu nad sigurnosnim sustavom koji uvodimo i nećemo ga uvesti bez zaštitnih mjera. Osim toga, naši istraživači za sigurnost i usklađenost bit će uključeni i pomoći će s vremenom unapređivati sustave. Znamo da su drugi AI laboratoriji smanjili zaštitne mjere modela i oslonili se na politike upotrebe kao primarnu zaštitu, ali smatramo da naš višeslojni pristup bolje štiti od neprihvatljive upotrebe.
Što se događa ako vlada prekrši odredbe ugovora?
Kao i kod svakog ugovora, mogli bismo ga raskinuti ako ugovorna strana prekrši uvjete. No mislimo da se to neće dogoditi.
Što ako vlada jednostavno promijeni zakon ili postojeće politike Ministarstva rata?
Naš ugovor izričito upućuje na zakone i politike o nadzoru i autonomnom oružju kakvi postoje danas, tako da čak i ako se ti zakoni ili politike u budućnosti promijene, upotreba naših sustava i dalje mora ostati usklađena s trenutačnim standardima koji su dogovoreni u našem ugovoru.
Kako odgovarate na argumente koje je tvrtka Anthropic iznijela u njihovoj objavi na blogu(otvara se u novom prozoru) o njihovoj raspravi s Ministarstvom rata?
U svojoj objavi, tvrtka Anthropic navodi dva svoja nepovrediva načela (imamo ista dva nepovrediva načela, plus treće: automatizirano donošenje odluka visokog uloga) te razloge zbog kojih ne vjeruju da bi se ta nepovrediva načela poštovala u ugovorima koje je u to vrijeme nudilo Ministarstvo rata. U nastavku objašnjavamo zašto vjerujemo da bi se ta ista nepovrediva načela primjenjivala u našem ugovoru:
- Masovni nacionalni nadzor. U našoj je interakciji bilo jasno da Ministarstvo rata smatra da je masovni nacionalni nadzor nezakonit i da ga ne planiraju upotrebljavati u tu svrhu. Osigurali smo da je u našem ugovoru izričito navedeno da to ne obuhvaća zakonitu upotrebu.
- Potpuno autonomno oružje. Površina implementacije u oblaku obuhvaćena našim ugovorom ne bi dopuštala napajanje potpuno autonomnog oružja jer bi to zahtijevalo implementaciju na rubu.
Uz sve navedene zaštitne mjere, naš ugovor nudi dodatne slojeve zaštite, uključujući naš sigurnosni sustav i OpenAI-jeve tehničke stručnjake koji su u potpunosti uključeni u cijeli proces.
