Naš sporazum s Odjelom za rata

Jučer smo postigli dogovor s Pentagonom o implementaciji naprednih AI sistema u klasificiranim okruženjima, te smo zatražili da ih također učine dostupnim svim AI kompanijama.

Smatramo da naš sporazum ima više zaštitnih mjera nego bilo koji prethodni sporazum za povjerljive AI implementacije, uključujući i Anthropicovu implementaciju. Evo zašto.

Imamo tri glavne sigurnosne granice koje usmjeravaju naš rad s DoW-om (Odjel za rat), koje uglavnom dijeli nekoliko drugih graničnih laboratorija:

• Nema upotrebe OpenAI tehnologije za masovni domaći nadzor.
• Nema upotrebe OpenAI tehnologije za usmjeravanje autonomnih sistema oružja. 
• Nema upotrebe OpenAI tehnologije za automatizirane odluke visokog rizika (npr. sistemi kao što je „socijalni kredit“).

Druge AI laboratorije su smanjile ili uklonile svoje sigurnosne mjere i prvenstveno se oslanjale na politike upotrebe kao svoje glavne mjere zaštite u implementacijama za nacionalnu sigurnost. Smatramo da naš pristup bolje štiti od neprihvatljive upotrebe.

U našem sporazumu štitimo naše crvene linije kroz širi, višeslojni pristup. Zadržavamo punu diskreciju nad našim sigurnosnim slojem, implementiramo putem oblaka, odobreno osoblje OpenAI-a je uključeno, i imamo snažne ugovorne zaštite. Ovo je sve dodatno uz snažne postojeće zaštite u američkom zakonu. 

Čvrsto vjerujemo u demokratiju. S obzirom na važnost ove tehnologije, vjerujemo da jedini dobar put naprijed zahtijeva duboku saradnju između AI napora i demokratskog procesa. Također vjerujemo da će naša tehnologija u svijetu uvesti nove rizike, i želimo da ljudi koji brane Sjedinjene Američke Države imaju najbolje alate.

Naš ugovor uključuje:

1. Arhitektura implementacije. Ovo je implementacija samo u oblaku, sa sigurnosnim sistemom koji pokrećemo i koji uključuje ove principe i druge. Ne pružamo DoW-u modele bez sigurnosnih ograničenja niti modele koji nisu obučeni za sigurnu upotrebu, niti ih implementiramo na edge uređajima (gdje bi mogla postojati mogućnost upotrebe za autonomno smrtonosno oružje).

Naša arhitektura implementacije će nam omogućiti da nezavisno provjerimo da se ove crvene linije ne prelaze, uključujući pokretanje i ažuriranje klasifikatora.

2. Naš ugovor. Evo relevantnog jezika:

Ministarstvo rata može koristiti AI sistem u sve zakonite svrhe, u skladu s važećim zakonom, operativnim zahtjevima i dobro utvrđenim sigurnosnim i nadzornim protokolima. AI sistem se neće koristiti za nezavisno upravljanje autonomnim oružjem ni u kojem slučaju gdje zakon, propis ili politika Ministarstva zahtijevaju ljudsku kontrolu, niti će se koristiti za donošenje drugih važnih odluka koje zahtijevaju odobrenje ljudskog donosioca odluka u okviru istih ovlaštenja. Prema Direktivi Ministarstva odbrane 3000.09 (od 25. januara 2023.), svaka upotreba AI u autonomnim i poluautonomnim sistemima mora proći rigoroznu verifikaciju, validaciju i testiranje kako bi se osiguralo da funkcionišu kako je predviđeno u realnim okruženjima prije raspoređivanja.

Za obavještajne aktivnosti, svako rukovanje privatnim informacijama bit će u skladu s Fourth Amendment, National Security Act of 1947 i Foreign Intelligence and Surveillance Act of 1978, Executive Order 12333, te primjenjivim DoD direktivama koje zahtijevaju definisanu svrhu stranih obavještajnih podataka. AI sistem se ne smije koristiti za neograničeno praćenje privatnih informacija osoba iz SAD-a, u skladu s ovim ovlaštenjima. Sistem se također ne smije koristiti za domaće aktivnosti provođenja zakona, osim kako je dopušteno Zakonom Posse Comitatus i drugim primjenjivim zakonom.

3. Uključenost AI stručnjaka. Imat ćemo provjerene, unaprijed raspoređene inženjere OpenAI-a koji pomažu vladi, uz provjerene istraživače za sigurnost i usklađenost uključene u proces. 

Zašto to radite? 

Prvo, smatramo da američkoj vojsci apsolutno trebaju snažni AI modeli kako bi podržali svoju misiju, posebno suočeni s rastućim prijetnjama od potencijalnih protivnika koji sve više integriraju AI tehnologije u svoje sisteme. Prvobitno nismo odmah ušli u ugovor za klasifikovanu implementaciju, jer nismo smatrali da su naše zaštitne mjere i sistemi spremni, te smo naporno radili kako bismo osigurali da se klasifikovana implementacija može desiti uz zaštitne mjere koje osiguravaju da se crvene linije ne pređu. 

Bili smo i ostajemo nespremni ukloniti ključne tehničke mjere zaštite kako bismo poboljšali performanse u radu na nacionalnoj sigurnosti. To nije ispravan pristup podršci američkoj vojsci. 

Drugo, također smo željeli smiriti situaciju između Odjela za rat (DoW) i američkih AI laboratorija. Dobra budućnost će zahtijevati stvarnu i duboku saradnju između vlade i AI laboratorija. Kao dio našeg dogovora ovdje, tražili smo da isti uslovi budu dostupni svim AI laboratorijama, i konkretno da vlada pokuša riješiti stvari s Anthropic; trenutno stanje je veoma loš način da se započne ova sljedeća faza saradnje između vlade i AI laboratorija.

Kako ste mogli postići dogovor kada Anthropic nije mogao? Jeste li potpisali ugovor koji oni nisu htjeli?

Na osnovu onoga što znamo, vjerujemo da naš ugovor pruža bolje garancije i odgovornije mjere zaštite nego raniji sporazumi, uključujući Anthropicov originalni ugovor. Smatramo da su naše crvene linije ovdje provedivije jer je implementacija ograničena samo na oblak (ne na rubu), održava naš sigurnosni stack da radi na način za koji smatramo da je najbolji, i zadržava ovlašteno osoblje OpenAI-a uključenim.

Ne znamo zašto Anthropic nije mogao postići ovaj dogovor, i nadamo se da će oni i više laboratorija to razmotriti.

Mislite li da bi Anthropic trebao biti označen kao “rizik u lancu snabdijevanja”?

Ne, i jasno smo iznijeli svoj stav o ovome vladi.

Da li će ovaj dogovor omogućiti Odjelu za rat da koristi OpenAI modele za pokretanje autonomnog oružja? 

Ne. Na osnovu našeg sigurnosnog sistema, naše implementacije isključivo u oblaku, ugovornog jezika i postojećih zakona, regulative i politika, uvjereni smo da se ovo ne može dogoditi. Također ćemo imati OpenAI osoblje uključeno u proces radi dodatne sigurnosti.  

Hoće li ovaj dogovor omogućiti Odjelu za rat da koristi OpenAI modele za provođenje masovnog nadzora nad osobama u SAD-u?

Ne. Na osnovu našeg sigurnosnog sistema, ugovornog jezika i postojećih zakona koji u velikoj mjeri ograničavaju DoW u pogledu domaćeg nadzora, uvjereni smo da se ovo ne može desiti. Također ćemo imati OpenAI osoblje uključeno u proces radi dodatne sigurnosti.  

Da li morate implementirati modele bez sigurnosnog sloja?

Ne, zadržavamo potpunu kontrolu nad sigurnosnim paketom koji implementiramo i nećemo ga implementirati bez zaštitnih mjera. Osim toga, naši istraživači sigurnosti i usklađenosti bit će uključeni i pomoći će u poboljšanju sistema tokom vremena. Znamo da su druge AI laboratorije smanjile zaštitne mjere modela i oslanjale se na politike korištenja kao primarnu zaštitu, ali vjerujemo da naš višeslojni pristup bolje štiti od neprihvatljive upotrebe.

Šta se dešava ako vlada prekrši uslove ugovora?

Kao i kod svakog ugovora, mogli bismo ga raskinuti ako druga ugovorna strana prekrši uslove. Ne očekujemo da će se to desiti.

Šta ako vlada jednostavno promijeni zakon ili postojeće politike Odjela za rat?

Naš ugovor izričito se poziva na zakone i politike o nadzoru i autonomnom naoružanju kakvi postoje danas, tako da čak i ako se ti zakoni ili politike promijene u budućnosti, upotreba naših sistema i dalje mora ostati usklađena s trenutnim standardima koji su odraženi u sporazumu. 

Kako odgovarate na argumente koje je Anthropic iznio u njihovoj blog objavi⁠(otvara se u novom prozoru) o diskusiji s DoW-om?

U svojoj objavi, Anthropic navodi dvije svoje crvene linije (mi imamo iste dvije crvene linije, plus treću: automatizirano donošenje odluka visokog rizika), i razloge zbog kojih ne vjeruju da bi se te crvene linije poštovale u ugovorima koje su u to vrijeme vidjeli od DoW-a. U nastavku je objašnjenje zašto vjerujemo da bi te iste crvene linije važile u našem ugovoru:

• Masovni domaći nadzor. U našoj interakciji bilo je jasno da DoW smatra masovni domaći nadzor nezakonitim i nije planirao da ga koristi u ovu svrhu. Osigurali smo da je u našem ugovoru eksplicitno navedeno da to nije obuhvaćeno zakonitom upotrebom.
• Potpuno autonomno oružje. Površina implementacije u oblaku obuhvaćena našim ugovorom ne bi dopuštala napajanje potpuno autonomnog oružja, jer bi to zahtijevalo edge implementaciju. 

Pored ovih zaštita, naš ugovor nudi dodatne višeslojne mjere zaštite, uključujući sigurnosni sistem i tehničke stručnjake OpenAI-a uključene u proces.