Acordul nostru cu Departamentul de Război

Ieri am ajuns la un acord cu Pentagonul pentru implementarea unor sisteme AI avansate în medii secretizate, iar noi am solicitat ca acestea să fie puse la dispoziție și tuturor companiilor de AI.

Considerăm că acordul nostru are mai multe măsuri de protecție decât orice acord anterior pentru implementări AI secretizate, inclusiv cel al Anthropic. Iată de ce.

Avem trei limite principale care ne ghidează munca cu Departamentul de Război, linii care sunt în general comune și altor câteva laboratoare de vârf:

• Fără utilizarea tehnologiei OpenAI pentru supraveghere internă în masă.
• Este interzisă utilizarea tehnologiei OpenAI pentru a direcționa sisteme de arme autonome. 
• Fără utilizarea tehnologiei OpenAI pentru decizii automatizate cu miză mare (de exemplu, sisteme precum „creditul social”).

Alte laboratoare de AI și-au redus sau eliminat măsurile de siguranță și s-au bazat în principal pe politici de utilizare ca principale măsuri de protecție în implementările din domeniul securității naționale. Considerăm că abordarea noastră protejează mai bine împotriva utilizării inacceptabile.

În acordul nostru, ne protejăm limitele printr-o abordare mai amplă, pe mai multe niveluri. Păstrăm controlul deplin asupra structurii noastre de siguranță, implementăm prin cloud, personalul OpenAI autorizat este implicat, iar noi avem protecții contractuale solide. Toate acestea se adaugă la protecțiile solide existente în legislația din SUA. 

Credem cu tărie în democrație. Având în vedere importanța acestei tehnologii, considerăm că singura cale bună de urmat necesită o colaborare profundă între eforturile în domeniul AI și procesul democratic. De asemenea, credem că tehnologia noastră va introduce noi riscuri în lume și dorim ca persoanele care apără Statele Unite să aibă cele mai bune instrumente.

Acordul nostru include:

1. Arhitectura de implementare. Aceasta este o implementare exclusiv în cloud, cu un sistem de siguranță pe care îl rulăm și care include aceste principii și altele. Nu furnizăm Departamentului de Război modele „fără măsuri de protecție” sau care nu au fost instruite pentru siguranță și nici nu implementăm modelele noastre pe dispozitive periferice (unde ar putea exista o posibilitate de utilizare pentru arme letale autonome). 

Arhitectura noastră de implementare ne va permite să verificăm în mod independent că aceste limite nu sunt depășite, inclusiv prin rularea și actualizarea clasificatoarelor.

2. Contractul nostru. Iată limbajul relevant:

Departamentul de Război poate utiliza Sistemul AI în toate scopurile legale, în conformitate cu legislația aplicabilă, cerințele operaționale și protocoalele de siguranță și supraveghere bine stabilite. Sistemul AI nu va fi utilizat pentru a direcționa în mod independent arme autonome în niciun caz în care legea, reglementarea sau politica Departamentului impune control uman și nici nu va fi utilizat pentru a-și asuma alte decizii cu miză ridicată, care necesită aprobarea unui factor de decizie uman în temeiul acelorași autorități. Conform Directivei DoD 3000.09 (dataă 25 ianuarie 2023), orice utilizare a AI în sisteme autonome și semi-autonome trebuie să facă obiectul unei verificări, validări și testări riguroase, pentru a se asigura că acestea funcționează conform intenției în medii realiste, înainte de implementare.

Pentru activitățile de informații, orice prelucrare a informațiilor private va respecta Al patrulea amendament, Legea privind securitatea națională din 1947 și Legea privind informațiile și supravegherea în străinătate din 1978, Ordinul Executiv 12333 și directivele DoD aplicabile, care impun un scop definit al informațiilor în străinătate. Sistemul AI nu va fi utilizat pentru monitorizarea neîngrădită a informațiilor private ale persoanelor din SUA, în conformitate cu aceste autorități. De asemenea, sistemul nu va fi utilizat pentru activități de aplicare a legii la nivel național, cu excepția cazurilor permise de Legea Posse Comitatus și de alte legi aplicabile.

3. Implicarea experților AI. Vom avea ingineri OpenAI autorizați pentru desfășurarea în avans, care vor ajuta guvernul, precum și cercetători autorizați în domeniul siguranței și alinierii. 

De ce faceți asta? 

În primul rând, considerăm că armata SUA are absolut nevoie de modele AI puternice pentru a-și sprijini misiunea, mai ales în fața amenințărilor în creștere din partea unor potențiali adversari care integrează din ce în ce mai mult tehnologiile AI în sistemele lor. Inițial, nu am încheiat un contract pentru o implementare secretizată, deoarece nu am considerat că măsurile noastre de protecție și sistemele noastre erau pregătite, și am lucrat din greu pentru a ne asigura că o implementare secretizată poate avea loc cu măsuri de protecție care să garanteze că nu sunt depășite limitele. 

Am fost – și rămânem – nedispuși să eliminăm garanțiile tehnice cheie pentru a îmbunătăți performanța activității de securitate națională. Aceasta nu este abordarea corectă pentru a sprijini armata SUA. 

În al doilea rând, am vrut, de asemenea, să detensionăm lucrurile între Departamentul de Război și laboratoarele AI din SUA. Un viitor bun va necesita o colaborare reală și profundă între guvern și laboratoarele AI. Ca parte a prezentului nostru acord, am solicitat ca aceiași termeni să fie puși la dispoziția tuturor laboratoarelor AI și, în mod specific, ca guvernul să încerce să rezolve lucrurile cu Anthropic; starea actuală este un mod foarte prost de a da startul acestei următoare faze de colaborare între guvern și laboratoarele AI.

Cum ați reușit să ajungeți la un acord când Anthropic nu a putut? Ați semnat acordul pe care ei nu au semnat-o?

Pe baza a ceea ce știm, considerăm că contractul nostru oferă garanții mai bune și măsuri de protecție mai responsabile decât acordurile anterioare, inclusiv contractul inițial al Anthropic. Considerăm că limitele noastre sunt mai ușor de aplicat aici, deoarece implementarea este limitată doar la cloud (nu la periferie), menține funcționarea stackului nostru de siguranță în modul pe care îl considerăm cel mai bun și menține personalul OpenAI autorizat în circuit.

Nu știm de ce Anthropic nu a putut încheia acest acord și sperăm că ei și mai multe laboratoare o vor lua în considerare.

Credeți că Anthropic ar trebui desemnată drept un „risc pentru lanțul de aprovizionare”?

Nu, și ne-am făcut clară poziția în această privință în fața guvernului.

Va permite acest acord Departamentului de Război să folosească modele OpenAI pentru a alimenta arme autonome? 

Nu. Pe baza sistemului nostru de siguranță, a implementării noastre exclusiv în cloud, a limbajului contractual și a legilor, reglementărilor și politicilor existente, suntem încrezători că acest lucru nu se poate întâmpla. De asemenea, vom avea personal OpenAI la curent pentru o siguranță suplimentară.  

Va permite acest acord Departamentului de Război să folosească modelele OpenAI pentru a efectua supraveghere în masă asupra persoanelor din SUA?

Nu. Pe baza sistemului nostru de siguranță, a limbajului contractual și a legilor existente, care restricționează puternic Departamentul de Război în ceea ce privește supravegherea internă, suntem încrezători că acest lucru nu se poate întâmpla. De asemenea, vom avea personal OpenAI la curent pentru o siguranță suplimentară.  

Trebuie să implementați modele fără o structură de siguranță?

Nu, păstrăm control deplin asupra suitei de măsuri de siguranță pe care o implementăm și nu vom implementa nimic fără măsuri de siguranță. În plus, cercetătorii noștri în domeniul siguranței și al alinierii vor fi la curent și vor ajuta la îmbunătățirea sistemelor în timp. Știm că alte laboratoare AI au redus măsurile de protecție ale modelelor și s-au bazat pe politicile de utilizare ca principală măsură de siguranță, dar considerăm că abordarea noastră stratificată protejează mai bine împotriva utilizării inacceptabile.

Ce se întâmplă dacă guvernul încalcă termenii contractului?

Ca în cazul oricărui contract, am putea să reziliem contractul dacă cealaltă parte contractantă încalcă termenii. Nu ne așteptăm să se întâmple asta.

Ce se întâmplă dacă guvernul pur și simplu schimbă legea sau politicile deja existente ale Departamentului de Război?

Contractul nostru face referire în mod explicit la legile și politicile privind supravegherea și armele autonome așa cum există astăzi, astfel încât, chiar dacă aceste legi sau politici se modifică în viitor, utilizarea sistemelor noastre trebuie să rămână în continuare aliniată la standardele actuale reflectate în acord. 

Cum răspunzi la argumentele pe care Anthropic le-a prezentat în postarea lor de pe blog⁠(se deschide într-o fereastră nouă) despre discuția lor cu Departamentul de Război?

În postarea lor, Anthropic menționează două dintre limitele lor (avem aceleași două limite, plus o a treia: luarea automatizată a deciziilor cu miză ridicată) și motivele pentru care nu cred că aceste limite ar fi respectate în contractele pe care le văzuseră de la Departamentul de Război la acel moment. Mai jos este motivul pentru care considerăm că aceleași limite s-ar aplica și în contractul nostru:

• Supraveghere internă în masă. În interacțiunea noastră a fost clar că Departamentul de Război consideră supravegherea internă în masă ilegală și nu intenționează să o folosească în acest scop. Ne-am asigurat că faptul că nu este acoperit de utilizarea legală a fost menționat explicit în contractul nostru.
• Arme complet autonome. Suprafața de implementare în cloud acoperită de contractul nostru nu ar permite alimentarea cu energie a armelor complet autonome, deoarece acest lucru ar necesita implementare periferică. 

Pe lângă aceste măsuri de protecție, contractul nostru oferă măsuri de siguranță suplimentare pe mai multe niveluri, inclusiv sistemul nostru de siguranță și experți tehnici OpenAI implicați în proces.