Fereastra politicii AI este deschisă. Trebuie să acționăm.

Am intrat într-o nouă etapă a capabilităților AI, iar aceasta impune o nouă etapă și pentru politica privind AI. Nicio companie, industrie sau autoritate publică nu poate face față singură acestei provocări. Trebuie să facem față acestui moment punând acțiunile semnificative înaintea perfecțiunii politicilor publice.

Iată ce facem:

1. Promovăm cerințe naționale obligatorii privind siguranța AI. Vrem să colaborăm cu Congresul pentru elaborarea unor reglementări naționale obligatorii privind siguranța AI, bazate pe capabilități.

2. Menținem ritmul în state. Până când Congresul va acționa, vom continua să susținem legislația la nivel de stat care consolidează ecosistemul mai amplu al siguranței AI. Astăzi ne anunțăm sprijinul pentru patru proiecte de lege din California: SB 813 privind infrastructura generală pentru evaluări independente de siguranță, AB 1405 privind standardele pentru auditorii AI, SB 1119 privind protecțiile pentru tineri și AB 1864 privind măsurile de protecție împotriva amenințărilor biologice facilitate de AI.

3. Promovăm standarde conduse de industrie. Vom colabora cu alte laboratoare de vârf pentru a promova standardele pentru AI de vârf, dezvoltând acum o inițiativă voluntară, cu sau fără sprijin guvernamental.

4. Construirea standardelor globale. Vom susține abordări internaționale compatibile pentru măsurarea capabilităților, gestionarea riscurilor, menținerea controlului uman și stabilirea momentului și modului în care dezvoltarea ar trebui încetinită sau oprită, chiar dacă acest lucru înseamnă încetinirea avansării capabilităților modelelor.

Cercetătorul nostru principal, Jakub Pachocki, a scris⁠ recent că ascensiunea rapidă a inteligenței artificiale, inclusiv potențialul autoîmbunătățirii recursive, impune „precauție extremă”. OpenAI va continua să dezvolte soluții tehnice pentru aliniere și monitorizare, să construiască sisteme defensive și să încetinească dezvoltarea atunci când este necesar. Dar activitatea tehnică desfășurată în laboratoare individuale nu va fi suficientă. Avem nevoie și de standarde comune, inclusiv pentru a stabili când dezvoltarea trebuie încetinită sau oprită.

Miza este enormă. AI avansată ar putea accelera dezvoltarea de medicamente noi⁠, consolida infrastructura critică⁠, extinde oportunitățile economice⁠ și ajuta la rezolvarea unor probleme științifice⁠ care au rezistat eforturilor mai multor generații. Dar capabilitățile care fac modelele mai utile implică și riscuri, iar acestea nu vor rămâne limitate la câteva laboratoare de vârf. Modelele dezvoltate în întreaga lume, inclusiv modelele deschise, se vor apropia tot mai mult de nivelul actual de vârf și vor deveni disponibile pe scară largă.

Capabilitățile Astra, primele dovezi privind accelerarea cercetării prin AI și eseul lui Jakub indică toate aceeași direcție: AI avansează rapid, iar politicile publice trebuie să evolueze odată cu aceasta.

Greg Brockman a descris o „fereastră de oportunitate pentru apărători”⁠(se deschide într-o fereastră nouă): o perioadă limitată în care AI de vârf îi poate ajuta pe apărători să consolideze sistemele critice înainte ca puternicele capabilități ofensive să se răspândească. Factorii de decizie se confruntă cu un moment similar: o fereastră care se închide pentru instituirea unor măsuri de protecție durabile, înainte ca instituțiile însărcinate cu guvernanța AI să fie depășite de capabilitățile acesteia.

Pe măsură ce capabilitățile cresc, încrederea în siguranță trebuie să stabilească tot mai mult ritmul progresului AI. Siguranța nu împiedică progresul; ea îi permite să meargă mai departe și să aducă beneficii unui număr mai mare de oameni.

Am consolidat măsurile de protecție privind monitorizarea, alinierea și securitatea pe tot parcursul ciclului de dezvoltare a modelului, inclusiv prin izolarea mai strictă a sarcinilor de cercetare de vârf, monitorizarea extinsă a comportamentului modelului în timpul instruirii și evaluărilor cu ajutorul instrumentelor, precum și reguli mai clare privind momentul în care trebuie escaladate preocupările. Pentru Astra, am introdus și monitorizarea tuturor traiectoriilor complete, inclusiv a lanțurilor de gândire, precum și un prag obligatoriu de evaluare a alinierii înainte de implementarea internă pe scară mai largă.

Aceste măsuri de protecție trebuie să rămână în continuare cu un pas înaintea capabilităților. Atunci când continuarea activității ar prezenta un risc inacceptabil pentru siguranță, vom încetini sau opri dezvoltarea ori implementarea sistemelor pe care nu le putem proteja suficient, așa cum am făcut și înainte și cum prevede Cadrul nostru de pregătire⁠(se deschide într-o fereastră nouă).

Autoîmbunătățirea recursivă complet autonomă — prin care sistemele AI generează independent generații succesive de AI tot mai capabile — nu are loc în prezent. Nu ar trebui să mergem mai departe în această direcție decât atunci când o putem face în siguranță.

Cu toate acestea, AI accelerează deja anumite părți ale cercetării folosite pentru dezvoltarea și alinierea următoarei generații de modele. Cele mai recente cercetări⁠ ale noastre arată că agenții AI pot îndeplini unele sarcini care le-ar lua cercetătorilor experimentați câteva zile. Aceasta nu este autoîmbunătățire recursivă, dar indică direcția în care se îndreaptă lucrurile.

Această accelerare poate și trebuie orientată și către siguranță. Obiectivul nostru este să construim în siguranță cercetători AI automatizați, care să lucreze sub supraveghere umană pentru a promova atât învățarea aprofundată, cât și alinierea, folosind fiecare generație de AI pentru ca următoarea să fie mai sigură, mai bine aliniată și mai ușor de controlat, nu doar mai capabilă.

Guvernele ar trebui să elaboreze modalități comune de măsurare a acestui progres, să păstreze un control uman real și să stabilească praguri comune de siguranță care să determine când și cum dezvoltarea trebuie încetinită sau oprită. Dacă nu putem îndeplini anumite praguri de siguranță fără a încetini creșterea capabilităților, ar trebui să acordăm prioritate primelor. Cu cât tehnologia devine mai puternică, cu atât măsurile de protecție din jurul ei trebuie să fie mai solide.

Perspectiva dezvoltării AI accelerate de AI impune mai mult decât angajamente voluntare. Statele Unite au nevoie de reglementări naționale obligatorii, stabilite în funcție de capabilități, care să poată evolua odată cu tehnologia.

Planul nostru pentru guvernanța democratică a AI de vârf⁠ trasează calea către un cadru federal durabil: cerințe comune de testare și evaluare independentă, protecții mai stricte în materie de securitate cibernetică, reguli clare de raportare a incidentelor, o mai bună pregătire națională și măsuri comune pentru urmărirea progresului către autoîmbunătățirea recursivă.

În Congres prind acum contur mai multe propuneri serioase privind siguranța AI de vârf. Vom continua să participăm constructiv la discuții și ne așteptăm să susținem legislația care ridică substanțial standardul de siguranță. Când miza este atât de ridicată, nu putem lăsa perfecțiunea să devină dușmanul binelui. Congresul ar trebui să acționeze înainte de încheierea sesiunii.

Un cadru național ar trebui să fie solid, dar direcționat cu atenție. Cerințele de siguranță pentru AI de vârf ar trebui să se aplice doar celor câtorva laboratoare cu resurse considerabile care dezvoltă cele mai capabile sisteme — nu startupurilor, micilor dezvoltatori sau cercetătorilor care activează departe de nivelul de vârf. Obligațiile ar trebui să fie proporționale cu capabilitățile și riscurile.

Nici politica privind siguranța AI de vârf nu ar trebui să devină, sub alt nume, o politică privind ponderile deschise. Modelele deschise pot face parte din soluție, în special în domeniul securității cibernetice și acolo unde cerințele de suveranitate, securitate sau rezidență a datelor favorizează implementarea locală. Majoritatea nu concurează la nivelul de vârf, ci prin cost, control și latență. Așa cum am afirmat prin semnarea Scrisorii privind ponderile deschise și poziția de lider a SUA în AI⁠(se deschide într-o fereastră nouă), America are nevoie atât de modele deschise, cât și de modele închise. Un cadru federal ar trebui să abordeze capabilitățile și riscurile de vârf fără a slăbi concurența, a consolida poziția actorilor deja stabiliți sau a împinge inovația în străinătate.

Un cadru public solid ar trebui să reducă, nu să sporească, concentrarea puterii. În prezent, laboratoarele de vârf își stabilesc în mare măsură propriile reguli pentru gestionarea riscurilor de frontieră. Standardele supuse răspunderii democratice, verificarea independentă și transparența reală ar înlocui acel sistem fragmentat de guvernanță privată.

Acest lucru este esențial pentru poziția de lider a SUA. Statele Unite nu pot câștiga era AI doar prin capabilități. Avansul tehnic va conta prea puțin dacă oamenii, instituțiile și guvernele nu au suficientă încredere în tehnologie pentru a o adopta. Măsurile de protecție solide nu reprezintă o concesie făcută în detrimentul inovației. Ele fac parte din infrastructura necesară adoptării pe scară largă și menținerii poziției de lider a SUA.

Avem mare nevoie de standarde naționale pentru AI, iar oricine lucrează în domeniul de vârf poate vedea urgența. Până când Congresul va acționa, statele ar trebui să continue să intervină pentru a umple vidul și a ridica standardele.

OpenAI a susținut SB 53 din California, Legea RAISE din New York, SB 315 din Illinois și auditurile independente prevăzute de legislația privind siguranța AI de vârf aflată în dezbatere în Massachusetts. Încurajăm statele să se alinieze în jurul acestor măsuri de protecție comune. Astfel, ele pot crea o bază națională de facto pe care Congresul o poate codifica în cele din urmă — o abordare pe care o numim ⁠federalism invers⁠. Însă armonizarea nu înseamnă înghețarea cerințelor.

Astăzi, susținem în mod oficial alte patru proiecte de lege din California care au fost adoptate de legislativ și se îndreaptă spre guvernatorul Newsom. Împreună, acestea abordează componente complementare ale ecosistemului siguranței AI.

SB 813⁠(se deschide într-o fereastră nouă) ar institui un proces de desemnare a organizațiilor independente și calificate, capabile să evalueze riscurile AI. Așa cum am afirmat în ⁠(se deschide într-o fereastră nouă)planul nostru pentru siguranța AI de vârf⁠(se deschide într-o fereastră nouă), preferăm ca evaluările tehnice independente să fie obligatorii la nivel federal, unde factorii de decizie pot stabili standarde consecvente privind calificările evaluatorilor, securitatea și accesul la informații extrem de sensibile. Totuși, în lipsa unor măsuri federale, California poate contribui la stabilirea regulilor pentru un sistem național de evaluare independentă sigur și capabil, care produce rezultate mai bune în materie de siguranță.

AB 1405⁠(se deschide într-o fereastră nouă) ar institui pentru auditorii AI cerințe privind înregistrarea, independența, transparența și responsabilitatea.

SB 1119⁠(se deschide într-o fereastră nouă) ar impune verificarea vârstei, evaluări ale riscurilor, audituri independente, controale parentale și măsuri de protecție împotriva conținutului dăunător pentru copiii și adolescenții care folosesc chatboți de companie. Recent, ne-am exprimat sprijinul⁠ pentru acest proiect de lege, care se bazează pe măsurile pentru siguranța tinerilor promovate de OpenAI prin produsele noastre, ⁠principiile globale de politică publică⁠ și prin susținerea acordată ⁠(se deschide într-o fereastră nouă)Legii privind siguranța părinților și copiilor în utilizarea AI⁠(se deschide într-o fereastră nouă), precum și pe protecțiile integrate în ChatGPT pentru adolescenți — inclusiv setări implicite mai stricte în domeniile sensibile, Ore de liniște, Ore de studiu și mementouri pentru pauze.

AB 1864⁠(se deschide într-o fereastră nouă) ar obliga furnizorii de servicii de sinteză genetică și producătorii de echipamente compacte de sinteză să respecte standardele federale de verificare, consolidând o măsură fizică importantă de protecție împotriva amenințărilor biologice facilitate de AI.

Unele dintre aceste proiecte de lege nu le-am susținut în trecut, dar le susținem acum, după ce ne-am reconsiderat poziția în lumina progresului recent și semnificativ al capabilităților pe care l-am observat.

Aceste proiecte de lege nu înlocuiesc reglementarea federală. Sunt eforturi serioase care pot proteja oamenii acum, pot demonstra cum arată măsurile de protecție viabile și pot contribui la impulsionarea acțiunii federale.

Legile singure nu vor face ca AI avansată să fie sigură. Avem nevoie, de asemenea, de practici concrete în cadrul laboratoarelor care dezvoltă cele mai capabile sisteme. Cel mai urgent punct de plecare este monitorizarea.

Acest lucru este deosebit de important în cazul nealinierii — atunci când un model urmărește un obiectiv în moduri care contravin intenției umane sau limitelor stabilite, fără a necesita conștiință sau intenție răuvoitoare. Pe măsură ce modelele dobândesc mai multă autonomie, folosesc instrumente mai puternice și operează pe perioade mai lungi, dezvoltatorii ar trebui să fie obligați să monitorizeze aceste comportamente nealiniate și să demonstreze existența unor măsuri de protecție eficiente.

Monitorizarea trebuie să fie corelată cu cerințe clare de divulgare. După cum am susținut în California, companiile ar trebui să fie obligate să trimită o solicitare scrisă părților afectate atunci când, în timpul dezvoltării sau evaluării, modelele lor eludează fără autorizație controalele de securitate ale altei organizații și accesează, modifică sau distrug în mod semnificativ sistemele protejate sau informațiile confidențiale ale acelei organizații. De asemenea, susținem cerințe federale de raportare pentru alte incidente grave legate de AI și lucrăm la definirea incidentelor care ar trebui acoperite și a cerințelor ce ar trebui să presupună aceste cerințe.

Așa cum am anunțat săptămâna trecută, OpenAI dezvoltă un cadru pentru raportarea incidentelor de nealiniere cu consecințe importante și monitorizarea sistematică a activității modelelor de vârf, inclusiv a utilizării interne. Inițiativa pornește la nivelul companiei, dar sperăm că poate contribui la conturarea unor politici federale și cerințe de raportare mai ample.

Dorim să colaborăm cu alte laboratoare la standarde elaborate de industrie. Orice standarde elaborate de industrie ar completa — nu ar înlocui — măsurile federale obligatorii de protecție și supravegherea democratică. Dar am intrat într-o etapă diferită în ceea ce privește capabilitățile AI, iar toate opțiunile ar trebui luate în considerare, inclusiv ce poate fi construit voluntar în afara guvernului ca măsură imediată.

Orice astfel de standarde trebuie, în cele din urmă, să se extindă și dincolo de granițele naționale. Modelele, cercetarea și expertiza tehnică circulă la nivel global, iar eșecurile care implică cele mai capabile sisteme ar putea avea consecințe mult dincolo de țara în care sunt dezvoltate. Statele Unite trebuie să stabilească standarde credibile pe plan intern dacă vor să aibă un rol de lider la nivel internațional — iar convingerea noastră că vor fi necesare standarde internaționale compatibile devine tot mai puternică.

Fereastra de oportunitate pentru politica privind AI este deschisă, deocamdată. Intenționăm să o valorificăm.

Aceasta înseamnă să acționăm cu urgență, modestie și disponibilitate de adaptare. Înseamnă să susținem propunerile serioase care ridică substanțial standardul de siguranță, chiar dacă nu sunt exact cele pe care le-am fi conceput noi. Și înseamnă să consolidăm cadrul pe măsură ce tehnologia evoluează.

Niciun prim pas nu va fi perfect. Dar riscul mai mare acum este să așteptăm prea mult înainte de a-l face.