SUA promovează siguranța IA prin acțiuni statale și federale

De Chris Lehane, Director pentru Afaceri globale

Din capitalele statelor din întreaga țară până la Washington și la reuniunile internaționale, prind contur abordări serioase ale guvernanței IA de vârf. Împreună, ele promovează o viziune democratică asupra IA.

California, New York și, cel mai recent, Illinois au propus legi privind siguranța IA de vârf, care ajută țara să se îndrepte către o bază comună pentru guvernarea celor mai puternice sisteme de IA.

Aceste eforturi reflectă dinamica din spatele a ceea ce OpenAI numește federalism invers: statele contribuind la stabilirea unei direcții comune printr-un cadru comun. Pe măsură ce activitatea condusă de state converge cu eforturile în curs la nivel federal, începe să prindă contur un standard național, care pune bazele unui cadru global privind IA condus de SUA. Considerăm că cea mai bună modalitate de a ne asigura că IA aduce beneficii tuturor, nu doar câtorva, este ca deciziile critice, începând cu siguranța IA de vârf, să fie luate de guverne democratice, nu exclusiv de laboratoarele de IA de vârf.

În cele din urmă, Statele Unite ar avea cel mai mult de câștigat dintr-un cadru național bazat pe acest principiu. Însă, în lipsa unui astfel de cadru, statele pot contribui la atingerea acestui obiectiv prin adoptarea unor legi care să se armonizeze între ele. Pas cu pas, ele pot crea un standard național de facto.

Iar dacă siguranța este prioritatea, un astfel de standard național este cea mai bună abordare de politică publică pentru a garanta (a) că SUA continuă să conducă în inovare și nu este subminată de un mozaic de reglementări care ar încetini capacitatea de a construi un stack global de IA democratică, astfel încât actorii bine intenționați să aibă instrumentele de care au nevoie pentru a se apăra împotriva actorilor rău intenționați care caută să folosească abuziv IA în domenii precum securitatea cibernetică; și (b) că SUA se află în cea mai puternică poziție pentru a transforma standardul național într-o abordare globală pentru implementarea în siguranță a IA, construită pe valori democratice. Dacă vrem să creăm un cadru de siguranță care să prioritizeze cu adevărat instituirea unui standard național și internațional, ceea ce va sprijini cel mai bine implementarea în siguranță a IA, va fi nevoie de muncă serioasă, rigoare și de o strategie care să conecteze statele, guvernul federal și dialogul internațional. O abordare de natură performativă sau menită să-și afișeze meritele nu va da rezultate în acest caz. Haosul la nivel de stat nu servește interesului unei abordări durabile în materie de siguranță, ci nu va face decât să genereze și mai mult haos.

Pentru ca această abordare să reușească, statele ar trebui să continue să se alinieze asupra elementelor de bază, așa cum au făcut California, New York și Illinois. În linii mari, aceste elemente sunt:

• Un cadru de siguranță documentat, care să includă evaluări de risc pentru modelele de vârf, precum și publicarea acestor evaluări și a rezultatelor lor.
• Raportarea incidentelor grave de siguranță.
• Guvernanță și responsabilizare prin audituri independente și obiective.

În ansamblu, aceste trei state au integrat mecanisme democratice de supraveghere în procesul de implementare a IA de vârf. California a stabilit cadrul de bază privind divulgarea informațiilor. New York a demonstrat că această abordare poate fi adoptată la nivelul tuturor jurisdicțiilor. Illinois a completat acest cadru prin impunerea unei verificări independente a informațiilor cheie divulgate.

Recunoaștem că legislația include adesea prevederi suplimentare pentru a asigura voturile necesare adoptării. Dar credem că acestea sunt elementele esențiale necesare pentru a crea un standard național de facto prin federalism invers. Fără această disciplină, riscăm o extindere treptată a politicilor și un mozaic de legi statale greu de aplicat de autoritățile de reglementare, derutant pentru consumatori și care deviază resursele dezvoltatorilor, în special ale start-upurilor și companiilor mici, resurse ce ar fi mai bine investite în siguranță. În special, așa cum au arătat ultimele săptămâni, pe măsură ce modelele de IA devin tot mai capabile, avem nevoie de un sistem coerent care să ne permită să punem instrumentele în mâinile guvernului, ale infrastructurii critice, ale aliaților și ale partenerilor de încredere.

De asemenea, factorii de decizie ar trebui să se ferească de extinderea nejustificată a misiunii. Statelor nu ar trebui să li se ceară să gestioneze riscuri semnificative de securitate națională (sau, practic, să ia decizii de securitate națională în numele întregii țări) sau să efectueze analize extrem de tehnice, care sunt gestionate mai bine de experți federali care dispun de resurse, expertiză, acces la sisteme clasificate și capacitatea de a colabora îndeaproape cu echipele noastre.

La nivel federal, Administrația Trump continuă să lucreze cu experți tehnici și de securitate națională la un cadru pentru testarea de către guvernul SUA a celor mai capabile modele de IA în domeniul cibernetic. Acest cadru va stabili standarde, termene și procese de testare. OpenAI poartă discuții constructive cu administrația, companii similare, grupuri de afaceri și alte părți interesate care contribuie la conturarea acestui demers.

Activitatea în curs privind evaluările cibernetice arată de ce contează consecvența. În prezent, în mod justificat, modelele sunt testate înainte ca respectivul cadru federal să fie finalizat. Pe măsură ce laboratoarele au parcurs acest proces, o lecție a devenit clară: avem nevoie de o abordare consecventă și repetabilă atât la nivel statal, cât și federal. Acest lucru este esențial dacă vrem ca cele mai capabile modele să ajungă în mâinile guvernului, ale apărătorilor infrastructurii critice, ale aliaților și ale altor parteneri de încredere. Apreciem obiectivul administrației de a pune în aplicare acest cadru până la începutul lunii august.

Un cadru federal de testare va ajuta ca instrumentele avansate de IA să ajungă în mâinile guvernului, ale apărătorilor infrastructurii critice, ale aliaților și ale altor parteneri de încredere. Astfel, va consolida instituțiile democratice și va contribui la construirea unui stack democratic de IA condus de SUA. Acum este momentul să profităm de avantajul Americii în materie de inovare în sprijinul unei IA democratice.

Niciun proces federal nedefinit, niciun mozaic de legi statale nu vor produce un regim coerent de siguranță pentru IA de vârf. Avem nevoie de o abordare care să garanteze că cei mai buni evaluatori testează cele mai capabile modele și că apărătorii de încredere obțin acces la aceste instrumente suficient de repede pentru a rămâne cu un pas înaintea actorilor rău intenționați.

Și Congresul face progrese în această direcție. Legiuitorii din ambele camere și de pe ambele părți ale spectrului politic, inclusiv, cel mai recent, deputații Jay Obernolte și Lori Trahan, au luat act de evoluțiile din statele federale și din cadrul puterii executive și au prezentat propuneri pentru un cadru federal. Niciun proiect de discuție care să ofere o cale realistă către adoptare nu va fi perfect. Însă considerăm această inițiativă un pas productiv înainte și credem că multe dintre prevederile sale sunt bine gândite și merită sprijin.

De asemenea, suntem încurajați de faptul că liderii Senatului și ai Camerei Reprezentanților depun eforturi serioase în ceea ce privește propunerile referitoare la guvernanța națională și securitatea IA de vârf, iar cu mulți dintre ei am purtat discuții constructive. Având în vedere amploarea și influența statelor care au adoptat deja legi cu orientări similare, integrarea acestor abordări în legislația federală ar trebui să faciliteze instituirea unui regim național unic de securitate a IA de vârf.

Planul OpenAI pentru siguranța IA de vârf prezintă ceea ce considerăm a fi elementele esențiale ale acestui cadru.

În primul rând, guvernul federal ar trebui să conducă testarea și evaluarea celor mai avansate sisteme. IA de vârf ridică probleme de securitate națională și siguranță publică ce necesită cunoștințe tehnice, resurse și acces pe care niciun stat nu le poate reproduce pe deplin.

Aceste eforturi ar trebui să consolideze Centrul pentru Standarde și Inovație în domeniul IA (CAISI), creat sub președinția lui Biden și consolidat sub președinția lui Trump. CAISI poate asigura capacitatea federală durabilă necesară pentru evaluarea modelelor avansate și pentru reorientarea standardelor de siguranță ale IA de vârf către prevenirea prejudiciilor înainte ca acestea să se producă, în loc să se bazeze în principal pe asumarea responsabilității ulterioare. Orice legislație federală ar trebui să analizeze cu atenție modul în care CAISI ar trebui să colaboreze cu restul instituțiilor guvernamentale și rolul pe care ar trebui să îl joace în centrul procesului de testare.

În al doilea rând, companiile care dezvoltă cele mai performante sisteme ar trebui să îndeplinească cerințe clare, printre care audituri independente, raportarea incidentelor, standarde riguroase de securitate și protecția denunțătorilor.

În al treilea rând, eforturile federale și statale ar trebui să se consolideze reciproc. Legile statale nu vor fi toate identice și așteptăm cu interes să colaborăm cu factorii de decizie din întreaga țară pentru a ne asigura că acestea întăresc siguranța, maximizând în același timp beneficiile economice ale IA.

Statele ar trebui, de asemenea, să continue să funcționeze ca laboratoare ale democrației în domenii dincolo de siguranța IA de vârf, inclusiv protecția tinerilor, politica privind electricitatea și mediul, precum și educația și alfabetizarea în domeniul IA.

Un cadru federal rămâne esențial. IA de vârf ridică probleme de securitate națională, competitivitate economică și siguranță publică ce vor necesita, în cele din urmă, standarde naționale, capacități naționale și instituții naționale pentru a sprijini IA democratică.

Legislația națională este, de asemenea, esențială pentru un cadru internațional privind standardele IA condus de SUA. Această idee a fost discutată acum câteva săptămâni la G7, împreună cu Brazilia, Egipt, India, Kenya și Coreea, unde directorii generali ai principalelor laboratoare de vârf au discutat necesitatea unui astfel de cadru. În urma acelei întâlniri, Sam Altman, CEO-ul OpenAI, a propus în Financial Times⁠(se deschide într-o fereastră nouă) „un forum internațional condus de SUA, care stabilește standarde acceptate, oferă analize de specialitate și imparțiale ale capabilităților și riscurilor și pune tehnologia la dispoziția națiunilor și companiilor care participă și respectă regulile”. Săptămâna aceasta, Demis Hassabis, CEO-ul Google DeepMind, a propus și el idei bine gândite într-o nouă lucrare. Legislația federală, în mod necesar bipartizană, ar oferi o bază solidă pentru acest efort internațional.

Acest elan este acum vizibil la toate nivelurile. Statele stabilesc abordări comune. Congresul și puterea executivă lucrează la crearea unui cadru național. Iar liderii mondiali încep să discute despre standarde internaționale. Dacă fiecare dintre aceste părți se bazează pe contribuția celorlalte, Statele Unite pot conduce dezvoltarea unui cadru global fundamentat pe o viziune democratică asupra IA. Iar această abordare democratică a IA este cea care acordă cu adevărat prioritate siguranței.