Els EUA impulsen la seguretat de la IA amb accions estatals i federals

Per Chris Lehane, director d’Afers globals

Des de les capitals estatals d’arreu del país fins a Washington i les trobades internacionals, estan prenent forma enfocaments seriosos per a la governança de la IA d’avantguarda. En conjunt, impulsen una visió democràtica de la IA.

Califòrnia, Nova York i, més recentment, Illinois han impulsat legislació sobre seguretat d’avantguarda que ajuda a acostar el país a una base comuna per governar els sistemes d’IA més potents.

Aquests esforços reflecteixen l’impuls del que OpenAI anomena federalisme invers: estats que ajuden a establir una direcció compartida mitjançant un marc comú. A mesura que la feina liderada pels estats convergeix amb els esforços en curs a escala federal, comença a prendre forma un estàndard nacional que posa les bases d’un marc global d’IA liderat pels EUA. Creiem que la millor manera de garantir que la IA beneficiï la majoria, i no només uns quants, és que les decisions crítiques —començant per la seguretat d’avantguarda— les prenguin governs democràtics, no només laboratoris d’avantguarda.

En última instància, als Estats Units els convindria més un marc nacional fonamentat en aquest principi. Però, si no n’hi ha, els estats ens hi poden acostar aprovant lleis que s’emmirallin les unes en les altres. Pas a pas, poden crear un estàndard nacional de facto.

I, si la seguretat és la prioritat, aquest estàndard nacional és el millor enfocament polític per garantir (a) que els EUA continuïn liderant la innovació i no es vegin frenats per un mosaic de regulacions que alentiria la capacitat de construir una pila global d’IA democràtica orientada a fer que els bons disposin de les eines que necessiten per defensar-se dels actors maliciosos que volen fer un mal ús de la IA en àmbits com la ciberseguretat; i (b) que els EUA estiguin en la posició més sòlida per convertir l’estàndard nacional en un enfocament global per al desplegament segur de la IA basat en valors democràtics. Si volem crear un marc de seguretat que prioritzi de debò l’establiment d’un estàndard nacional i internacional —que és el que millor donarà suport al desplegament segur de la IA— caldran molta feina, seriositat de propòsit i una estratègia que connecti els estats, el govern federal i la conversa internacional. Un enfocament performatiu o de postureig moral no farà la feina: el caos a escala estatal no afavoreix un enfocament de seguretat durador; només generarà més caos.

Perquè aquest enfocament tingui èxit, els estats han de continuar alineant-se en els elements bàsics, com han fet Califòrnia, Nova York i Illinois. A grans trets, aquests elements són:

• Un marc de seguretat documentat amb avaluacions de riscos per als models d’avantguarda i divulgació pública d’aquestes avaluacions i dels seus resultats.
• Notificació d’incidents de seguretat greus.
• Governança i rendició de comptes mitjançant auditories independents i objectives.

En conjunt, aquests tres estats han incorporat la supervisió democràtica al desplegament de la IA d’avantguarda. Califòrnia va establir el marc central de divulgació. Nova York va demostrar que l’enfocament es podia adoptar en diverses jurisdiccions. Illinois el va complementar exigint la verificació independent de les divulgacions clau.

Reconeixem que la legislació sovint inclou disposicions addicionals per assegurar els vots necessaris per a l’aprovació. Però creiem que aquests són els elements essencials per crear un estàndard nacional de facto mitjançant el federalisme invers. Sense aquesta disciplina, correm el risc d’una expansió gradual de les polítiques i d’un mosaic de lleis estatals difícils de fer complir pels reguladors, confuses per als consumidors i que desviïn recursos dels desenvolupadors —sobretot en start-ups i petites empreses— que estarien més ben invertits en seguretat. En particular, i com han mostrat les darreres setmanes, a mesura que els models d’IA esdevenen cada cop més capaços, necessitem un sistema coherent que ens permeti posar les eines en mans del govern, de les infraestructures crítiques, dels aliats i dels socis de confiança.

Els responsables polítics també han d’evitar la deriva de la missió. No s’ha de demanar als estats que gestionin riscos importants de seguretat nacional (ni que, en la pràctica, prenguin decisions de seguretat nacional en nom de tot el país) ni que duguin a terme revisions altament tècniques que és millor que assumeixin experts federals amb els recursos, l’expertesa, l’accés a sistemes classificats i la capacitat de treballar estretament amb els nostres equips.

En l’àmbit federal, l’Administració Trump continua treballant amb experts tècnics i de seguretat nacional en un marc perquè el govern dels EUA provi els models d’IA més capaços en ciberseguretat. Aquest marc establirà estàndards, calendaris i processos de prova. OpenAI manté converses constructives amb l’Administració, empreses del sector, grups empresarials i altres parts interessades que ajuden a donar forma a aquesta iniciativa.

La feina en curs sobre avaluacions de ciberseguretat mostra per què la coherència és important. Avui, i és comprensible, els models s’estan provant abans que el marc federal estigui complet. A mesura que els laboratoris han avançat en aquest procés, una lliçó ha quedat clara: necessitem un enfocament coherent i repetible tant a escala estatal com federal. Això és essencial si volem que els models més capaços arribin a mans del govern, dels defensors de les infraestructures crítiques, dels aliats i d’altres socis de confiança. Valorem l’objectiu de l’Administració de tenir aquest marc en funcionament a principis d’agost.

Un marc federal de proves ajudarà a posar eines avançades d’IA a disposició del govern, dels defensors de les infraestructures crítiques, dels aliats i d’altres socis de confiança. Així, reforçarà les institucions democràtiques i ajudarà a construir una pila d’IA democràtica liderada pels EUA. Ara és el moment d’aprofitar el lideratge innovador dels Estats Units en suport d’una IA democràtica.

Ni un procés federal indefinit ni un mosaic de lleis estatals produiran un règim coherent de seguretat d’avantguarda. Necessitem un enfocament que garanteixi que els millors avaluadors examinin els models més capaços, i que els defensors de confiança accedeixin a aquestes eines amb prou rapidesa per anar per davant dels actors maliciosos.

El Congrés també s’està movent. Legisladors de totes dues cambres i de tots dos partits —incloent-hi, més recentment, els representants Jay Obernolte i Lori Trahan— han pres nota dels avenços als estats i al poder executiu i han presentat propostes per a un marc federal. Cap esborrany de debat amb una via realista d’aprovació serà perfecte. Però veiem aquesta feina com un pas endavant productiu i creiem que moltes de les seves disposicions són ben plantejades i mereixen suport.

També ens encoratja que els líders del Senat i de la Cambra dediquin esforços seriosos a propostes de governança nacional i seguretat d’avantguarda, i hem mantingut converses constructives amb molts d’ells. Atesa la mida i la influència dels estats que ja han promulgat lleis en una direcció alineada, incorporar aquests enfocaments a la legislació federal hauria de facilitar l’establiment d’un únic règim nacional de seguretat d’avantguarda.

El pla d’OpenAI per a la seguretat d’avantguarda exposa quins creiem que són els elements essencials d’aquest marc.

En primer lloc, el govern federal hauria de liderar les proves i l’avaluació dels sistemes més avançats. La IA d’avantguarda planteja qüestions de seguretat nacional i seguretat pública que requereixen expertesa tècnica, recursos i accés que cap estat pot replicar plenament.

Aquesta tasca hauria de reforçar el Center for AI Standards and Innovation (CAISI), creat sota el president Biden i enfortit sota el president Trump. El CAISI pot aportar la capacitat federal duradora necessària per avaluar models avançats i orientar la seguretat d’avantguarda cap a la prevenció del dany abans que es produeixi, en lloc de basar-se principalment en la rendició de comptes posterior. Qualsevol legislació federal hauria de considerar amb cura com ha de treballar el CAISI amb la resta del govern i quin paper ha de tenir al centre de les proves.

En segon lloc, les empreses que desenvolupen els sistemes més capaços haurien de complir requisits clars, incloent-hi auditories independents, notificació d’incidents, estàndards de seguretat sòlids i proteccions per als alertadors.

En tercer lloc, els esforços federals i estatals s’haurien de reforçar mútuament. Les lleis estatals no seran totes idèntiques, i esperem treballar amb responsables polítics d’arreu del país per assegurar que reforcin la seguretat alhora que maximitzen els beneficis econòmics de la IA.

Els estats també han de continuar actuant com a laboratoris de democràcia en àmbits més enllà de la seguretat d’avantguarda, com la protecció dels joves, la política elèctrica i ambiental, i l’educació i l’alfabetització en IA.

Un marc federal continua sent essencial. La IA d’avantguarda planteja qüestions de seguretat nacional, competitivitat econòmica i seguretat pública que, en última instància, requereixen estàndards, capacitats i institucions nacionals per donar suport a una IA democràtica.

La legislació nacional també és clau per a un marc internacional d’estàndards d’IA liderat pels EUA. Aquesta idea es va debatre fa unes setmanes al G7, juntament amb el Brasil, Egipte, l’Índia, Kenya i Corea, on els consellers delegats dels principals laboratoris d’avantguarda van parlar de la necessitat d’un marc així. Després d’aquella reunió, el conseller delegat d’OpenAI, Sam Altman, va proposar al Financial Times⁠(s'obre en una finestra nova) "un fòrum internacional liderat pels EUA que estableixi estàndards acceptats, aporti anàlisis expertes i imparcials de capacitats i riscos, i posi la tecnologia a disposició dels països i empreses que hi participin i compleixin les normes". Aquesta setmana, el conseller delegat de Google DeepMind, Demis Hassabis, també ha presentat idees ben plantejades en un nou article. Una legislació federal —necessàriament bipartidista— proporcionaria una base sòlida per a aquest esforç internacional.

L’impuls ja és visible a tots els nivells. Els estats estan establint enfocaments comuns. El Congrés i el poder executiu avancen cap a un marc nacional. I els líders globals comencen a debatre estàndards internacionals. Si cadascun d’aquests esforços es basa en els altres, els EUA poden liderar el desenvolupament d’un marc global fonamentat en una visió democràtica de la IA. I aquest enfocament d’alineament democràtic de la IA és el que realment prioritza la seguretat.