SAD unapređuje sigurnost AI-ja kroz djelovanje država i federalne vlasti

Piše Chris Lehane, glavni direktor za Globalne poslove

Od glavnih gradova saveznih država širom zemlje, preko Washingtona, do međunarodnih skupova, ozbiljni pristupi upravljanju graničnom AI počinju se oblikovati. Zajedno unapređuju demokratsku viziju AI-ja.

Kalifornija, New York i, najnovije, Illinois unaprijedili su zakonodavstvo o sigurnosti granične AI koje pomaže da se zemlja približi zajedničkoj osnovi za upravljanje najmoćnijim AI sistemima.

Ovi napori odražavaju zamah iza onoga što OpenAI naziva obrnutim federalizmom: države pomažu uspostaviti zajednički pravac kroz zajednički okvir. Kako se rad predvođen državama približava naporima koji su u toku na federalnom nivou, počinje se oblikovati nacionalni standard, čime se postavljaju temelji za globalni AI okvir predvođen SAD-om. Vjerujemo da je najbolji način da se osigura da AI koristi mnogima, a ne samo nekolicini, taj da ključne odluke — počevši od sigurnosti granične AI — donose demokratske vlade, a ne isključivo laboratorije za graničnu AI.

U konačnici, Sjedinjenim Državama bi najviše koristio nacionalni okvir zasnovan na tom principu. Ali dok ga nema, države nas mogu dovesti do njega usvajanjem zakona koji se međusobno ogledaju. Korak po korak, mogu stvoriti de facto nacionalni standard.

A ako je sigurnost prioritet, takav nacionalni standard najbolji je politički pristup da se osigura (a) da SAD nastavi predvoditi inovacije i da ga ne potkopa šarenilo propisa koje bi usporilo izgradnju globalnog demokratskog AI sloja, usmjerenog na to da dobri akteri imaju alate potrebne za odbranu od zlonamjernih aktera koji žele zloupotrijebiti AI u oblastima poput kibernetičke sigurnosti; i (b) da se SAD dovede u najjaču poziciju da nacionalni standard pretvori u globalni pristup sigurnom uvođenju AI-ja, izgrađen na demokratskim vrijednostima. Ako želimo stvoriti sigurnosni okvir koji će zaista dati prioritet uspostavljanju nacionalnog i međunarodnog standarda — što će najbolje podržati sigurno uvođenje AI-ja — bit će potrebni naporan rad, ozbiljnost namjere i strategija koja povezuje države, federalnu vladu i međunarodni razgovor. Performativan pristup ili pristup pukog isticanja vrlina ovdje neće obaviti posao — haos na državnom nivou nije u najboljem interesu trajnog pristupa sigurnosti; samo će dovesti do još većeg haosa.

Da bi taj pristup uspio, države bi trebale nastaviti usklađivati se oko ključnih elemenata, kao što su to učinile Kalifornija, New York i Illinois. U širem smislu, ti elementi su:

• Dokumentovan sigurnosni okvir s procjenama rizika za granične modele i javnim objavljivanjem tih procjena i njihovih rezultata.
• Prijavljivanje ozbiljnih sigurnosnih incidenata.
• Upravljanje i odgovornost kroz nezavisne, objektivne revizije.

Zajedno, ove tri države ugradile su demokratski nadzor u uvođenje granične AI. Kalifornija je uspostavila osnovni okvir za objavljivanje informacija. New York je pokazao da se taj pristup može usvojiti u različitim jurisdikcijama. Illinois ga je dopunio zahtjevom za nezavisnu provjeru ključnih objava.

Prepoznajemo da zakonodavstvo često uključuje dodatne odredbe kako bi se osigurali glasovi potrebni za usvajanje. Ali vjerujemo da su to ključni elementi potrebni za stvaranje de facto nacionalnog standarda kroz obrnuti federalizam. Bez te discipline rizikujemo širenje politika i šarenilo državnih zakona koje je regulatorima teško provoditi, potrošačima zbunjujuće pratiti, a koji odvraćaju resurse developera — posebno u start-upima i malim kompanijama — resurse koje bi bilo bolje uložiti u sigurnost. Posebno, i kao što su pokazale posljednje sedmice, kako AI modeli postaju sve sposobniji, potreban nam je koherentan sistem koji će nam omogućiti da alate stavimo u ruke vlade, kritične infrastrukture, saveznika i pouzdanih partnera.

Kreatori politika također bi se trebali čuvati širenja mandata. Od država se ne bi trebalo tražiti da upravljaju značajnim rizicima po nacionalnu sigurnost (ili da u praksi donose odluke o nacionalnoj sigurnosti u ime cijele zemlje) niti da provode izrazito tehničke preglede kojima bolje mogu upravljati federalni stručnjaci s resursima, stručnošću, pristupom povjerljivim sistemima i kapacitetom da blisko sarađuju s našim timovima.

Na federalnom nivou, Trumpova administracija nastavlja rad s tehničkim stručnjacima i stručnjacima za nacionalnu sigurnost na okviru za testiranje najnaprednijih AI modela u oblasti kibernetičke sigurnosti za potrebe vlade SAD-a. Taj okvir će utvrditi standarde, rokove i procese testiranja. OpenAI učestvuje u konstruktivnim razgovorima s Administracijom, srodnim kompanijama, poslovnim udruženjima i drugim zainteresiranim stranama koje pomažu oblikovati ovaj napor.

Tekući rad na kibernetičkim evaluacijama pokazuje zašto je dosljednost važna. Danas se, razumljivo, modeli testiraju prije nego što federalni okvir bude dovršen. Kako su laboratorije prolazile kroz taj proces, jedna pouka je postala jasna: potreban nam je dosljedan i ponovljiv pristup i na državnom i na federalnom nivou. To je ključno ako želimo da najnapredniji modeli budu u rukama vlade, branilaca kritične infrastrukture, saveznika i drugih pouzdanih partnera. Cijenimo cilj Administracije da ovaj okvir bude uspostavljen do početka augusta.

Federalni okvir za testiranje pomoći će da napredni AI alati dođu u ruke vlade, branilaca kritične infrastrukture, saveznika i drugih pouzdanih partnera. Time će ojačati demokratske institucije i pomoći u izgradnji demokratskog AI sloja predvođenog SAD-om. Sada je vrijeme da se američko vodstvo u inovacijama iskoristi za podršku demokratskoj AI.

Ni nedefinisan federalni proces ni šarenilo državnih zakona neće stvoriti koherentan režim sigurnosti graničnih modela. Potreban nam je pristup koji osigurava da najbolji testeri evaluiraju najnaprednije modele — i da pouzdani branioci dovoljno brzo dobiju pristup tim alatima kako bi ostali ispred zlonamjernih aktera.

I Kongres se pokreće. Zakonodavci u oba doma i iz obje stranke — uključujući, najnovije, zastupnike Jaya Obernoltea i Lori Trahan — primijetili su razvoj događaja u državama i izvršnoj vlasti te iznijeli prijedloge za federalni okvir. Nijedan nacrt za raspravu s realnim izgledima za usvajanje neće biti savršen. Ali ovaj rad vidimo kao produktivan korak naprijed i vjerujemo da su mnoge njegove odredbe promišljene i vrijedne podrške.

Također nas ohrabruje što lideri Senata i Predstavničkog doma ulažu ozbiljan napor u prijedloge za nacionalno upravljanje i sigurnost granične AI, a s mnogima od njih vodili smo konstruktivne razgovore. S obzirom na veličinu i utjecaj država koje su već usvojile zakone usmjerene u istom pravcu, uključivanje tih pristupa u federalno zakonodavstvo trebalo bi olakšati uspostavljanje jedinstvenog nacionalnog režima sigurnosti granične AI.

OpenAI-jev plan sigurnosti granične AI izlaže ono što smatramo ključnim elementima tog okvira.

Prvo, federalna vlada bi trebala voditi testiranje i evaluaciju najnaprednijih sistema. Granična AI otvara pitanja nacionalne sigurnosti i javne sigurnosti koja zahtijevaju tehničku stručnost, resurse i pristup koje nijedna država ne može u potpunosti replicirati.

Taj rad bi trebao ojačati Centar za AI standarde i inovacije (CAISI), osnovan pod predsjednikom Bidenom i ojačan pod predsjednikom Trumpom. CAISI može pružiti trajni federalni kapacitet potreban za evaluaciju naprednih modela i pomjeriti sigurnost granične AI prema sprečavanju štete prije nego što nastane, umjesto da se prvenstveno oslanja na naknadnu odgovornost. Svako federalno zakonodavstvo trebalo bi pažljivo razmotriti kako CAISI treba sarađivati s ostatkom vlade i kakvu ulogu treba imati u središtu testiranja.

Drugo, kompanije koje razvijaju najnaprednije sisteme trebale bi ispunjavati jasne zahtjeve, uključujući nezavisne revizije, prijavljivanje incidenata, snažne sigurnosne standarde i zaštitu zviždača.

Treće, federalni i državni napori trebali bi se međusobno jačati. Državni zakoni neće svi biti identični, i radujemo se saradnji s kreatorima politika širom zemlje kako bismo osigurali da jačaju sigurnost uz maksimalno iskorištavanje ekonomskih koristi AI-ja.

Države bi također trebale nastaviti služiti kao laboratorije demokratije u oblastima izvan sigurnosti granične AI, uključujući zaštitu mladih, politiku električne energije i okoliša te AI obrazovanje i pismenost.

Federalni okvir ostaje neophodan. Granična AI otvara pitanja nacionalne sigurnosti, ekonomske konkurentnosti i javne sigurnosti koja u konačnici zahtijevaju nacionalne standarde, nacionalne kapacitete i nacionalne institucije za podršku demokratskoj AI.

Nacionalno zakonodavstvo također je ključno za međunarodni okvir AI standarda predvođen SAD-om. O toj ideji razgovaralo se prije nekoliko sedmica na G7, zajedno s Brazilom, Egiptom, Indijom, Kenijom i Korejom, gdje su izvršni direktori vodećih laboratorija za graničnu AI razgovarali o potrebi za takvim okvirom. Nakon tog sastanka, izvršni direktor OpenAI-ja Sam Altman predložio je u Financial Timesu⁠(otvara se u novom prozoru) „međunarodni forum predvođen SAD-om koji utvrđuje prihvaćene standarde, pruža stručnu i nepristrasnu analizu sposobnosti i rizika te tehnologiju čini dostupnom državama i kompanijama koje učestvuju i poštuju pravila.” Ove sedmice, izvršni direktor Google DeepMinda Demis Hassabis također je iznio promišljene ideje u novom radu. Federalno zakonodavstvo — nužno dvostranačko — pružilo bi snažan temelj za taj međunarodni napor.

Zamah je sada vidljiv na svakom nivou. Države uspostavljaju zajedničke pristupe. Kongres i izvršna vlast rade na izgradnji nacionalnog okvira. A globalni lideri počinju razgovarati o međunarodnim standardima. Ako se svaki nivo nadoveže na drugi, SAD može predvoditi razvoj globalnog okvira zasnovanog na demokratskoj viziji AI-ja. A ovaj pristup demokratskog usklađivanja u oblasti AI-ja jeste pristup koji zaista daje prioritet sigurnosti.