SAD unapređuje sigurnost umjetne inteligencije djelovanjem saveznih država i savezne vlade

Autor: Chris Lehane, glavni direktor za Globalne poslove

Od glavnih gradova saveznih država diljem zemlje, preko Washingtona do međunarodnih skupova, oblikuju se ozbiljni pristupi upravljanju naprednom umjetnom inteligencijom. Zajedno unapređuju demokratsku viziju umjetne inteligencije.

Kalifornija, New York i, najnovije, Illinois poduzeli su korake prema donošenju zakonodavstva o sigurnosti napredne umjetne inteligencije koje pomaže zemlji da se približi zajedničkoj osnovi za upravljanje najmoćnijim sustavima umjetne inteligencije.

Ti napori odražavaju zamah iza onoga što OpenAI naziva obrnutim federalizmom: savezne države pomažu uspostaviti zajednički smjer kroz zajednički okvir. Kako se rad koji predvode savezne države usklađuje s naporima koji su u tijeku na saveznoj razini, počinje se oblikovati nacionalni standard koji postavlja temelje za globalni okvir za umjetnu inteligenciju pod vodstvom SAD-a. Vjerujemo da je najbolji način da umjetna inteligencija koristi mnogima, a ne samo nekolicini, taj da ključne odluke – počevši od sigurnosti napredne umjetne inteligencije – donose demokratske vlade, a ne isključivo laboratoriji koji razvijaju napredne modele.

U konačnici, Sjedinjenim Državama najbolje bi služio nacionalni okvir utemeljen na tom načelu. No dok ga nema, savezne države mogu nas dovesti do njega donošenjem zakona koji se međusobno preslikavaju. Korak po korak, mogu stvoriti de facto nacionalni standard.

A ako je sigurnost prioritet, takav je nacionalni standard najbolji politički pristup kako bi se osiguralo da (a) SAD nastavi predvoditi inovacije i da ga ne potkopa šarolik skup propisa koji bi usporio izgradnju globalnog demokratskog tehnološkog sustava umjetne inteligencije, usmjerenog na to da dobri akteri imaju alate potrebne za obranu od zlonamjernih aktera koji žele zloupotrijebiti umjetnu inteligenciju u područjima poput kibernetičke sigurnosti; te da (b) SAD bude u najjačem položaju da nacionalni standard pretvori u globalni pristup sigurnom uvođenju umjetne inteligencije izgrađen na demokratskim vrijednostima. Ako želimo stvoriti sigurnosni okvir koji će doista dati prednost uspostavi nacionalnog i međunarodnog standarda — jer će to najbolje poduprijeti sigurno uvođenje umjetne inteligencije — bit će potrebni naporan rad, ozbiljnost namjere i strategija koja povezuje savezne države, saveznu vladu i međunarodnu raspravu. Performativan pristup ili signaliziranje vrline ovdje neće obaviti posao — kaos na razini saveznih država nije u najboljem interesu trajnog pristupa sigurnosti, nego će samo dovesti do još većeg kaosa.

Da bi taj pristup uspio, savezne države trebale bi se nastaviti usklađivati oko ključnih elemenata, kao što su to učinile Kalifornija, New York i Illinois. U širem smislu, ti su elementi:

• Dokumentirani sigurnosni okvir s procjenama rizika za napredne modele te javnom objavom tih procjena i njihovih rezultata.
• Prijavljivanje ozbiljnih sigurnosnih incidenata.
• Upravljanje i odgovornost kroz neovisne, objektivne revizije.

Zajedno, te su tri savezne države ugradile demokratski nadzor u uvođenje napredne umjetne inteligencije. Kalifornija je uspostavila osnovni okvir za objave. New York je pokazao da se pristup može usvojiti u različitim jurisdikcijama. Illinois ga je nadopunio zahtjevom za neovisnu provjeru ključnih objava.

Svjesni smo da zakonodavstvo često uključuje dodatne odredbe kako bi se osigurali glasovi potrebni za usvajanje. No vjerujemo da su to ključni elementi potrebni za stvaranje de facto nacionalnog standarda kroz obrnuti federalizam. Bez te discipline riskiramo širenje politike izvan izvorne svrhe i šarolik skup zakona saveznih država koje regulatorima teško provoditi, potrošačima teško razumjeti, a resurse razvojnih timova — osobito u start-upovima i malim tvrtkama — odvlače od ulaganja u sigurnost. Posebno, kao što su pokazali posljednji tjedni, kako modeli umjetne inteligencije postaju sve sposobniji, potreban nam je koherentan sustav koji će nam omogućiti da alate stavimo u ruke vlade, kritične infrastrukture, saveznika i pouzdanih partnera.

Kreatori politika također bi se trebali čuvati širenja mandata. Od saveznih država ne bi se trebalo tražiti da upravljaju značajnim rizicima za nacionalnu sigurnost (ili da zapravo donose odluke o nacionalnoj sigurnosti u ime cijele zemlje) niti da provode izrazito tehničke preglede koje bolje mogu obaviti savezni stručnjaci s resursima, stručnošću, pristupom klasificiranim sustavima i kapacitetom za blisku suradnju s našim timovima.

Na saveznoj razini Trumpova administracija nastavlja surađivati s tehničkim stručnjacima i stručnjacima za nacionalnu sigurnost na okviru prema kojem će američka vlada testirati kibernetičke sposobnosti najsposobnijih modela umjetne inteligencije. Taj će okvir utvrditi standarde, rokove i procese testiranja. OpenAI sudjeluje u konstruktivnim razgovorima s administracijom, drugim tvrtkama iz sektora, poslovnim udruženjima i drugim dionicima koji pomažu oblikovati taj pothvat.

Tekući rad na kibernetičkim evaluacijama pokazuje zašto je dosljednost važna. Danas se, razumljivo, modeli testiraju prije nego što je savezni okvir dovršen. Dok su laboratoriji prolazili kroz taj proces, jedna je pouka postala jasna: potreban nam je dosljedan i ponovljiv pristup i na razini saveznih država i na saveznoj razini. To je ključno ako želimo da najsposobniji modeli budu u rukama vlade, zaštitnika kritične infrastrukture, saveznika i drugih pouzdanih partnera. Cijenimo cilj administracije da taj okvir bude uspostavljen do početka kolovoza.

Savezni okvir za testiranje pomoći će da napredni alati umjetne inteligencije dođu u ruke vlade, zaštitnika kritične infrastrukture, saveznika i drugih pouzdanih partnera. Time će ojačati demokratske institucije i pomoći u izgradnji demokratskog tehnološkog sustava umjetne inteligencije pod vodstvom SAD-a. Sada je vrijeme da se američka prednost u inovacijama iskoristi za potporu demokratskoj umjetnoj inteligenciji.

Ni nedefiniran savezni proces ni šarolik skup zakona saveznih država neće stvoriti koherentan režim sigurnosti napredne umjetne inteligencije. Potreban nam je pristup koji osigurava da najbolji testeri ocjenjuju najsposobnije modele – i da pouzdani branitelji dovoljno brzo dobiju pristup tim alatima kako bi ostali korak ispred zlonamjernih aktera.

I Kongres se kreće u tom smjeru. Zakonodavci u oba doma i iz obje stranke — uključujući, najnovije, zastupnike Jaya Obernoltea i Lori Trahan — primili su na znanje razvoj događaja u saveznim državama i izvršnoj vlasti te iznijeli prijedloge za savezni okvir. Nijedan nacrt za raspravu koji ima realan put do usvajanja neće biti savršen. No taj rad smatramo produktivnim korakom naprijed i vjerujemo da su mnoge njegove odredbe promišljene i vrijedne potpore.

Također nas ohrabruje to što čelnici Senata i Zastupničkog doma ulažu ozbiljan napor u prijedloge za nacionalno upravljanje i sigurnost napredne umjetne inteligencije, a s mnogima od njih vodili smo konstruktivne razgovore. S obzirom na veličinu i utjecaj saveznih država koje su već donijele zakone usklađene u istom smjeru, uključivanje tih pristupa u savezno zakonodavstvo trebalo bi olakšati uspostavu jedinstvenog nacionalnog režima sigurnosti napredne umjetne inteligencije.

OpenAI-jev nacrt za sigurnost napredne umjetne inteligencije iznosi ono što smatramo ključnim elementima tog okvira.

Prvo, savezna vlada trebala bi voditi testiranje i evaluaciju najnaprednijih sustava. Napredna umjetna inteligencija otvara pitanja nacionalne sigurnosti i javne sigurnosti koja zahtijevaju tehničku stručnost, resurse i pristup koje nijedna savezna država ne može u potpunosti preslikati.

Taj bi rad trebao ojačati Center for AI Standards and Innovation (CAISI), osnovan za vrijeme predsjednika Bidena i ojačan za vrijeme predsjednika Trumpa. CAISI može pružiti trajne savezne kapacitete potrebne za evaluaciju naprednih modela i pomaknuti sigurnost napredne umjetne inteligencije prema sprječavanju štete prije nego što nastane, umjesto da se ponajprije oslanja na odgovornost nakon događaja. Svako savezno zakonodavstvo trebalo bi pažljivo razmotriti kako bi CAISI trebao surađivati s ostatkom vlade i koju bi ulogu trebao imati u središtu testiranja.

Drugo, tvrtke koje razvijaju najsposobnije sustave trebale bi ispunjavati jasne zahtjeve, uključujući neovisne revizije, prijavljivanje incidenata, snažne sigurnosne standarde i zaštitu zviždača.

Treće, savezni napori i napori saveznih država trebali bi se međusobno jačati. Zakoni saveznih država neće svi biti jednaki i veselimo se suradnji s kreatorima politika diljem zemlje kako bismo osigurali da jačaju sigurnost, a istodobno maksimalno povećavaju gospodarske koristi umjetne inteligencije.

Savezne države trebale bi i dalje služiti kao laboratoriji demokracije u područjima izvan sigurnosti napredne umjetne inteligencije, uključujući zaštitu mladih, energetsku i okolišnu politiku te obrazovanje i pismenost o umjetnoj inteligenciji.

Savezni okvir i dalje je ključan. Napredna umjetna inteligencija otvara pitanja nacionalne sigurnosti, gospodarske konkurentnosti i javne sigurnosti koja u konačnici zahtijevaju nacionalne standarde, nacionalne sposobnosti i nacionalne institucije za potporu demokratskoj umjetnoj inteligenciji.

Nacionalno zakonodavstvo ključno je i za međunarodni okvir standarda umjetne inteligencije pod vodstvom SAD-a. O toj se ideji prije nekoliko tjedana raspravljalo na sastanku G7, zajedno s Brazilom, Egiptom, Indijom, Kenijom i Korejom, gdje su glavni izvršni direktori vodećih laboratorija koji razvijaju napredne modele raspravljali o potrebi za takvim okvirom. Nakon tog sastanka, izvršni direktor OpenAI-ja Sam Altman u Financial Timesu predložio je⁠(otvara se u novom prozoru) „međunarodni forum pod vodstvom SAD-a koji uspostavlja prihvaćene standarde, pruža stručnu i nepristranu analizu sposobnosti i rizika te čini tehnologiju dostupnom državama i tvrtkama koje sudjeluju i poštuju pravila.” Ovoga je tjedna i izvršni direktor Google DeepMinda Demis Hassabis iznio promišljene ideje u novom radu. Savezno zakonodavstvo – nužno dvostranačko – pružilo bi snažan temelj za taj međunarodni napor.

Zamah je sada vidljiv na svakoj razini. Savezne države uspostavljaju zajedničke pristupe. Kongres i izvršna vlast grade put prema nacionalnom okviru. A svjetski čelnici počinju raspravljati o međunarodnim standardima. Ako se svaki od tih napora bude nadovezivao na druge, SAD može predvoditi razvoj globalnog okvira utemeljenog na demokratskoj viziji umjetne inteligencije. A taj pristup demokratskog usklađivanja u području umjetne inteligencije pristup je koji doista daje prioritet sigurnosti.