ZDA krepijo varnost UI z ukrepi zveznih držav in zvezne vlade

Avtor: Chris Lehane, glavni direktor za področje Iz sveta

Od prestolnic zveznih držav po vsej državi prek Washingtona do mednarodnih srečanj se oblikujejo resni pristopi k upravljanju prelomne UI. Skupaj uresničujejo demokratično vizijo za UI.

Kalifornija, New York in nazadnje Illinois so pripravili zakonodajo o varnosti prelomne UI, ki državo približuje skupni izhodiščni ravni za upravljanje najmočnejših sistemov UI.

Ta prizadevanja kažejo zagon za tem, kar OpenAI imenuje obratni federalizem: zvezne države s skupnim okvirom pomagajo vzpostaviti skupno smer. Ko se delo, ki ga vodijo zvezne države, približuje prizadevanjem na zvezni ravni, se začenja oblikovati nacionalni standard, ki postavlja temelje za globalni okvir UI pod vodstvom ZDA. Menimo, da je najboljši način za zagotovitev, da UI koristi mnogim in ne le peščici, ta, da ključne odločitve – pri tem je varnost prelomne UI na prvem mestu – sprejemajo demokratične vlade, ne zgolj laboratoriji za prelomno UI.

Na koncu bi Združenim državam najbolje služil nacionalni okvir, utemeljen na tem načelu. A dokler ga ni, nas lahko zvezne države tja pripeljejo s sprejemanjem zakonov, ki se medsebojno zrcalijo. Korak za korakom lahko ustvarijo dejanski nacionalni standard.

Če je varnost prednostna naloga, je tak nacionalni standard najboljša politična pot, da (a) ZDA ohranijo vodstvo v inovacijah in jih ne oslabi mozaik predpisov, ki bi upočasnil gradnjo globalnega demokratičnega sklada UI, zasnovanega tako, da zaupanja vredni akterji dobijo orodja za obrambo pred zlonamernimi akterji, ki želijo UI zlorabiti na področjih, kot je kibernetska varnost; ter (b) ZDA postavi v najmočnejši položaj, da nacionalni standard prenesejo v globalni pristop k varnemu uvajanju UI, utemeljen na demokratičnih vrednotah. Če želimo ustvariti varnostni okvir, ki bo resnično dal prednost vzpostavitvi nacionalnega in mednarodnega standarda – kar bo najbolje podprlo varno uvajanje UI – bodo potrebni trdo delo, resnost namena in strategija, ki poveže zvezne države, zvezno vlado in mednarodni pogovor. Performativni pristop ali moralno poziranje tu ne bosta opravila naloge – kaos na ravni zveznih držav ni v interesu trajnega pristopa k varnosti; povzročil bo le še več kaosa.

Da bi ta pristop uspel, bi se morale zvezne države še naprej usklajevati glede ključnih elementov, kot so to storile Kalifornija, New York in Illinois. V splošnem so ti elementi:

• Dokumentiran varnostni okvir z ocenami tveganja za prelomne modele ter javnim razkritjem teh ocen in njihovih rezultatov.
• Poročanje o resnih varnostnih incidentih.
• Upravljanje in odgovornost prek neodvisnih, objektivnih revizij.

Te tri zvezne države so skupaj v uvajanje prelomne UI vgradile demokratični nadzor. Kalifornija je vzpostavila temeljni okvir razkritij. New York je pokazal, da je pristop mogoče sprejeti v različnih jurisdikcijah. Illinois ga je dopolnil z zahtevo po neodvisnem preverjanju ključnih razkritij.

Zavedamo se, da zakonodaja pogosto vključuje dodatne določbe za zagotovitev glasov, potrebnih za sprejetje. Vendar menimo, da so to bistveni elementi, potrebni za oblikovanje dejanskega nacionalnega standarda prek obratnega federalizma. Brez te discipline tvegamo širjenje politike in mozaik zakonov zveznih držav, ki jih regulatorji težko uveljavljajo, potrošniki težko razumejo, razvijalcem – zlasti v zagonskih in malih podjetjih – pa preusmerjajo vire, ki bi jih bilo bolje vložiti v varnost. Zlasti, kot so pokazali zadnji tedni, ob vse večji zmogljivosti modelov UI potrebujemo skladen sistem, ki nam bo omogočil, da orodja pridejo v roke vlade, kritične infrastrukture, zaveznikov in zaupanja vrednih partnerjev.

Oblikovalci politik bi se morali varovati tudi širjenja mandata. Od zveznih držav se ne bi smelo zahtevati, da upravljajo pomembna tveganja za nacionalno varnost (ali dejansko sprejemajo odločitve o nacionalni varnosti v imenu celotne države) oziroma izvajajo zelo tehnične preglede, ki jih lahko bolje opravijo zvezni strokovnjaki z viri, znanjem, dostopom do tajnih sistemov in zmogljivostjo za tesno sodelovanje z našimi ekipami.

Na zvezni ravni Trumpova administracija še naprej sodeluje s tehničnimi strokovnjaki in strokovnjaki za nacionalno varnost pri okviru, po katerem bo vlada ZDA preizkušala najzmogljivejše modele UI na področju kibernetske varnosti. Ta okvir bo določil standarde, časovnice in postopke preizkušanja. OpenAI sodeluje v konstruktivnih pogovorih z administracijo, primerljivimi podjetji, poslovnimi združenji in drugimi deležniki, ki pomagajo oblikovati ta prizadevanja.

Tekoče delo pri kibernetskih evalvacijah kaže, zakaj je doslednost pomembna. Danes se modeli, razumljivo, preizkušajo še pred dokončanjem zveznega okvira. Ko so laboratoriji izvajali ta proces, je postalo jasno eno: potrebujemo dosleden in ponovljiv pristop tako na ravni zveznih držav kot na zvezni ravni. To je nujno, če želimo, da najzmogljivejši modeli pridejo v roke vlade, branilcev kritične infrastrukture, zaveznikov in drugih zaupanja vrednih partnerjev. Cenimo cilj administracije, da bi bil ta okvir vzpostavljen do začetka avgusta.

Zvezni okvir za preizkušanje bo pomagal, da napredna orodja UI pridejo v roke vlade, branilcev kritične infrastrukture, zaveznikov in drugih zaupanja vrednih partnerjev. S tem bo okrepil demokratične institucije in pomagal zgraditi demokratični sklad UI pod vodstvom ZDA. Zdaj je čas, da ameriško inovacijsko prednost uporabimo v podporo demokratični UI.

Niti neopredeljen zvezni proces niti mozaik zakonov zveznih držav ne bosta ustvarila skladnega režima za varnost prelomne UI. Potrebujemo pristop, ki zagotavlja, da najboljši preizkuševalci ocenjujejo najzmogljivejše modele, zaupanja vredni branilci pa dovolj hitro dobijo dostop do teh orodij, da ostanejo pred zlonamernimi akterji.

Premika se tudi kongres. Zakonodajalci v obeh domovih in iz obeh strank – med njimi nazadnje predstavnika Jay Obernolte in Lori Trahan – so opazili dogajanje v zveznih državah in izvršilni veji oblasti ter predstavili predloge za zvezni okvir. Noben osnutek za razpravo z realno možnostjo sprejetja ne bo popoln. Vendar to delo vidimo kot produktiven korak naprej in menimo, da so številne njegove določbe premišljene ter vredne podpore.

Spodbuja nas tudi, da voditelji Senata in Predstavniškega doma vlagajo resen trud v predloge za nacionalno upravljanje in varnost prelomne UI; z mnogimi med njimi smo imeli konstruktivne pogovore. Glede na velikost in vpliv zveznih držav, ki so že sprejele po usmeritvi usklajene zakone, bi vključitev teh pristopov v zvezno zakonodajo morala olajšati vzpostavitev enotnega nacionalnega režima za varnost prelomne UI.

Načrt podjetja OpenAI za varnost prelomne UI opisuje, kaj so po našem mnenju bistveni elementi tega okvira.

Prvič, zvezna vlada bi morala voditi preizkušanje in evalvacijo najnaprednejših sistemov. Prelomna UI odpira vprašanja nacionalne varnosti in javne varnosti, ki zahtevajo tehnično znanje, vire in dostop, ki jih nobena zvezna država ne more v celoti zagotoviti sama.

To delo bi moralo okrepiti organizacijo Center for AI Standards and Innovation (CAISI), ustanovljeno pod predsednikom Bidnom in okrepljeno pod predsednikom Trumpom. CAISI lahko zagotovi trajne zvezne zmogljivosti, potrebne za evalvacijo naprednih modelov, ter varnost prelomne UI preusmeri k preprečevanju škode, še preden nastane, namesto da bi se zanašali predvsem na prevzemanje odgovornosti po dogodku. Vsaka zvezna zakonodaja bi morala skrbno preučiti, kako naj CAISI sodeluje s preostalo vlado in kakšno vlogo naj ima v središču preizkušanja.

Drugič, podjetja, ki razvijajo najzmogljivejše sisteme, bi morala izpolnjevati jasne zahteve, vključno z neodvisnimi revizijami, poročanjem o incidentih, strogimi varnostnimi standardi in zaščito žvižgačev.

Tretjič, zvezna prizadevanja in prizadevanja zveznih držav bi se morala medsebojno krepiti. Zakoni zveznih držav ne bodo vsi enaki, zato se veselimo sodelovanja z oblikovalci politik po vsej državi, da bi zagotovili krepitev varnosti ob čim večjih gospodarskih koristih UI.

Zvezne države bi morale še naprej delovati tudi kot laboratoriji demokracije na področjih zunaj varnosti prelomne UI, vključno z zaščito mladih, električno energijo in okoljsko politiko ter izobraževanjem in pismenostjo o UI.

Zvezni okvir ostaja nujen. Prelomna UI odpira vprašanja nacionalne varnosti, gospodarske konkurenčnosti in javne varnosti, ki na koncu zahtevajo nacionalne standarde, nacionalne zmogljivosti in nacionalne institucije za podporo demokratični UI.

Nacionalna zakonodaja je ključna tudi za mednarodni okvir standardov UI pod vodstvom ZDA. O tej zamisli so pred nekaj tedni razpravljali na vrhu G7 skupaj z Brazilijo, Egiptom, Indijo, Kenijo in Korejo, kjer so izvršni direktorji vodilnih laboratorijev za prelomno UI govorili o potrebi po takšnem okviru. Po tem srečanju je izvršni direktor OpenAI Sam Altman v časopisu Financial Times predlagal⁠(odpre se v novem oknu) »mednarodni forum pod vodstvom ZDA, ki določa sprejete standarde, zagotavlja strokovno in nepristransko analizo zmogljivosti in tveganj ter daje tehnologijo na voljo državam in podjetjem, ki sodelujejo in spoštujejo pravila.« Ta teden je tudi izvršni direktor Googla DeepMind Demis Hassabis v novem prispevku predstavil premišljene zamisli. Zvezna zakonodaja, ki bi nujno morala biti dvostrankarska, bi zagotovila trdne temelje za ta mednarodna prizadevanja.

Zagon je zdaj viden na vseh ravneh. Zvezne države vzpostavljajo skupne pristope. Kongres in izvršilna veja oblasti gradita pot do nacionalnega okvira. Globalni voditelji pa začenjajo razpravljati o mednarodnih standardih. Če bo vsak gradil na drugem, lahko ZDA vodijo razvoj globalnega okvira, utemeljenega na demokratični viziji za UI. In prav ta pristop demokratične usklajenosti pri UI je tisti, ki varnosti resnično daje prednost.