JAV stiprina DI saugą valstijų ir federaliniais veiksmais

Autorius – Chris Lehane, vyriausiasis Pasaulinių reikalų pareigūnas

Nuo valstijų sostinių visoje šalyje iki Vašingtono ir tarptautinių susitikimų ima ryškėti rimti požiūriai į priešakinio DI valdymą. Kartu jie stumia į priekį demokratinę DI viziją.

Kalifornija, Niujorkas ir visai neseniai Ilinojus pažengė į priekį su priešakinio DI saugos teisės aktais, kurie padeda šaliai artėti prie bendro pagrindo valdant galingiausias DI sistemas.

Šios pastangos rodo augantį pagreitį tam, ką OpenAI vadina atvirkštiniu federalizmu: valstijos padeda nustatyti bendrą kryptį per bendrą sistemą. Valstijų vadovaujamam darbui susiliejant su federaliniu lygmeniu vykstančiomis pastangomis, ima formuotis nacionalinis standartas, dedantis pagrindą JAV vadovaujamai pasaulinei DI sistemai. Manome, kad geriausias būdas užtikrinti, jog DI būtų naudingas daugeliui, o ne tik nedaugeliui, yra tai, kad svarbiausius sprendimus, pradedant priešakinio DI sauga, priimtų demokratinės vyriausybės, o ne vien priešakinės laboratorijos.

Galiausiai Jungtinėms Valstijoms geriausiai pasitarnautų tuo principu grįsta nacionalinė sistema. Tačiau, kol jos nėra, valstijos gali mus prie jos priartinti priimdamos viena kitą atitinkančius įstatymus. Žingsnis po žingsnio jos gali sukurti de facto nacionalinį standartą.

O jei prioritetas yra sauga, toks nacionalinis standartas yra geriausias politikos kelias siekiant užtikrinti, kad (a) JAV ir toliau pirmautų inovacijų srityje ir nebūtų silpninamos reguliavimo kratiniu, kuris lėtintų galimybę kurti pasaulinį demokratinio DI technologijų rinkinį, kad gerieji veikėjai turėtų įrankius gintis nuo piktavalių, siekiančių netinkamai naudoti DI tokiose srityse kaip kibernetinis saugumas; ir (b) JAV būtų stipriausioje padėtyje nacionalinį standartą paversti pasauliniu požiūriu į saugų DI diegimą, paremtą demokratinėmis vertybėmis. Jei norime sukurti saugos sistemą, kuri iš tiesų teiktų pirmenybę nacionalinio ir tarptautinio standarto įtvirtinimui, nes būtent tai geriausiai palaikys saugų DI diegimą, reikės sunkaus darbo, rimto nusiteikimo ir strategijos, sujungiančios valstijas, federalinę vyriausybę ir tarptautinę diskusiją. Parodomasis ar dorybės signalizavimo požiūris čia nepadės – chaosas valstijų lygmeniu nėra naudingas tvariam saugos požiūriui, jis tik sukels dar daugiau chaoso.

Kad šis požiūris būtų sėkmingas, valstijos turėtų toliau derinti pagrindinius elementus, kaip tai padarė Kalifornija, Niujorkas ir Ilinojus. Plačiąja prasme šie elementai yra:

• Dokumentuota saugos sistema su priešakinių modelių rizikos vertinimais ir viešu šių vertinimų bei jų rezultatų atskleidimu.
• Pranešimas apie rimtus saugos incidentus.
• Valdymas ir atskaitomybė per nepriklausomus, objektyvius auditus.

Kartu šios trys valstijos į priešakinio DI diegimą įtraukė demokratinę priežiūrą. Kalifornija sukūrė pagrindinę atskleidimo sistemą. Niujorkas parodė, kad šį požiūrį galima taikyti įvairiose jurisdikcijose. Ilinojus ją papildė reikalaudamas nepriklausomo pagrindinių atskleidimų patikrinimo.

Suprantame, kad teisės aktuose dažnai būna papildomų nuostatų, reikalingų balsams priėmimui užsitikrinti. Tačiau manome, kad tai yra esminiai elementai, reikalingi de facto nacionaliniam standartui per atvirkštinį federalizmą sukurti. Be tokios drausmės rizikuojame politikos išsiplėtimu ir valstijų įstatymų kratiniu, kurį reguliuotojams sunku įgyvendinti, vartotojams painu suprasti, o kūrėjų ištekliai, ypač startuoliuose ir mažose įmonėse, nukreipiami nuo saugos, kur jie būtų panaudoti geriau. Visų pirma, kaip parodė pastarosios kelios savaitės, DI modeliams tampant vis pajėgesniems, mums reikia nuoseklios sistemos, kuri leistų perduoti įrankius vyriausybei, kritinei infrastruktūrai, sąjungininkams ir patikimiems partneriams.

Politikos formuotojai taip pat turėtų saugotis misijos išsiplėtimo. Valstijų neturėtų būti prašoma valdyti reikšmingų nacionalinio saugumo rizikų (ar iš esmės priimti nacionalinio saugumo sprendimų visos šalies vardu) arba atlikti itin techninių peržiūrų, kurias geriau patikėti federaliniams ekspertams, turintiems išteklių, kompetencijos, prieigą prie įslaptintų sistemų ir pajėgumų glaudžiai dirbti su mūsų komandomis.

Federaliniu lygmeniu Trumpo administracija toliau dirba su techniniais ir nacionalinio saugumo ekspertais rengdama sistemą, pagal kurią JAV vyriausybė testuotų pajėgiausius DI modelius kibernetinio saugumo srityje. Ši sistema nustatys testavimo standartus, terminus ir procesus. OpenAI konstruktyviai diskutuoja su administracija, kitomis sektoriaus įmonėmis, verslo grupėmis ir kitais suinteresuotaisiais subjektais, padedančiais formuoti šią iniciatyvą.

Vykstantis darbas su kibernetinio saugumo vertinimais rodo, kodėl svarbus nuoseklumas. Šiandien, ir tai suprantama, modeliai testuojami dar neužbaigus federalinės sistemos. Laboratorijoms einant per šį procesą paaiškėjo viena pamoka: mums reikia nuoseklaus ir pakartojamo požiūrio tiek valstijų, tiek federaliniu lygmenimis. Tai būtina, jei norime, kad pajėgiausi modeliai atsidurtų vyriausybės, kritinės infrastruktūros gynėjų, sąjungininkų ir kitų patikimų partnerių rankose. Vertiname administracijos tikslą parengti šią sistemą iki rugpjūčio pradžios.

Federalinė testavimo sistema padės pažangius DI įrankius perduoti vyriausybei, kritinės infrastruktūros gynėjams, sąjungininkams ir kitiems patikimiems partneriams. Taip ji sustiprins demokratines institucijas ir padės kurti JAV vadovaujamą demokratinio DI technologijų rinkinį. Dabar laikas pasitelkti Amerikos inovacijų pranašumą demokratiniam DI remti.

Neapibrėžtas federalinis procesas ar fragmentiškas valstijų įstatymų kratinys nesukurs nuoseklaus priešakinio DI saugos režimo. Mums reikia požiūrio, kuris užtikrintų, kad geriausi testuotojai vertintų pajėgiausius modelius, o patikimi gynėjai pakankamai greitai gautų prieigą prie šių įrankių ir išliktų priekyje piktavalių.

Kongresas taip pat juda į priekį. Abiejų rūmų ir abiejų partijų įstatymų leidėjai, įskaitant pastaruoju metu Atstovų Rūmų narius Jay Obernolte’ą ir Lori Trahan, atkreipė dėmesį į pokyčius valstijose ir vykdomojoje valdžioje bei pateikė pasiūlymų dėl federalinės sistemos. Joks diskusinis projektas, turintis realų kelią iki priėmimo, nebus tobulas. Tačiau šį darbą laikome produktyviu žingsniu į priekį ir manome, kad daugelis jo nuostatų yra apgalvotos ir vertos palaikymo.

Taip pat džiugina tai, kad Senato ir Atstovų Rūmų lyderiai rimtai dirba prie nacionalinio valdymo ir priešakinio DI saugos pasiūlymų; su daugeliu jų turėjome konstruktyvių pokalbių. Atsižvelgiant į jau priimtus panašios krypties įstatymus turinčių valstijų dydį ir įtaką, šių požiūrių įtraukimas į federalinius teisės aktus turėtų padėti lengviau sukurti vieną nacionalinį priešakinio DI saugos režimą.

OpenAI priešakinio DI saugos planas išdėsto, mūsų manymu, esminius šios sistemos elementus.

Pirma, federalinė vyriausybė turėtų vadovauti pažangiausių sistemų testavimui ir vertinimui. Priešakinis DI kelia nacionalinio saugumo ir visuomenės saugos klausimų, kuriems reikia techninės kompetencijos, išteklių ir prieigos, kurių nė viena valstija negali visiškai atkartoti.

Šis darbas turėtų sustiprinti DI standartų ir inovacijų centrą (CAISI), sukurtą prezidento Bideno laikais ir sustiprintą prezidento Trumpo laikais. CAISI gali suteikti tvarius federalinius pajėgumus, reikalingus pažangiems modeliams vertinti ir priešakinio DI saugą nukreipti į žalos prevenciją dar prieš jai įvykstant, užuot daugiausia rėmusis atsakomybe po fakto. Bet kokie federaliniai teisės aktai turėtų kruopščiai apsvarstyti, kaip CAISI turėtų dirbti su likusia vyriausybės dalimi ir kokį vaidmenį turėtų atlikti testavimo centre.

Antra, įmonės, kuriančios pajėgiausias sistemas, turėtų atitikti aiškius reikalavimus, įskaitant nepriklausomus auditus, pranešimus apie incidentus, griežtus saugumo standartus ir pranešėjų apsaugą.

Trečia, federalinės ir valstijų pastangos turėtų viena kitą stiprinti. Valstijų įstatymai nebus visiškai vienodi, ir tikimės dirbti su politikos formuotojais visoje šalyje, kad jie stiprintų saugą ir kartu maksimaliai didintų DI ekonominę naudą.

Valstijos taip pat turėtų toliau būti demokratijos laboratorijomis srityse, esančiose už priešakinio DI saugos ribų, įskaitant jaunimo apsaugą, elektros energijos ir aplinkos politiką, taip pat DI švietimą ir raštingumą.

Federalinė sistema išlieka būtina. Priešakinis DI kelia nacionalinio saugumo, ekonominio konkurencingumo ir visuomenės saugos klausimų, kuriems galiausiai reikia nacionalinių standartų, nacionalinių pajėgumų ir nacionalinių institucijų demokratiniam DI remti.

Nacionaliniai teisės aktai taip pat yra labai svarbūs JAV vadovaujamai tarptautinei DI standartų sistemai. Ši idėja prieš kelias savaites buvo aptarta G7 susitikime kartu su Brazilija, Egiptu, Indija, Kenija ir Korėja, kur pirmaujančių priešakinių laboratorijų vadovai kalbėjo apie tokios sistemos poreikį. Po šio susitikimo OpenAI vadovas Samas Altmanas Financial Times pasiūlė⁠(atsidaro naujame lange) „JAV vadovaujamą tarptautinį forumą, kuris nustato pripažintus standartus, teikia ekspertinę ir nešališką pajėgumų bei rizikų analizę ir padaro technologiją prieinamą šalims bei įmonėms, kurios dalyvauja ir laikosi taisyklių“. Šią savaitę Google DeepMind vadovas Demisas Hassabis naujame dokumente taip pat pateikė apgalvotų idėjų. Federaliniai teisės aktai, neišvengiamai paremti abiejų partijų, suteiktų tvirtą pagrindą šioms tarptautinėms pastangoms.

Dabar pagreitis matomas kiekviename lygmenyje. Valstijos kuria bendrus požiūrius. Kongresas ir vykdomoji valdžia juda nacionalinės sistemos link. O pasaulio lyderiai pradeda diskutuoti apie tarptautinius standartus. Jei kiekvienas lygmuo remsis kitu, JAV gali vadovauti pasaulinės sistemos, grįstos demokratine DI vizija, kūrimui. Ir būtent šis demokratinio suderinimo požiūris į DI iš tiesų teikia pirmenybę saugai.