USA posúvajú bezpečnosť AI vpred opatreniami štátov aj federálnej vlády

Autor: Chris Lehane, riaditeľ pre Globálne záležitosti

Od štátnych metropol po celej krajine cez Washington až po medzinárodné stretnutia sa formujú seriózne prístupy k správe prelomovej AI. Spoločne posúvajú vpred demokratickú víziu AI.

Kalifornia, New York a najnovšie Illinois pokročili s legislatívou o bezpečnosti prelomovej AI, ktorá pomáha posúvať krajinu k spoločnému základu pre správu najvýkonnejších systémov AI.

Tieto snahy odrážajú dynamiku prístupu, ktorý OpenAI nazýva reverzný federalizmus: štáty pomáhajú určovať spoločný smer prostredníctvom spoločného rámca. Keď sa práca vedená štátmi zbližuje s úsilím prebiehajúcim na federálnej úrovni, začína sa formovať národný štandard, ktorý kladie základy globálneho rámca AI vedeného USA. Veríme, že najlepší spôsob, ako zabezpečiť, aby AI prinášala úžitok mnohým, nielen hŕstke, je, aby kľúčové rozhodnutia – počnúc bezpečnosťou prelomovej AI – prijímali demokratické vlády, nie iba prelomové laboratóriá.

Spojeným štátom by napokon najlepšie poslúžil národný rámec založený na tomto princípe. Kým však taký rámec neexistuje, štáty nás k nemu môžu posunúť prijímaním zákonov, ktoré sa navzájom zrkadlia. Krok za krokom tak môžu vytvoriť de facto národný štandard.

A ak je prioritou bezpečnosť, takýto národný štandard je najlepším politickým prístupom na zabezpečenie toho, aby (a) si USA naďalej udržali vedúce postavenie v inováciách a aby ich neoslabovala mozaika regulácií, ktorá by spomalila schopnosť vybudovať globálny demokratický AI stack zameraný na to, aby dobrí aktéri mali nástroje potrebné na obranu pred zlými aktérmi usilujúcimi sa zneužiť AI v oblastiach, ako je kybernetická bezpečnosť; a (b) sa USA dostali do najsilnejšej pozície, z ktorej môžu národný štandard preniesť do globálneho prístupu k bezpečnému nasadzovaniu AI založenému na demokratických hodnotách. Ak chceme vytvoriť bezpečnostný rámec, ktorý bude skutočne uprednostňovať zavedenie národného a medzinárodného štandardu – teda toho, čo najlepšie podporí bezpečné nasadzovanie AI –, bude si to vyžadovať tvrdú prácu, vážnosť zámeru a stratégiu, ktorá prepája štáty, federálnu vládu a medzinárodnú diskusiu. Performativný prístup alebo signalizovanie cností tu nestačí – chaos na úrovni štátov nie je v najlepšom záujme trvácneho prístupu k bezpečnosti, povedie len k ďalšiemu chaosu.

Aby tento prístup uspel, štáty by sa mali naďalej zlaďovať v kľúčových prvkoch, ako to urobili Kalifornia, New York a Illinois. Vo všeobecnosti ide o tieto prvky:

• Zdokumentovaný bezpečnostný rámec s hodnoteniami rizík pre prelomové modely a verejným zverejňovaním týchto hodnotení a ich výsledkov.
• Nahlasovanie závažných bezpečnostných incidentov.
• Správa a zodpovednosť prostredníctvom nezávislých, objektívnych auditov.

Tieto tri štáty spoločne zabudovali demokratický dohľad do nasadzovania prelomovej AI. Kalifornia vytvorila základný rámec zverejňovania. New York ukázal, že tento prístup možno prijať naprieč jurisdikciami. Illinois ho doplnil požiadavkou nezávislého overovania kľúčových zverejnení.

Uvedomujeme si, že legislatíva často zahŕňa dodatočné ustanovenia potrebné na získanie hlasov na jej schválenie. Veríme však, že práve toto sú základné prvky potrebné na vytvorenie de facto národného štandardu prostredníctvom reverzného federalizmu. Bez tejto disciplíny riskujeme rozširovanie politických požiadaviek a mozaiku štátnych zákonov, ktoré sa regulátorom ťažko presadzujú, spotrebiteľom sa v nich ťažko orientuje a odčerpávajú zdroje vývojárov – najmä v startupoch a malých firmách –, ktoré by bolo lepšie investovať do bezpečnosti. Najmä, ako ukázali posledné týždne, keď sa modely AI stávajú čoraz schopnejšími, potrebujeme koherentný systém, ktorý nám umožní dostať nástroje do rúk vlády, kritickej infraštruktúry, spojencov a dôveryhodných partnerov.

Tvorcovia politík by sa mali chrániť aj pred rozširovaním mandátu. Od štátov by sa nemalo žiadať, aby riadili významné riziká národnej bezpečnosti (alebo v skutočnosti prijímali rozhodnutia o národnej bezpečnosti v mene celej krajiny) či vykonávali vysoko technické preskúmania, ktoré lepšie zvládnu federálni experti so zdrojmi, odbornými znalosťami, prístupom k utajovaným systémom a kapacitou úzko spolupracovať s našimi tímami.

Na federálnej úrovni Trumpova administratíva naďalej spolupracuje s technickými expertmi a odborníkmi na národnú bezpečnosť na rámci, podľa ktorého bude vláda USA testovať najvýkonnejšie modely AI v oblasti kybernetiky. Tento rámec stanoví štandardy, harmonogramy a postupy testovania. OpenAI vedie konštruktívne diskusie s administratívou, partnerskými spoločnosťami, podnikateľskými združeniami a ďalšími zainteresovanými stranami, ktoré pomáhajú toto úsilie formovať.

Prebiehajúca práca na kybernetických hodnoteniach ukazuje, prečo je dôležitá konzistentnosť. Dnes sa modely, pochopiteľne, testujú ešte pred dokončením federálneho rámca. Keď laboratóriá týmto procesom prechádzali, jedna lekcia sa ukázala jasne: potrebujeme jednotný a opakovateľný prístup na štátnej aj federálnej úrovni. Je to nevyhnutné, ak chceme, aby sa najvýkonnejšie modely dostali do rúk vlády, obrancov kritickej infraštruktúry, spojencov a ďalších dôveryhodných partnerov. Oceňujeme cieľ administratívy zaviesť tento rámec do začiatku augusta.

Federálny rámec testovania pomôže dostať pokročilé nástroje AI do rúk vlády, obrancov kritickej infraštruktúry, spojencov a ďalších dôveryhodných partnerov. Tým posilní demokratické inštitúcie a pomôže vybudovať technologický stack demokratickej AI vedený USA. Teraz je čas využiť americký inovačný náskok na podporu demokratickej AI.

Ani nedefinovaný federálny proces, ani mozaika štátnych zákonov nevytvoria koherentný režim bezpečnosti prelomových technológií. Potrebujeme prístup, ktorý zabezpečí, aby najlepší testeri hodnotili najvýkonnejšie modely – a aby dôveryhodní obrancovia získali prístup k týmto nástrojom dostatočne rýchlo na to, aby si udržali náskok pred škodlivými aktérmi.

Do pohybu sa dáva aj Kongres. Zákonodarcovia v oboch komorách a na oboch stranách politického spektra – naposledy vrátane poslancov Jay Obernolteho a Lori Trahanovej – si všimli vývoj v štátoch aj vo výkonnej moci a predložili návrhy federálneho rámca. Žiadny pracovný návrh s realistickou šancou na schválenie nebude dokonalý. Túto prácu však vnímame ako produktívny krok vpred a veríme, že mnohé jej ustanovenia sú premyslené a zaslúžia si podporu.

Rovnako nás povzbudzuje, že lídri Senátu aj Snemovne venujú vážne úsilie návrhom národnej správy a bezpečnosti prelomovej AI, a s mnohými z nich sme viedli konštruktívne rozhovory. Vzhľadom na veľkosť a vplyv štátov, ktoré už prijali zákony smerujúce rovnakým smerom, by začlenenie týchto prístupov do federálnej legislatívy malo uľahčiť vytvorenie jednotného národného režimu bezpečnosti prelomovej AI.

Plán OpenAI pre bezpečnosť prelomovej AI stanovuje to, čo považujeme za základné prvky tohto rámca.

Po prvé, federálna vláda by mala viesť testovanie a hodnotenie najpokročilejších systémov. Prelomová AI vyvoláva otázky národnej bezpečnosti a verejnej bezpečnosti, ktoré si vyžadujú technické odborné znalosti, zdroje a prístup, ktoré žiadny štát nedokáže plne napodobniť.

Táto práca by mala posilniť Center for AI Standards and Innovation (CAISI), vytvorené za prezidenta Bidena a posilnené za prezidenta Trumpa. CAISI môže poskytnúť trvácnu federálnu kapacitu potrebnú na hodnotenie pokročilých modelov a posunúť bezpečnosť prelomovej AI smerom k predchádzaniu škodám ešte pred tým, ako vzniknú, namiesto toho, aby sa spoliehala najmä na následnú zodpovednosť. Každá federálna legislatíva by mala dôkladne zvážiť, ako má CAISI spolupracovať so zvyškom vlády a akú úlohu má zohrávať v centre testovania.

Po druhé, spoločnosti vyvíjajúce najvýkonnejšie systémy by mali spĺňať jasné požiadavky vrátane nezávislých auditov, nahlasovania incidentov, prísnych bezpečnostných štandardov a ochrany oznamovateľov.

Po tretie, federálne a štátne úsilie by sa malo navzájom posilňovať. Štátne zákony nebudú všetky rovnaké a tešíme sa na spoluprácu s tvorcami politík po celej krajine, aby sme zabezpečili, že posilnia bezpečnosť a zároveň maximalizujú ekonomické prínosy AI.

Štáty by mali aj naďalej slúžiť ako laboratóriá demokracie v oblastiach nad rámec bezpečnosti prelomovej AI, vrátane ochrany mladých ľudí, elektriny a environmentálnej politiky, ako aj vzdelávania a gramotnosti v oblasti AI.

Federálny rámec zostáva nevyhnutný. Prelomová AI vyvoláva otázky národnej bezpečnosti, hospodárskej konkurencieschopnosti a verejnej bezpečnosti, ktoré si v konečnom dôsledku vyžadujú národné štandardy, národné kapacity a národné inštitúcie na podporu demokratickej AI.

Národná legislatíva je kľúčová aj pre medzinárodný rámec štandardov AI vedený USA. O tejto myšlienke sa pred niekoľkými týždňami diskutovalo na G7 spolu s Brazíliou, Egyptom, Indiou, Keňou a Kóreou, kde generálni riaditelia popredných prelomových laboratórií hovorili o potrebe takéhoto rámca. Po tomto stretnutí generálny riaditeľ OpenAI Sam Altman v denníku Financial Times navrhol⁠(otvorí sa v novom okne) „medzinárodné fórum vedené USA, ktoré stanovuje prijaté štandardy, poskytuje odbornú a nestrannú analýzu schopností a rizík a sprístupňuje technológiu krajinám a spoločnostiam, ktoré sa zúčastňujú a dodržiavajú pravidlá“. Tento týždeň predstavil premyslené nápady v novej práci aj generálny riaditeľ Google DeepMind Demis Hassabis. Federálna legislatíva – nevyhnutne nadstranícka – by poskytla pevný základ pre toto medzinárodné úsilie.

Dynamiku teraz vidno na každej úrovni. Štáty vytvárajú spoločné prístupy. Kongres a výkonná moc smerujú k národnému rámcu. A globálni lídri začínajú diskutovať o medzinárodných štandardoch. Ak bude každá úroveň stavať na tej druhej, USA môžu viesť vývoj globálneho rámca založeného na demokratickej vízii AI. A práve tento prístup demokratického zosúladenia v oblasti AI je prístupom, ktorý skutočne uprednostňuje bezpečnosť.