USA posouvají bezpečnost AI kroky na státní i federální úrovni

Chris Lehane, ředitel pro globální záležitosti

Od hlavních měst jednotlivých států přes Washington až po mezinárodní setkání se začínají rýsovat seriózní přístupy ke governance průkopnické AI. Společně posouvají kupředu demokratickou vizi AI.

Kalifornie, New York a nejnověji Illinois pokročily s legislativou pro bezpečnost průkopnické AI, která pomáhá zemi směřovat ke společnému základu pro správu nejvýkonnějších systémů AI.

Toto úsilí odráží sílící podporu toho, co OpenAI nazývá obráceným federalismem: státy pomáhají vytvářet společný směr prostřednictvím společného rámce. Jak se práce vedená státy sbližuje s úsilím na federální úrovni, začíná se formovat národní standard, který pokládá základy globálního rámce pro AI pod vedením USA. Věříme, že nejlepším způsobem, jak zajistit, aby AI přinášela prospěch většině, a ne jen hrstce vybraných osob, je aby zásadní rozhodnutí — počínaje bezpečností průkopnické AI — činily demokratické vlády, nikoli pouze laboratoře průkopnické AI.

Spojeným státům by nakonec nejlépe posloužil národní rámec založený na tomto principu. Dokud ale neexistuje, mohou nás k němu státy přiblížit přijímáním zákonů, které se navzájem zrcadlí. Krok za krokem tak mohou vytvořit de facto národní standard.

A pokud je prioritou bezpečnost, je takový národní standard nejlepším politickým přístupem, jak zajistit: (a) že si USA udrží vedoucí postavení v inovacích a neoslabí je roztříštěná regulace, která by zpomalila budování globálního demokratického AI stacku zaměřeného na to, aby obránci měli nástroje potřebné k ochraně před škodlivými aktéry, kteří chtějí AI zneužívat v oblastech, jako je kybernetická bezpečnost; a (b) že USA zaujmou nejsilnější pozici, aby mohly z národního standardu vytvořit globální přístup k bezpečnému nasazování AI založený na demokratických hodnotách. Chceme-li vytvořit bezpečnostní rámec, který bude skutečně dá na první místo zavedení národního a mezinárodního standardu — tedy toho, co nejlépe podpoří bezpečné nasazování AI — bude to vyžadovat tvrdou práci, vážný přístup a strategii propojující státy, federální vládu a mezinárodní debatu. Performativní přístup ani okázalé signalizování ctnosti zde nepostačí — chaos na úrovni států není v nejlepším zájmu trvalého přístupu k bezpečnosti, povede jen k dalšímu chaosu.

Aby tento přístup uspěl, musí státy dále slaďovat klíčové prvky, jak to udělaly Kalifornie, New York a Illinois. V obecné rovině jde o tyto prvky:

• Zdokumentovaný bezpečnostní rámec s hodnocením rizik pro průkopnické modely a veřejné zveřejňování těchto hodnocení i jejich výsledků.
• Hlášení závažných bezpečnostních incidentů.
• Správa a odpovědnost prostřednictvím nezávislých, objektivních auditů.

Tyto tři státy společně zabudovaly do nasazování průkopnické AI demokratický dohled. Kalifornie vytvořila základní rámec pro zveřejňování informací. New York ukázal, že tento přístup lze přijmout napříč jurisdikcemi. Illinois jej doplnilo požadavkem na nezávislé ověření klíčových zveřejnění.

Uvědomujeme si, že aby se legislativu podařilo schválit, často obsahuje ustanovení překračující tento rámec. Nicméně věříme, že pro vytvoření de facto národního standardu prostřednictvím obráceného federalismu jsou nezbytné právě výše uvedené prvky. Bez disciplinovanosti při tvorbě politik však riskujeme, že politiky budou postupně bobtnat přes původní záměr a vzniknou různorodé zákony jednotlivých států – ty pak bude pro regulátory obtížné vymáhat, pro spotřebitele bude těžké se v nich orientovat a budou odvádět zdroje vývojářů — zejména ve start-upech a malých firmách — od bezpečnosti, kde je jich zapotřebí více. Zejména, jak ukázaly poslední týdny, s tím, jak modely AI získávají stále větší schopnosti, potřebujeme soudržný systém, který nám umožní dostat nástroje do rukou veřejné správy, kritické infrastruktury, spojenců a důvěryhodných partnerů.

Tvůrci politik by se měli bránit také rozšiřování mandátu. Od států by se nemělo očekávat, že budou řídit významná rizika pro národní bezpečnost (nebo fakticky rozhodovat o národní bezpečnosti za celou zemi) ani provádět vysoce technická posouzení, která lépe zvládnou federální experti s prostředky, odborností, přístupem k utajovaným systémům a kapacitou úzce spolupracovat s našimi týmy.

Na federální úrovni Trumpova vláda nadále spolupracuje s technickými experty a odborníky na národní bezpečnost na přípravě rámce pro federální testování nejvýkonnějších AI modelů v oblasti kyberbezpečnosti. Tento rámec stanoví standardy, časové harmonogramy a postupy testování. OpenAI vede konstruktivní jednání s vládou, obdobnými společnostmi, podnikatelskými skupinami a dalšími zainteresovanými stranami, které se na tom podílejí.

Probíhající práce na kybernbezupečnostních evaluacích ukazuje, proč je důležitá jednotnost. Dnes se modely pochopitelně testují ještě před dokončením federálního rámce. S postupem práce laboratoří na tomto procesu se vyjasnila se jedna věc: potřebujeme jednotný a opakovatelný přístup na státní i federální úrovni. To je nezbytné, pokud chceme, aby nejvýkonnější modely měly k dispozici vláda, obránci kritické infrastruktury, spojenci a další důvěryhodní partneři. Oceňujeme cíl administrativy mít tento rámec zavedený do začátku srpna.

Federální testovací rámec pomůže dostat pokročilé nástroje AI do rukou vlády, obránců kritické infrastruktury, spojenců a dalších důvěryhodných partnerů. Tím posílí demokratické instituce a pomůže vybudovat stack demokratické AI pod vedením USA. Nyní je čas využít americký náskok v inovacích na podporu demokratické AI.

Ani nedefinovaný federální proces, ani mozaika státních zákonů nevytvoří soudržný režim bezpečnosti průkopnické AI. Potřebujeme přístup, který zajistí, aby nejlepší testeři hodnotili nejvýkonnější modely — a aby důvěryhodní obránci získali k těmto nástrojům přístup dostatečně rychle, aby si udrželi náskok před škodlivými aktéry.

Také Kongres postupuje kupředu. Zákonodárci v obou komorách a z obou stran politického spektra — naposledy včetně poslanců Jaye Obernolteho a Lori Trahanové — se odrazili od vývoje v některých státech i federální výkonné moci a předložili návrhy federálního rámce. Žádný diskusní návrh s realistickou šancí na schválení nebude dokonalý. Tuto práci však vnímáme jako produktivní krok vpřed a jsme přesvědčeni, že mnohá narvhovaná ustanovení jsou promyšlená a zaslouží si podporu.

Stejně tak nás těší, že lídři Senátu i Sněmovny věnují návrhům národního dohledu nad bezpečností průkopnické AI seriózní úsilí, a s mnoha z nich jsme vedli konstruktivní rozhovory. Vzhledem k velikosti a vlivu států, které už přijaly zákony v tomto smyslu přijaly, by začlenění těchto přístupů do federální legislativy mělo usnadnit vytvoření jednotného národního bezpečnostního režimu pro průkopnickou AI.

Plán OpenAI pro bezpečnost průkopnické AI popisuje, co považujeme za nezbytné prvky tohoto rámce.

Zaprvé by federální vláda měla vést testování a hodnocení nejpokročilejších systémů. Průkopnická AI vyvolává otázky národní bezpečnosti a veřejné bezpečnosti, které vyžadují technickou odbornost, zdroje a přístup, jež žádný stát nedokáže plně napodobit.

Tato práce by měla posílit Center for AI Standards and Innovation (CAISI), zřízené za prezidenta Bidena a posílené za prezidenta Trumpa. CAISI může zajistit trvalou federální kapacitu potřebnou k hodnocení pokročilých modelů a posunout bezpečnost průkopnické AI směrem k předcházení škodám dříve, než nastanou, namísto spoléhání se především na následnou odpovědnost. Každá federální legislativa by měla pečlivě zvážit, jak má CAISI spolupracovat se zbytkem veřejné správy a jakou roli má hrát v centru testování.

Zadruhé by společnosti vyvíjející nejvýkonnější systémy měly splňovat jasné požadavky, včetně nezávislých auditů, hlášení incidentů, přísných bezpečnostních standardů a ochrany whistleblowerů.

Zatřetí by se federální a státní úsilí měla navzájem posilovat. Státní zákony nebudou všechny totožné a těšíme se na spolupráci s tvůrci politik po celé zemi, aby posilovaly bezpečnost a zároveň maximalizovaly ekonomické přínosy AI.

Státy by také měly dál sloužit jako laboratoře demokracie v oblastech mimo bezpečnost průkopnické AI, včetně ochrany mladých lidí, politiky v oblasti elektřiny a životního prostředí a vzdělávání a AI gramotnosti.

Federální rámec bude nezbytný i do budoucna. Průkopnická AI vyvolává otázky národní bezpečnosti, ekonomické konkurenceschopnosti a veřejné bezpečnosti, které nakonec vyžadují národní standardy, národní kapacity a národní instituce na podporu demokratické AI.

Národní legislativa je zásadní také pro mezinárodní rámec standardů AI pod vedením USA. O této myšlence se před několika týdny jednalo na G7 společně s Brazílií, Egyptem, Indií, Keňou a Koreou, kde generální ředitelé předních laboratoří průkopnické AI diskutovali o potřebě takového rámce. Po tomto setkání generální ředitel OpenAI Sam Altman navrhl ve Financial Times⁠(otevře se v novém okně) „mezinárodní fórum pod vedením USA, které bude ustavovat uznávané standardy, poskytovat odbornou a nestrannou analýzu schopností a rizik a zpřístupňovat technologie zemím a firmám, které se ho budou účastnit a dodržovat jeho pravidla“. Tento týden představil promyšlené návrhy v nové práci také generální ředitel Google DeepMind Demis Hassabis. Federální legislativa — nutně s podporou obou politických stran — by tomuto mezinárodnímu úsilí poskytla pevný základ.

Tato dynamika je nyní viditelná na každé úrovni. Státy vytvářejí společné přístupy. Kongres a výkonná moc směřují k národnímu rámci. A světoví lídři začínají diskutovat o mezinárodních standardech. Pokud každá úroveň naváže na úroveň předchozí, mohou USA vést vývoj globálního rámce založeného na demokratické vizi AI. A právě tento přístup demokratického sladění v oblasti AI skutečně dává bezpečnost na první místo.