Okno príležitosti pre politiku v oblasti AI je otvorené. Musíme konať.

V schopnostiach AI sme vstúpili do novej kapitoly, ktorá si vyžaduje aj novú kapitolu politiky vo vzťahu k AI. Žiadna spoločnosť, odvetvie ani vláda nedokáže tejto výzve čeliť sama. Tejto chvíli musíme čeliť s odhodlaním uprednostniť zmysluplné konanie pred dokonalosťou politiky.

Robíme toto:

1. Presadzovanie záväzných národných požiadaviek na bezpečnosť AI. Chceme spolupracovať s Kongresom na záväznej národnej regulácii bezpečnosti AI založenej na schopnostiach.

2. Udržiavanie tempa v štátoch USA. Kým Kongres nezačne konať, budeme naďalej podporovať legislatívu jednotlivých štátov, ktorá posilňuje širší ekosystém bezpečnosti AI. Dnes oznamujeme podporu štyroch kalifornských návrhov zákonov: SB 813 o celkovej infraštruktúre pre nezávislé posudzovanie bezpečnosti, AB 1405 o štandardoch pre audítorov AI, SB 1119 o ochrane mladých ľudí a AB 1864 o ochranných opatreniach proti biologickým hrozbám využívajúcim AI.

3. Presadzovanie štandardov vedených odvetvím. Budeme spolupracovať s ďalšími prelomovými laboratóriami na presadzovaní štandardov pre prelomovú AI a budovaní dobrovoľnej iniciatívy už teraz, s podporou vlády alebo bez nej.

4. Budovanie globálnych štandardov. Budeme presadzovať kompatibilné medzinárodné prístupy k meraniu schopností, riadeniu rizík, zachovaniu ľudskej kontroly a určovaniu, kedy a ako by sa mal vývoj spomaliť alebo zastaviť, aj keby to znamenalo spomalenie rozvoja schopností modelov.

Náš hlavný vedecký pracovník Jakub Pachocki nedávno napísal⁠, že rýchly vzostup strojovej inteligencie vrátane možnosti rekurzívneho sebazdokonaľovania si vyžaduje „mimoriadnu opatrnosť“. OpenAI bude naďalej hľadať technické riešenia zosúladenia a monitorovania, budovať obranné systémy a v prípade potreby spomaľovať vývoj. Technická práca v jednotlivých laboratóriách však nebude stačiť. Potrebujeme aj spoločné štandardy vrátane pravidiel určujúcich, kedy treba vývoj spomaliť alebo zastaviť.

V stávke je nesmierne veľa. Pokročilá AI by mohla urýchliť vývoj nových liekov⁠, posilniť kritickú infraštruktúru⁠, rozšíriť ekonomické príležitosti⁠ a pomôcť vyriešiť vedecké problémy⁠, ktoré odolávali úsiliu celých generácií. Schopnosti, vďaka ktorým sú modely užitočnejšie, však prinášajú aj riziká a nezostanú obmedzené na niekoľko laboratórií prelomovej AI. Modely vyvíjané po celom svete vrátane otvorených modelov sa budú čoraz viac približovať dnešnej prelomovej hranici a stanú sa široko dostupnými.

Schopnosti Astry, prvé dôkazy o zrýchľovaní výskumu pomocou AI a Jakubova esej poukazujú na to isté: AI napreduje rýchlo a politika s ňou musí držať krok.

Greg Brockman opísal „okno príležitosti pre obrancov“⁠(otvorí sa v novom okne): obmedzené obdobie, počas ktorého môže prelomová AI pomôcť obrancom posilniť kritické systémy, než sa rozšíria výkonné útočné schopnosti. Tvorcovia politík čelia podobnej chvíli: zmenšujúcemu sa priestoru na zavedenie trvalých ochranných opatrení skôr, než schopnosti AI predstihnú inštitúcie zodpovedné za jej riadenie.

S rastúcimi schopnosťami musí tempo pokroku v oblasti AI čoraz viac určovať dôvera v bezpečnosť. Bezpečnosť nestojí v ceste pokroku. Umožňuje mu napredovať ďalej a prinášať úžitok viacerým ľuďom.

Posilnili sme monitorovanie, zosúladenie a bezpečnostné opatrenia počas celého životného cyklu vývoja modelu vrátane dôslednejšej izolácie pracovných záťaží pri prelomovom výskume, rozšíreného monitorovania správania modelu počas trénovania a hodnotení s využitím nástrojov a jasnejších pravidiel, kedy eskalovať obavy. Pre Astru sme zaviedli aj univerzálne monitorovanie úplných trajektórií vrátane reťazenia myšlienok a povinnú bránu hodnotenia zosúladenia pred širším interným nasadením.

Tieto ochranné opatrenia musia naďalej mať náskok pred schopnosťami. Keď by ďalší postup predstavoval neprijateľné riziko pre bezpečnosť, spomalíme alebo zastavíme vývoj či nasadzovanie systémov, ktoré nedokážeme dostatočne zabezpečiť, ako sme to urobili už predtým a ako to vyžaduje náš rámec pripravenosti⁠(otvorí sa v novom okne).

Plne autonómne rekurzívne sebazdokonaľovanie, pri ktorom AI systémy nezávisle vytvárajú ďalšie generácie čoraz schopnejšej AI, dnes neprebieha. Nemali by sme sa oň usilovať, kým ho nebude možné realizovať bezpečne.

AI však už urýchľuje časti výskumu využívaného na vývoj a zosúladenie ďalšej generácie modelov. Náš najnovší výskum⁠ ukazuje, že AI agenti dokážu splniť niektoré úlohy, ktoré by skúseným výskumníkom trvali niekoľko dní. Nejde o rekurzívne sebazdokonaľovanie, ale je to dôkaz smerovania vývoja.

Toto zrýchlenie možno a treba nasmerovať aj na bezpečnosť. Naším cieľom je bezpečne vytvoriť automatizovaných výskumníkov AI, ktorí pod ľudským dohľadom rozvíjajú hlboké učenie aj zosúladenie. Každá generácia AI má pomôcť urobiť tú nasledujúcu bezpečnejšou, lepšie zosúladenou a ľahšie ovládateľnou, nielen schopnejšou.

Vlády by mali vypracovať spoločné spôsoby merania tohto pokroku, zachovať zmysluplnú ľudskú kontrolu a stanoviť spoločné bezpečnostné hranice určujúce, kedy a ako treba vývoj spomaliť alebo zastaviť. Ak nemôžeme splniť určité bezpečnostné hranice bez spomalenia rastu schopností, mali by sme uprednostniť splnenie bezpečnostných hraníc. Čím výkonnejšia bude technológia, tým silnejšie musia byť ochranné opatrenia, ktoré ju obklopujú.

Perspektíva vývoja AI urýchľovaného umelou inteligenciou si vyžaduje viac než dobrovoľné záväzky. Spojené štáty potrebujú záväznú celoštátnu reguláciu založenú na schopnostiach, ktorá sa môže vyvíjať rovnako ako technológia.

Náš Plán demokratickej správy prelomovej AI⁠ načrtáva cestu k trvalému federálnemu rámcu: spoločné požiadavky na testovanie a nezávislé posudzovanie, silnejšiu kybernetickú ochranu, jasné pravidlá nahlasovania incidentov, lepšiu pripravenosť krajiny a spoločné ukazovatele na sledovanie pokroku smerom k rekurzívnemu sebazdokonaľovaniu.

V Kongrese sa teraz formuje niekoľko serióznych návrhov týkajúcich sa bezpečnosti prelomovej AI. Naďalej sa budeme konštruktívne zapájať a očakávame, že podporíme legislatívu, ktorá podstatne zvýši úroveň bezpečnosti. Keď je v stávke tak veľa, nesmieme dovoliť, aby sa dokonalé stalo nepriateľom dobrého. Kongres by mal konať pred skončením svojho zasadnutia.

Vnútroštátny rámec by mal byť silný, ale starostlivo zacielený. Požiadavky na bezpečnosť prelomovej AI by sa mali vzťahovať na niekoľko dobre financovaných laboratórií, ktoré vyvíjajú najschopnejšie systémy, nie na startupy, malých vývojárov ani výskumníkov, ktorí ani zďaleka nepôsobia na prelomovej. Povinnosti by mali byť úmerné schopnostiam a rizikám.

Politika bezpečnosti prelomovej AI by sa zároveň nemala stať politikou otvorených váh pod iným názvom. Otvorené modely môžu byť súčasťou riešenia, najmä v kybernetickej bezpečnosti a tam, kde požiadavky na suverenitu, bezpečnosť alebo rezidenciu údajov uprednostňujú lokálne nasadenie. Väčšina z nich nesúťaží na prelomovom, ale nákladmi, kontrolou a latenciou. Ako sme potvrdili podpisom listu o otvorených váhach a americkom vedúcom postavení v AI⁠(otvorí sa v novom okne), Amerika potrebuje otvorené aj uzavreté modely. Federálny rámec by mal riešiť prelomové schopnosti a riziká bez oslabovania hospodárskej súťaže, upevňovania postavenia súčasných lídrov alebo vytláčania inovácií do zahraničia.

Dôsledný verejný rámec by mal koncentráciu moci znižovať, nie zvyšovať. Pravidlá riadenia hraničných rizík si dnes prelomové laboratóriá do veľkej miery určujú samy. Demokraticky zodpovedné štandardy, nezávislé overovanie a skutočná transparentnosť by nahradili tento roztrieštený systém súkromnej správy.

Je to nevyhnutné na zachovanie vedúceho postavenia Spojených štátov amerických. Spojené štáty nemôžu v ére AI zvíťaziť iba vďaka schopnostiam. Technologický náskok bude znamenať málo, ak ľudia, inštitúcie a vlády nebudú technológii dôverovať natoľko, aby ju prijali. Silné ochranné opatrenia nie sú ústupkom na úkor inovácií. Sú súčasťou infraštruktúry potrebnej na široké prijatie aj na trvalé vedúce postavenie Spojených štátov amerických.

Veľmi potrebujeme národné štandardy pre AI a každý, kto pracuje na prelomovej AI, vidí, že je to naliehavé. Kým Kongres nekoná, jednotlivé štáty by mali naďalej podnikať kroky na vyplnenie tohto vákua a zvýšiť latku.

Spoločnosť OpenAI podporila kalifornský návrh zákona SB 53, newyorský zákon RAISE Act, illinoiský návrh zákona SB 315 a nezávislé audity v rámci legislatívy týkajúcej sa bezpečnosti pokročilých modelov, o ktorej sa v súčasnosti rokuje v Massachusetts. Vyzývame štáty, aby sa zjednotili okolo týchto spoločných ochranných opatrení. Môžu tak vytvoriť de facto celoštátny základ, ktorý môže Kongres napokon uzákoniť. Tento prístup nazývame ⁠reverzný federalizmus⁠. Harmonizácia však neznamená zmrazenie požiadaviek.

Dnes formálne podporujeme štyri ďalšie kalifornské návrhy zákonov, ktoré schválil zákonodarný zbor a smerujú ku guvernérovi Newsomovi. Spoločne riešia vzájomne sa dopĺňajúce časti ekosystému bezpečnosti AI.

Zákon SB 813⁠(otvorí sa v novom okne) by zaviedol proces určovania kvalifikovaných nezávislých organizácií schopných posudzovať riziká AI. Ako sme uviedli v našom ⁠(otvorí sa v novom okne)pláne bezpečnosti prelomovej AI⁠(otvorí sa v novom okne), uprednostňujeme, aby sa nezávislé technické posúdenia vyžadovali na federálnej úrovni, kde môžu tvorcovia politík stanoviť jednotné štandardy kvalifikácie posudzovateľov, bezpečnosti a prístupu k mimoriadne citlivým informáciám. Keďže však federálna vláda nekoná, štát Kalifornia môže pomôcť stanoviť pravidlá pre bezpečný a schopný celoštátny systém nezávislého posudzovania, ktorý prinesie lepšie výsledky v oblasti bezpečnosti.

AB 1405⁠(otvorí sa v novom okne) by zaviedol požiadavky na registráciu, nezávislosť, transparentnosť a zodpovednosť audítorov AI.

SB 1119⁠(otvorí sa v novom okne) by vyžadoval overovanie veku, posudzovanie rizík, nezávislé audity, rodičovskú kontrolu a ochranné opatrenia pred škodlivým obsahom pre deti a tínedžerov používajúcich sprievodné chatboty. Nedávno sme vyjadrili podporu⁠ tomuto návrhu zákona, ktorý nadväzuje na opatrenia na ochranu mladých ľudí, ktoré OpenAI presadzuje prostredníctvom svojich produktov, ⁠globálnych politických princípov⁠ a podpory ⁠(otvorí sa v novom okne)zákona o bezpečnej AI pre rodičov a deti⁠(otvorí sa v novom okne), ako aj na ochranné prvky zabudované v ChatGPT pre tínedžerov vrátane prísnejších predvolených nastavení v citlivých oblastiach, Tichých hodín, Hodín štúdia a pripomienok prestávok.

Zákon AB 1864⁠(otvorí sa v novom okne) by od poskytovateľov syntézy génov a výrobcov stolových zariadení na syntézu vyžadoval dodržiavanie federálnych štandardov preverovania, čím by posilnil dôležitú fyzickú ochranu pred biologickými hrozbami s podporou umelej inteligencie.

Niektoré z týchto návrhov zákonov sme v minulosti nepodporili, no po prehodnotení vzhľadom na nedávny nárast schopností, ktorý sme zaznamenali, ich teraz podporujeme.

Tieto návrhy zákonov nie sú náhradou federálnej regulácie. Sú to seriózne snahy, ktoré môžu ľudí chrániť už teraz, ukázať, ako vyzerajú funkčné ochranné opatrenia, a pomôcť vytvoriť dynamiku pre federálne opatrenia.

Samotné zákony nezabezpečia bezpečnosť pokročilej AI. Potrebujeme aj konkrétne postupy v laboratóriách, ktoré vyvíjajú najschopnejšie systémy. Najnaliehavejšie je začať monitorovaním.

Toto je obzvlášť dôležité pri nesúlade – keď model sleduje cieľ spôsobmi, ktoré porušujú ľudský zámer alebo stanovené hranice, bez potreby vedomia alebo zlomyseľného úmyslu. Keď modely získavajú väčšiu autonómiu, používajú výkonnejšie nástroje a pracujú dlhšie, malo by sa od vývojárov vyžadovať, aby monitorovali toto nedostatočne zosúladené správanie a preukázali, že sú zavedené účinné ochranné opatrenia.

Monitorovanie musí byť spojené s jasnými požiadavkami na oznamovanie. Ako sme presadzovali v Kalifornii, od spoločností by sa malo vyžadovať, aby bezodkladne písomne informovali dotknuté strany v prípade, že ich modely počas vývoja alebo hodnotenia bez oprávnenia obídu bezpečnostné kontroly inej organizácie a významným spôsobom získajú prístup k jej chráneným systémom alebo dôverným informáciám, zmenia ich alebo ich zničia. Podporujeme tiež federálne požiadavky na nahlasovanie ďalších závažných incidentov súvisiacich s AI a pracujeme na vymedzení toho, na ktoré incidenty by sa mali vzťahovať a čo by tieto požiadavky mali zahŕňať.

Ako sme uviedli minulý týždeň, OpenAI vyvíja rámec na hlásenie závažných prípadov nesúladu a systematické monitorovanie aktivity prelomových modelov vrátane interného používania. Toto úsilie sa začína na úrovni spoločnosti, no dúfame, že pomôže formovať širšiu federálnu politiku a požiadavky na podávanie správ.

Chceme spolupracovať s ďalšími laboratóriami na štandardoch vedených priemyslom. Akékoľvek štandardy vedené priemyslom by dopĺňali, a nie nahrádzali, povinné federálne ochranné opatrenia a demokratický dohľad. Vstúpili sme však do inej fázy schopností AI a mali by sme zvážiť všetky možnosti vrátane toho, čo sa dá dobrovoľne vybudovať mimo vlády ako okamžitý krok.

Akékoľvek takéto štandardy musia napokon presahovať aj hranice štátov. Modely, výskum a technické odborné znalosti sa šíria po celom svete a zlyhania týkajúce sa najschopnejších systémov môžu mať dôsledky ďaleko za hranicami krajiny, v ktorej boli vyvinuté. Spojené štáty musia stanoviť dôveryhodné štandardy na domácej pôde, ak chcú viesť na medzinárodnej úrovni – a čoraz viac sme presvedčení, že budú potrebné kompatibilné medzinárodné štandardy.

Príležitosť formovať politiku vo vzťahu k AI je zatiaľ otvorená. Máme v úmysle ho využiť.

Znamená to konať naliehavo, pokorne a s ochotou prispôsobiť sa. Znamená to podporovať seriózne návrhy, ktoré podstatne zvyšujú úroveň bezpečnosti, aj keď nie sú presne také, aké by sme navrhli my. A znamená to posilňovať rámec spolu s vývojom technológie.

Žiadny prvý krok nebude dokonalý. Väčším rizikom je však teraz čakať s ním príliš dlho.