Prozor za razvijanje politike o umjetnoj inteligenciji otvoren je. Sada moramo djelovati.

Ušli smo u novo poglavlje razvoja sposobnosti umjetne inteligencije, što zahtijeva i novo poglavlje razvoja politike o umjetnoj inteligenciji. Nijedna tvrtka, industrija ni vlada ne može sama odgovoriti na taj izazov. Ovom trenutku moramo pristupiti tako da prednost damo konkretnom djelovanju pred usavršavanjem samih politika.

Evo što radimo:

1. Zalažemo se za obvezne nacionalne zahtjeve za sigurnost AI-ja. Želimo surađivati s Kongresom na obveznoj nacionalnoj regulaciji sigurnosti AI-ja utemeljenoj na sposobnostima.

2. Održavamo zamah ovog djelovanja u saveznim državama. Dok Kongres ne poduzme korake, nastavit ćemo podržavati zakonodavstvo saveznih država koje jača širi ekosustav sigurnosti umjetne inteligencije. Danas objavljujemo svoju podršku četirima kalifornijskim zakonskim prijedlozima: SB 813 o općoj infrastrukturi za neovisne sigurnosne procjene, AB 1405 o standardima za revizore umjetne inteligencije, SB 1119 o zaštiti mladih osoba i AB 1864 o zaštitnim mjerama protiv bioloških prijetnji omogućenih umjetnom inteligencijom.

3. Unapređujemo standarde koje predvodi industrija. Surađivat ćemo s drugim naprednim laboratorijima na unaprjeđivanju standarda za granični AI, stvarajući već sada dobrovoljnu inicijativu, sa ili bez potpore vlade.

4. Razvijamo globalne standarde. Zalagat ćemo se za usklađene međunarodne pristupe mjerenju sposobnosti, upravljanju rizicima, očuvanju ljudske kontrole te određivanju kada i kako razvoj treba usporiti ili zaustaviti, čak i ako to znači usporavanje napretka sposobnosti modela.

Naš glavni znanstvenik Jakub Pachocki nedavno je napisao⁠ da brz uspon strojne inteligencije, uključujući mogućnost rekurzivnog samopoboljšanja, zahtijeva „izniman oprez“. OpenAI će nastaviti razvijati tehnička rješenja za usklađivanje i praćenje, graditi obrambene sustave te prema potrebi usporavati razvoj. No tehnički rad unutar pojedinačnih laboratorija neće biti dovoljan. Potrebni su nam i zajednički standardi, uključujući kriterije za usporavanje ili zaustavljanje razvoja.

Ulozi su golemi. Napredna umjetna inteligencija mogla bi ubrzati razvoj novih lijekova⁠, ojačati kritičnu infrastrukturu⁠, proširiti gospodarske prilike⁠ i pomoći riješiti znanstvene probleme⁠ koji su odolijevali naporima brojnih ljudskih naraštaja. No sposobnosti koje modele čine korisnijima donose i rizike, a neće ostati ograničene na nekoliko graničnih laboratorija. Modeli razvijeni diljem svijeta, uključujući otvorene modele (open model), sve će se više približavati današnjoj granici i postajati široko dostupni.

Sposobnosti Astre, prvi dokazi da umjetna inteligencija ubrzava istraživanja i Jakubov esej upućuju u istom smjeru: umjetna inteligencija brzo napreduje, a politika mora ići ukorak s njom.

Greg Brockman opisao je „prozor za branitelje“⁠(otvara se u novom prozoru): ograničeno razdoblje u kojem granična umjetna inteligencija može pomoći braniteljima ojačati kritične sustave prije nego što moćne napadačke sposobnosti postanu široko rasprostranjene. Kreatori politika suočeni su sa sličnim trenutkom: prozor za uspostavu trajnih zaštitnih mjera zatvara se prije nego što sposobnosti umjetne inteligencije nadmaše institucije odgovorne za upravljanje njima.

Kako sposobnosti rastu, povjerenje u sigurnost mora sve više određivati tempo napretka umjetne inteligencije. Sigurnost ne stoji na putu napretku; ona mu omogućuje da ide dalje i koristi većem broju ljudi.

Ojačali smo zaštitne mjere za praćenje, usklađivanje i sigurnost tijekom cijelog životnog ciklusa razvoja modela, uključujući snažniju izolaciju radnih opterećenja za granična istraživanja, prošireno praćenje ponašanja modela tijekom obuke i evaluacije uz upotrebu alata te jasnija pravila o tome kada treba eskalirati probleme. Za Astru smo također uveli sveobuhvatno praćenje cjelovitih putanja, uključujući lance razmišljanja, i obaveznu kontrolnu točku za evaluaciju usklađenosti prije šire interne primjene.

Te zaštitne mjere moraju i dalje biti korak ispred sposobnosti. Kada bi nastavak predstavljao neprihvatljiv sigurnosni rizik, usporili bismo ili zaustavili razvoj ili uvođenje sustava koje ne bismo mogli dovoljno zaštititi, kao što smo već učinili i kako nalaže naš okvir pripravnosti⁠(otvara se u novom prozoru).

Potpuno autonomno rekurzivno samopoboljšanje, u kojem sustavi umjetne inteligencije samostalno pokreću uzastopne generacije sve sposobnije umjetne inteligencije, danas se ne događa. Ne bismo trebali nastaviti s njime sve dok se to ne bude moglo učiniti na siguran način.

No umjetna inteligencija već ubrzava dijelove istraživanja kojima se razvija i usklađuje sljedeća generacija modela. Naše najnovije istraživanje⁠ pokazuje da agenti umjetne inteligencije mogu obavljati neke zadatke za koje bi stručnim istraživačima trebalo nekoliko dana. To nije rekurzivno samopoboljšanje, ali jest dokaz smjera razvoja.

To ubrzanje možemo i moramo usmjeriti i prema sigurnosti. Cilj nam je sigurno izgraditi automatizirane istraživače umjetne inteligencije koji će pod ljudskim nadzorom unapređivati dubinsko učenje i usklađivanje, koristeći svaku generaciju umjetne inteligencije kako bi sljedeća bila sigurnija, usklađenija i lakša za kontrolu, a ne samo sposobnija.

Vlade bi trebale razviti zajedničke načine mjerenja tog napretka, očuvati stvarnu ljudsku kontrolu i utvrditi zajedničke sigurnosne pragove koji će određivati kada i kako treba usporiti ili zaustaviti razvoj. Ako određene sigurnosne pragove ne možemo ispuniti bez usporavanja rasta sposobnosti, prednost bismo trebali dati sigurnosnim pragovima. Što tehnologija postaje moćnija, to zaštitne mjere koje je okružuju moraju biti snažnije.

Mogućnost razvoja umjetne inteligencije ubrzanog umjetnom inteligencijom zahtijeva više od dobrovoljnih obveza. Sjedinjenim Američkim Državama potrebna je obvezna nacionalna regulativa utemeljena na sposobnostima koja se može razvijati usporedno s tehnologijom.

Naš Plan demokratskog upravljanja graničnom umjetnom inteligencijom⁠ zacrtava put prema trajnom saveznom okviru: zajednički zahtjevi za testiranje i neovisne procjene, snažnija zaštita kibernetičke sigurnosti, jasna pravila prijavljivanja incidenata, veća nacionalna pripravnost i zajedničke mjere za praćenje napretka prema rekurzivnom samopoboljšanju.

U Kongresu se sada oblikuje nekoliko ozbiljnih prijedloga za sigurnost granične umjetne inteligencije. Nastavit ćemo konstruktivno sudjelovati i očekujemo da ćemo podržati zakonodavstvo koje bitno podiže sigurnosne standarde. Kad je ulog ovako visok, ne smijemo dopustiti da savršeno postane neprijatelj dobroga. Kongres bi trebao djelovati prije završetka zasjedanja.

Nacionalni okvir trebao bi biti snažan, ali pažljivo usmjeren. Zahtjevi za sigurnost graničnih sustava trebali bi se primjenjivati na nekolicinu dobro opremljenih laboratorija koji razvijaju najsposobnije sustave, a ne na novoosnovana poduzeća, male razvojne timove ili istraživače koji nisu ni blizu tehnološkoj granici. Obveze bi trebale biti razmjerne mogućnostima i rizicima.

Politika sigurnosti naprednih modela ne bi smjela zapravo postati politika javne dostupnosti težinskih parametara modela (open-weights policy). Otvoreni modeli mogu biti dio rješenja, osobito u kibersigurnosti i ondje gdje potrebe za suverenošću, sigurnošću ili rezidentnošću podataka idu u prilog lokalnoj implementaciji. Većina se ne natječe na (tehnološkoj) granici, nego cijenom, kontrolom i latencijom. Kao što smo potvrdili potpisivanjem Pisma o javnoj dostupnosti težinskim parametrima modela i američkom vodstvu na polju umjetne inteligencije⁠(otvara se u novom prozoru), Americi su potrebni i otvoreni i zatvoreni modeli. Savezni okvir trebao bi se baviti graničnim sposobnostima i rizicima bez slabljenja konkurencije, učvršćivanja položaja postojećih aktera ili poticanja preseljenja inovacija u inozemstvo.

Ozbiljan javni okvir trebao bi smanjiti, a ne povećati koncentraciju moći. Laboratoriji koji djeluju na tehnološkoj granici danas uglavnom sami određuju pravila za upravljanje graničnim rizicima. Demokratski odgovorni standardi, neovisna provjera i stvarna transparentnost zamijenili bi taj rascjepkani sustav privatnog upravljanja.

To je presudno za američko vodstvo. Sjedinjene Države ne mogu pobijediti u eri umjetne inteligencije samo na temelju sposobnosti. Tehnička prednost malo će značiti ako ljudi, institucije i vlade ne budu dovoljno vjerovali tehnologiji da je prihvate. Snažne zaštitne mjere nisu ustupak na štetu inovacija. One su dio infrastrukture potrebne za široku primjenu i trajno američko vodstvo.

Hitno su nam potrebni nacionalni standardi za umjetnu inteligenciju, a svatko tko radi na prvim redovima razvoja može vidjeti tu hitnost. Dok Kongres ne odluči djelovati, savezne države trebale bi nastaviti popunjavati tu prazninu i podići ljestvicu djelovanja.

OpenAI je podržao California SB 53, New York RAISE Act, Illinois SB 315 te neovisne revizije u zakonodavstvu o sigurnosti graničnih sustava koje se razmatra u Massachusettsu. Potičemo savezne države da se usklade oko ovih zajedničkih zaštitnih mjera. Time mogu stvoriti de facto nacionalnu polazišnu osnovu koju Kongres naposljetku može kodificirati – pristup koji nazivamo ⁠obrnutim federalizmom⁠. No usklađivanje ne znači zamrzavanje zahtjeva.

Danas službeno podržavamo četiri dodatna prijedloga zakona u Kaliforniji koje je usvojilo zakonodavno tijelo i koji su upućeni guverneru Newsomu. Zajedno se bave komplementarnim dijelovima ekosustava sigurnosti umjetne inteligencije.

SB 813⁠(otvara se u novom prozoru) uspostavio bi postupak za imenovanje kvalificiranih, neovisnih organizacija sposobnih za procjenu rizika umjetne inteligencije. Kao što smo naveli u našem ⁠(otvara se u novom prozoru)planu sigurnosti graničnih sustava⁠(otvara se u novom prozoru), smatramo da bi neovisne tehničke procjene trebale biti obvezne na saveznoj razini, gdje donositelji politika mogu utvrditi dosljedne standarde za kvalifikacije procjenitelja, sigurnost i pristup vrlo osjetljivim informacijama. Međutim, u nedostatku djelovanja na saveznoj razini, Kalifornija može pomoći u utvrđivanju pravila za siguran i sposoban nacionalni sustav neovisnih procjena koji donosi bolje sigurnosne rezultate.

AB 1405⁠(otvara se u novom prozoru) uveo bi zahtjeve za registraciju, neovisnost, transparentnost i odgovornost revizora umjetne inteligencije.

SB 1119⁠(otvara se u novom prozoru) zahtijevao bi provjeru dobi, procjene rizika, neovisne revizije, roditeljski nadzor i zaštitne mjere protiv štetnog sadržaja za djecu i tinejdžere koji koriste prateće chatbotove. Nedavno smo izrazili potporu⁠ ovom prijedlogu zakona, koji se nadovezuje na mjere za sigurnost mladih koje je OpenAI razvio kroz svoje proizvode, ⁠globalna načela politika⁠ i potporu ⁠(otvara se u novom prozoru)Zakonu o sigurnoj umjetnoj inteligenciji za roditelje i djecu⁠(otvara se u novom prozoru), kao i na zaštite ugrađene u ChatGPT za tinejdžere — uključujući strože zadane postavke za osjetljiva područja, Vrijeme tišine, Vrijeme učenja i podsjetnike na stanku.

AB 1864⁠(otvara se u novom prozoru) zahtijevao bi od pružatelja usluga sinteze gena i proizvođača stolne opreme za sintezu da poštuju savezne standarde provjere, čime bi se ojačala važna fizička zaštita od bioloških prijetnji potpomognutih umjetnom inteligencijom.

Neke od tih zakonskih prijedloga nismo podržavali u prošlosti, a sada ih podržavamo nakon ponovnog razmatranja, u svjetlu nedavnog porasta sposobnosti koji smo uočili.

Ovi zakonski prijedlozi nisu zamjena za savezne propise. Oni su ozbiljni napori koji već sada mogu zaštititi ljude, pokazati kako izgledaju provedive zaštitne mjere i pomoći izgraditi zamah za djelovanje na saveznoj razini.

Sami zakoni naprednu umjetnu inteligenciju neće učiniti sigurnom. Također su nam potrebne konkretne prakse unutar laboratorija koji razvijaju najsposobnije sustave. Najhitnije je početi s nadzorom.

To je posebno važno za neusklađenost — kada model slijedi cilj na načine koji nisu u skladu s ljudskom namjerom ili utvrđenim granicama, bez potrebe za sviješću ili zlu namjeru. Kako modeli stječu veću autonomiju, upotrebljavaju moćnije alate i djeluju dulje, od razvojnih timova trebalo bi zahtijevati da prate takva neusklađena ponašanja i dokažu da postoje učinkovite zaštitne mjere.

Praćenje mora biti povezano s jasnim zahtjevima za objavljivanje. Kao što smo zagovarali u Kaliforniji, od tvrtki bi se trebalo zahtijevati da pogođenim stranama pravodobno dostave pisanu obavijest kada njihovi modeli tijekom razvoja ili evaluacije bez odobrenja zaobiđu sigurnosne kontrole druge organizacije te u znatnoj mjeri pristupe zaštićenim sustavima ili povjerljivim informacijama te organizacije, izmijene ih ili unište. Podržavamo i savezne zahtjeve za izvješćivanje o drugim ozbiljnim incidentima povezanima s umjetnom inteligencijom te radimo na utvrđivanju koji bi incidenti trebali biti obuhvaćeni i što bi ti zahtjevi trebali sadržavati.

Kao što smo objavili prošli tjedan, OpenAI razvija okvir za prijavljivanje incidenata ozbiljne neusklađenosti i sustavno praćenje aktivnosti graničnih modela, uključujući internu upotrebu. Ovo započinje kao inicijativa koju predvodi tvrtka, ali nadamo se da može pomoći u oblikovanju šire savezne politike i zahtjeva za izvješćivanjem.

Želimo surađivati s drugim laboratorijima na standardima koje predvodi industrija. Takvi standardi koje predvodi industrija dopunjavali bi — a ne zamijenili — obvezne savezne zaštitne mjere i demokratski nadzor. No ušli smo u drukčiju fazu sposobnosti umjetne inteligencije i trebalo bi razmotriti sve, uključujući razmatranje onoga što se može dobrovoljno izgraditi izvan vlade kao neposredan korak.

Svi takvi standardi u konačnici se moraju proširiti i izvan nacionalnih granica. Modeli, istraživanja i tehnička stručnost kreću se globalno, a propusti koji uključuju najsposobnije sustave mogli bi imati posljedice daleko izvan zemlje u kojoj su razvijeni. Sjedinjene Države moraju uspostaviti vjerodostojne standarde u zemlji ako žele predvoditi na međunarodnoj razini, a sve smo uvjereniji da će biti potrebni usklađeni međunarodni standardi.

Prozor za razvijanje politike o umjetnoj inteligenciji zasad je otvoren. Namjeravamo ga iskoristiti.

To znači djelovati hitno, ponizno i spremno na prilagodbu. To znači podržavati ozbiljne prijedloge koji bitno podižu sigurnosne standarde, čak i kada nisu upravo onakvi kakve bismo sami osmislili. To također znači jačati okvir rame uz rame s razvojem tehnologije.

Nijedan prvi korak neće biti savršen. No sada je veći rizik predugo čekati da ga poduzmemo.