Otvoren je prozor za politiku UI-ja. Moramo djelovati.

Ušli smo u novo poglavlje sposobnosti UI-ja, a to zahtijeva i novo poglavlje politike UI-ja. Nijedna kompanija, industrija niti vlada ne može sama odgovoriti na ovaj izazov. Ovom trenutku moramo pristupiti dajući prednost smislenom djelovanju u odnosu na savršenstvo politika.

Evo šta radimo:

1. Zalaganje za obavezne nacionalne zahtjeve za sigurnost UI. Želimo sarađivati sa Kongresom na obaveznoj nacionalnoj regulaciji sigurnosti UI zasnovanoj na sposobnostima.

2. Održavanje zamaha u saveznim državama. Dok kongres ne preduzme mjere, nastavićemo podržavati zakonodavstvo saveznih država koje jača širi ekosistem sigurnosti UI-ja. Danas objavljujemo podršku za četiri kalifornijska prijedloga zakona: SB 813 o cjelokupnoj infrastrukturi za nezavisne sigurnosne procjene, AB 1405 o standardima za revizore UI-ja, SB 1119 o zaštiti mladih i AB 1864 o zaštitnim mjerama protiv bioloških prijetnji koje omogućava UI.

3. Unaprjeđivanje standarda predvođenih industrijom. Sa drugim graničnim laboratorijama radit ćemo na unapređivanju standarda za graničnu UI, gradeći dobrovoljnu inicijativu već sada, sa ili bez podrške vlade.

4. Izgradnja globalnih standarda. Zalagaćemo se za usklađene međunarodne pristupe mjerenju sposobnosti, upravljanju rizikom, očuvanju ljudske kontrole i utvrđivanju kada i kako razvoj treba usporiti ili zaustaviti, čak i ako to znači usporavanje napretka sposobnosti modela.

Naš glavni naučnik Jakub Pachocki nedavno je napisao⁠ da nagli uspon mašinske inteligencije, uključujući mogućnost rekurzivnog samousavršavanja, zahtijeva „krajnji oprez“. OpenAI će nastaviti razvijati tehnička rješenja za usklađivanje i praćenje, graditi odbrambene sisteme i usporavati razvoj kada je to potrebno. Ali tehnički rad unutar pojedinačnih laboratorija neće biti dovoljan. Potrebni su nam i zajednički standardi, uključujući one o tome kada razvoj treba usporiti ili zaustaviti.

Ulozi su ogromni. Napredna AI mogla bi ubrzati razvoj novih lijekova⁠, ojačati kritičnu infrastrukturu⁠, proširiti ekonomske prilike⁠ i pomoći u rješavanju naučnih problema⁠ koji su odolijevali naporima brojnih generacija ljudi. Ali sposobnosti koje modele čine korisnijim nose i rizike, a neće ostati ograničene na nekoliko graničnih laboratorija. Modeli razvijeni širom svijeta, uključujući open modele, sve će se više približavati današnjoj tehnološkoj granici i postajati široko dostupni.

Astrine sposobnosti, prvi dokazi da UI ubrzava istraživanja i Jakubov esej svi upućuju u istom smjeru: UI brzo napreduje, a politika mora pratiti taj napredak.

Greg Brockman opisao je „prozor za branioce“⁠(otvara se u novom prozoru): ograničeno razdoblje u kojem granična UI može pomoći braniocima da ojačaju kritične sisteme prije nego što se moćne napadačke sposobnosti široko rasprostrane. Donosioci politika suočavaju se sa sličnim trenutkom: prozor za uspostavljanje trajnih mjera zaštite zatvara se prije nego što sposobnosti AI-ja nadmaše institucije odgovorne za upravljanje njima.

Kako sposobnosti rastu, povjerenje u sigurnost mora sve više određivati tempo napretka UI-ja. Sigurnost nije prepreka napretku; ona mu omogućava da ide dalje i koristi većem broju ljudi.

Ojačali smo mjere praćenja, usklađivanja i sigurnosti tokom cijelog životnog ciklusa razvoja modela, uključujući snažniju izolaciju radnih opterećenja u najnaprednijim istraživanjima, prošireno praćenje ponašanja modela tokom obuke i evaluacija uz korištenje alata, te jasnija pravila o tome kada treba eskalirati probleme. Za Astru smo uveli i sveobuhvatno praćenje potpunih putanja, uključujući lance razmišljanja, te obaveznu kontrolnu tačku za evaluaciju usklađenosti prije šire interne primjene.

Te zaštitne mjere moraju i dalje ostati korak ispred sposobnosti. Kada bi nastavak predstavljao neprihvatljiv sigurnosni rizik, usporit ćemo ili zaustaviti razvoj ili uvođenje sistema koje ne možemo dovoljno zaštititi, kao što smo već učinili i kako nalaže naš okvir pripravnosti⁠(otvara se u novom prozoru).

Potpuno autonomno rekurzivno samopoboljšanje—pri kojem sistemi umjetne inteligencije samostalno pokreću uzastopne generacije sve sposobnijih sistema umjetne inteligencije—danas se ne događa. Ne bismo trebali težiti tome sve dok se to ne bude moglo sigurno uraditi.

Međutim, UI već ubrzava dijelove istraživanja koja se koriste za razvoj i usklađivanje sljedeće generacije modela. Naša najnovija istraživanja⁠ pokazuju da agenti AI-ja mogu obavljati neke zadatke za koje bi vještim istraživačima trebalo nekoliko dana. To nije rekurzivno samopoboljšanje, ali je pokazatelj smjera u kojem se krećemo.

To ubrzanje može se i mora usmjeriti i prema sigurnosti. Cilj nam je sigurno izgraditi automatizirane istraživače AI-ja koji pod ljudskim nadzorom unapređuju i duboko učenje i usklađivanje — koristeći svaku generaciju AI-ja kako bi sljedeća bila sigurnija, usklađenija i lakša za kontrolu, a ne samo sposobnija.

Vlade trebaju razviti zajedničke načine mjerenja ovog napretka, očuvati smislen ljudski nadzor i utvrditi zajedničke sigurnosne pragove za odluku o tome kada i kako razvoj treba usporiti ili zaustaviti. Ako određene sigurnosne pragove ne možemo ispuniti bez usporavanja rasta sposobnosti, prednost trebamo dati sigurnosnim pragovima. Što tehnologija postaje moćnija, to mjere zaštite koje je okružuju moraju biti snažnije.

Mogućnost razvoja UI-ja ubrzanog UI-jem zahtijeva više od dobrovoljnih obaveza. Sjedinjenim Američkim Državama potrebna je obavezna nacionalna regulativa zasnovana na sposobnostima koja se može razvijati kako se razvija i tehnologija.

Naš Plan demokratskog upravljanja graničnom UI⁠ utvrđuje put ka trajnom saveznom okviru: zajednički zahtjevi za testiranje i nezavisnu procjenu, snažnija zaštita kibernetičke sigurnosti, jasna pravila prijavljivanja incidenata, veća nacionalna pripravnost i zajedničke mjere za praćenje napretka ka rekurzivnom samousavršavanju.

U Kongresu se sada oblikuje nekoliko ozbiljnih prijedloga za sigurnost granične UI. Nastavit ćemo konstruktivno učestvovati i očekujemo da ćemo podržati zakonodavstvo koje bitno podiže sigurnosne standarde. Kada je ulog ovako visok, ne smijemo dopustiti da savršeno postane neprijatelj dobrog. Kongres bi trebao djelovati prije završetka zasjedanja.

Nacionalni okvir treba biti čvrst, ali pažljivo usmjeren. Zahtjevi za sigurnost granične AI trebaju se primjenjivati na nekolicinu dobro finansiranih laboratorija koje razvijaju najsposobnije sisteme – a ne na novoosnovana preduzeća, male razvojne timove ili istraživače koji nisu ni blizu tehnološke granice. Obaveze trebaju biti razmjerne sposobnostima i rizicima.

Politika sigurnosti granične UI ne treba postati ni politika otvorenih težina pod drugim nazivom. Open modeli mogu biti dio rješenja, naročito u kibernetičkoj sigurnosti i tamo gdje potrebe za suverenošću, sigurnošću ili rezidentnošću podataka idu u prilog lokalnoj implementaciji. Većina se ne takmiči na tehnološkoj granici, nego u cijeni, kontroli i latenciji. Kao što smo potvrdili potpisivanjem pisma o otvorenim težinama i američkom vodstvu u AI-ju⁠(otvara se u novom prozoru), Americi su potrebni i otvoreni i zatvoreni modeli. Federalni okvir treba se baviti graničnim sposobnostima i rizicima bez slabljenja konkurencije, učvršćivanja položaja postojećih aktera ili poticanja preseljenja inovacija u inostranstvo.

Ozbiljan javni okvir trebao bi smanjiti, a ne povećati koncentraciju moći. Danas laboratorije granične AI uglavnom same određuju pravila za upravljanje graničnim rizicima. Demokratski odgovorni standardi, nezavisna provjera i stvarna transparentnost zamijenili bi taj rascjepkani sistem privatnog upravljanja.

To je ključno za američko vodstvo. Sjedinjene Američke Države ne mogu pobijediti u eri AI-ja samo na osnovu sposobnosti. Tehnička prednost malo će značiti ako ljudi, institucije i vlade ne budu dovoljno vjerovali tehnologiji da je usvoje. Snažne mjere zaštite nisu ustupak na štetu inovacija. One su dio infrastrukture potrebne za široko usvajanje – i trajno američko vodstvo.

Hitno su nam potrebni nacionalni standardi za UI, a svako ko radi na granici može vidjeti koliko je to hitno. Dok Kongres ne djeluje, savezne države trebaju nastaviti popunjavati prazninu i podizati ljestvicu.

OpenAI je podržao kalifornijski SB 53, njujorški RAISE Act, Illinois SB 315 i nezavisne revizije u zakonodavstvu o sigurnosti granične UI koje se razmatra u Massachusettsu. Pozivamo savezne države da se usaglase oko ovih zajedničkih mjera zaštite. Dok to čine, mogu stvoriti de facto nacionalnu osnovu koju Kongres na kraju može ozakoniti—pristup koji nazivamo ⁠obrnutim federalizmom⁠. Ali usklađivanje ne znači zamrzavanje zahtjeva.

Danas formalno podržavamo još četiri zakona Kalifornije koje je usvojilo zakonodavno tijelo i koji idu guverneru Newsomu. Zajedno se bave komplementarnim dijelovima ekosistema sigurnosti AI-ja.

SB 813⁠(otvara se u novom prozoru) uspostavio bi postupak za imenovanje kvalificiranih, nezavisnih organizacija sposobnih za procjenu rizika UI-ja. Kao što smo naveli u našem ⁠(otvara se u novom prozoru)planu sigurnosti granične AI⁠(otvara se u novom prozoru), preferiramo da nezavisne tehničke procjene budu obavezne na saveznom nivou, gdje kreatori politika mogu uspostaviti dosljedne standarde za kvalifikacije procjenitelja, sigurnost i pristup veoma osjetljivim informacijama. Međutim, bez djelovanja na saveznom nivou, Kalifornija može pomoći u uspostavljanju pravila za siguran i sposoban nacionalni sistem nezavisne procjene koji donosi bolje sigurnosne ishode.

AB 1405⁠(otvara se u novom prozoru) uveo bi za revizore UI-ja zahtjeve u pogledu registracije, nezavisnosti, transparentnosti i odgovornosti.

SB 1119⁠(otvara se u novom prozoru) bi zahtijevao provjeru dobi, procjene rizika, nezavisne revizije, roditeljski nadzor i zaštitne mjere protiv štetnog sadržaja za djecu i tinejdžere koji koriste chatbotove za druženje. Nedavno smo iskazali podršku⁠ ovom zakonu, koji se nadovezuje na mjere za sigurnost mladih koje je OpenAI unaprijedio kroz svoje proizvode, ⁠globalna načela politike⁠ i podršku ⁠(otvara se u novom prozoru)Zakonu o sigurnoj AI za roditelje i djecu⁠(otvara se u novom prozoru), kao i na zaštite ugrađene u ChatGPT za tinejdžere — uključujući strožije zadane postavke u osjetljivim oblastima, vrijeme tišine, vrijeme za učenje i podsjetnike za pauzu.

AB 1864⁠(otvara se u novom prozoru) zahtijevao bi od pružalaca usluga sinteze gena i proizvođača stolne opreme za sintezu da poštuju savezne standarde provjere, čime bi se ojačala važna fizička zaštita od bioloških prijetnji omogućenih UI-jem.

Neke od ovih zakona ranije nismo podržali, a sada ih podržavamo nakon što smo preispitali svoj stav u svjetlu nedavnog skoka sposobnosti koji smo uočili.

Ovi prijedlozi zakona nisu zamjena za savezne propise. To su ozbiljni napori koji sada mogu zaštititi ljude, pokazati kako izgledaju provedive zaštitne mjere i pomoći u stvaranju zamaha za savezno djelovanje.

Sami zakoni neće učiniti naprednu UI sigurnom. Također su nam potrebne konkretne prakse unutar laboratorija koji razvijaju najsposobnije sisteme. Najhitnije je početi s nadzorom.

Ovo je posebno važno za neusklađenost — kada model slijedi cilj na načine koji krše ljudsku namjeru ili utvrđene granice, bez potrebe za sviješću ili zlonamjernom namjerom. Kako modeli stiču veću autonomiju, koriste moćnije alate i djeluju duže, od razvojnih timova treba zahtijevati da prate takva neusklađena ponašanja i pokažu da su uspostavljene djelotvorne mjere zaštite.

Praćenje mora biti povezano sa jasnim zahtjevima za objavljivanje. Kao što smo zagovarali u Kaliforniji, od kompanija bi se trebalo zahtijevati da pogođenim stranama odmah dostave pisanu obavijest kada njihovi modeli tokom razvoja ili evaluacije bez odobrenja zaobiđu sigurnosne kontrole druge organizacije i značajno pristupe zaštićenim sistemima ili povjerljivim informacijama te organizacije, izmijene ih ili unište. Također podržavamo savezne zahtjeve za prijavljivanje drugih ozbiljnih incidenata povezanih s AI-jem i radimo na definisanju incidenata koje bi trebalo obuhvatiti i onoga što bi ti zahtjevi trebali sadržavati.

Kao što smo naveli prošle sedmice, OpenAI razvija okvir za prijavljivanje incidenata neusklađenosti sa značajnim posljedicama i sistematsko praćenje aktivnosti graničnih modela, uključujući internu upotrebu. Ovo počinje kao inicijativa koju vodi kompanija, ali se nadamo da može pomoći u oblikovanju širih federalnih politika i zahtjeva za izvještavanje.

Želimo sarađivati sa drugim laboratorijama na standardima predvođenim industrijom. Standardi predvođeni industrijom dopunjavali bi — a ne zamjenjivali — obavezne savezne mjere zaštite i demokratski nadzor. Međutim, ušli smo u drugačiju fazu sposobnosti AI-ja i sve bi trebalo biti razmotreno — uključujući razmatranje onoga što se može dobrovoljno izgraditi izvan vlade kao neposredan korak.

Svi takvi standardi na kraju se moraju proširiti i izvan nacionalnih granica. Modeli, istraživanja i tehnička stručnost kreću se širom svijeta, a propusti koji uključuju najsposobnije sisteme mogli bi imati posljedice daleko izvan zemlje u kojoj su razvijeni. Sjedinjene Američke Države moraju uspostaviti vjerodostojne standarde u zemlji ako žele predvoditi na međunarodnom nivou — a sve smo uvjereniji da će biti potrebni uskladivi međunarodni standardi.

Prozor politike UI-ja zasad je otvoren. Namjeravamo ga iskoristiti.

To znači djelovati hitno, ponizno i uz spremnost na prilagođavanje. To znači podržavati ozbiljne prijedloge koji bitno podižu sigurnosne standarde, čak i kada nisu baš onakvi kakve bismo mi osmislili. A znači i jačati okvir kako se tehnologija bude razvijala.

Nijedan prvi korak neće biti savršen. Ali sada je veći rizik predugo čekati da ga napravimo.