Izgradnja standarda za sljedeću fazu umjetne inteligencije
Naša je misija osigurati da opća umjetna inteligencija koristi cijelom čovječanstvu. Kao što su nedavno izložili Sam Altman i Jakub Pachocki, rad na ostvarenju te misije usmjeravamo prema trima glavnim ciljevima:
Usmjeravati sljedeće razdoblje napretka umjetne inteligencije izgradnjom automatiziranog istraživača umjetne inteligencije, suradnjom s njime na problemu usklađivanja i pronalaženjem načina da ljudi ostanu dio procesa samopoboljšavanja.
Omogućiti svima koristi od znanstvenog napretka i gospodarskog rasta koje donose vrlo inteligentni strojevi.
Osnažiti svakog pojedinca osobnim AGI-jem.
Umjetna inteligencija ubrzava naša istraživanja i inženjerski rad, a istraživanja potpomognuta umjetnom inteligencijom dovela su do napretka u matematici, uključujući milenijski problem Navier–Stokesovih jednadžbi. Taj napredak mnogo obećava i za naša druga dva cilja te bi mogao dovesti do važnih otkrića u medicini, široko dostupne zdravstvene skrbi i gospodarskog osnaživanja malih poduzeća i samostalnih poduzetnika diljem svijeta.
Umjetna inteligencija napreduje u brojnim tvrtkama i državama, a napredak cijelog područja mijenja prilike i izazove s kojima se svi suočavaju. Uz ostale koristi, sposobna i usklađena umjetna inteligencija bit će važna u upravljanju tom tranzicijom: jačat će obranu, unapređivati istraživanje usklađivanja te pomagati ljudima da razumiju i usmjeravaju sljedeće faze razvoja umjetne inteligencije.
Za sigurno upravljanje tom tranzicijom istraživanje usklađivanja mora držati korak s razvojem sposobnosti kako bi sustavi koje gradimo mi i drugi ostali usklađeni s ljudskim vrijednostima i pod ljudskim nadzorom. To postaje sve važnije kako sustavi umjetne inteligencije postaju sposobniji i autonomniji, među ostalim i zato što preuzimaju sve veći dio istraživanja i razvoja same umjetne inteligencije. Za siguran i koristan nastavak napretka umjetne inteligencije bit će potrebni i pomaci u istraživanju usklađivanja i zajednički standardi koji će usmjeravati razvoj u različitim laboratorijima i državama.
Automatizirano istraživanje umjetne inteligencije može uključivati različite stupnjeve ljudskog nadzora. Kako sustavi umjetne inteligencije preuzimaju sve veći dio rada na razvoju njezinih uzastopnih generacija, mogu sve više pokretati proces rekurzivnog samopoboljšavanja (RSI), čak i uz sudjelovanje ljudi. Kako se taj proces sve više automatizira, tempo napretka umjetne inteligencije mogao bi se naglo ubrzati.
Vjerujemo da će automatizirano istraživanje umjetne inteligencije omogućiti modele koji izravno poboljšavaju živote ljudi. Može smanjiti cijenu napredne inteligencije kako bi ljudi diljem svijeta imali koristi od nje. Automatizirano istraživanje moglo bi nam pomoći i da znatno poboljšamo usklađivanje te izgradimo obranu od sve sposobnije umjetne inteligencije – automatizirani istraživač umjetne inteligencije može ujedno istraživati i njezinu sigurnost. Sposobniji i usklađeni sustavi mogli bi pomoći u zaštiti kritične infrastrukture, obrani od opasnih agenata umjetne inteligencije i razvoju novih zaštitnih mjera.
Potpuno autonoman RSI danas se ne odvija i ne bismo ga trebali razvijati sve dok to ne bude moguće činiti sigurno. Odluka o tome hoćemo li i kako nastaviti mora ovisiti o našoj sposobnosti očuvanja ljudskog nadzora te o informiranim demokratskim odlukama(otvara se u novom prozoru) o koristima i rizicima. Bez odgovarajuće brige i opreza RSI bi mogao dovesti do toga da ljudi izgube stvarnu kontrolu nad razvojem umjetne inteligencije i više ne mogu nadzirati istraživačke procese koje ne razumiju. Umjetna inteligencija tada bi mogla postati opasnija, slabije usklađena i, gledano u cjelini, prijetnja ljudima. Premda nije bio izravna posljedica RSI-ja, incident na platformi Hugging Face koji smo objavili pokazuje kakvi bi rizici bez snažnih zaštitnih mjera i usklađivanja mogli postati mnogo ozbiljniji.
Međunarodni standardi za sigurnosne i zaštitne prakse pri razvoju najnaprednije umjetne inteligencije mogli bi biti jednako važni za upravljanje tempom njezina razvoja kao i samo istraživanje usklađivanja. Standardima se mogu utvrditi zajedničke definicije kvalitetnih dokaza i dogovorena polazišta za strogost tehničkih zaštitnih mjera. Ukratko, pomažu nam odgovoriti na pitanje: „Kako izgleda kvalitetno ublažavanje katastrofalnog rizika umjetne inteligencije?“
Tome mogu pridonijeti postojeće demokratske institucije poput Centra za standarde i inovacije u području umjetne inteligencije (CAISI), državni zakoni i savezni okvir za umjetnu inteligenciju, kao i novi oblici javno-privatnih partnerstava(otvara se u novom prozoru). No umjetna inteligencija razvija se i primjenjuje u više država, prihvaća se diljem svijeta, a njezin će utjecaj na neki način i u nekom trenutku vjerojatno osjetiti svi.
Stoga su za rješavanje nekih ključnih izazova potrebni međunarodni napori na razvoju standarda:
Rascjepkanost – Evaluacije, zahtjevi za izvješćivanje i definicije incidenata u različitim državama mogli bi biti proturječni, što bi otežalo usporedbu dokaza, razumijevanje novih sposobnosti i odgovor na prekogranične rizike.
Zajedničko djelovanje – Samostalno djelovanje svake države može dovesti do ishoda koje nijedna država ne želi. RSI može ubrzati samo istraživanje umjetne inteligencije, možda i izvan naših zajedničkih mogućnosti razumijevanja napretka, procjene rizika i održavanja smislenog ljudskog nadzora.
Neujednačeni kapaciteti – Razvoj najnaprednije umjetne inteligencije i povezana stručnost nisu ravnomjerno raspoređeni diljem svijeta. To dodatno naglašava oba navedena problema.
Ti se izazovi odnose i na otvorene i na zatvorene modele.
Da budemo jasni, svaki laboratorij za umjetnu inteligenciju koji se bavi automatiziranim istraživanjem umjetne inteligencije ili drugim naprednim sposobnostima mora preuzeti odgovornost za njihovo sigurno provođenje, u skladu s osnovnim načelima vlastite odgovornosti i postojećim zakonima. Naše obrazloženje potrebe za standardima temelji se na izbjegavanju koncentracije moći i postizanju boljih praktičnih rezultata. Standardi omogućuju većem broju dionika izvan laboratorija da sudjeluju u odlučivanju o razvoju ove tehnologije te pružaju jasan skup načela na koji se može osloniti neovisno o konkretnim praksama pojedinog laboratorija. Vjerojatno ćemo postići i bolje rezultate ako strane surađuju na rješavanju navedenih izazova.
Zato vjerujemo da bi Sjedinjene Američke Države trebale predvoditi suradnju s državama diljem svijeta na razvoju globalnih tehničkih standarda za najnapredniju umjetnu inteligenciju, uključujući RSI.
Iako očekujemo da će se taj koncept s vremenom znatno razviti, dva će aspekta biti ključna.
Jedan način da se to postigne bio bi korištenje nove mreže instituta za sigurnost umjetne inteligencije – poput onih već osnovanih u Australiji, Kanadi, Njemačkoj, Francuskoj, Keniji, Japanu, Koreji, Singapuru, Indiji i Ujedinjenoj Kraljevini – kako bi se preko CAISI-ja i nacionalnih industrijskih tijela olakšalo utvrđivanje standarda, s posebnim naglaskom na (1) najnaprednije modele umjetne inteligencije i njihove razvojne programere, prema referentnim mjerilima sposobnosti; te (2) upravljanje koristima i rizicima automatiziranog istraživanja umjetne inteligencije, uključujući RSI. Sjedinjene Američke Države mogu nastaviti graditi na CAISI-jevu osnivanju Međunarodne mreže za napredna mjerenja, evaluaciju i znanost o umjetnoj inteligenciji(otvara se u novom prozoru) 2024. godine, koja okuplja javne institucije radi suradnje na mjerenju, evaluaciji i znanosti o umjetnoj inteligenciji.
Standardi razvijeni tim radom pružili bi zajedničku tehničku osnovu za mjerenje i evaluaciju sposobnosti, procjenu rizika i utvrđivanje dostatnosti zaštitnih mjera. Ti tehnički standardi ne bi bili licence, obvezne provjere prije objave ni zahtjevi za odobrenje modela umjetne inteligencije. Nacionalne vlade odlučivale bi hoće li i kako te standarde uključiti u vlastite pravne sustave.
Taj bi rad trebao podupirati i konkurentan ekosustav umjetne inteligencije savjetujući se s razvojnim programerima open modela i zatvorenih modela, neovisnim tehničkim stručnjacima i akademskom zajednicom. Zajedničke standarde treba razvijati transparentno i oblikovati tako da ne pogoduju određenim tvrtkama, zemljama ili poslovnim modelima, među ostalim tako što novim tržišnim sudionicima ili razvojnim programerima koji rade s modelima otvorenih težina ne bi otežavali ravnopravno tržišno natjecanje.
Kao što smo predložili(otvara se u novom prozoru), u ovom se pristupu mogu primijeniti iskustva iz područja poput zrakoplovstva i financijske stabilnosti, u kojima su države razvile zajedničke tehničke standarde i pouzdane kanale suradnje bez odricanja od nacionalnih ovlasti. Trebao bi i blisko surađivati s postojećim i novijim tijelima za standardizaciju, kao što su ISO(otvara se u novom prozoru), Forum za najnaprednije modele(otvara se u novom prozoru), Zaklada za AI s mogućnostima agenata(otvara se u novom prozoru) i Savez za otvorenu i sigurnu umjetnu inteligenciju(otvara se u novom prozoru), kao i s organizacijama usmjerenima na provedbu, poput Zaklade Appia, koja razvija praktične specifikacije koje povezuju međunarodne standarde s procjenama umjetne inteligencije u stvarnim uvjetima.
Međunarodni standardi za umjetnu inteligenciju bit će osobito važni za upravljanje sve većom autonomijom u istraživanju umjetne inteligencije i rekurzivnim samopoboljšavanjem. Konkretno, mogli bi obuhvaćati standarde za:
Evaluaciju napretka umjetne inteligencije relevantnog za RSI i opsega autonomnog istraživanja koje se provodi unutar tvrtke za umjetnu inteligenciju. Naše nedavno izvješće o ubrzavanju istraživanja početni je doprinos tom nastojanju.
Ljudski nadzor nad automatiziranim istraživanjem umjetne inteligencije, uključujući vrste automatiziranih istraživačkih procesa koje bi trebalo odmah uputiti na ljudsku provjeru.
Klasifikaciju, praćenje, prijavljivanje i rješavanje incidenata povezanih s usklađivanjem i automatiziranim istraživanjem umjetne inteligencije, poput zajedničkih razina ozbiljnosti incidenata i pragova za izvješćivanje. Naš okvir za izvješćivanje o neusklađenosti jedan je od prvih doprinosa.
Uz te standarde, smatramo da će biti važno da upravitelji kritične infrastrukture i vlade diljem svijeta uspostave sigurne komunikacijske kanale za razmjenu zabrinutosti povezanih s nacionalnom sigurnošću, novih ranjivosti i prijetnji te najboljih praksi u području sigurnosti najnaprednije umjetne inteligencije koje se brzo razvija. Dijalog Sjedinjenih Američkih Država i Kine u tim područjima bio bi pozitivan korak, a predstojeći razgovori održavaju se u pravom trenutku.
Upravljanje tempom razvoja umjetne inteligencije ne znači održavanje unaprijed određene brzine. S tehničkog gledišta, cilj je osigurati da istraživanje usklađivanja i primjena njegovih rezultata budu korak ispred razvoja sposobnosti. S društvenog gledišta, cilj je standardima, institucijama i suradnjom ojačati mreže industrije, društvenih odnosa i tržišnih sila kako bi se ostvarili ishodi korisni za sve. Nedavni poziv na zajedničko djelovanje u kibernetičkoj obrani primjer je potonjeg.
Sjedinjene Američke Države u dobrom su položaju za preuzimanje vodstva jer je njihova industrija umjetne inteligencije na granici tehnoloških mogućnosti, a zemlja i dalje zauzima povlašten položaj u globalnim mrežama ključnih područja poput financija, trgovine, obrane, tehnologije i informacijskih sustava. Hoće li Sjedinjene Američke Države oblikovati globalni okvir za umjetnu inteligenciju ili će promatrati kako se oko njih uspostavlja rascjepkan, neujednačen i sukobima opterećen sustav, ovisit će o tome hoće li sada preuzeti vodeću ulogu. Time će se odrediti i hoće li napredna umjetna inteligencija ojačati postojeće mreže Sjedinjenih Američkih Država i njihovih saveznika; ako ne preuzmu vodeću ulogu, te bi mreže mogle oslabjeti.
Geopolitičko nadmetanje neće se voditi samo oko toga tko je tehnički napredniji, nego i oko prihvaćanja i širenja umjetne inteligencije. Na to će sve više utjecati onaj tko potiče ostvarivu suradnju i razumna pravila koja će poduzeća i društva diljem svijeta htjeti prihvatiti budu li svoju budućnost povjerila ovoj tehnologiji.
Snažno nacionalno upravljanje, povezano praktičnom međunarodnom suradnjom, otvara put čvršćim zaštitnim mjerama, nastavku inovacija i širokom pristupu koristima umjetne inteligencije.
