Izgradnja standarda za sljedeću fazu AI-ja
Naša misija je osigurati da opća umjetna inteligencija koristi cijelom čovječanstvu. Kao što su nedavno izložili Sam Altman i Jakub Pachocki, svoj rad na ostvarenju ove misije usmjeravamo na tri glavna cilja:
Usmjeravati naredno razdoblje napretka AI-ja izgradnjom automatiziranog istraživača AI-ja, zajedničkim radom s njim na problemu usklađivanja i pronalaženjem načina da ljudi ostanu dio procesa samousavršavanja.
Omogućiti ljudima da uživaju u prednostima naučnog napretka i ekonomskog rasta koje donose veoma inteligentne mašine.
Osnažiti svakog pojedinca ličnim AGI-jem.
AI ubrzava naša istraživanja i inženjerski rad, a istraživanja uz pomoć AI-ja dovela su do napretka u matematici, uključujući milenijski problem Navier–Stokesovih jednačina. Ovaj napredak mnogo obećava za naša druga dva cilja, koja bi mogla dovesti do važnih otkrića u medicini, široko dostupne zdravstvene zaštite i ekonomskog osnaživanja malih preduzeća i samostalnih poduzetnika širom svijeta.
AI napreduje u brojnim kompanijama i zemljama, a napredak u cijeloj oblasti mijenja prilike i izazove s kojima se svi suočavaju. Pored ostalih koristi, sposoban i usklađen AI bit će važan dio načina na koji ćemo proći kroz ovu tranziciju — jačajući odbranu, unapređujući istraživanje usklađivanja i pomažući ljudima da razumiju i usmjeravaju naredne faze razvoja AI-ja.
Za sigurno upravljanje ovom tranzicijom potrebno je da istraživanje usklađivanja drži korak s tim sposobnostima kako bi sistemi koje gradimo mi i drugi ostali usklađeni s ljudskim vrijednostima i pod ljudskom kontrolom. To postaje sve važnije kako sistemi AI-ja postaju sposobniji i autonomniji, uključujući i preuzimanje većeg dijela istraživanja i razvoja samog AI-ja. Da bi daljnji napredak AI-ja bio siguran i koristan, bit će potrebni i napredak u istraživanju usklađivanja i zajednički standardi koji će usmjeravati razvoj u laboratorijama i zemljama.
Automatizirano istraživanje AI-ja može obuhvatati različite nivoe ljudskog nadzora. Kako sistemi AI-ja preuzimaju sve veći dio posla na razvoju narednih generacija AI-ja, mogu sve više pokretati proces rekurzivnog samousavršavanja (RSI), čak i uz daljnje učešće ljudi. Kako ovaj proces postaje automatiziraniji, napredak AI-ja mogao bi se brzo ubrzati.
Vjerujemo da će automatizirano istraživanje AI-ja donijeti modele koji će neposredno poboljšati živote ljudi. Ono može smanjiti cijenu napredne inteligencije kako bi ljudi širom svijeta mogli imati koristi od nje. Automatizirano istraživanje moglo bi nam pomoći i da znatno unaprijedimo usklađivanje te izgradimo odbranu od sve sposobnijeg AI-ja — automatizirani istraživač AI-ja može ujedno biti i automatizirani istraživač sigurnosti AI-ja. Sposobniji, usklađeni sistemi mogli bi pomoći u zaštiti kritične infrastrukture, odbrani od opasnih agenata AI-ja i razvoju novih zaštitnih mjera.
Potpuno autonomni RSI danas se ne odvija i ne bismo ga trebali razvijati sve dok se to ne bude moglo učiniti sigurno. Hoćemo li i kako nastaviti mora zavisiti od naše sposobnosti da očuvamo ljudsku kontrolu te od informiranih demokratskih odluka(otvara se u novom prozoru) o koristima i rizicima. Bez odgovarajuće pažnje i opreza, RSI bi mogao dovesti do toga da ljudi izgube stvarnu kontrolu nad razvojem AI-ja i više ne mogu nadzirati istraživačke procese koje ne razumiju. Nakon toga bi AI mogao postati opasniji, manje usklađen i, u cjelini, predstavljati prijetnju ljudima. Incident na platformi Hugging Face koji smo objavili, iako nije neposredna posljedica RSI-ja, nagovještava vrste rizika koji bi bez pouzdanih zaštitnih mjera i usklađivanja mogli postati mnogo ozbiljniji.
Međunarodni standardi sigurnosnih i zaštitnih praksi u razvoju graničnog AI-ja mogu biti jednako važni za određivanje tempa napretka na granici mogućnosti kao i samo istraživanje usklađivanja. Standardi mogu uspostaviti zajedničke definicije kvalitetnih dokaza i dogovorena mjerila za strogost tehničkih zaštitnih mjera. Ukratko, pomažu nam da odgovorimo na pitanje: „Kako izgleda dobro ublažavanje katastrofalnog rizika od AI-ja?“
Postojeće demokratske institucije poput Centra za standarde i inovacije u oblasti AI-ja (CAISI), zakoni saveznih država i savezni okvir za AI mogu pomoći u tome, kao i novi oblici javno-privatnih partnerstava(otvara se u novom prozoru). Međutim, razvoj i primjena AI-ja odvijaju se u više zemalja, njegovo usvajanje je globalno, a posljedice će vjerovatno na neki način i u nekom trenutku osjetiti svi.
Zato su potrebni međunarodni napori na razvoju standarda kako bi se riješilo nekoliko ključnih izazova:
Rascjepkanost — Evaluacije, zahtjevi za izvještavanje i definicije incidenata u različitim zemljama mogli bi biti proturječni, što otežava poređenje dokaza, razumijevanje novih sposobnosti i odgovor na prekogranične rizike.
Zajedničko djelovanje — Samostalno djelovanje svake zemlje može dovesti do ishoda koje nijedna zemlja ne želi. RSI može ubrzati samo istraživanje AI-ja, potencijalno izvan naše zajedničke sposobnosti da razumijemo napredak, procijenimo rizike i zadržimo smislen ljudski nadzor.
Neujednačeni kapaciteti — Razvoj graničnih tehnologija i povezana stručnost nisu ravnomjerno raspoređeni širom svijeta. To dodatno naglašava oba prethodno navedena problema.
Ovi izazovi odnose se i na open modele i na zatvorene modele.
Da budemo jasni, svaka laboratorija za AI koja provodi automatizirano istraživanje AI-ja ili razvija druge napredne sposobnosti mora preuzeti odgovornost da to radi sigurno, u skladu s osnovnim načelima lične odgovornosti i postojećim zakonima. Naše obrazloženje za standarde zasniva se na sprečavanju koncentracije moći i ostvarivanju boljih praktičnih rezultata. Standardi omogućavaju većem broju zainteresiranih strana izvan laboratorija da učestvuju u odlučivanju o razvoju ove tehnologije i pružaju vidljiv skup načela na koji se može osloniti bez obzira na konkretne prakse bilo koje laboratorije. Vjerovatno ćemo postići i bolje rezultate ako različite strane budu sarađivale na rješavanju navedenih izazova.
Zato vjerujemo da bi Sjedinjene Američke Države trebale predvoditi saradnju sa zemljama širom svijeta na razvoju globalnih tehničkih standarda za granični AI, uključujući RSI.
Iako očekujemo da će se ovaj koncept s vremenom znatno razvijati, dva aspekta bit će ključna.
Jedan način da se to postigne bio bi korištenje nove mreže instituta za sigurnost AI-ja — poput onih već osnovanih u Australiji, Kanadi, Njemačkoj, Francuskoj, Keniji, Japanu, Koreji, Singapuru, Indiji i Ujedinjenom Kraljevstvu — kako bi se preko CAISI-ja i nacionalnih industrijskih tijela olakšalo utvrđivanje standarda, s posebnim naglaskom na (1) granične modele AI-ja i njihove programere, mjerene referentnim testovima sposobnosti; te (2) upravljanje koristima i rizicima automatiziranog istraživanja AI-ja, uključujući RSI. Sjedinjene Američke Države mogu nadograditi CAISI-jevo osnivanje Međunarodne mreže za napredno mjerenje, evaluaciju i nauku o AI-ju(otvara se u novom prozoru) iz 2024. godine, koja okuplja javne institucije radi saradnje na mjerenju i evaluaciji AI-ja te naučnom radu o njemu.
Standardi razvijeni ovim nastojanjem pružili bi zajedničku tehničku osnovu za mjerenje i evaluaciju sposobnosti, procjenu rizika i utvrđivanje dostatnosti zaštitnih mjera. Ti tehnički standardi ne bi predstavljali licence, obavezne provjere prije objavljivanja niti zahtjeve za odobravanje modela AI-ja. Nacionalne vlade odlučivale bi hoće li i kako uključiti te standarde u vlastite pravne sisteme.
Ovaj rad trebao bi podržati i konkurentan ekosistem AI-ja konsultiranjem programera open modela i zatvorenih modela, nezavisnih tehničkih stručnjaka i akademske zajednice. Zajednički standardi trebaju se razvijati transparentno i osmisliti tako da ne pogoduju određenim kompanijama, zemljama ili poslovnim modelima, uključujući otežavanje konkurencije novim učesnicima ili programerima modela s otvorenim težinama.
Kao što smo predložili(otvara se u novom prozoru), ovaj pristup može izvući pouke iz oblasti poput zrakoplovstva i finansijske stabilnosti, u kojima su zemlje razvile zajedničke tehničke standarde i pouzdane kanale saradnje bez odricanja od nacionalnih ovlasti. Također bi trebao blisko sarađivati s postojećim i novijim tijelima za standardizaciju, kao što su ISO(otvara se u novom prozoru), Forum graničnih modela(otvara se u novom prozoru), Fondacija za agentički AI(otvara se u novom prozoru) i Savez za otvoren i siguran AI(otvara se u novom prozoru), kao i s organizacijama usmjerenim na primjenu, poput Fondacije Appia, koja razvija praktične specifikacije što povezuju međunarodne standarde s procjenama AI-ja u stvarnom svijetu.
Međunarodni standardi za AI bit će naročito važni u upravljanju sve većom autonomijom u istraživanju AI-ja i rekurzivnim samousavršavanjem. Konkretno, mogli bi obuhvatati standarde za:
Evaluaciju napretka AI-ja relevantnog za RSI i obima autonomnog istraživanja koje se odvija unutar kompanije za AI. Naš nedavni izvještaj o ubrzavanju istraživanja početni je doprinos ovom nastojanju.
Ljudski nadzor nad automatiziranim istraživanjem AI-ja, uključujući vrste automatiziranih istraživačkih procesa koji bi trebali pokrenuti neposrednu ljudsku provjeru.
Klasifikaciju, praćenje i prijavljivanje incidenata te odgovor na probleme usklađivanja i automatiziranog istraživanja AI-ja, uključujući zajedničke nivoe ozbiljnosti incidenata i pragove za prijavljivanje. Naš okvir za prijavljivanje neusklađenosti predstavlja početni doprinos.
Pored ovih standarda, smatramo da će biti važno da operateri kritične infrastrukture i vlade širom svijeta uspostave sigurne komunikacijske kanale za razmjenu informacija o pitanjima nacionalne sigurnosti, novim ranjivostima i prijetnjama te najboljim praksama u oblasti sigurnosti graničnog AI-ja koja se brzo razvija. Dijalog između Sjedinjenih Američkih Država i Kine u tim oblastima bio bi pozitivan korak, a predstojeći razgovori održavaju se u pravom trenutku.
Određivanje tempa razvoja AI-ja ne znači održavanje unaprijed određene brzine. S tehničkog stanovišta, to znači osigurati da istraživanje usklađivanja i primjena njegovih rezultata budu ispred razvoja sposobnosti. S društvenog stanovišta, to znači korištenje standarda, institucija i saradnje kako bi se osnažile mreže industrije, društvenih odnosa i tržišnih sila te ostvarili ishodi od zajedničke koristi. Nedavni poziv na zajedničko djelovanje u kibernetičkoj odbrani primjer je potonjeg.
Sjedinjene Američke Države u dobroj su poziciji da predvode jer je njihova industrija AI-ja na granici tehničkih mogućnosti, a zemlja i dalje zauzima povlašten položaj u globalnim mrežama u ključnim oblastima poput finansija, trgovine, odbrane, tehnologije i informacijskih sistema. Preuzimanje vodstva sada odredit će hoće li Sjedinjene Američke Države oblikovati globalni okvir za AI ili posmatrati kako se oko njih učvršćuje rascjepkan, neujednačen sistem opterećen sukobima. To će također odrediti hoće li napredni AI ojačati postojeće mreže Sjedinjenih Američkih Država i njihovih saveznika; izostanak vodstva mogao bi ih oslabiti.
Geopolitičko nadmetanje neće se svoditi samo na to ko je tehnički ispred, nego i na usvajanje i širenje AI-ja. O potonjem bi sve više mogao odlučivati onaj ko podstiče praktičnu saradnju i razumna pravila koja će kompanije i društva širom svijeta željeti ako svoju budućnost namjeravaju povjeriti ovoj tehnologiji.
Snažno upravljanje na nacionalnom nivou, povezano praktičnom međunarodnom saradnjom, pruža put ka djelotvornijim zaštitnim mjerama, nastavku inovacija i širokom pristupu prednostima AI-ja.
