Obraćanje Sama Altmana Vijeću sigurnosti Ujedinjenih nacija

Izvršni direktor OpenAI-ja Sam Altman danas se obratio Vijeću sigurnosti Ujedinjenih nacija o umjetnoj inteligenciji. Govorio je o potencijalu umjetne inteligencije da proširi mogućnosti, važnosti zadržavanja moćnih sistema pod ljudskom kontrolom i potrebi za međunarodnom saradnjom na sigurnosti umjetne inteligencije.

Hvala vam, gospodine predsjedavajući i vaše ekselencije. Čast mi je biti ovdje i imati priliku obratiti vam se svima u ovom važnom trenutku.

Godinama govorimo o umjetnoj inteligenciji, ali posljednjih sedmica i mjeseci sve djeluje drugačije. Brz napredak modela stvorio je osjećaj da se vremenski okvir skraćuje, koristi su postale opipljivije, ali su i ulozi i rizici postali neposredniji.

Pred nama je izbor. Umjetna inteligencija može više nalikovati novoj renesansi stvaralaštva i otkrića ili novoj industrijskoj revoluciji previranja i nereda.

Renesansa je bila doba u kojem su novi alati, ideje i institucije proširili granice onoga što su ljudi vjerovali da mogu postići. Umjetna inteligencija može imati tu ulogu u našem vremenu. Vjerujem da su ljudi mnogo sposobniji nego što misle, ali ih je sputavala ograničena tehnologija koja ih je trebala osnažiti, a umjesto toga ih ometa i često im oduzima pažnju.

Najbolja verzija umjetne inteligencije ne pretvara ljude u zupčanike ogromne mašine niti optimizira svaki dio života sve dok ne nestane ono ljudsko. Riječ je o tome da ljudima pružimo veću sposobnost djelovanja u sve složenijem svijetu: veće mogućnosti za učenje, stvaranje, otkrivanje, izgradnju i učešće. Mnogo je toga što umjetna inteligencija ne može — i ne treba — automatizovati.

Umjetnu inteligenciju treba graditi za ljude, a ne samo zato da bi mašine radile brže radi samih sebe. Neke izjave ljudi koji rade na razvoju umjetne inteligencije toliko su distopijske da zvuče kao radnja loših naučnofantastičnih filmova.

Sve što je ovoliko moćno istovremeno ulijeva strah. Ovaj trenutak je složen jer istovremeno osjećamo ogroman potencijal i sasvim razumljivu zabrinutost.

Ovi modeli mogu pomoći ljudima da dođu do novih otkrića: novih lijekova, bolje zdravstvene zaštite i kvalitetnijeg obrazovanja te da izgrade produktivnije privrede. Mogu biti novi alati pomoću kojih ljudi ostvaruju snove i ambicije koji im se danas čine nedostižnima. Život je prosječnom čovjeku postao dramatično složeniji. Umjetna inteligencija može biti sredstvo odbrane od te složenosti koliko i sredstvo za otkrića i inovacije bez presedana.

S druge strane, kako sistemi umjetne inteligencije postaju sposobniji i autonomniji, mogli bi se razvijati brže nego naše institucije, koncentrisati moć u premalo ruku ili donositi odluke koje ljudi više ne razumiju niti kontrolišu.

Ta zabrinutost postaje naročito važna kako se približavamo sistemima koji mogu unapređivati sami sebe i svoje buduće verzije, što se često naziva rekurzivnim samounapređenjem. Kako proces razvoja umjetne inteligencije postaje sve automatizovaniji, tempo njenog napretka mogao bi se brzo ubrzati. Ovaj trenutak zahtijeva izuzetan oprez.

Uglavnom se slažem s profesorom Bengiom. Iako ću navesti dva umjesto tri — vjerujem da postoje dva načina na koja bi napredak umjetne inteligencije mogao poći veoma loše i koja moramo izbjeći.

Prvo, mogli bismo umjetnoj inteligenciji prepustiti kontrolu nad budućnošću. Rizik je u tome da se razvija toliko brzo da ljudi više ne mogu pratiti šta se dešava niti intervenirati kada je to potrebno. To bi očigledno bilo užasno.

Industrija ne smije prihvatiti prevelik tehnološki rizik samo zato što su koristi toliko velike i čine se previše važnim da bi se razvoj usporio. Pobijediti druge kompanije u utrci nije razlog za donošenje nepromišljenih odluka. Niti vjerujemo da smo zarobljeni u utrci u kojoj ne možemo usporiti. U prošlosti smo samoinicijativno usporavali razvoj. To ćemo činiti i u budućnosti. Ne želimo graditi sisteme — i smatramo da je važno da ih niko ne gradi — za koje ne možemo pružiti neophodne garancije usklađenosti, mogućnosti nadzora i sigurnosti.

Moramo razumjeti šta ti sistemi rade i imati čvrste dokaze da će postupati u skladu s namjerama ljudi čak i kada postanu veoma, veoma inteligentni. Zapravo, naročito kada postanu veoma, veoma inteligentni. Nije važno procjenjuju li ljudi rizik od katastrofe na 10%, 1%, 12% ili 0,1%. Nijedan od tih nivoa nije ni približno prihvatljiv. I ne bismo trebali trenirati modele ako ne možemo iznijeti izuzetno uvjerljive dokaze da ćemo ih moći zadržati pod ljudskom kontrolom.

To je, dakle, jedan od načina na koji stvari mogu poći po zlu. S druge strane, ti bi sistemi mogli koncentrisati previše moći u premalo ruku. Nijedan pojedinac, kompanija ili država ne bi smjeli imati mogućnost da pomoću najmoćnijih modela umjetne inteligencije svima ostalima nametnu svoj pogled na svijet. Kompanija ili država koja vjeruje da se samo njoj može povjeriti ova tehnologija može tim uvjerenjem opravdati gotovo sve drugo. Moramo odbaciti tu logiku čak i kada odgovara nekom pojedinačnom akteru.

Vjerujem da postoji pragmatičan put između te dvije krajnosti. U OpenAI-ju ovim pitanjima pristupamo s jasnim ciljem: umjetna inteligencija treba ljudima pružiti veću kontrolu nad vlastitim životom. Više slobode da žive onako kako žele. Veću sposobnost rješavanja velikih i malih problema te unapređivanja svojih zajednica. Ne želimo upasti u zamku slijepog optimizma. Ali ne želimo upasti ni u zamku katastrofizma. Ako nas povuče bilo koja od tih krajnosti, to nam neće pomoći da uspješno riješimo izazove pred nama, naročito sada kada se svijet i njegovi stanovnici suočavaju s ogromnim problemima u čijem rješavanju ova tehnologija može pomoći. Zato nastojimo ići srednjim putem između ta dva pola.

Za nas to podrazumijeva tri načela.

Prvo, kako umjetna inteligencija postaje sposobnija, ljudi moraju ostati u središtu odlučivanja o njoj. Usklađivanje nije apstraktno istraživačko pitanje. To je rad kojim osiguravamo da ti sistemi pouzdano ostanu pod ljudskom kontrolom, odražavaju ljudske vrijednosti i pomažu ljudima da usmjeravaju naredne faze razvoja. Ne pokušavamo automatizovati ljudsko rasuđivanje ili ljudske vrijednosti, niti to smijemo činiti.

Drugo, naučni napredak i privredni rast moraju ostvarivati ljudi i moraju služiti ljudima. Umjetna inteligencija treba pomoći istraživačima da dolaze do otkrića, ljekarima da liječe pacijente, nastavnicima da podučavaju učenike, poduzetnicima da pokreću kompanije, zajednicama da rješavaju probleme koji su se činili nerješivima i još mnogo toga. Historija ljudskog napretka ne govori o tome da alati zamjenjuju ljudsku sposobnost djelovanja. Ona pokazuje da pravi alati ljudima daju veće sposobnosti, a vjerujem da će to otići mnogo dalje nego što sada smatramo mogućim.

Treće, ova tehnologija mora osnaživati svakog pojedinca. Sjajna budućnost nastat će kada ljudi ostvare svoj potencijal i stvaraju vrijednost za sebe, svoje zajednice, svoje zemlje i cijeli svijet. Možda smo među graditeljima ove tehnologije, ali nismo junaci ove priče. Naša je uloga pružiti mogućnosti ljudima širom svijeta i vjerovati u čudesnu snagu ljudskih vještina i sposobnosti.

Sada imamo modele sposobne otkrivati znanja koja nam nikada ranije nisu bila dostupna. Razmotrite napredak koji smo vidjeli u matematici. Prije tri ljeta naši su modeli bili solidni u matematici za osnovnu školu. Prije dva ljeta bili su prilično uspješni na srednjoškolskim takmičenjima iz matematike. Prošlog ljeta dostigli smo nivo osvajača zlatne medalje na najprestižnijem međunarodnom matematičkom takmičenju. A prije samo nekoliko sedmica ovog ljeta jedan od naših modela riješio je jedan od milenijskih problema, Navier–Stokesove jednačine.

Te jednačine koriste se za projektovanje aviona, prognoziranje vremena i proučavanje protoka krvi. Matematičke probleme ne rješavamo radi njih samih, nego da bismo ljudima omogućili otkrivanje novih znanja i njihovu primjenu radi unapređenja zdravstvene zaštite, podizanja životnog standarda i širenja potencijala svih ljudi širom svijeta. Još toliko toga čeka da bude otkriveno.

Ali veoma je važno da kompanije ne zamijene demokratski proces.

Ako umjetna inteligencija treba biti demokratska, najvažnije odluke ne mogu samostalno donositi laboratorije u San Franciscu. One se moraju oblikovati kroz demokratske procese i uz učešće vlada koje odgovaraju građanima kojima služe.

Na međunarodnom nivou to će zahtijevati saradnju. U historiji je bilo trenutaka kada su se zemlje koje se međusobno nadmeću i nisu uvijek u najboljim odnosima ipak udruživale radi zajedničkih interesa i općeg dobra suočene s moćnom novom tehnologijom. Vjerujemo da ovo mora biti jedan od tih trenutaka.

Potreban nam je mehanizam za međusobno usklađene nacionalne i međunarodne standarde za graničnu umjetnu inteligenciju: standarde za mjerenje sposobnosti, procjenu rizika, utvrđivanje jesu li zaštitne mjere dovoljne i očuvanje stvarnog ljudskog nadzora dok sistemi postaju autonomniji.

Potrebni su nam zajednički standardi kako bi zemlje mogle porediti dokaze, provjeravati usklađenost te imati zajednički jezik i razumijevanje onoga što se dešava.

Potrebni su nam tačno i brzo prijavljivanje incidenata te protokoli za njihovu klasifikaciju i prijavljivanje kako bi svijet mogao učiti iz propusta prije nego što prerastu u katastrofe.

Potrebni su nam i sigurni kanali putem kojih vlade, operateri kritične infrastrukture i tehnički stručnjaci mogu razmjenjivati informacije o novim ranjivostima i prijetnjama.

Jasno je da ti standardi ne bi trebali učvrstiti položaj postojećih aktera niti davati prednost jednom poslovnom modelu nad drugim. Moraju podržavati razvojne timove otvorenih i zatvorenih modela, nove aktere i etablirane laboratorije, nacionalne nadležnosti i međunarodnu saradnju. Svaka vlada treba odlučiti kako će standarde ugraditi u vlastiti pravni sistem. Ali svima će nam biti bolje ako se na globalnom nivou možemo usaglasiti o tome kako izgledaju valjani dokazi, dobre zaštitne mjere i kvalitetan nadzor.

Nemamo sve odgovore i veoma smo otvoreni za sve bolje ideje. Spremni smo sarađivati sa svima vama i dati sve od sebe da pronađemo put naprijed.

Nalazimo se na raskrsnici. Jedan put vodi u svijet u kojem je moć koncentrisana, odluke su netransparentne, a ljudi osjećaju da im se najvažnija tehnologija njihovog života nameće. Drugi put vodi u svijet u kojem umjetna inteligencija radi u korist ljudi jer ljudi putem demokratskih institucija pomažu odlučiti kako se ona treba razvijati i usmjeravati; u kojem naučni napredak poboljšava stvarne živote; u kojem više ljudi može učestvovati u oblikovanju budućnosti; i u kojem ova tehnologija pojedincima i zajednicama nastavlja davati veću moć da žive onako kako žele. To je budućnost ostvarenog potencijala, uzbuđenja i čudesnih mogućnosti.

I vjerujemo da je takvu budućnost vrijedno graditi. Hvala vam mnogo.