Napredak AI i preporuke

Kada je popularno shvatanje Tjuringovog testa prohujalo pored nas, mnogima od nas bilo je pomalo čudno koliko je svakodnevni život jednostavno nastavio dalje. To je bila prekretnica o kojoj se govorilo decenijama. Delovala je nemoguće daleko, pa je odjednom delovala blizu, pa smo odjednom već bili s druge strane. Dobili smo neke sjajne nove proizvode, a u svetu se nije mnogo toga promenilo, iako računari sada mogu da razgovaraju i razmišljaju o teškim problemima.

Većina sveta i dalje razmišlja o AI kao o četbotovima i boljoj pretrazi, ali danas imamo sisteme koji mogu da nadmaše najpametnije ljude na nekim od naših najzahtevnijih intelektualnih takmičenja. Iako su AI sistemi i dalje neujednačeni i suočavaju se sa ozbiljnim slabostima, sistemi koji mogu da rešavaju tako teške probleme deluju više kao da su 80% puta do AI istraživača nego 20%. Jaz između toga kako većina ljudi koristi AI i onoga za šta je AI trenutno sposoban ogroman je.

AI sistemi koji mogu da otkrivaju nova znanja — bilo autonomno, bilo tako što ljude čine efikasnijim — verovatno će imati značajan uticaj na svet.

Za samo nekoliko godina, AI je prešao put od toga da može da radi samo zadatke (posebno u oblasti softverskog inženjerstva) koje čovek može da obavi za nekoliko sekundi, do zadataka za koje je čoveku potrebno više od jednog sata. Očekujemo da ćemo uskoro imati sisteme koji mogu da obavljaju zadatke za koje su čoveku potrebni dani ili nedelje; ne znamo kako da razmišljamo o sistemima koji mogu da obavljaju zadatke za koje bi čoveku bili potrebni vekovi.

Istovremeno, trošak po jedinici datog nivoa inteligencije naglo je pao; 40x godišnje je razumna procena za poslednjih nekoliko godina! 

U 2026. očekujemo da AI bude sposoban za veoma mala otkrića. U 2028. i kasnije, prilično smo uvereni da ćemo imati sisteme koji mogu da dođu do značajnijih otkrića (mada, naravno, možemo da grešimo; to je ono na šta, čini se, ukazuje napredak našeg istraživanja).

Odavno smatramo da se napredak AI odvija na iznenađujuće načine i da društvo pronalazi načine da se zajedno razvija sa tehnologijom. Iako očekujemo brz i značajan napredak u sposobnostima AI u narednih nekoliko godina, očekujemo da će svakodnevni život i dalje delovati iznenađujuće postojano; način na koji živimo ima mnogo inercije čak i uz mnogo bolje alate.

Konkretno, očekujemo da će budućnost ponuditi nove i, nadamo se, bolje načine za ispunjen život, i da će više ljudi nego danas moći da iskusi takav život. Tačno je da će posao biti drugačiji, da ekonomska tranzicija na neke načine može biti veoma teška i da je čak moguće da će osnovni socioekonomski ugovor morati da se promeni. Ali u svetu široko raspodeljenog obilja, životi ljudi mogu biti mnogo bolji nego što su danas.

AI sistemi će pomoći ljudima da razumeju svoje zdravlje, ubrzati napredak u oblastima kao što su nauka o materijalima, razvoj lekova i klimatsko modelovanje i proširiti pristup personalizovanom obrazovanju za učenike širom sveta. Pokazivanje ovakvih opipljivih koristi pomaže u izgradnji zajedničke vizije sveta u kojem AI može da učini život boljim, a ne samo efikasnijim.

OpenAI je duboko posvećen bezbednosti⁠, koju shvatamo kao praksu omogućavanja pozitivnih uticaja AI ublažavanjem negativnih. Iako su potencijalne koristi ogromne, rizike superinteligentnih sistema tretiramo kao potencijalno katastrofalne i verujemo da empirijsko⁠ proučavanje⁠ bezbednosti⁠ i usklađenosti⁠ može pomoći globalnim odlukama, poput toga da li bi cela oblast trebalo da uspori razvoj kako bi pažljivije proučila ove sisteme kako se približavamo sistemima sposobnim za rekurzivno samousavršavanje. Očigledno, niko ne bi trebalo da uvodi superinteligentne sisteme bez mogućnosti da ih pouzdano uskladi i kontroliše, a za to je potrebno više tehničkog rada. 

Evo nekoliko stvari za koje mislimo da bi mogle pomoći u ostvarivanju pozitivne budućnosti sa AI:

Mislimo da bi granične laboratorije trebalo da se usaglase oko zajedničkih principa bezbednosti i da dele istraživanja o bezbednosti⁠, saznanja o novim rizicima, mehanizme za smanjenje dinamike trke i još mnogo toga. Možemo da zamislimo da bi ideje poput toga da se granične laboratorije usaglase oko određenih standarda za evaluacije kontrole AI mogle biti veoma korisne.

Društvo je prošlo kroz sličan proces da bi uspostavilo građevinske propise i protivpožarne standarde, koji su spasli bezbroj života.

Postoje dve škole mišljenja o AI. Jedna je da je AI poput „normalne tehnologije“, u smislu da će napredovati kao i druge tehnološke revolucije u prošlosti, od štamparske prese do interneta. Stvari će se odvijati na načine koji ljudima i društvu daju priliku da se prilagode, a konvencionalni alati javne politike trebalo bi da funkcionišu. Moraćemo da damo prioritet idejama kao što su podsticanje inovacija, zaštita privatnosti razgovora sa AI i odbrana od zloupotrebe moćnih sistema od strane zlonamernih aktera kroz partnerstvo sa saveznom vladom.

Verujemo da je AI na približno današnjem nivou sposobnosti otprilike već stigao ovde i da treba da se raširi svuda, što znači da bi većina programera i open-source modela, kao i gotovo sve primene današnje tehnologije, trebalo da imaju minimalna dodatna regulatorna opterećenja u odnosu na ono što već postoji. Svakako ne bi trebalo da se suoče sa mozaikom propisa u svih 50 saveznih država.

Druga škola mišljenja je ona u kojoj se superinteligencija razvija i širi na načine i brzinom kakvu čovečanstvo ranije nije videlo. Ovde bi trebalo da uradimo većinu gore navedenih stvari, ali će takođe biti potrebno da budemo inovativniji. Ako je pretpostavka da će se društvo teško prilagoditi nečemu ovakvom na „normalan način“, onda ne bi trebalo ni da očekujemo da tipična regulativa može mnogo da učini. U tom slučaju, verovatno ćemo morati blisko da sarađujemo sa izvršnom vlašću i povezanim agencijama više zemalja (kao što su različiti instituti za bezbednost) kako bismo se dobro koordinisali, posebno u oblastima kao što su ublažavanje primena AI u bioterorizmu (i korišćenje AI za otkrivanje i sprečavanje bioterorizma) i implikacije samousavršavajuće AI.

Suština treba da bude odgovornost prema javnim institucijama, ali način na koji do toga stižemo možda će morati da se razlikuje od prošlosti.

U oba scenarija, izgradnja ekosistema otpornosti za AI biće od suštinskog značaja. Kada se pojavio internet, nismo ga zaštitili jednom politikom ili jednom kompanijom — izgradili smo čitavu oblast sajber-bezbednosti: softver, protokole šifrovanja, standarde, sisteme nadzora, timove za hitno reagovanje itd. Taj ekosistem nije eliminisao rizik, ali ga je smanjio na nivo sa kojim je društvo moglo da živi, omogućavajući ljudima da dovoljno veruju digitalnoj infrastrukturi da na njoj grade svoje živote i ekonomije. Biće nam potrebno nešto slično za AI, a nacionalne vlade mogu imati snažnu ulogu u podsticanju industrijske politike koja to ohrabruje.

Razumevanje toga kako AI konkretno utiče na svet olakšava usmeravanje ove tehnologije ka pozitivnom uticaju. Predviđanje je teško: na primer, uticaj AI na poslove bilo je teško predvideti, delom zato što su snage i slabosti današnjih AI veoma različite od ljudskih. Merenje onoga što se dešava u praksi verovatno će biti veoma informativno.

Verujemo da odrasli treba da mogu da koriste AI pod sopstvenim uslovima, unutar širokih granica koje definiše društvo. Očekujemo da će pristup naprednoj AI u narednim godinama biti osnovna komunalna usluga — uporediva sa električnom energijom, čistom vodom ili hranom. Na kraju, mislimo da bi društvo trebalo da podrži široku dostupnost ovih alata i da vodeća zvezda treba da bude pomaganje ljudima da ostvare svoje ciljeve.