AI ima potencijal da značajno unaprijedi mnoge aspekte društva.
Ova tehnologija, kao i druge prije nje, dat će ljudima više sposobnosti i autonomije; ono što će ljudi moći raditi uz AI nadmašit će ono što su mogli raditi sa parnim mašinama ili električnom energijom.
Zamišljamo svijet sa široko rasprostranjenim napretkom na nivou koji je danas teško i zamisliti, i svijet u kojem se individualni potencijal, autonomija i ispunjenost značajno povećavaju. Mnogo toga o čemu smo sebi dopuštali sanjati samo u naučnoj fantastici moglo bi postati stvarnost, a većina ljudi mogla bi živjeti smislenije živote nego što ih većina danas može živjeti.
Ali takav ishod nije zagarantovan. Moć u budućnosti mogu držati ili nekolicina kompanija koje koriste i kontrolišu superinteligenciju, ili može biti decentralizovano u rukama ljudi. Vjerujemo da je ovo drugo mnogo bolje i naš cilj je staviti istinski opću AI u ruke što većeg broja ljudi. Kao ni sadašnjost, ni budućnost neće biti ni sasvim loša ni sasvim dobra, ali odluke koje danas donosimo mogu pomoći da se dobro maksimalno poveća.
Naša misija je da osiguramo da AGI koristi cijelom čovječanstvu. Ovo su principi koji usmjeravaju naš rad.
1. Demokratizacija. Suprotstavit ćemo se mogućnosti da ova tehnologija koncentriše moć u rukama nekolicine.
To znači da, pored toga što svima dajemo pristup AI-u, moramo osigurati da se ključne odluke o AI-u donose kroz demokratske procese i na temelju egalitarnih principa, a ne samo u AI laboratorijama.
2. Osnaživanje. Vjerujemo da AI može osnažiti svakoga da ostvari svoje ciljeve, nauči više, bude sretniji i ispunjeniji te slijedi svoje snove, i da će društvo u cjelini od toga imati koristi.
Da bismo to postigli, potrebno je ljudima omogućiti da istraže ogroman potencijal pred nama, a mi moramo graditi proizvode koji to omogućavaju. Korisnici bi trebali moći pouzdano obavljati sve vrednije zadatke uz naše usluge.
Svijet je raznolik i ljudi imaju različite potrebe. Želimo svojim korisnicima dati autonomiju koja im je potrebna i omogućiti koliko god razumno možemo.
Iako svojim korisnicima želimo dati vrlo širok prostor u načinu korištenja naših usluga i čvrsto vjerujemo da će AI u cjelini biti izuzetno koristan, imamo odgovornost da ga gradimo i uvodimo na način koji minimizira štetu. To, naravno, uključuje sprečavanje katastrofalne štete, ali i smanjenje lokalnih šteta te izbjegavanje mogućih korozivnih društvenih efekata. To znači da ćemo u uslovima neizvjesnosti radije biti oprezni, a ograničenja ublažavati kako budemo imali više dokaza.
3. Univerzalni prosperitet. Želimo budućnost u kojoj svako može imati odličan život.
Stavljanjem jednostavnih AI sistema s mnogo računske snage u ruke svima, vjerujemo da će ljudi pronaći nove načine stvaranja vrijednosti i masovno unaprijediti kvalitet života za sve, posebno kroz nova naučna otkrića.
Da bi prosperitet bio u potpunosti ostvaren i široko podijeljen, vjerujemo da 1) naše vlade možda trebaju razmotriti nove ekonomske modele kako bi svi mogli učestvovati u stvaranju vrijednosti koje je pred nama i 2) moramo izgraditi ogromne količine AI infrastrukture i razviti novu tehnologiju kako bismo znatno smanjili troškove AI infrastrukture.
Mnoge stvari koje radimo, a koje naizgled djeluju čudno — kupovina ogromnih količina računske snage dok su nam prihodi relativno mali, vertikalna integracija radi smanjenja troškova i lakše upotrebe naše tehnologije, zalaganje za izgradnju podatkovnih centara širom svijeta i još mnogo toga — vođene su našim temeljnim uvjerenjem u budućnost univerzalnog prosperiteta.
4. Otpornost. AI će donijeti nove rizike i radit ćemo s drugim kompanijama, ekosistemima, vladama i društvom kako bismo ih riješili. Značajno ćemo koristiti resurse naše Fondacije da podržimo taj rad.
Nijedna AI laboratorija sama ne može osigurati dobru budućnost. Kao očigledan primjer, mogu postojati izuzetno sposobni modeli koji olakšavaju stvaranje novog patogena, i potreban nam je pristup na nivou cijelog društva da bismo se od toga odbranili mjerama koje nisu vezane za određeni patogen. Kao drugi primjer, kako rastu kibernetičke sigurnosne sposobnosti modela, moramo ih brzo koristiti da pomognu u zaštiti softvera otvorenog koda i kritične infrastrukture, istovremeno trenirajući modele da pomognu svima da stvaraju sigurniji softver.
Ovo je proširenje naše dugogodišnje strategije iterativnog uvođenja; vjerujemo da se društvo mora suočiti sa svakim sljedećim nivoom sposobnosti AI-a, razumjeti ga, integrisati ga i zajedno odrediti najbolji put naprijed. To se ne može raditi u vakuumu; društvo i tehnologija zajednički evoluiraju, a za to je potrebno vrijeme.
Ne mislimo da je ovo naša jedina sigurnosna strategija; također moramo praviti sigurne sisteme i nastaviti raditi vrhunski posao na tehničkom usklađivanju.
Očekujemo da će biti perioda u kojima ćemo morati sarađivati s vladama, međunarodnim agencijama i drugim AGI naporima kako bismo osigurali da smo dovoljno riješili ozbiljne probleme usklađivanja, sigurnosti ili društvene probleme prije nego što nastavimo dalje s našim radom.
5. Prilagodljivost. I dalje vjerujemo da je jedini način da odgovorimo na izazove vrlo nepredvidive budućnosti to da budemo spremni ažurirati svoje stavove kako budemo učili više. Također priznajemo da je OpenAI mnogo veća sila u svijetu nego što je bio prije nekoliko godina, i bit ćemo transparentni o tome kada, kako i zašto se naši operativni principi mijenjaju. Kao konkretan primjer, iako smo prilično sigurni da će univerzalni prosperitet ostati zaista važan, možemo zamisliti periode u budućnosti u kojima ćemo morati mijenjati dio osnaživanja za više otpornosti.
Razvoj AI-a donio je mnoga iznenađenja, a još ih mnogo tek dolazi. Kako tehnologija napreduje, njena emergentna ponašanja postajat će sve teža za predvidjeti. Mi prihvatamo tu neizvjesnost pažljivim unapređivanjem sposobnosti, iterativnim uvođenjem sistema i učenjem iz njihovih interakcija sa svijetom.
Nije tako davno bilo da smo bili nervozni zbog objavljivanja težina GPT‑2 jer nismo bili sigurni kakvi će biti utjecaji na društvo. Očigledno je, gledano unazad, to bila pogrešna briga, ali nas je dovela do otkrivanja strategije iterativnog uvođenja, što je jedna od najvažnijih stvari do kojih smo došli.
__
Ulazimo u veoma utjecajnu fazu kako tehnologija nastavlja napredovati. Sasvim je opravdano kritikovati nas za svaku odluku; zaslužujemo ogroman nivo preispitivanja s obzirom na težinu onoga što radimo. Nećemo sve uraditi kako treba, ali ćemo brzo učiti i korigovati smjer.
Posvećeni smo tome da odigramo svoju ulogu kako bismo budućnost učinili boljom od prošlosti; osjećamo se sretnima što možemo preuzeti tako važan posao.
