AI ima potencijal znatno unaprijediti mnoge aspekte društva.
Ova će tehnologija, kao i druge prije nje, ljudima dati više sposobnosti i autonomije; ono što će ljudi moći raditi uz AI nadmašit će ono što su mogli učiniti parni strojevi ili električna energija.
Zamišljamo svijet raširenog napretka na razini koju je danas teško i zamisliti, i svijet u kojem se individualni potencijal, autonomija i ispunjenost znatno povećavaju. Mnoge stvari o kojima smo si dosad dopuštali sanjati samo u znanstvenoj fantastici mogle bi postati stvarnost, a većina ljudi mogla bi živjeti smislenije živote nego što je to većini danas moguće.
No takav ishod nije zajamčen. Moć u budućnosti može biti u rukama malog broja tvrtki koje koriste i kontroliraju superinteligenciju, ili može biti decentralizirano u rukama ljudi. Vjerujemo da je ovo drugo mnogo bolje i naš je cilj staviti doista opću umjetnu inteligenciju u ruke što većeg broja ljudi. Kao i sadašnjost, ni budućnost neće biti ni posve loša ni posve dobra, ali odluke koje donosimo sada mogu pomoći da se dobro maksimalno poveća.
Naša je misija osigurati da AGI koristi cijelom čovječanstvu. Ovo su načela koja usmjeravaju naš rad.
1. Demokratizacija. Odupirat ćemo se mogućnosti da ova tehnologija koncentrira moć u rukama nekolicine.
To znači da, osim što svima trebamo omogućiti pristup AI-ju, moramo osigurati i da se ključne odluke o AI-ju donose putem demokratskih procesa i u skladu s egalitarnim načelima, a ne samo u AI laboratorijima.
2. Osnaživanje. Vjerujemo da AI može osnažiti svakoga da ostvari svoje ciljeve, više nauči, bude sretniji i ispunjeniji te slijedi svoje snove, i da će društvo u cjelini od toga imati koristi.
Za to je potrebno ljudima omogućiti da istraže golemi potencijal pred nama, a mi trebamo graditi proizvode koji to omogućuju. Korisnici bi trebali moći pouzdano obavljati sve vrjednije zadatke uz naše usluge.
Svijet je raznolik i ljudi imaju različite potrebe. Želimo svojim korisnicima dati autonomiju koja im je potrebna i omogućiti onoliko koliko razumno možemo.
Iako svojim korisnicima želimo dati vrlo široku slobodu u tome kako koriste naše usluge i čvrsto vjerujemo da će AI u cjelini biti iznimno koristan, imamo odgovornost graditi ga i uvoditi na način koji smanjuje štetu. To, naravno, uključuje sprječavanje katastrofalne štete, ali i smanjivanje lokalnih šteta te izbjegavanje mogućih društvenih učinaka koji nagrizaju društvo. To će značiti da ćemo u uvjetima neizvjesnosti biti oprezniji te ublažavati ograničenja kako budemo imali više dokaza.
3. Univerzalni prosperitet. Želimo budućnost u kojoj svatko može imati izvrstan život.
Vjerujemo da će, stavljanjem jednostavnih AI sustava s velikom računalnom snagom u ruke svih, ljudi pronaći nove načine stvaranja vrijednosti i masovno poboljšati kvalitetu života za sve, osobito kroz nova znanstvena otkrića.
Da bi se prosperitet u potpunosti ostvario i široko dijelio, vjerujemo da 1) naše vlade možda trebaju razmotriti nove ekonomske modele kako bi svi mogli sudjelovati u stvaranju vrijednosti koje je pred nama i 2) trebamo izgraditi goleme količine AI infrastrukture i razviti novu tehnologiju kako bismo znatno smanjili troškove AI infrastrukture.
Mnoge stvari koje radimo, a koje možda izgledaju neobično — kupnja golemih količina računalnih resursa dok su nam prihodi relativno mali, vertikalna integracija radi smanjenja troškova i lakše uporabe naše tehnologije, poticanje izgradnje podatkovnih centara diljem svijeta i još mnogo toga — proizlaze iz našeg temeljnog uvjerenja u budućnost univerzalnog prosperiteta.
4. Otpornost. AI će donijeti nove rizike i radit ćemo s drugim tvrtkama, ekosustavima, vladama i društvom kako bismo ih riješili. Značajno ćemo koristiti resurse naše Zaklade kako bismo podržali taj rad.
Nijedan AI laboratorij ne može sam osigurati dobru budućnost. Očit primjer je da bi mogli postojati iznimno sposobni modeli koji olakšavaju stvaranje novog patogena, pa nam je potreban pristup na razini cijelog društva kako bismo se od toga obranili mjerama koje nisu vezane uz određeni patogen. Drugi je primjer da, kako rastu kibernetičke sposobnosti modela, te modele moramo brzo koristiti kako bismo pomogli u zaštiti softvera otvorenog koda i kritične infrastrukture, istodobno ih trenirajući da svima pomognu stvarati sigurniji softver.
To je proširenje naše dugogodišnje strategije iterativnog uvođenja; vjerujemo da se društvo mora nositi sa svakom sljedećom razinom AI sposobnosti, razumjeti je, integrirati je i zajedno pronaći najbolji put naprijed. To se ne može činiti u vakuumu; društvo i tehnologija zajedno se razvijaju, a za to je potrebno vrijeme.
Time ne želimo reći da je to naša jedina sigurnosna strategija; također moramo graditi sigurne sustave i nastaviti izvrsno raditi na tehničkom usklađivanju.
Očekujemo da će biti razdoblja u kojima ćemo morati surađivati s vladama, međunarodnim agencijama i drugim AGI inicijativama kako bismo osigurali da smo dovoljno riješili ozbiljne probleme usklađivanja, sigurnosti ili društvene probleme prije nego što nastavimo dalje s našim radom.
5. Prilagodljivost. I dalje vjerujemo da je jedini način da odgovorimo na izazove vrlo nepredvidive budućnosti biti spreman ažurirati svoja stajališta kako budemo učili više. Također priznajemo da je OpenAI danas mnogo veća sila u svijetu nego što je bio prije nekoliko godina i bit ćemo transparentni o tome kada, kako i zašto se naša operativna načela mijenjaju. Kao konkretan primjer, iako smo prilično sigurni da će univerzalni prosperitet ostati iznimno važan, možemo zamisliti razdoblja u budućnosti u kojima ćemo dio osnaživanja morati zamijeniti većom otpornošću.
Razvoj AI-ja donio je mnoga iznenađenja, a još ih mnogo dolazi. Kako tehnologija napreduje, njezina emergentna ponašanja bit će sve teže predvidjeti. Prihvaćamo tu neizvjesnost tako što pažljivo unapređujemo sposobnosti, uvodimo sustave iterativno i učimo iz njihovih interakcija sa svijetom.
Nije prošlo mnogo vremena otkako smo bili zabrinuti zbog objave težina modela GPT‑2 jer nismo bili sigurni kakvi će biti učinci na društvo. Očito je, gledano unatrag, to bila pogrešna briga, ali nas je dovela do otkrivanja strategije iterativnog uvođenja, što je jedna od najvažnijih stvari koje smo spoznali.
__
Ulazimo u vrlo važnu fazu dok se tehnologija nastavlja poboljšavati. Posve je opravdano kritizirati nas zbog svake odluke; zaslužujemo golemu razinu preispitivanja s obzirom na težinu onoga što radimo. Nećemo sve učiniti ispravno, ali brzo ćemo učiti i ispravljati smjer.
Predani smo tome da damo svoj doprinos kako bi budućnost bila bolja od prošlosti; smatramo se sretnima što se možemo prihvatiti tako važnog rada.
