AI ima potencijal da značajno unapredi mnoge aspekte društva.
Ova tehnologija, kao i druge pre nje, daće ljudima više sposobnosti i autonomije; ono što će ljudi moći da rade uz AI nadmašiće ono što su mogli da rade pomoću parnih mašina ili električne energije.
Zamišljamo svet široko rasprostranjenog napretka na nivou koji je danas teško i zamisliti, i svet u kojem se individualni potencijal, autonomija i ispunjenost značajno povećavaju. Mnoge stvari o kojima smo sebi dozvoljavali da sanjamo samo u naučnoj fantastici mogle bi postati stvarnost, a većina ljudi mogla bi da živi smislenije nego što većina danas može.
Ali ovakav ishod nije zagarantovan. Moć u budućnosti može biti u rukama malog broja kompanija koje koriste i kontrolišu superinteligenciju, ili može biti decentralizovano raspodeljena među ljudima. Verujemo da je ovo drugo mnogo bolje, i naš cilj je da zaista opštu AI stavimo u ruke što većeg broja ljudi. Kao i sadašnjost, ni budućnost neće biti ni sasvim loša ni sasvim dobra, ali odluke koje sada donosimo mogu pomoći da se dobro maksimalno uveća.
Naša misija je da obezbedimo da AGI koristi celom čovečanstvu. Ovo su principi koji usmeravaju naš rad.
1. Demokratizacija. Suprotstavićemo se mogućnosti da ova tehnologija koncentriše moć u rukama nekolicine.
To znači da, pored toga što svima treba omogućiti pristup AI, moramo da obezbedimo i da se ključne odluke o AI donose kroz demokratske procese i u skladu sa egalitarnim principima, a ne samo u AI laboratorijama.
2. Osnaživanje. Verujemo da AI može da osnaži svakoga da ostvari svoje ciljeve, nauči više, bude srećniji i ispunjeniji i sledi svoje snove, i da će društvo u celini imati koristi od toga.
Za to je potrebno da ljudima omogućimo da istražuju ogroman potencijal koji je pred nama, i moramo da gradimo proizvode koji to omogućavaju. Korisnici bi trebalo pouzdano da mogu da obavljaju sve vrednije zadatke uz naše usluge.
Svet je raznolik i ljudi imaju različite potrebe. Želimo da našim korisnicima damo autonomiju koja im je potrebna i da im omogućimo onoliko koliko razumno možemo.
Iako želimo da našim korisnicima pružimo veoma široku slobodu u načinu na koji koriste naše usluge i čvrsto verujemo da će AI u celini doneti ogromnu korist, imamo odgovornost da ga razvijamo i uvodimo na način koji umanjuje štetu. To, naravno, uključuje sprečavanje katastrofalne štete, ali i smanjenje lokalnih šteta i izbegavanje mogućih razarajućih društvenih posledica. To znači da ćemo, u uslovima neizvesnosti, biti oprezniji i ublažavati ograničenja kada bude više dokaza.
3. Univerzalni prosperitet. Želimo budućnost u kojoj svako može da ima odličan život.
Verujemo da će, stavljanjem jednostavnih AI sistema sa velikom računarskom snagom u ruke svima, ljudi pronalaziti nove načine da stvaraju vrednost i masovno unaprede kvalitet života za sve, posebno kroz nova naučna otkrića.
Da bi prosperitet bio u potpunosti ostvaren i široko podeljen, verujemo da 1) naše vlade možda treba da razmotre nove ekonomske modele kako bi obezbedile da svi mogu da učestvuju u stvaranju vrednosti koje je pred nama i 2) moramo da izgradimo ogromne količine AI infrastrukture i razvijemo novu tehnologiju kako bismo znatno smanjili troškove AI infrastrukture.
Mnoge stvari koje radimo, a koje deluju neobično — kupovina ogromnih količina računarskih resursa dok su nam prihodi relativno mali, vertikalna integracija radi smanjenja troškova i lakšeg korišćenja naše tehnologije, podsticanje izgradnje data centara širom sveta i još mnogo toga — proizlaze iz našeg temeljnog verovanja u budućnost univerzalnog prosperiteta.
4. Otpornost. AI će doneti nove rizike, i radićemo sa drugim kompanijama, ekosistemima, vladama i društvom da ih rešavamo. Značajno ćemo koristiti resurse naše Fondacije da podržimo ovaj rad.
Nijedna AI laboratorija ne može sama da obezbedi dobru budućnost. Očigledan primer je da mogu postojati izuzetno sposobni modeli koji olakšavaju stvaranje novog patogena, i potreban nam je pristup na nivou celog društva da bismo se od toga branili merama koje nisu vezane za određeni patogen. Drugi primer je da, kako sajberbezbednosne sposobnosti modela rastu, moramo brzo da upotrebimo te modele kako bismo pomogli u zaštiti softvera otvorenog koda i kritične infrastrukture, uz istovremeno obučavanje modela da svima pomognu da stvaraju bezbedniji softver.
Ovo je proširenje naše dugogodišnje strategije iterativnog uvođenja; verujemo da društvo mora da se suoči sa svakim narednim nivoom AI sposobnosti, da ga razume, integriše i zajedno pronađe najbolji put napred. To ne može da se uradi u vakuumu; društvo i tehnologija se zajednički razvijaju, a za to je potrebno vreme.
Ne mislimo da je ovo naša jedina strategija bezbednosti; takođe moramo da pravimo bezbedne sisteme i nastavimo da postižemo velike rezultate u tehničkom usklađivanju.
Očekujemo da će biti perioda kada ćemo morati da sarađujemo sa vladama, međunarodnim agencijama i drugim AGI inicijativama kako bismo obezbedili da smo u dovoljnoj meri rešili ozbiljne probleme usklađivanja, bezbednosti ili društvenog uticaja pre nego što nastavimo dalje sa svojim radom.
5. Prilagodljivost. I dalje verujemo da je jedini način da odgovorimo na izazove veoma nepredvidive budućnosti da budemo spremni da ažuriramo svoje stavove kako budemo učili više. Takođe priznajemo da je OpenAI mnogo veća sila u svetu nego što je bio pre nekoliko godina, i bićemo transparentni u vezi s tim kada, kako i zašto se naši operativni principi menjaju. Kao konkretan primer, iako smo prilično sigurni da će univerzalni prosperitet ostati zaista važan, možemo da zamislimo periode u budućnosti kada ćemo morati da pravimo kompromise, žrtvujući deo osnaživanja zarad veće otpornosti.
Razvoj AI doneo je mnoga iznenađenja, a mnoga tek dolaze. Kako tehnologija napreduje, njena emergentna ponašanja postaće sve teža za predviđanje. Mi prihvatamo tu neizvesnost tako što pažljivo unapređujemo sposobnosti, uvodimo sisteme iterativno i učimo iz njihovih interakcija sa svetom.
Nije prošlo mnogo vremena otkako smo bili nervozni zbog objavljivanja težina GPT‑2 jer nismo bili sigurni kakav će biti uticaj na društvo. Očigledno je, gledano iz današnje perspektive, to bila pogrešna briga, ali nas je dovela do toga da otkrijemo strategiju iterativnog uvođenja, koja je bila jedna od najvažnijih stvari koje smo shvatili.
__
Ulazimo u veoma značajnu fazu dok tehnologija nastavlja da se unapređuje. Sasvim je opravdano kritikovati nas zbog svake odluke; zaslužujemo ogromnu meru preispitivanja s obzirom na težinu onoga što radimo. Nećemo sve uraditi kako treba, ali ćemo brzo učiti i korigovati kurs.
Posvećeni smo tome da damo svoj doprinos da budućnost bude bolja od prošlosti; smatramo se srećnima što imamo priliku da se bavimo ovako važnim poslom.
