UI ima potencial, da bistveno izboljša številne vidike družbe.
Ta tehnologija bo tako kot druge pred njo ljudem dala več zmožnosti in avtonomije; to, kar bodo ljudje lahko počeli z UI, bo daleč preseglo to, kar so lahko počeli s parnimi stroji ali elektriko.
Predstavljamo si svet vsesplošnega razcveta na ravni, ki si jo je trenutno težko predstavljati, in svet, v katerem se bodo individualni potencial, avtonomija in izpolnjenost bistveno povečali. Veliko stvari, o katerih smo si doslej dovolili le sanjati v znanstveni fantastiki, bi lahko postalo resničnost, in večina ljudi bi lahko živela bolj smiselna življenja, kot jih večina lahko živi danes.
Vendar ta izid ni zagotovljen. Moč v prihodnosti je lahko v rokah peščice podjetij, ki uporabljajo in nadzorujejo superinteligenco, ali pa jo bodo na decentraliziran način imeli ljudje. Verjamemo, da je druga možnost veliko boljša, in naš cilj je dati resnično splošno UI v roke čim več ljudem. Tako kot sedanjost tudi prihodnost ne bo niti povsem slaba niti povsem dobra, vendar lahko odločitve, ki jih sprejmemo zdaj, pomagajo povečati dobro.
Naše poslanstvo je zagotoviti, da SUI koristi vsemu človeštvu. Tukaj so načela, ki usmerjajo naše delo.
1. Demokratizacija. Uprli se bomo možnosti, da bi ta tehnologija skoncentrirala moč v rokah peščice.
To pomeni, da moramo poleg tega, da vsem omogočimo dostop do UI, zagotoviti tudi, da se ključne odločitve o UI sprejemajo po demokratičnih procesih in na podlagi egalitarnih načel, ne pa le v laboratorijih za UI.
2. Opolnomočenje. Verjamemo, da lahko UI vsakomur omogoči, da doseže svoje cilje, se več nauči, je srečnejši in bolj izpolnjen ter sledi svojim sanjam, in da bo od tega imela korist tudi družba kot celota.
Za to moramo ljudem omogočiti raziskovanje ogromnega potenciala pred nami, zato moramo graditi izdelke, ki to omogočajo. Uporabniki bi morali z našimi storitvami zanesljivo opravljati vse vrednejše naloge.
Svet je raznolik in ljudje imajo različne potrebe. Svojim uporabnikom želimo dati avtonomijo, ki jo potrebujejo, in dovoliti čim več, kolikor je to razumno mogoče.
Čeprav želimo svojim uporabnikom dati zelo široko svobodo pri uporabi naših storitev in trdno verjamemo, da bo UI na splošno izjemno koristna, smo odgovorni, da jo razvijamo in uvajamo na način, ki zmanjšuje škodo. To seveda vključuje preprečevanje katastrofalne škode, pa tudi zmanjševanje lokalnih škod in izogibanje morebitnim razkrojnim družbenim učinkom. To pomeni previdnost ob negotovosti in rahljanje omejitev ob več dokazih.
3. Splošna blaginja. Želimo prihodnost, v kateri ima lahko vsak odlično življenje.
Verjamemo, da bodo ljudje z enostavnimi sistemi UI z veliko računske moči v rokah vseh našli nove načine za ustvarjanje vrednosti in množično izboljšali kakovost življenja za vse, zlasti z odkrivanjem nove znanosti.
Da bi se blaginja v celoti uresničila in bila široko deljena, verjamemo, da 1) bodo naše vlade morda morale razmisliti o novih ekonomskih modelih, da bi lahko vsi sodelovali pri ustvarjanju vrednosti pred nami, in 2) moramo zgraditi ogromne količine infrastrukture UI ter razviti novo tehnologijo za močno znižanje stroškov infrastrukture UI.
Veliko stvari, ki jih počnemo in so videti nenavadne – kupovanje ogromnih količin računske moči, čeprav so naši prihodki razmeroma majhni, vertikalna integracija za znižanje stroškov in lažjo uporabo naše tehnologije, prizadevanja za gradnjo podatkovnih centrov po vsem svetu in še veliko več – izhaja iz našega temeljnega prepričanja v prihodnost splošne blaginje.
4. Odpornost. UI bo prinesla nova tveganja, zato bomo pri njihovem reševanju sodelovali z drugimi podjetji, ekosistemi, vladami in družbo. Za podporo temu delu bomo v veliki meri uporabili vire naše fundacije.
Noben laboratorij za UI sam ne more zagotoviti dobre prihodnosti. Očiten primer je, da lahko nastanejo izjemno zmogljivi modeli, ki olajšajo ustvarjanje novega patogena, zato potrebujemo pristop celotne družbe za obrambo pred tem z ukrepi, ki niso odvisni od posameznega patogena. Drug primer je, da moramo ob naraščanju kibernetskih zmogljivosti modelov te modele hitro uporabiti za zaščito odprtokodne programske opreme in kritične infrastrukture, hkrati pa modele učiti, da pomagajo vsem ustvarjati varnejšo programsko opremo.
To je razširitev naše dolgoletne strategije iterativnega uvajanja; verjamemo, da se mora družba spopasti z vsako naslednjo ravnjo zmogljivosti UI, jo razumeti, vključiti in skupaj ugotoviti najboljšo pot naprej. Tega ni mogoče storiti v vakuumu; družba in tehnologija se sooblikujeta, za to pa je potreben čas.
To ni mišljeno kot naša edina varnostna strategija; razvijati moramo tudi varne sisteme in še naprej odlično delati na tehničnem usklajevanju.
Pričakujemo obdobja, ko bomo morali sodelovati z vladami, mednarodnimi agencijami in drugimi pobudami na področju SUI, da zagotovimo, da smo zadostno rešili resne težave usklajevanja, varnosti ali družbenih učinkov, preden nadaljujemo z delom.
5. Prilagodljivost. Še naprej verjamemo, da je edini način za soočanje z izzivi zelo nepredvidljive prihodnosti pripravljenost spremeniti stališča, ko izvemo več. Zavedamo se tudi, da je OpenAI v svetu veliko večja sila, kot je bila pred nekaj leti, in bomo pregledni glede tega, kdaj, kako in zakaj se naša operativna načela spreminjajo. Kot konkreten primer: čeprav smo precej prepričani, da bo splošna blaginja ostala zelo pomembna, si lahko predstavljamo obdobja v prihodnosti, ko bomo morali del opolnomočenja zamenjati za več odpornosti.
Razvoj UI je prinesel veliko presenečenj, še več pa jih prihaja. Z napredovanjem tehnologije bo njeno emergentno vedenje vse težje napovedovati. To negotovost sprejemamo tako, da zmogljivosti napredujemo previdno, sisteme uvajamo iterativno in se učimo iz njihovih interakcij s svetom.
Ni še tako dolgo, kar nas je skrbelo objaviti uteži modela GPT‑2, ker nismo bili prepričani, kakšni bodo vplivi na družbo. Gledano nazaj je to očitno bila neutemeljena skrb, vendar nas je pripeljala do odkritja strategije iterativnega uvajanja, ki je bila ena od naših najpomembnejših odkritij.
__
Vstopamo v zelo vplivno fazo, saj se tehnologija še naprej izboljšuje. Povsem upravičeno je, da nas kritizirajo pri vsaki odločitvi; zaslužimo si izjemno veliko presoje glede na težo tega, kar počnemo. Ne bomo imeli vedno prav, vendar se bomo hitro učili in popravili smer.
Zavezani smo, da bomo opravili svoj del pri tem, da bo prihodnost boljša od preteklosti; hvaležni smo, da lahko prevzamemo tako pomembno delo.
