Vsakih nekaj rodov nova tehnologija spremeni vse.
Predstavljajte si, da elektrika v dvajsetih letih 20. stoletja doseže podeželsko mesto v ZDA. Pred prihodom daljnovodov so vsakdanje življenje oblikovale fizične omejitve: prenašanje vode, ročno pranje oblačil, shranjevanje hrane z ledom in končanje velikega dela dneva, ko je zašlo sonce. Elektrika ni čez noč preoblikovala vsakega gospodinjstva in mnoge njene koristi so ljudi dosegle neenakomerno. Ko pa se je dostop širil, se je običajno življenje spremenilo. Svetloba ponoči je podaljšala dan. Električne črpalke, aparati in hlajenje so zmanjšali del najtežjega vsakodnevnega dela. Radijski sprejemniki so v domove in skupnostne prostore prinesli novice, glasbo in povezanost iz več sto kilometrov oddaljenih krajev.
Prva obljuba elektrike je bila praktična, njen globlji vpliv pa je izhajal iz novih možnosti, ki jih je odprla, ko jo je lahko uporabljalo vse več ljudi. Sčasoma se je pojavilo veliko novih možnosti, stroji in računalniki pa so močno pospešili napredek v medicini, inženirstvu in na številnih drugih področjih. Do konca 20. stoletja se je povprečna življenjska doba podaljšala za več kot 20 let, mediana dohodka, prilagojena inflaciji, pa se je približno potrojila. Te koristi so bile v veliki meri posledica napredka v zdravstvu, higienskih razmerah in življenjskem standardu, ki sta jih v mnogih primerih omogočila ali pospešila razširjena elektrifikacija in z njo povezan tehnološki napredek.
To se zdaj znova dogaja z umetno inteligenco. UI bo kmalu zmožna izjemnih stvari. Toda bistvo ni tehnologija sama po sebi. Bistveno je, kaj lahko ljudje z njo naredijo. Nekomu lahko pomaga razumeti račun za zdravstveno oskrbo, se naučiti nove veščine, ustanoviti majhno podjetje, skrbeti za ostarelega starša, razumeti pravno ali finančno odločitev, zamisel spremeniti v nekaj resničnega ali priti do znanstvenega odkritja.
Čeprav je čar svetlobe ponoči verjetno precej hitro zbledel, ni zbledelo to, kar so se ljudje odločili z njo početi. In ker je bila tehnologija skozi čas zanesljiv način za prinašanje blaginje, menimo, da bi morala biti UI na voljo vsem, da jo uporabljajo toliko, kot jo potrebujejo, in to kjer in kakor koli jo potrebujejo.
Ta prihodnost se ne bo zgodila samodejno. Preobrazbene tehnologije lahko moč koncentrirajo ali pa jo razširijo. Nekaterim lahko olajšajo življenje ali pa mnogim razširijo obzorje priložnosti. Naš pristop temelji na prepričanju, da mora UI delovati v korist ljudi: jim pomagati slediti lastnim ciljem, povečevati njihove zmožnosti in koristi te tehnologije razdeliti čim širše.
Naša prva zaveza je graditi UI v službi človeštva. To pomeni, da želimo ljudi široko opolnomočiti, ne pa videti moči skoncentrirane pri nekaj podjetjih, vladah ali posameznikih. Verjamemo, da je varnejša prihodnost tista, v kateri je moč široko porazdeljena, da lahko več sveta sodeluje pri gradnji ekosistema odpornosti.*
Glede UI smo optimistični, ker verjamemo, da lahko razširi človeške zmožnosti in blaginjo. Vendar se hkrati zavedamo tudi tveganj. Zmogljivi sistemi morajo ostati varni, usklajeni s človeškimi namerami in pod človeškim nadzorom. Naše poslanstvo pri OpenAI je zagotoviti, da SUI koristi vsemu človeštvu. To pomeni graditi sisteme, ki ljudem pomagajo narediti več tistega, kar izberejo sami, ne pa sistemov, ki nadomestijo človeško presojo o tem, kaj je pomembno.
Popolna avtomatizacija vsega ni prihodnost, ki si jo želimo. Bila bi neizpolnjujoča in nevarna. UI bi morala ljudem pomagati slediti njihovim ciljem, ne pa se od njih oddaljiti. Ko sistemi UI postajajo zmogljivejši, postaja človeška vloga pomembnejša: določanje smeri, sprejemanje kompromisov, uporaba presoje ter vnašanje vrednot, okusa, skrbi in odgovornosti v delo.
Ključna dolgoročna vloga ljudi bo odločanje o tem, kaj je vredno početi.
Verjamemo, da bo UI, ki opravlja umetnointeligenčne raziskave, v naslednjih nekaj letih postala odločilni dejavnik hitrosti napredka. To je pomembno, ker je usklajenost že sama po sebi težek raziskovalni problem. Za hiter in globok napredek bodo naši raziskovalci potrebovali sisteme UI, ki lahko pomagajo preizkušati zamisli, iskati napake, raziskovati alternative in izvajati ponovitve skupaj z nami.
Toda hitrejši tehnični napredek naredi človeško presojo in javno usklajevanje pomembnejša, ne manj pomembna. Prihodnost bi morali oblikovati ljudje, ustanove in družbe, ne le podjetja, ki gradijo najzmogljivejše sisteme.
Ker se razvoj prelomne UI nadaljuje, pričakujemo, da bo nacionalno in globalno usklajevanje postalo pomembnejše. Že od nekdaj verjamemo, da bi morala na najvišji ravni obstajati mednarodna organizacija, ki pomaga usklajevati vodilna prizadevanja na področju UI za zmanjšanje tveganja za katastrofo. Sodelovanje in skupni varnostni standardi so pomemben del poti naprej, še posebej zato, ker se je spodbudam z vidika komercialne in nacionalne konkurenčnosti težko izogniti. Eden od ciljev takšne organizacije bi moral biti svetu omogočiti usklajeno ukrepanje, vključno z upočasnitvijo razvoja na meji mogočega, kadar je to potrebno, da lahko družbena odpornost, varnost in usklajenost temu sledijo.
Zgraditi avtomatiziranega raziskovalca z umetno inteligenco – sistem umetne inteligence, ki lahko pospeši in vse bolj avtomatizira sam raziskovalni proces, pri tem pa ostane vodljiv, odgovoren in povezan z ljudmi. Naše notranje prepričanje je, da bi lahko do marca 2028 pomemben del naših raziskav opravljali sistemi UI skupaj z našimi raziskovalci. Verjamemo, da bomo za zadosten napredek pri usklajenosti potrebovali UI, ki bo izvajala ponovitve skupaj z nami. To nam bo pomagalo pri prehodu v svet po uvedbi SUI, da bomo lahko skupaj odločali o poti v prihodnost.
Pospešiti gospodarstvo s pospeševanjem znanstvenega napredka, produktivnosti in gospodarske rasti, hkrati pa si prizadevati, da bodo koristi široko porazdeljene. Vsakdo bi moral imeti priložnost za udeležbo v pomembnem deležu blaginje, ki jo ustvarja UI.
Vsem ljudem na Zemlji dati osebno SUI in jim omogočiti, da imajo koristi od ene najbolj preobrazbenih tehnologij človeštva na način, ki ga izberejo sami.
Da bi to lahko uresničili, pri OpenAI vstopamo v tretjo fazo.
Prva faza pri OpenAI je bila namenjena raziskavam na poti do SUI. Druga faza se je začela, ko so naše raziskave postale pomembne za resnični svet in smo postali produktno podjetje: uvajali smo svoje sisteme, se učili iz tega, kako jih ljudje uporabljajo, in nadaljevali napredek pri razvoju SUI, ki je varna in usklajena z našim poslanstvom.
Zdaj vstopamo v tretjo fazo. Gospodarstvo se začenja preoblikovati okoli UI. Zdaj je osrednje vprašanje, kako napredno UI narediti razširjeno, cenovno dostopno, varno, uporabno in dovolj preprosto, da ima lahko od nje koristi vsak človek in vsaka organizacija. Zmogljivost na meji mogočega je le del naloge. Večja izziv je to zmogljivost spremeniti v orodja, ki jih ljudje lahko dejansko uporabljajo za uspeh in blagostanje.
Predvsem verjamemo, da bo široka porazdelitev moči pomagala voditi v boljšo prihodnost. Človeška zgodovina kaže, da koncentrirana moč ustvarja krhkost, medtem ko široko porazdeljena moč družbe dela odpornejše, prilagodljivejše in svobodnejše.
Zato je dostop pomemben. Zato so pomembni tudi varnost, zasebnost, cenovna dostopnost, odprti ekosistemi in javni nadzor.
Svetla prihodnost UI ne more biti takšna, v kateri majhno število ustanov nadzoruje večino zmogljivosti in večino koristi. Takšna bi morala biti prihodnost, v kateri lahko številni ljudje, podjetja, skupnosti in države gradijo, žanjejo koristi in imajo moč v svojih rokah. Verjamemo, da bi ta preobrazba morala pripadati vsakomur.
Če nam to uspe, lahko UI postane temelj za večjo produktivnost, ustvarjalnost, znanstveni napredek in gospodarske priložnosti za mnoge, mi pa bomo dosegli svoje poslanstvo: zagotoviti, da SUI koristi vsemu človeštvu.
*Odpornost UI se nanaša na skupne organizacije, sisteme in posameznike, ki bi jih družba lahko vzpostavila za predvidevanje, prenašanje, prilagajanje in hitro okrevanje po motnjah, ki jih povzroča UI. Avtomobil je na primer preoblikoval družbo, vendar je postal široko koristen šele zato, ker so družbe okoli njega zgradile sisteme: varnostne pasove, prometne predpise, vozniška dovoljenja, preskuse trkov in cestno infrastrukturo. Cilj ni bil ljudem preprečiti vožnjo, temveč narediti zmogljivo tehnologijo dovolj odporno za široko uporabo.
