Každých niekoľko generácií príde nová technológia, ktorá všetko zmení.
Predstavte si, ako sa v 20. rokoch 20. storočia dostáva elektrina do vidieckeho amerického mestečka. Pred príchodom elektrického vedenia každodenný život určovali fyzické obmedzenia: nosenie vody, ručné pranie, uchovávanie potravín pomocou ľadu a ukončenie veľkej časti dňa po západe slnka. Elektrina nepremenila každú domácnosť zo dňa na deň a mnohé jej prínosy sa k ľuďom dostávali nerovnomerne. No ako sa prístup rozširoval, bežný život sa menil. Svetlo v noci predĺžilo deň. Elektrické čerpadlá, spotrebiče a chladenie zmiernili časť najťažšej každodennej práce. Rádiá priniesli do domácností a komunitných priestorov správy, hudbu a spojenie zo vzdialenosti stoviek míľ.
Prvý prísľub elektriny bol praktický, no jej hlbší vplyv vyplynul z nových možností, ktoré otvorila, keď ju mohlo používať viac ľudí. Postupom času sa objavilo mnoho nových možností, pričom stroje a počítače výrazne urýchlili pokrok v medicíne, inžinierstve a mnohých ďalších oblastiach. Do konca 20. storočia sa priemerná dĺžka života zvýšila o viac než 20 rokov a medián príjmu očistený o infláciu sa približne strojnásobil. Tieto prínosy boli do veľkej miery poháňané pokrokmi v zdravotnej starostlivosti, hygiene a životnej úrovni, z ktorých mnohé umožnila alebo urýchlila rozsiahla elektrifikácia a súvisiaci technologický pokrok.
To isté sa znova deje s AI. AI bude čoskoro schopná mimoriadnych vecí. Podstatou však nie je samotná technológia. Podstatné je, čo s ňou môžu robiť ľudia. Môže niekomu pomôcť zorientovať sa v účte za zdravotnú starostlivosť, naučiť sa novú zručnosť, založiť malú firmu, starať sa o starnúceho rodiča, pochopiť právne alebo finančné rozhodnutie, premeniť nápad na niečo skutočné alebo urobiť vedecký objav.
Hoci úžas zo svetla v noci pravdepodobne pominul pomerne rýchlo, to, čo sa ľudia rozhodli s ním robiť, nepominulo. A keďže technológia je dlhodobo spoľahlivým spôsobom, ako prinášať prosperitu, myslíme si, že AI by mala byť dostupná každému, aby ju mohol používať tak často, ako potrebuje, tam a tak, ako ju potrebuje.
Táto budúcnosť nenastane automaticky. Transformačné technológie môžu moc sústreďovať alebo ju môžu rozširovať. Môžu uľahčiť život niekoľkým, alebo môžu rozšíriť príležitosti pre mnohých. Náš prístup vychádza z presvedčenia, že AI by mala slúžiť ľuďom: pomáhať im sledovať vlastné ciele, zvyšovať ich schopnosti a rozdeľovať prínosy tejto technológie čo najširšie.
Naším prvým záväzkom je budovať AI v službe ľudstvu. To znamená, že chceme posilňovať ľudí v širokom meradle, nie vidieť moc sústredenú v rukách niekoľkých firiem, vlád alebo jednotlivcov. Veríme, že bezpečnejšia budúcnosť je taká, v ktorej je moc široko rozdelená, aby sa väčšia časť sveta mohla podieľať na budovaní ekosystému odolnosti.*
V otázke AI sme optimisti, pretože veríme, že môže rozšíriť ľudské schopnosti a prosperitu. Zároveň však riziká vidíme jasne. Výkonné systémy musia zostať bezpečné, zosúladené s ľudským zámerom a pod ľudskou kontrolou. Misiou OpenAI je zabezpečiť, aby AGI prospievala celému ľudstvu. To znamená budovať systémy, ktoré pomáhajú ľuďom robiť viac z toho, čo si vyberú, nie systémy, ktoré nahrádzajú ľudský úsudok o tom, na čom záleží.
Úplná automatizácia všetkého nie je budúcnosť, ktorú chceme. Bolo by to nenaplňujúce a nebezpečné. AI by mala ľuďom pomáhať sledovať ich ciele, nie sa od nich odpútať. Ako sa systémy AI stávajú schopnejšími, ľudská úloha je dôležitejšia: určovať smer, robiť kompromisy, uplatňovať úsudok a prinášať do práce hodnoty, vkus, starostlivosť a zodpovednosť.
Kľúčovou dlhodobou úlohou ľudí bude rozhodovať, čo stojí za to robiť.
Veríme, že AI vykonávajúca výskum AI sa v najbližších rokoch stane rozhodujúcim faktorom tempa pokroku. Je to dôležité, pretože zosúladenie je samo osebe náročný výskumný problém. Na dosiahnutie rýchleho a hlbokého pokroku budú naši výskumníci potrebovať systémy AI, ktoré pomôžu testovať nápady, nachádzať chyby, skúmať alternatívy a iterovať spolu s nami.
Rýchlejší technický pokrok však robí ľudský úsudok a verejnú koordináciu dôležitejšími, nie menej dôležitými. Budúcnosť by mali formovať ľudia, inštitúcie a spoločnosti, nielen firmy budujúce najschopnejšie systémy.
Ako bude pokračovať vývoj špičkovej AI, očakávame, že národná a globálna koordinácia bude čoraz dôležitejšia. Už dlho veríme, že napokon by mala existovať medzinárodná organizácia, ktorá pomáha koordinovať popredné úsilie v oblasti AI s cieľom znížiť katastrofické riziko. Spolupráca a spoločné bezpečnostné štandardy sú dôležitou súčasťou cesty vpred, najmä preto, že motiváciám spojeným s komerčnou a národnou konkurenciou sa ťažko uniká. Jedným z cieľov takejto organizácie by malo byť umožniť svetu konať koordinovane vrátane spomalenia vývoja špičkovej AI, keď je to potrebné, aby spoločenská odolnosť, bezpečnosť a zosúladenie dokázali držať krok.
Vybudovať automatizovaného výskumníka AI – systém AI, ktorý dokáže zrýchliť a čoraz viac automatizovať samotný výskumný proces, pričom zostane riaditeľný, zodpovedný a prepojený s ľuďmi. Interne veríme, že do marca 2028 môže značnú časť nášho výskumu vykonávať AI v spolupráci s našimi vlastnými výskumníkmi. Veríme, že na dosiahnutie dostatočného pokroku v zosúladení budeme potrebovať, aby AI iterovali spolu s nami. Pomôže nám to zvládnuť prechod do sveta po AGI tak, aby sme o ceste do budúcnosti rozhodovali spoločne.
Urýchliť ekonomiku tým, že urýchlime vedecký pokrok, produktivitu a hospodársky rast a zároveň budeme pracovať na tom, aby sa prínosy široko zdieľali. Každý by mal mať príležitosť získať zmysluplný podiel na prosperite, ktorú AI vytvára.
Dať každému človeku na Zemi osobnú AGI a umožniť mu využívať jednu z najtransformačnejších technológií ľudstva spôsobom, ktorý si sám zvolí.
Aby sme to dokázali naplniť, vstupujeme do tretej fázy OpenAI.
Prvá fáza OpenAI bola zameraná na výskum smerom k AGI. Druhá fáza sa začala, keď sa náš výskum stal relevantným pre skutočný svet a stali sme sa produktovou spoločnosťou: nasadzovali sme naše systémy, učili sa z toho, ako ich ľudia používajú, a ďalej napredovali k AGI, ktorá je bezpečná a v súlade s našou misiou.
Teraz vstupujeme do tretej fázy. Ekonomika sa začína pretvárať okolo AI. Ústrednou otázkou je teraz to, ako zabezpečiť, aby bola pokročilá AI hojná, cenovo dostupná, bezpečná, užitočná a dostatočne jednoduchá na to, aby z nej mohol mať úžitok každý človek a každá organizácia. Špičkové schopnosti sú len časťou úlohy. Väčšou úlohou je premeniť tieto schopnosti na nástroje, ktoré ľudia dokážu skutočne používať na svoj rozvoj.
Predovšetkým veríme, že široké rozdelenie moci pomôže viesť k lepšej budúcnosti. Ľudské dejiny ukazujú, že sústredená moc vytvára krehkosť, zatiaľ čo široko zdieľaná moc robí spoločnosti odolnejšími, prispôsobivejšími a slobodnejšími.
Preto na prístupe záleží. A preto záleží aj na bezpečnosti, súkromí, cenovej dostupnosti, otvorených ekosystémoch a verejnom dohľade.
Dobrá budúcnosť AI nemôže byť taká, v ktorej malý počet inštitúcií ovláda väčšinu schopností a väčšinu prínosov. Mala by to byť budúcnosť, v ktorej môže mnoho ľudí, firiem, komunít a krajín tvoriť, mať prospech a držať moc. Veríme, že táto transformácia by mala patriť všetkým.
Ak sa nám to podarí, AI sa môže stať základom väčšej produktivity, tvorivosti, vedeckého pokroku a ekonomických príležitostí pre mnohých a dosiahneme našu misiu: zabezpečiť, aby AGI prospievala celému ľudstvu.
*Odolnosť voči AI označuje súbor organizácií, systémov a jednotlivcov, ktoré by spoločnosť mohla zaviesť, aby dokázala predvídať narušenia spôsobené AI, odolávať im, prispôsobiť sa im a rýchlo sa z nich zotaviť. Napríklad automobil zmenil spoločnosť, ale široko prospešným sa stal až preto, že spoločnosti okolo neho vybudovali systémy: bezpečnostné pásy, dopravné predpisy, vodičské preukazy, nárazové testy a cestnú infraštruktúru. Cieľom nebolo zastaviť ľudí v šoférovaní – išlo o to, aby bola výkonná technológia dostatočne odolná na široké používanie.
