Jednou za několik generací přijde nová technologie, která změní všechno.
Představte si, že se elektřina ve 20. letech 20. století dostává do venkovského amerického města. Než dorazilo elektrické vedení, každodenní život určovaly fyzické limity: nošení vody, ruční praní prádla, uchovávání potravin pomocí ledu a konec velké části dne se západem slunce. Elektřina neproměnila každou domácnost přes noc a mnoho jejích přínosů se k lidem dostávalo nerovnoměrně. Jak se však přístup rozšiřoval, běžný život se měnil. Světlo v noci prodloužilo den. Elektrická čerpadla, spotřebiče a chlazení omezily část nejtěžší každodenní práce. Rádia přinášela do domovů a komunitních prostor zprávy, hudbu a spojení ze stovek mil daleko.
První příslib elektřiny byl praktický, ale její hlubší dopad vzešel z nových možností, které otevřela, když ji mohlo využívat více lidí. Postupem času se objevilo mnoho nových možností a stroje i počítače výrazně urychlily pokrok v medicíně, inženýrství a mnoha dalších oborech. Do konce 20. století se průměrná délka života zvýšila o více než 20 let a medián příjmu očištěného o inflaci se zhruba ztrojnásobil. Tyto zisky byly do značné míry taženy pokroky ve zdravotní péči, hygieně a životní úrovni, z nichž mnohé umožnila nebo urychlila široká elektrifikace a související technologický pokrok.
Totéž se nyní děje s AI. AI bude brzy schopna mimořádných věcí. Nejde však o technologii samu o sobě. Jde o to, co s ní mohou dělat lidé. Může někomu pomoci zorientovat se v účtu za zdravotní péči, naučit se novou dovednost, založit malý podnik, pečovat o stárnoucího rodiče, porozumět právnímu nebo finančnímu rozhodnutí, proměnit nápad ve skutečnost nebo učinit vědecký objev.
Úžas ze světla v noci pravděpodobně poměrně rychle vyprchal, ale to, co se s ním lidé rozhodli dělat, nikoli. A protože technologie byla v průběhu času spolehlivým způsobem, jak přinášet prosperitu, myslíme si, že AI by měla být dostupná všem, aby ji mohli používat tolik, kolik potřebují, tam a tak, jak ji potřebují.
Taková budoucnost nenastane automaticky. Transformativní technologie mohou moc soustřeďovat, nebo ji mohou rozšiřovat. Mohou usnadnit život několika málo lidem, nebo rozšířit příležitosti pro mnohé. Náš přístup vychází z přesvědčení, že AI má sloužit lidem: pomáhat jim sledovat jejich vlastní cíle, rozšiřovat jejich schopnosti a šířit přínosy této technologie co nejšířeji.
Naším prvním závazkem je budovat AI ve službách lidstva. To znamená, že chceme lidi široce posilovat, ne sledovat, jak se moc soustřeďuje u několika firem, vlád nebo jednotlivců. Věříme, že bezpečnější budoucnost je taková, kde je moc široce rozdělená, aby se větší část světa mohla podílet na budování ekosystému odolnosti.*
Jsme ohledně AI optimističtí, protože věříme, že může rozšířit lidské schopnosti a prosperitu. Zároveň si však rizika uvědomujeme bez iluzí. Výkonné systémy musí zůstat bezpečné, sladěné s lidským záměrem a pod lidskou kontrolou. Posláním OpenAI je zajistit, aby AGI prospívala celému lidstvu. To znamená budovat systémy, které lidem pomáhají dělat více toho, co si zvolí, nikoli systémy, které nahrazují lidský úsudek o tom, na čem záleží.
Úplná automatizace všeho není budoucnost, kterou chceme. Byla by nenaplňující a nebezpečná. AI by měla lidem pomáhat sledovat jejich cíle, ne se od nich odpoutat. Jak se systémy AI stávají schopnějšími, lidská role je důležitější: určovat směr, činit kompromisy, uplatňovat úsudek a vnášet do práce hodnoty, vkus, péči a odpovědnost.
Klíčovou dlouhodobou rolí lidí bude rozhodovat, co stojí za to dělat.
Věříme, že AI provádějící výzkum AI se v příštích několika letech stane určujícím faktorem tempa pokroku. Na tom záleží, protože sladění je samo o sobě obtížný výzkumný problém. Abychom dosáhli rychlého a hlubokého pokroku, budou naši výzkumníci potřebovat systémy AI, které pomohou testovat nápady, hledat chyby, zkoumat alternativy a iterovat spolu s námi.
Rychlejší technický pokrok však činí lidský úsudek a veřejnou koordinaci důležitějšími, nikoli méně důležitými. Budoucnost by měli utvářet lidé, instituce a společnosti, nejen firmy vytvářející nejschopnější systémy.
S pokračujícím vývojem špičkové AI očekáváme, že národní i globální koordinace bude stále důležitější. Již dlouho věříme, že nakonec by měla existovat mezinárodní organizace, která pomůže koordinovat přední úsilí v oblasti AI s cílem snížit katastrofická rizika. Spolupráce a sdílené bezpečnostní standardy jsou důležitou součástí cesty vpřed, zejména proto, že pobídkám spojeným s komerční a národní soutěží je těžké uniknout. Jedním z cílů takové organizace by mělo být umožnit světu jednat koordinovaně, včetně zpomalení vývoje špičkových systémů, když je to potřeba, aby společenská odolnost, bezpečnost a sladění dokázaly držet krok.
Vybudovat automatizovaného výzkumníka AI — systém umělé inteligence, který dokáže urychlit a stále více automatizovat samotný výzkumný proces, a přitom zůstat řiditelný, odpovědný a propojený s lidmi. Interně věříme, že nejpozději v březnu 2028 může významnou část našeho výzkumu provádět systémy AI ve spolupráci s našimi vlastními výzkumníky. Abychom dosáhli dostatečného pokroku ve sladění, věříme, že budeme potřebovat AI, které budou iterovat spolu s námi. To nám pomůže zvládnout přechod do světa po AGI tak, abychom společně rozhodli o cestě do budoucnosti.
Urychlit ekonomiku urychlením vědeckého pokroku, produktivity a hospodářského růstu a zároveň pracovat na tom, aby se zisky široce sdílely. Každý by měl mít příležitost získat smysluplný podíl na prosperitě, kterou AI vytvoří.
Dát každému člověku na Zemi osobní AGI, aby mohl těžit z jedné z nejvíce transformativních technologií lidstva způsobem, který si zvolí.
Abychom to dokázali naplnit, vstupujeme do třetí fáze OpenAI.
První fáze OpenAI byla zaměřena na výzkum směřující k AGI. Druhá fáze začala, když se náš výzkum stal relevantním pro skutečný svět a my jsme se stali produktovou společností: nasazovali jsme naše systémy, učili se z toho, jak je lidé používají, a pokračovali v pokroku směrem k AGI, která je bezpečná a sladěná s naším posláním.
Nyní vstupujeme do třetí fáze. Ekonomika se začíná přetvářet kolem AI. Ústřední otázkou nyní je, jak zajistit, aby pokročilá AI byla hojná, dostupná, bezpečná, užitečná a dostatečně snadno použitelná, aby z ní mohl těžit každý člověk i organizace. Špičkové schopnosti jsou jen částí úkolu. Větším úkolem je proměnit tyto schopnosti v nástroje, které lidé mohou skutečně používat ke svému prospěchu.
Především věříme, že široké rozdělení moci pomůže vést k lepší budoucnosti. Lidské dějiny ukazují, že soustředěná moc vytváří křehkost, zatímco široce sdílená moc činí společnosti odolnějšími, přizpůsobivějšími a svobodnějšími.
Proto na přístupu záleží. A proto záleží také na bezpečnosti, soukromí, dostupnosti, otevřených ekosystémech a veřejném dohledu.
Dobrá budoucnost AI nemůže být taková, v níž malý počet institucí ovládá většinu schopností a většinu přínosů. Měla by to být budoucnost, v níž může mnoho lidí, firem, komunit a zemí tvořit, těžit z ní a držet moc. Věříme, že tato transformace by měla patřit všem.
Pokud se nám to podaří, AI se může stát základem vyšší produktivity, kreativity, vědeckého pokroku a ekonomických příležitostí pro mnohé a my naplníme své poslání: zajistit, aby AGI prospívala celému lidstvu.
*Odolnost vůči AI označuje soubor organizací, systémů a jednotlivců, které by společnost mohla zavést, aby dokázala předvídat narušení způsobená AI, odolat jim, přizpůsobit se jim a rychle se z nich zotavit. Například automobil proměnil společnost, ale široce prospěšným se stal až proto, že kolem něj společnosti vybudovaly systémy: bezpečnostní pásy, dopravní předpisy, řidičské průkazy, nárazové testy a silniční infrastrukturu. Cílem nebylo zabránit lidem řídit — šlo o to učinit mocnou technologii dostatečně odolnou pro široké použití.
