AI má potenciál výrazně zlepšit mnoho aspektů společnosti.
Tato technologie, stejně jako jiné před ní, dá lidem větší schopnosti a vliv. To, co lidé s AI dokáží, dalece překoná to, co dokázali se parními stroji nebo elektřinou.
Představujeme si svět široce sdíleného rozkvětu na úrovni, kterou je dnes těžké si představit, a svět, v němž se výrazně zvýší individuální potenciál, autonomie a naplnění. Mnoho věcí, o nichž jsme si dosud dovolili jen snít ve sci-fi, by se mohlo stát skutečností a většina lidí by mohla žít smysluplnější život než dnes.
Tento výsledek ale není zaručen. Moc v budoucnu může držet buď malá hrstka společností, které používají a ovládají superinteligenci, nebo může být decentralizovaně v rukou lidí. Věříme, že druhá možnost je mnohem lepší, a naším cílem je dát obecnou AI skutečně do rukou co nejvíce lidem. Stejně jako přítomnost nebude ani budoucnost jen špatná nebo jen dobrá, ale rozhodnutí, která děláme dnes, mohou pomoci maximalizovat to dobré.
Naším posláním je zajistit, aby AGI přinášela prospěch celému lidstvu. Zde jsou principy, kterými se řídí naše snahy.
1. Demokratizace. Budeme bojovat proti tomu, aby tato technologie soustřeďovala moc v rukou několika málo lidí.
To znamená, že kromě toho, abychom všem dali přístup k AI, musíme také zajistit, aby se klíčová rozhodnutí o AI přijímala prostřednictvím demokratických procesů a na základě principů rovnosti, a ne jen v AI laboratořích.
2. Posílení. Věříme, že AI může každému pomoci dosahovat jeho cílů, více se učit, být šťastnější a naplněnější a jít za svými sny, a že z toho bude těžit společnost jako celek.
Dosažení toho vyžaduje, abychom lidem umožnili zkoumat obrovský potenciál, který je před námi, a musíme vytvářet produkty, které to umožní. Uživatelé by měli být schopni plnit s našimi službami spolehlivě stále hodnotnější úkoly.
Svět je rozmanitý a lidé mají různé potřeby. Chceme našim uživatelům nabídnout potřebnou autonomii a umožnit co nejvíce toho, co je rozumně možné.
Ačkoli chceme našim uživatelům dát velmi široký prostor při používání našich služeb a pevně věříme, že AI bude celkově obrovským přínosem, máme odpovědnost ji vytvářet a nasazovat způsobem, který minimalizuje škody. To samozřejmě zahrnuje předcházení katastrofickým škodám, ale také minimalizaci lokálních škod a vyhýbání se potenciálně rozkladným společenským dopadům. Znamená to přiklánět se v podmínkách nejistoty k opatrnosti a s rostoucím množstvím důkazů omezení uvolňovat.
3. Univerzální prosperita. Chceme budoucnost, v níž může mít každý skvělý život.
Tím, že dáme každému snadno použitelné systémy AI s velkým výpočetním výkonem, věříme, že lidé najdou nové způsoby, jak vytvářet hodnotu a masivně zlepšovat kvalitu života pro všechny, zejména díky objevům nové vědy.
Jsme přesvědčeni, že k tomu, aby se prosperita mohla plně uskutečnit a byla široce sdílena, budou muset naše vlády zvážit nové ekonomické modely, aby se každý mohl podílet na tvorbě hodnoty, která je před námi. My pak musíme vybudovat obrovské množství AI infrastruktury a vyvinout nové technologie, které výrazně sníží náklady na AI infrastrukturu.
Mnoho věcí, které děláme a které mohou působit zvláštně, jako je nakupování obrovského množství výpočetního výkonu, zatímco naše příjmy jsou relativně malé, vertikální integrace za účelem snížení nákladů a snadnějšího používání našich technologií, tlak na budování datových center po celém světě a mnohé další, vychází z našeho základního přesvědčení o budoucnosti univerzální prosperity.
4. Odolnost. AI přinese nová rizika a my budeme spolupracovat s dalšími společnostmi, ekosystémy, vládami i společností na jejich řešení. Na podporu této práce významně využijeme zdroje naší nadace.
Žádná AI laboratoř sama o sobě nemůže zajistit dobrou budoucnost. Jasným příkladem mohou být velmi schopné modely, které usnadní vytvoření nového patogenu. My pak potřebujeme celospolečenský přístup k obraně proti tomu pomocí protiopatření nezávislých na konkrétním patogenu. Dalším příkladem je skutečnost, kdy s rostoucími kyberbezpečnostními schopnostmi modelů musíme tyto modely rychle využít k zabezpečení open-source softwaru a kritické infrastruktury a zároveň je trénovat tak, aby všem pomáhaly vytvářet bezpečnější software.
Jde o rozšíření naší dlouhodobé strategie postupného nasazování; věříme, že společnost se musí vyrovnat s každou další úrovní schopností AI, porozumět jí, integrovat ji a společně najít nejlepší cestu vpřed. To nelze dělat ve vakuu; společnost a technologie se společně vyvíjejí, a to vyžaduje čas.
Nepovažujeme to za naši jedinou bezpečnostní strategii. Zároveň musíme vytvářet bezpečné systémy a pokračovat ve skvělé práci na technickém souladu.
Očekáváme, že nastanou období, kdy budeme muset před pokračováním v naší práci spolupracovat s vládami, mezinárodními agenturami a dalšími iniciativami v oblasti AGI, abychom měli jistotu, že jsme dostatečně vyřešili závažné problémy souladu, bezpečnosti nebo společenských dopadů.
5. Přizpůsobivost. Nadále jsme přesvědčeni, že jediný způsob, jak čelit výzvám velmi nepředvídatelné budoucnosti, je být připraveni své postoje aktualizovat, jakmile se dozvíme více. Zároveň si uvědomujeme, že OpenAI je dnes ve světě mnohem významnější silou než před několika lety, a budeme transparentně informovat o tom, kdy, jak a proč se naše provozní principy mění. Jako konkrétní příklad: i když jsme si poměrně jisti, že univerzální prosperita zůstane opravdu důležitá, dovedeme si v budoucnu představit období, kdy budeme muset obětovat část posilování ve prospěch větší odolnosti.
Vývoj AI přinesl mnoho překvapení a další ještě přijdou. Jak technologie postupuje, bude stále těžší předvídat, jaké nové způsoby chování se objeví. Tuto nejistotu akceptujeme tím, že schopnosti rozvíjíme opatrně, systémy nasazujeme postupně a učíme se z jejich interakcí se světem.
Není to tak dávno, co jsme měli obavy z vydání vah GPT‑2, protože jsme si nebyli jisti, jaké budou dopady na společnost. S odstupem je zjevné, že to byla mylná obava, ale vedla nás k objevení strategie postupného nasazování, což je jedna z nejdůležitějších věcí, na které jsme přišli.
__
Vstupujeme do velmi významné fáze, protože se technologie dál zlepšuje. Je zcela fér kritizovat nás za každé rozhodnutí; vzhledem k závažnosti toho, co děláme, si zasloužíme obrovskou míru kontroly. Nedaří se nám dělat všechno správně, ale budeme se rychle učit a upravovat směr.
Jsme odhodláni přispět svým dílem k tomu, aby byla budoucnost lepší než minulost; považujeme za štěstí, že se můžeme věnovat tak důležité práci.
