AI má potenciál výrazne zlepšiť mnohé aspekty spoločnosti.
Táto technológia, podobne ako iné pred ňou, dá ľuďom viac schopností a samostatnosti; to, čo budú ľudia môcť robiť s AI, ďaleko presiahne to, čo dokázali so parnými strojmi alebo elektrinou.
Predstavujeme si svet so široko rozšíreným rozkvetom na úrovni, ktorú si dnes len ťažko vieme predstaviť, a svet, v ktorom sa výrazne zvýšia individuálny potenciál, samostatnosť a naplnenie. Mnohé z vecí, o ktorých sme si doteraz dovolili len snívať v sci-fi, sa môžu stať skutočnosťou a väčšina ľudí by mohla žiť zmysluplnejšie životy, než aké dnes väčšina môže viesť.
Tento výsledok však nie je zaručený. Moc v budúcnosti môže byť buď v rukách malej hŕstky firiem, ktoré používajú a kontrolujú superinteligenciu, alebo môže byť decentralizovane v rukách ľudí. Veríme, že druhá možnosť je oveľa lepšia, a naším cieľom je dostať skutočne všeobecnú AI do rúk čo najväčšieho počtu ľudí. Tak ako súčasnosť, ani budúcnosť nebude úplne zlá ani úplne dobrá, no rozhodnutia, ktoré urobíme teraz, môžu pomôcť maximalizovať to dobré.
Naším poslaním je zabezpečiť, aby AGI prinášala úžitok celému ľudstvu. Toto sú zásady, ktoré usmerňujú našu prácu.
1. Demokratizácia. Budeme sa stavať proti tomu, aby táto technológia sústreďovala moc v rukách niekoľkých málo ľudí.
To znamená, že okrem poskytovania prístupu k AI všetkým musíme zabezpečiť aj to, aby sa kľúčové rozhodnutia o AI prijímali demokratickými procesmi a na základe rovnostárskych princípov, a nielen v AI laboratóriách.
2. Posilnenie. Veríme, že AI môže každému pomôcť dosahovať svoje ciele, viac sa učiť, byť šťastnejší a naplnenejší a ísť si za svojimi snami, a že z toho bude mať prospech celá spoločnosť.
Dosiahnuť to si vyžaduje, aby sme ľuďom umožnili skúmať obrovský potenciál, ktorý je pred nami, a musíme vytvárať produkty, ktoré to umožnia. Používatelia by mali byť schopní spoľahlivo vykonávať s našimi službami čoraz hodnotnejšie úlohy.
Svet je rozmanitý a ľudia majú rôzne potreby. Chceme našim používateľom dať potrebnú autonómiu a dovoliť čo najviac z toho, čo je rozumné.
Hoci chceme našim používateľom poskytnúť veľmi široký priestor na to, ako využívajú naše služby, a pevne veríme, že AI bude celkovo nesmierne prínosná, máme zodpovednosť vytvárať a nasadzovať ju spôsobom, ktorý minimalizuje škody. To, samozrejme, zahŕňa predchádzanie katastrofickým škodám, ale aj minimalizáciu lokálnych škôd a vyhýbanie sa možným rozkladným spoločenským účinkom. To bude znamenať prikláňať sa v neistote skôr k opatrnosti a uvoľňovať obmedzenia s pribúdajúcimi dôkazmi.
3. Univerzálna prosperita. Chceme budúcnosť, v ktorej môže mať každý vynikajúci život.
Veríme, že tým, že dáme ľuďom do rúk ľahko použiteľné systémy AI s veľkým výpočtovým výkonom, nájdu nové spôsoby tvorby hodnoty a masívne zlepšia kvalitu života pre všetkých, najmä vďaka objavom v novej vede.
Aby sa prosperita mohla plne naplniť a široko zdieľať, veríme, že 1) naše vlády možno budú musieť zvážiť nové ekonomické modely, aby sa každý mohol podieľať na tvorbe hodnoty, ktorá je pred nami, a 2) musíme vybudovať obrovské množstvo AI infraštruktúry a vyvinúť nové technológie, ktoré výrazne znížia náklady na AI infraštruktúru.
Mnohé z vecí, ktoré robíme a ktoré môžu pôsobiť zvláštne — nákup obrovského množstva výpočtového výkonu pri relatívne nízkych príjmoch, vertikálna integrácia s cieľom znížiť náklady a uľahčiť používanie našej technológie, presadzovanie budovania dátových centier po celom svete a mnoho ďalšieho — vychádzajú z našej základnej viery v budúcnosť univerzálnej prosperity.
4. Odolnosť. AI prinesie nové riziká a budeme spolupracovať s ďalšími firmami, ekosystémami, vládami a spoločnosťou na ich riešení. Na podporu tejto práce vo veľkej miere využijeme zdroje našej Foundation.
Žiadne AI laboratórium nedokáže samo zabezpečiť dobrú budúcnosť. Ako zjavný príklad možno uviesť, že môžu existovať mimoriadne schopné modely, ktoré uľahčia vytvorenie nového patogénu, a na obranu proti tomu potrebujeme celospoločenský prístup s protiopatreniami nezávislými od konkrétneho patogénu. Ďalším príkladom je, že ako sa budú zvyšovať kyberbezpečnostné schopnosti modelov, musíme tieto modely rýchlo využívať na zabezpečenie open-source softvéru a kritickej infraštruktúry a zároveň ich trénovať tak, aby pomáhali všetkým vytvárať bezpečnejší softvér.
Je to rozšírenie našej dlhodobej stratégie postupného nasadzovania; veríme, že spoločnosť sa musí vyrovnávať s každou ďalšou úrovňou schopností AI, porozumieť jej, integrovať ju a spoločne hľadať najlepšiu cestu vpred. To sa nedá robiť vo vákuu; spoločnosť a technológia sa spoluvyvíjajú, a to si vyžaduje čas.
Nemyslíme tým našu jedinú bezpečnostnú stratégiu; musíme tiež vytvárať bezpečné systémy a pokračovať vo výbornej práci na technickom zosúladení.
Očakávame, že nastanú obdobia, keď budeme musieť spolupracovať s vládami, medzinárodnými agentúrami a ďalšími iniciatívami AGI, aby sme sa uistili, že sme pred ďalším pokračovaním našej práce dostatočne vyriešili závažné problémy zosúladenia, bezpečnosti alebo spoločenské problémy.
5. Prispôsobivosť. Naďalej veríme, že jediný spôsob, ako čeliť výzvam veľmi nepredvídateľnej budúcnosti, je byť pripravení aktualizovať naše postoje, keď sa dozvieme viac. Zároveň si uvedomujeme, že OpenAI je dnes vo svete oveľa významnejšou silou než pred niekoľkými rokmi, a budeme transparentní v tom, kedy, ako a prečo sa naše prevádzkové zásady menia. Ako konkrétny príklad: hoci sme si dosť istí, že univerzálna prosperita zostane veľmi dôležitá, vieme si predstaviť obdobia v budúcnosti, keď budeme musieť vymeniť časť posilnenia za väčšiu odolnosť.
Vývoj AI priniesol mnoho prekvapení a ďalšie ešte prídu. Ako bude technológia napredovať, jej emergentné správanie bude čoraz ťažšie predvídať. Túto neistotu prijímame tým, že schopnosti rozvíjame opatrne, systémy nasadzujeme postupne a učíme sa z ich interakcií so svetom.
Ešte nie je tak dávno, čo sme mali obavy z vydania váh GPT‑2, pretože sme si neboli istí, aké budú dopady na spoločnosť. Pri spätnom pohľade to bola zjavne mylná obava, ale viedla nás k objaveniu stratégie postupného nasadzovania, čo je jedna z najdôležitejších vecí, na ktoré sme prišli.
__
Vstupujeme do veľmi významnej fázy, keďže sa technológia naďalej zlepšuje. Je úplne fér kritizovať nás za každé rozhodnutie; vzhľadom na váhu toho, čo robíme, si zaslúžime mimoriadne dôkladné preskúmanie. Nebudeme mať vo všetkom pravdu, ale budeme sa rýchlo učiť a korigovať smer.
Sme odhodlaní urobiť svoj diel práce, aby bola budúcnosť lepšia než minulosť; vážime si, že môžeme vykonávať takú dôležitú prácu.
