Az MI jelentősen javíthatja a társadalom számos területét.
Ez a technológia, az elődeihez hasonlóan, nagyobb képességet és önrendelkezést ad az embereknek; amit az emberek MI-vel megtehetnek majd, eltörpíti azt, amire a gőzgépekkel vagy az elektromossággal képesek voltak.
Olyan világot képzelünk el, ahol a széles körű jólét olyan szintet ér el, amelyet ma még nehéz elképzelni, és ahol az egyéni lehetőségek, az önrendelkezés és a kiteljesedés jelentősen növekszik. Sok minden, amit eddig csak sci-fiben mertünk megálmodni, valósággá válhat, és a legtöbb ember tartalmasabb életet élhetne, mint amire ma a legtöbben képesek.
De ez a kimenetel nem garantált. A jövőben a hatalom vagy néhány vállalat kezében összpontosulhat, amelyek a szuperintelligenciát használják és irányítják, vagy decentralizált módon az embereknél lehet. Mi az utóbbit sokkal jobbnak tartjuk, és célunk, hogy a valóban általános MI-t a lehető legtöbb ember kezébe adjuk. Akárcsak a jelen, a jövő sem lesz teljesen rossz vagy teljesen jó, de a most meghozott döntéseink segíthetnek a jót a lehető legnagyobbra növelni.
Küldetésünk, hogy az AGI az egész emberiség javát szolgálja. Az alábbi alapelvek irányítják a munkánkat.
1. Demokratizálás. Ellen fogunk állni annak a lehetőségnek, hogy ez a technológia kevesek kezében összpontosítsa a hatalmat.
Ez azt jelenti, hogy amellett, hogy mindenki számára hozzáférést biztosítunk az MI-hez, gondoskodnunk kell arról is, hogy az MI-vel kapcsolatos kulcsfontosságú döntések demokratikus folyamatokon és egyenlőségelvű alapelveken keresztül szülessenek meg, ne csak az MI-laborokban.
2. Felhatalmazás. Hiszünk abban, hogy az MI mindenkit képessé tehet céljai elérésére, a tanulásra, a boldogabb és teljesebb életre, valamint álmai követésére, és hogy ebből a társadalom egésze profitálni fog.
Ennek eléréséhez hagynunk kell, hogy az emberek feltárják a előttünk álló óriási lehetőségeket, és olyan termékeket kell építenünk, amelyek ezt lehetővé teszik. A felhasználóknak megbízhatóan egyre értékesebb feladatokat kell tudniuk elvégezni a szolgáltatásainkkal.
A világ sokszínű, és az emberek igényei különböznek. Meg akarjuk adni a felhasználóinknak a szükséges autonómiát, és a lehető legtöbbet szeretnénk megengedni, amennyire ez észszerű.
Bár nagyon széles mozgásteret szeretnénk adni felhasználóinknak abban, hogyan használják szolgáltatásainkat, és szilárdan hisszük, hogy az MI összességében rendkívül hasznos lesz, felelősségünk, hogy úgy építsük és vezessük be, hogy a károkat a lehető legkisebbre csökkentsük. Ez természetesen magában foglalja a katasztrofális károk megelőzését, de a helyi károk mérséklését és a potenciálisan romboló társadalmi hatások elkerülését is. Ez azt jelenti, hogy bizonytalanság esetén inkább az óvatosság felé hajlunk, és több bizonyíték birtokában enyhítjük a korlátokat.
3. Egyetemes jólét. Olyan jövőt szeretnénk, ahol mindenkinek kiváló élete lehet.
Úgy gondoljuk, hogy ha könnyen használható, nagy számítási kapacitású MI-rendszereket adunk mindenki kezébe, az emberek új módokat találnak majd az értékteremtésre, és óriási mértékben javítják mindenki életminőségét, különösen új tudományos felfedezések révén.
Ahhoz, hogy a jólét teljes mértékben megvalósuljon és széles körben megoszljon, úgy gondoljuk, hogy 1) kormányainknak új gazdasági modelleket kellhet fontolóra venniük annak biztosítására, hogy mindenki részesedhessen a előttünk álló értékteremtésből, és 2) hatalmas mennyiségű MI-infrastruktúrát kell kiépítenünk, valamint új technológiákat kell fejlesztenünk, hogy az MI-infrastruktúra költségeit jelentősen csökkentsük.
Sok minden, amit teszünk, elsőre furcsának tűnhet — például hatalmas számítási kapacitást vásárolunk, miközben a bevételünk viszonylag alacsony, vertikálisan integrálódunk a költségek csökkentése és technológiánk könnyebb használhatósága érdekében, adatközpontok építését szorgalmazzuk világszerte, és még sok minden mást —, alapvető hitünkből fakad egy egyetemes jólétet biztosító jövőben.
4. Reziliencia. Az MI új kockázatokat hoz majd magával, és más vállalatokkal, ökoszisztémákkal, kormányokkal és a társadalommal együtt fogunk dolgozni ezek megoldásán. Foundationünk erőforrásait jelentős mértékben felhasználjuk majd ennek a munkának a támogatására.
Egyetlen MI-labor sem tud egyedül jó jövőt biztosítani. Nyilvánvaló példa, hogy lehetnek rendkívül nagy képességű modellek, amelyek megkönnyítik egy új kórokozó létrehozását, és ezzel szemben társadalmi szintű megközelítésre van szükségünk, kórokozófüggetlen ellenintézkedésekkel. Egy másik példa, hogy ahogy a modellek kiberbiztonsági képességei nőnek, gyorsan használnunk kell ezeket a modelleket a nyílt forráskódú szoftverek és a kritikus infrastruktúra védelmére, miközben a modelleket arra tanítjuk, hogy mindenkinek segítsenek biztonságosabb szoftvereket készíteni.
Ez a régóta követett iteratív bevezetési stratégiánk kiterjesztése; úgy véljük, a társadalomnak meg kell küzdenie az MI-képességek minden újabb szintjével, meg kell értenie, integrálnia kell azt, és közösen kell megtalálnia a legjobb utat előre. Ezt nem lehet elszigetelten megtenni; a társadalom és a technológia együtt fejlődik, és ehhez idő kell.
Ezt nem az egyetlen biztonsági stratégiánknak szánjuk; biztonságos rendszereket is kell alkotnunk, és továbbra is kiváló munkát kell végeznünk a technikai alignment terén.
Arra számítunk, hogy lesznek időszakok, amikor kormányokkal, nemzetközi ügynökségekkel és más AGI-törekvésekkel kell együttműködnünk annak biztosítására, hogy a súlyos alignment-, biztonsági vagy társadalmi problémákat kellőképpen megoldottuk, mielőtt tovább haladnánk a munkánkkal.
5. Alkalmazkodóképesség. Továbbra is úgy gondoljuk, hogy egy nagyon kiszámíthatatlan jövő kihívásainak csak úgy tudunk megfelelni, ha készen állunk álláspontjaink frissítésére, ahogy egyre többet tanulunk. Azt is elismerjük, hogy az OpenAI ma sokkal nagyobb erő a világban, mint néhány évvel ezelőtt volt, és átláthatóak leszünk abban, mikor, hogyan és miért változnak működési alapelveink. Konkrét példaként: bár eléggé biztosak vagyunk abban, hogy az egyetemes jólét továbbra is nagyon fontos marad, el tudunk képzelni olyan jövőbeli időszakokat, amikor némi felhatalmazást nagyobb rezilienciára kell cserélnünk.
Az MI fejlesztése sok meglepetést hozott, és még több van hátra. Ahogy a technológia fejlődik, emergens viselkedése egyre nehezebben lesz előre jelezhető. Elfogadjuk ezt a bizonytalanságot azzal, hogy körültekintően fejlesztjük a képességeket, iteratív módon vezetjük be a rendszereket, és tanulunk a világgal való kölcsönhatásaikból.
Nem is olyan régen még amiatt aggódtunk GPT‑2 súlyainak kiadása miatt, mert nem voltunk biztosak abban, milyen hatással lesz ez a társadalomra. Utólag visszanézve ez nyilvánvalóan téves aggodalom volt, de ennek köszönhetően fedeztük fel az iteratív bevezetés stratégiáját, amely az egyik legfontosabb dolog, amire rájöttünk.
__
Nagyon jelentős hatású szakaszba lépünk, ahogy a technológia tovább javul. Teljesen jogos, ha minden döntésünket kritikával illetik; hatalmas mértékű vizsgálatot érdemlünk annak súlya miatt, amit csinálunk. Nem fogunk mindent jól csinálni, de gyorsan tanulunk és korrigálunk.
Elkötelezettek vagyunk amellett, hogy a magunk részét hozzátegyük ahhoz, hogy a jövő jobb legyen a múltnál; szerencsésnek érezzük magunkat, hogy ilyen fontos munkát végezhetünk.
