Tehisarul on potentsiaali ühiskonna paljusid aspekte märkimisväärselt parandada.
See tehnoloogia, nagu teised enne seda, annab inimestele rohkem võimekust ja otsustusvabadust; see, mida inimesed tehisaruga teha saavad, kahvatab selle kõrval, mida inimesed suutsid teha aurumasinate või elektriga.
Me näeme maailma, kus õitseng on laialdane tasemel, mida on praegu raske ette kujutada, ja maailma, kus üksikisiku potentsiaal, tegutsemisvabadus ja eneseteostus märkimisväärselt kasvavad. Paljud asjad, millest oleme seni lubanud endal vaid ulmes unistada, võivad saada tegelikkuseks ning enamik inimesi võiks elada tähendusrikkamat elu, kui enamik täna suudab.
Kuid see tulemus ei ole garanteeritud. Tulevikus võib võim olla kas väikese käputäie superintellekti kasutavate ja kontrollivate ettevõtete käes või olla detsentraliseeritult inimeste käes. Me usume, et viimane on palju parem, ning meie eesmärk on anda tõeliselt üldine tehisaru võimalikult paljude inimeste kätte. Nagu olevik, ei ole ka tulevik täielikult halb ega täielikult hea, kuid otsused, mida me praegu teeme, võivad aidata head maksimeerida.
Meie missioon on tagada, et AGI tooks kasu kogu inimkonnale. Siin on põhimõtted, mis meie tööd suunavad.
1. Demokratiseerimine. Me seisame vastu selle tehnoloogia võimalusele koondada võim väheste kätte.
See tähendab, et lisaks kõigile tehisarule juurdepääsu andmisele peame tagama, et olulised otsused tehisaru kohta tehakse demokraatlike protsesside ja egalitaarsete põhimõtete alusel, mitte ainult tehisaruga tegelevates laborites.
2. Võimestamine. Usume, et tehisaru saab anda kõigile võimaluse saavutada oma eesmärke, õppida rohkem, olla õnnelikum ja rohkem eneseteostust leida ning oma unistusi järgida, ning et sellest võidab ühiskond tervikuna.
Selle saavutamiseks tuleb lasta inimestel uurida meie ees avanevat tohutut potentsiaali, ning me peame ehitama tooteid, mis seda võimaldavad. Kasutajad peaksid meie teenustega usaldusväärselt suutma täita üha väärtuslikumaid ülesandeid.
Maailm on mitmekesine ja inimestel on erinevad vajadused. Soovime anda oma kasutajatele neile vajaliku autonoomia ja lubada nii palju kui mõistlikult võimalik.
Kuigi soovime anda oma kasutajatele väga suure vabaduse meie teenuste kasutamisel ja usume kindlalt, et tehisarust on tervikuna tohutult kasu, on meil kohustus seda luua ja kasutusele võtta viisil, mis minimeerib kahju. See hõlmab muidugi katastroofilise kahju ärahoidmist, aga ka kohalike kahjude minimeerimist ja võimalike ühiskonda õõnestavate mõjude vältimist. See tähendab ebakindluse korral pigem ettevaatlikkuse kasuks eksimist ja piirangute leevendamist suurema tõendusmaterjali korral.
3. Üldine jõukus. Soovime tulevikku, kus kõigil on võimalik elada suurepärast elu.
Usume, et andes hõlpsasti kasutatavad ja suure arvutusvõimsusega tehisarusüsteemid kõigi kätte, leiavad inimesed uusi viise väärtuse loomiseks ja parandavad hüppeliselt kõigi elukvaliteeti, eriti uue teaduse avastamise kaudu.
Et jõukus täielikult teoks saaks ja laialdaselt jaguneks, usume, et 1) meie valitsused võivad vajada uute majandusmudelite kaalumist, et tagada kõigile võimalus osaleda meie ees seisvas väärtusloomes, ja 2) me peame rajama tohutul hulgal tehisarutaristut ning arendama uut tehnoloogiat, et tehisarutaristu kulud märkimisväärselt alla tuua.
Paljud asjad, mida teeme ja mis paistavad veidrad — suure hulga arvutusvõimsuse ostmine ajal, kui meie tulu on veel suhteliselt väike, vertikaalne integreerimine kulude vähendamiseks ja meie tehnoloogia lihtsamaks kasutamiseks, andmekeskuste rajamise edendamine üle maailma ja palju muud — lähtuvad meie põhiveendumusest üldise jõukuse tulevikku.
4. Vastupidavus. Tehisaru toob kaasa uusi riske ning me teeme nende lahendamiseks koostööd teiste ettevõtete, ökosüsteemide, valitsuste ja ühiskonnaga. Kasutame selle töö toetamiseks märkimisväärselt meie Foundationi ressursse.
Ükski tehisarulabor ei suuda üksi tagada head tulevikku. Ilmse näitena võivad tekkida ülivõimekad mudelid, mis muudavad uue patogeeni loomise lihtsamaks, ning meil on vaja kogu ühiskonda hõlmavat lähenemist, et selle vastu kaitsta patogeenispetsiifilisusest sõltumatute vastumeetmetega. Teise näitena peame mudelite küberturbevõime kasvades neid kiiresti kasutama avatud lähtekoodiga tarkvara ja kriitilise taristu turvamiseks, õpetades samal ajal mudeleid aitama kõigil luua turvalisemat tarkvara.
See laiendab meie ammust iteratiivse juurutamise strateegiat; usume, et ühiskond peab iga järgmise tehisaruvõimekuse tasemega toime tulema, seda mõistma, lõimima ja üheskoos välja selgitama parima tee edasi. Seda ei saa teha vaakumis; ühiskond ja tehnoloogia arenevad koos ning see nõuab aega.
Me ei mõtle seda oma ainsa ohutusstrateegiana; peame looma ka ohutuid süsteeme ja jätkama tugevat tööd tehnilise joondamise vallas.
Ootame, et tuleb perioode, mil peame tegema koostööd valitsuste, rahvusvaheliste agentuuride ja teiste AGI-algatustega, et enne oma tööga edasi liikumist tagada tõsiste joondamise, ohutuse või ühiskondlike probleemide piisav lahendamine.
5. Kohanemisvõime. Usume jätkuvalt, et ainus viis tulla toime väga ettearvamatu tuleviku väljakutsetega on olla valmis oma seisukohti ajakohastama, kui õpime juurde. Tunnistame ka, et OpenAI on maailmas palju suurem jõud kui mõni aasta tagasi, ning oleme läbipaistvad selles, millal, kuidas ja miks meie tegevuspõhimõtted muutuvad. Konkreetse näitena: kuigi oleme üsna kindlad, et üldine jõukus jääb väga oluliseks, suudame ette kujutada tulevasi perioode, mil peame vahetama osa võimestamisest suurema vastupidavuse vastu.
Tehisaru areng on toonud palju üllatusi ja neid on veel tulemas. Tehnoloogia arenedes muutub selle esilekerkiva käitumise ennustamine üha raskemaks. Me võtame selle ebakindluse omaks, arendades võimekusi ettevaatlikult, juurutades süsteeme iteratiivselt ja õppides nende koostoimest maailmaga.
Veel mitte väga ammu olime närvis GPT‑2 kaalude avaldamise pärast, sest me ei olnud kindlad, milline on selle mõju ühiskonnale. Tagantjärele on ilmne, et see oli asjatu mure, kuid see viis meid iteratiivse juurutamise strateegia avastamiseni, mis on olnud üks olulisemaid asju, mille oleme välja mõelnud.
__
Me liigume väga mõjuka etapi poole, kuna tehnoloogia jätkab paranemist. On täiesti õiglane meid iga otsuse eest kritiseerida; me väärime tohutut tähelepanu ja kontrolli, arvestades selle kaalu, mida me teeme. Me ei tee kõike õigesti, kuid õpime kiiresti ja korrigeerime kurssi.
Oleme pühendunud oma osa tegemisele, et muuta tulevik minevikust paremaks; tunneme end õnnelikena, et saame nii olulist tööd teha.
