Gervigreind hefur möguleika til að bæta marga þætti samfélagsins verulega.
Þessi tækni, eins og önnur á undan henni, mun færa fólki meiri getu og sjálfræði; það sem fólk mun geta gert með gervigreind mun skara fram úr því sem fólk gat gert með gufuvélum eða rafmagni.
Við sjáum fyrir okkur heim þar sem velmegun er útbreidd á stigi sem erfitt er að ímynda sér í dag, og heim þar sem möguleikar, sjálfræði og lífsfylling einstaklinga aukast verulega. Margt af því sem við höfum aðeins leyft okkur að dreyma um í vísindaskáldskap gæti orðið að veruleika, og flestir gætu lifað merkingarbærara lífi en flestum stendur til boða í dag.
En þessi niðurstaða er ekki tryggð. Vald í framtíðinni getur annaðhvort verið í höndum fárra fyrirtækja sem nota og stjórna ofurgreind, eða dreift á milli fólks með dreifstýrðum hætti. Við teljum hið síðara miklu betra og markmið okkar er að setja raunverulega almenna gervigreind í hendur sem flestra. Eins og samtíminn verður framtíðin hvorki öll slæm né öll góð, en ákvarðanirnar sem við tökum núna geta hjálpað til við að hámarka hið góða.
Markmið okkar er að tryggja að AGG nýtist öllu mannkyni. Hér eru meginreglurnar sem leiða starf okkar.
1. Lýðræðisvæðing. Við munum sporna gegn því að þessi tækni samþjappi valdi í hendur fárra.
Þetta þýðir að auk þess að veita öllum aðgang að gervigreind þurfum við að tryggja að lykilákvarðanir um gervigreind séu teknar með lýðræðislegum ferlum og á jafnréttisgrundvelli, en ekki aðeins af gervigreindarrannsóknarstofum.
2. Efling. Við teljum að gervigreind geti gert öllum kleift að ná markmiðum sínum, læra meira, verða hamingjusamari og meira sáttir, og elta drauma sína, og að samfélagið í heild muni njóta góðs af því.
Til að þetta geti orðið þarf að leyfa fólki að kanna þá gríðarlegu möguleika sem blasa við okkur, og við þurfum að byggja vörur sem gera það kleift. Notendur ættu með áreiðanlegum hætti að geta leyst sífellt verðmætari verkefni með þjónustum okkar.
Heimurinn er fjölbreyttur og fólk hefur ólíkar þarfir. Við viljum veita notendum okkar það sjálfræði sem þeir þurfa og leyfa eins mikið og við getum með sanngirni.
Þótt við viljum veita notendum okkar mjög víðtækt svigrúm í því hvernig þeir nota þjónustur okkar og trúum eindregið að gervigreind verði gríðarlega gagnleg þegar á heildina er litið, ber okkur skylda til að byggja hana og innleiða á þann hátt að skaði sé lágmarkaður. Þetta felur að sjálfsögðu í sér að koma í veg fyrir skelfilegan skaða, en einnig að lágmarka staðbundinn skaða og forðast hugsanleg tærandi samfélagsáhrif. Þetta þýðir að við þurfum að fara varlega þegar ríkir óvissa og slaka á takmörkunum þegar meiri gögn liggja fyrir.
3. Almenn velmegun. Við viljum framtíð þar sem allir geta átt framúrskarandi líf.
Með því að setja notendavæn gervigreindarkerfi með miklu reikniafli í hendur allra teljum við að fólk muni finna nýjar leiðir til að skapa verðmæti og bæta lífsgæði allra gríðarlega, sérstaklega með uppgötvun nýrra vísinda.
Til að velmegun verði að fullu að veruleika og skiptist víða teljum við að 1) stjórnvöld kunni að þurfa að íhuga ný efnahagslíkön til að tryggja að allir geti tekið þátt í verðmætasköpuninni fram undan og 2) við þurfum að byggja gríðarlegt magn af innviðum fyrir gervigreind og þróa nýja tækni til að lækka kostnað við þá innviði verulega.
Margt af því sem við gerum og kann að virðast undarlegt — að kaupa gríðarlegt magn af reiknigetu á meðan tekjur okkar eru tiltölulega litlar, að samþætta virðiskeðjuna lóðrétt til að lækka kostnað og gera tæknina auðveldari í notkun, að ýta á um byggingu gagnavera um allan heim og margt fleira — er drifið áfram af grundvallartrú okkar á framtíð almennrar velmegunar.
4. Seigla. Gervigreind mun færa með sér nýjar áhættur og við munum vinna með öðrum fyrirtækjum, vistkerfum, stjórnvöldum og samfélaginu að því að leysa þær. Við munum nýta verulega af auðlindum sjóðsins okkar til að styðja þetta starf.
Engin gervigreindarrannsóknarstofa getur ein tryggt góða framtíð. Augljóst dæmi er að til kunna að verða afar öflug líkön sem gera auðveldara að búa til nýjan sýkil, og við þurfum samfélagslega nálgun til að verjast því með mótvægisaðgerðum sem eru óháðar tilteknum sýkli. Annað dæmi er að þegar netöryggisgeta líkana eykst þurfum við hratt að nota þessi líkön til að hjálpa við að tryggja opinn hugbúnað og mikilvæga innviði, á sama tíma og við þjálfum líkönin til að hjálpa öllum að búa til öruggari hugbúnað.
Þetta er útvíkkun á stefnu okkar um stigvaxandi innleiðingu sem við höfum lengi fylgt; við teljum að samfélagið þurfi að takast á við hvert nýtt stig getu gervigreindar, skilja það, samþætta það og finna saman bestu leiðina áfram. Þetta verður ekki gert í tómarúmi; samfélag og tækni þróast saman, og það krefst tíma.
Við meinum þetta ekki sem eina öryggisstefnu okkar; við þurfum líka að búa til örugg kerfi og halda áfram að vinna framúrskarandi starf við tæknilega samræmingu.
Við gerum ráð fyrir að það komi tímabil þar sem við þurfum að eiga samstarf við stjórnvöld, alþjóðastofnanir og önnur AGG-verkefni til að tryggja að við höfum leyst alvarleg vandamál tengd samræmingu, öryggi eða samfélagsáhrifum nægilega vel áður en við höldum lengra áfram með starf okkar.
5. Aðlögunarhæfni. Við teljum áfram að eina leiðin til að mæta áskorunum mjög ófyrirsjáanlegrar framtíðar sé að vera tilbúin að uppfæra afstöðu okkar eftir því sem við lærum meira. Við viðurkennum líka að OpenAI er miklu stærra afl í heiminum en það var fyrir nokkrum árum og við munum vera gagnsæ um hvenær, hvernig og hvers vegna starfsreglur okkar breytast. Sem skýrt dæmi má nefna að þótt við séum nokkuð viss um að almenn velmegun verði áfram afar mikilvæg getum við ímyndað okkur tímabil í framtíðinni þar sem við þurfum að fórna einhverri eflingu fyrir meiri seiglu.
Þróun gervigreindar hefur fært margar óvæntar uppákomur, og fleiri eru enn í vændum. Eftir því sem tækninni fleygir fram verður sífellt erfiðara að spá fyrir um framkomna hegðun hennar. Við tökum þeirri óvissu opnum örmum með því að þróa getu af varfærni, innleiða kerfi í áföngum og læra af samskiptum þeirra við heiminn.
Það er ekki langt síðan við vorum kvíðin fyrir því að gefa út vigtir GPT‑2 vegna þess að við vissum ekki hvaða áhrif það myndi hafa á samfélagið. Augljóslega var það, séð eftir á, óþarfa áhyggjuefni, en það leiddi til þess að við uppgötvuðum stefnu stigvaxandi innleiðingar, sem hefur verið eitt það mikilvægasta sem við höfum áttað okkur á.
__
Við erum að ganga inn í mjög áhrifamikið tímabil eftir því sem tæknin heldur áfram að batna. Það er fullkomlega eðlilegt að gagnrýna okkur fyrir hverja ákvörðun; við eigum skilið gríðarlega mikla skoðun miðað við vægi þess sem við erum að gera. Við munum ekki gera allt rétt, en við munum læra hratt og leiðrétta stefnuna.
Við erum staðráðin í að leggja okkar af mörkum til að gera framtíðina betri en fortíðina; við teljum okkur lánsöm að fá að takast á við svo mikilvægt verkefni.
