Öld greindar kynnt til sögunnar

„Mun það nægja … að treysta þessum varnargörðum á pappír gegn ágangi valdafíknarinnar?“
—James Madison, Sambandssinninn nr. 48

Það er okkur ánægja að hleypa af stokkunum Öld greindar, bloggi hins nýja teymis OpenAI um stefnumótandi framtíðarsýn. Við erum lítið teymi sem vinnur að einu sameiginlegu meginmarkmiði: Hvernig ætti að endurskipuleggja frjálst samfélag til að varðveita réttindi og sjálfsforræði einstaklinga samhliða tilkomu gervigreindar sem umbreytir samfélaginu?

Spurningar af þessu tagi eru stundum nefndar áhætta vegna samþjöppunar valds meðal þeirra sem starfa að öryggi og stefnumótun á sviði gervigreindar. Teymið okkar byggir á þeirri hugmynd að til lengri tíma litið sé þessi áhættuflokkur stærstur, alvarlegastur og hugtakalega erfiðastur viðfangs. Hvers vegna?

Nútímaríkið er afurð langs og ójafns samningaferlis milli ólíkra valdamiðstöðva, svo sem eigenda fjármagns og hrávara, handhafa pólitísks valds og almennings. Í grundvallaratriðum hefur pólitískt vald og hernaðarvald hvílt á vinnuafli. Að fara með pólitískt vald er að hafa einkarétt á lögmætri valdbeitingu. Í allri mannkynssögunni hefur þessi einkaréttur byggst á hermönnum og því sem við köllum nú „lögreglu“, ásamt umfangsmiklu borgaralegu og hernaðarlegu stjórnkerfi. Vissulega hefur fjöldi tæknitóla stutt við kerfið, en rekstur þess hefur í grunninn verið í höndum fólks sem þurfti að styðja það svo það héldi velli. Allt kerfið — hermennirnir, tækin og stjórnkerfið í kring — var fjármagnað með sköttum sem lagðir voru á laun eða framleiðslu fólks sem þurfti að vera reiðubúið að greiða þá. Í grunninn hefur vald verið háð víðtækri samvinnu og samþykki fjölda fólks. David Hume orðaði þessa oft ósögðu forsendu kjarnyrt þegar hann benti á að stjórnmálaleiðtogar hefðu „ekkert sér til stuðnings nema almenningsálitið“.

En það er ef til vill að breytast. Framfarir í sjálfstýrðum kerfum sem starfa í raunheimum kunna brátt að gera ríkjum kleift að beita valdi — innanlands og á alþjóðavettvangi — án þess að reiða sig á samstarfsfúsa hermenn eða lögreglumenn. Framfarir í vélgreind kunna jafnframt að gera ríkinu kleift að afla nauðsynlegra tekna ekki með afrakstri vinnu einstaklinga heldur með framleiðslu gagnavera. Rekstur stjórnkerfisins sjálfs gæti einnig orðið sjálfvirkur að verulegu leyti. Vald kann því ekki lengur að þurfa samfélagslegt samkomulag til að viðhalda sér og almenningur, í víðum skilningi, gæti aðeins fengið lítið sæti við samningaborðið — eða jafnvel ekkert.

Að koma í veg fyrir þessa niðurstöðu er grundvallaratriði í vernd mannlegs frelsis. Engar vísindauppgötvanir, tækniframfarir eða hagvöxtur réttlæta þá langvarandi skerðingu á sjálfræði einstaklinga sem þessi niðurstaða hefði í för með sér. Margar þeirra áhyggna sem með réttu móta stjórnmálaumræðu um gervigreind, sem enn er á byrjunarstigi, tengjast þessari spurningu. Fyrirtæki, hagsmunasamtök og einstaklingar deila sömu áhyggjum: „Mun ég missa sæti mitt við borðið?“ Að vissu marki hafa sambærilegar áhyggjur mótað bandarísk stjórnmál á 21. öldinni: sjálfsforræði einstaklinga og samfélagsins yfir stefnu landsins og „hverjum“ hagkerfið „þjónar“. Gervigreind gerir þessar fyrirliggjandi áhyggjur brýnni, og ekki að ástæðulausu.

Þetta er kerfislægur vandi sem ristir dýpra en flokkspólitík samtímans og jafnvel dýpra en þau form og þær hefðir sem lýðræði lýðveldisins birtist í nú á dögum, hversu heilög sem þau kunna að vera í okkar augum. Fólk getur verið á leið til valdamissis þótt áfram sé kosið reglulega um fulltrúa okkar. Fólk getur verið svipt sjálfsforræði þótt á skjali standi að það sé frjálst.

Við upphaf Bandaríkjanna sem frjálsrar þjóðar vissi James Madison þegar að „varnargarðar á pappír“ myndu ekki nægja til að koma í veg fyrir harðstjórn. Líkt og margir af stofnendum ríkisins hafði hann fyrst og fremst áhyggjur af því að koma í veg fyrir óhóflega samþjöppun valds.

Það þýddi þó ekki að stofnendurnir aðhylltust róttæka dreifingu valds. Þess í stað mótuðu þeir valdajafnvægið með líkingum úr fremstu vísindum síns tíma — aflfræði Newtons. Stofnskjöl Bandaríkjanna endurspegla orðfæri og rökvísi þyngdaraflsins og eru full af vísunum í „sporbrautir“, „hvel“ og „aðdráttarafl“ eins fyrirbæris gagnvart öðru. Sólkerfi er ekki safn steina þar sem dreifingin er í hámarki; það samanstendur af tunglum sem ganga um reikistjörnur sem aftur ganga um miðlæga sól. Þeir töldu að fólk og stofnanir hefðu tilhneigingu til að sækjast eftir völdum, rétt eins og hreyfing og aðdráttur himintungla fylgdi fyrirsjáanlegum tilhneigingum. Til að koma í veg fyrir óhóflega samþjöppun valds þyrfti að skilja gangverk þessara tilhneiginga svo unnt væri að tefla þeim hverri gegn annarri.

Markmið stofnendanna var því ekki að koma í veg fyrir alla samþjöppun valds, heldur óhóflega samþjöppun, með því að láta vald halda aftur af valdi og metnað halda aftur af metnaði. Í dag gætum við notað orð á borð við „hvata“ og hugtök á borð við „leikjafræði“ til að lýsa sömu grundvallaröflum.

Með sama hætti er svarið við þeirri kerfislægu áskorun sem háþróuð vélgreind skapar frjálsu samfélagi líklega ekki róttækasta valddreifing sem hægt er að hugsa sér. Þess í stað þarf að koma á og varðveita rétt valdajafnvægi svo enginn einn gerandi eða fámennur hópur geti drottnað yfir hinum.

Til að ná þessu jafnvægi þarf að horfast skýrt í augu við raunveruleika tækninnar. Heimur þar sem hver sem er, hversu illviljaður sem hann er, getur hæglega valdið þúsundum eða milljónum annarra miklu tjóni hefur ekki náð réttu valdajafnvægi. En valdajafnvægið er heldur ekki rétt ef einstaklingar hafa ekki víðtækan aðgang að og stjórn á nær öllum þáttum þeirra tækja sem þeir nota til að nýta frelsi sitt. Ekkert eitt fyrirtæki eða fákeppni ætti að ákvarða eða stjórna efnahagslífinu eða grunnskipan mannlegs samfélags.

Við verðum einnig að vera vakandi fyrir áhættu sem á ekki upptök sín hjá illviljuðu fólki. Nýlegt atvik hjá Hugging Face sýndi að gervigreindarfulltrúar geta farið út fyrir úthlutuð verkefni og byggt hver á uppgötvunum annars með hætti sem rekstraraðilar hvorki sáu fyrir né heimiluðu. Fyrir utan atvikið hjá Hugging Face er eðlilegt að fólk hafi áhyggjur af því hvaða áhrif ofurgreind gervigreind, „laus úr taumi“ mannlegrar stjórnunar, gæti haft á viðnámsþrótt stjórnmála- og efnahagsstofnana okkar og raunar á líf okkar. Að láta sem valddreifing leysi öll vandamál — jafnvel þótt maður telji hana leysa mörg þeirra — er að horfa fram hjá áhættu sem ætti nú að vera bæði augljós og yfirvofandi.

Eftirfarandi almennu meginreglur — sem eru ekki tæmandi — munu leiða vinnu okkar þegar við glímum við spurninguna sem sett var fram hér að ofan:

• Fólk ætti að halda sjálfræði sínu og tækifærum við notkun gervigreindar og tengdrar tækni, jafnvel þótt það kosti stundum öryggi og hagvöxt;
• Sjálfræði einstaklingsins byggist á ábyrgð hans á rangri notkun eða misnotkun tækninnar;
• Lítill en alvarlegur áhættuflokkur krefst sameiginlegra aðgerða að einhverju marki, og þær aðgerðir ættu að vera eins þröngt afmarkaðar og hóflegar og unnt er;
• Þegar þess er kostur ættu lög að jafna samkeppnisstöðu og efla einstaklinga og litlar stofnanir í stað þess að miðstýra valdi;
• Pólitískar, félagslegar og efnahagslegar stofnanir manna ættu áfram að hafa forystu um stefnu heimsmála, jafnvel þótt þær þurfi að þróast með hætti sem okkur kann að virðast framandi í dag;
• Stjórnun gervigreindar til lengri tíma mun byggjast á nýjum stofnanalegum úrræðum til að tryggja afmarkaðan rekjanleika: Þegar gervigreindarkerfi grípa til afdrifaríkra aðgerða sem hafa áhrif á líkamlega velferð eða eignir nærstaddra verður að vera hægt að rekja þær til ábyrgðaraðila eða stofnunar undir stjórn fólks. Öll slík úrræði verða þó að vera hönnuð með friðhelgi einkalífs að leiðarljósi. Tjáningarfrelsi krefst nafnleyndar og fólk ætti víða að geta notað gervigreind án þess að gefa upp nafn.

Við munum reyna að útskýra eins ítarlega og unnt er hvernig við teljum að vega eigi þessar meginreglur hverja á móti annarri, enda ríkir óneitanlega nokkur togstreita milli þeirra, eins og jafnan gildir um góðar meginreglur. Til þess þarf rannsóknir á mótum opinberrar stefnumótunar, hagfræði, lögfræði, sagnfræði og vélanáms. Einnig þarf að leggja mikla vinnu í framtíðarspár. Við teljum til dæmis að gervigreind muni breyta fyrirtækjum á kerfislægan hátt, líkt og tækni iðnbyltingarinnar — einkum járnbrautirnar — leiddi af sér nútímaleg fyrirtæki með faglegri stjórnun. Erfitt er að velta fyrir sér stjórnmálahagkerfi og valdajafnvægi framtíðarinnar án þess að móta ítarlegri hugmyndir um nákvæmlega hvernig skipulag fyrirtækja — sem og ríkisstofnana og borgaralegs samfélags í víðari skilningi — gæti sjálft umbreyst.

Teymið um stefnumótandi framtíðarsýn mun birta vinnu sína bæði hér og á öðrum miðlum, meðal annars í greinum, myndskeiðum og hlaðvörpum. Starfið verður í stöðugri þróun, með áherslu á endurbætur, rökræður og opinn hug gagnvart ábendingum. Þar sem við stöndum „við rætur sérstæðunnar“ höfum við miklu fleiri spurningar en svör. Við vitum að „varnargarðar á pappír“ einir og sér veita okkur ekki lausnirnar sem við leitum að, en vísum heldur ekki því sem skráð er á bug sem „orðunum einum“. Við störfum í þágu þeirra hugsjóna um tjáningarfrelsi og einstaklingsfrelsi sem bundnar eru í hinu látlausa skjali, stjórnarskrá Bandaríkjanna, og stjórnarskrár svo margra annarra frjálsra samfélaga um allan heim.

Þegar öllu er á botninn hvolft vitum við að ekkert eitt fyrirtæki, engin ein atvinnugrein og ekki einu sinni eitt mannlegt samfélag getur svarað þeim veigamiklu spurningum sem við stöndum frammi fyrir upp á sitt einsdæmi. Þetta er verkefni sem mannkynið verður að takast á við í sameiningu. Okkar æðsta von er að varpa ljósi á erfiðustu álitaefnin um það hvernig gervigreind mun endurmóta heiminn. Starfið er rétt að hefjast og enn er langt eftir á tindinn.

Athugið: Við breyttum heiti bloggsins í Öld greindar til aðgreiningar frá AI Futures Project, sem er rekið án hagnaðarsjónarmiða.