Hin þögla samstaða
Athugasemd höfundar: Ritgerð dagsins er byggð á fyrirlestri sem höfundur flutti nýlega í Vik-Bailey-fyrirlestraröðinni við Harvard. Þessi færsla endurspeglar skoðanir höfundar sjálfs, en ekki endilega skoðanir OpenAI eða annarra starfsmanna fyrirtækisins.
Takk fyrir að vera hér í dag. Á þessari stundu á sér stað ein mikilvægasta atburðarás í sögu netöryggis: verið er að greina frá röð alvarlegra öryggisveikleika sem sumir kalla „svartan október“. Veikleikarnir fundust í hluta af grunninnviðum internetsins með hjálp háþróaðra Ai-kerfa. Birting upplýsinganna er liður í brýnu átaki til að efla öryggi hugbúnaðar um allan heim. Þetta er brýna málið í þessum mánuði; í þeim næsta verður það annað. Að finna veikleika í hugbúnaði er geta sem Ai-kerfi búa nú yfir og hægt er að nýta bæði til góðs og ills. En brátt bætist önnur slík geta við og með henni nýtt aðkallandi verkefni: að nýta góðu hliðina áður en illviljaðir aðilar nýta þá slæmu. Öll þessi brýnu mál munu óhjákvæmilega skarast og líklegt er að margt af því sem við köllum í dag „stefnumótun um Ai“ verði mótað í þessum skarkala.
En ég er ekki kominn hingað í dag til að ræða viðbrögðin við þessum aðkallandi málum. Þess í stað vil ég ræða hvert þróunin gæti stefnt þegar litið er á heildarmyndina. Þegar brýn verkefni dynja á okkur getur verið erfitt að hugsa um þessar óhlutbundnari og fjarlægari spurningar. En þessar spurningar skipta máli. Án hugmyndar um hvers konar framtíð við viljum skapa til lengri tíma — og hvers konar framtíð við viljum forðast — gæti heildarniðurstaðan orðið okkur lítt að skapi, jafnvel þótt við tækjum skynsamlegar ákvarðanir á hverju skrefi.
Oft er sagt að tækniiðnaðinn skorti jákvæða sýn á það hvert tæknin sem hann þróar muni leiða okkur. Ég er ósammála: San Francisco og aðrar miðstöðvar frumkvöðlastarfs eru fullar af jákvæðum hugmyndum um tæknilega framtíð okkar. Fólk er sannarlega að þróa fljúgandi bíla, sjálfkeyrandi farartæki, vélmenni af ýmsum stærðum og gerðum, kjarnasamruna og auðvitað almenna gervigreind. Það sem okkur skortir er hins vegar jákvæð sýn á framtíð samfélagsstofnana okkar: hvernig á þetta allt að ganga upp?
Það þýðir þó ekki að engin framtíðarsýn sé til um skipan samfélagsins. Því miður er sú sýn sem ég rekst oftast á ekki þess eðlis að ég myndi kalla hana jákvæða. Þegar hún er yfirhöfuð orðuð er það yfirleitt í hvíslum. En oftar er hún ósögð og aðeins hægt að greina hana milli línanna. Ég kalla hana hina þöglu samstöðu.
Hugsum okkur fyrirtæki sem getur gert nánast allt án vinnuframlags manna. Ai-kerfi þess sinna rannsóknum og þróun, gera uppgötvanir, semja um viðskipti, ráðstafa fjármagni og sjá um framleiðslu. Gerum ráð fyrir að fyrirtækið sé betra í þessu en mannlegir keppinautar þess, jafnvel þegar þeir nýta Ai til að efla starf sitt. Ef aðkoma manna verður aðeins til þess að hægja á rekstrinum hafa mannlegir stjórnendur og eigendur sterkan hvata til að sleppa höndunum af stýrinu. Ef þetta gerist um allt hagkerfi heimsins mun rökvísi markaðssamkeppninnar knýja mennina til að afsala sér forræði yfir alþjóðlegu viðskiptalífi. Með tímanum gæti markaðurinn farið að þjóna eftirspurn véla jafnmikið og, eða meira en, eftirspurn og óskum fólks.
Enginn veit hvað gerist eftir það. Kannski myndi mannkynið njóta gríðarlegs ávinnings. Ef vélarnar sem hefðu tekið okkur undir sig teldu mannfólkið mikils virði í sjálfu sér gætum við notið góðs af vinnu þeirra og þeim auði sem þær skapa. Eða kannski myndum við mennirnir, sviptir efnahagslegu valdi og í vaxandi mæli pólitísku valdi, skipta sífellt minna máli í heiminum og eiga sífellt erfiðara með að móta gang heimsmálanna. Kannski myndu örfáir einstaklingar ráða yfir óvenjumiklu valdi og auði á kostnað fjöldans sem hefði að mestu misst völd sín. Eða kannski yrðum við öll að sæta sama valdamissi. Hver sem smáatriðin verða er rauði þráðurinn í hinni þöglu samstöðu sá að forræði mannsins yfir heiminum, eins og við þekkjum það, líði undir lok.
Ekkert í þessum sviðsmyndum krefst þess að Ai geri uppreisn gegn sköpurum sínum. Ekkert krefst þess að eigendur hennar óski þess að mennirnir missi völd sín. Hver ákvörðun um að fela öðrum verkefni getur verið skynsamleg út af fyrir sig. En saman gætu þessar ákvarðanir leitt til heims þar sem fólk hefur í reynd afsalað sér stjórn yfir stórum hluta siðmenningar okkar. Jafnvel þótt við náum stórkostlegum árangri við að leysa hin erfiðu viðfangsefni sem lúta að öryggi Ai og samræmi hennar við mannleg markmið gætum við samt endað undir vald nýrrar tegundar vélveru. Í hinni björtu útgáfu framtíðarinnar, segir hin þögla samstaða okkur, verður sú vera góðviljuð vél sem ber hag mannfólksins fyrir brjósti. Vél gædd ástríkri náð, eins og segir í ljóði Brautigans.
Þessum vélum munum við, samkvæmt hinni þöglu samstöðu, afhenda lyklana að fyrirtækjum okkar og í síauknum mæli að stjórnarstofnunum okkar. Þær munu reka þær með meiri árangri, meiri skilvirkni, meiri visku og betri dómgreind en við mennirnir ráðum yfir. Þannig munum við með tímanum sleppa höndunum af stýrinu og láta hinar ástríku vélar taka við akstrinum. Við verðum eins og farþegar í bíl — mjög flottum bíl, ef til vill miklu íburðarmeiri en okkur getur dreymt um í dag — en samt sem áður farþegar sem ráða ekki hvert ferðinni er heitið. Að því marki sem við vinnum verður það aðallega eins konar helgisiður eða sýndarmennska, líkara leik sem hefur ofan af fyrir tegundinni okkar.
Sumir munu halda því fram að hin þögla samstaða byggist á rangri forsendu, því við mennirnir stjórnum heiminum ekki einu sinni í dag. Og þessa gagnrýni er vert að hafa í huga: það er ekkert eitt „við“ sem ákveður hvað skuli gera. Við búum í heimi þar sem valdið er afar dreift, hvort sem okkur líkar betur eða verr. Þetta ætti þó ekki heldur að verða okkur tilefni til andvaraleysis: þótt „við“ „stjórnum“ ekki heiminum hefur mannkynið í heild engu að síður forræði yfir gangi heimsmálanna. Engin dýrategund veitir okkur raunverulega samkeppni um yfirráð yfir auðlindum. Við ættum að hafna þeirri vanhugsuðu hugmynd að mennirnir geti miðstýrt heiminum. En það er ekki það sama og að afneita þeirri augljósu staðreynd að mannkynið í heild gegnir aðalhlutverkinu á jörðinni.
Sumir þeirra sem eru reiðubúnir að orða hina þöglu samstöðu telja að hún boði sannarlega góða framtíð. Aðrir eru ekki þeirrar skoðunar en hafa sætt sig við að hún sé óhjákvæmileg. Hin þögla samstaða er ekki samstaða af því að allir séu sammála um að þessi framtíð sé góð, og hún er heldur ekki leynilegt áform þeirra sem þróa Ai. Samstaðan snýst einfaldlega um að óhjákvæmilegt sé að mennirnir afsali sér forræði yfir heimsmálunum, eða að minnsta kosti að mjög erfitt sé að sjá fyrir sér aðra framtíðarsýn sem standist raunverulega tilkomu ofurgreindra véla. Fólk getur af einlægni verið andvígt þeirri niðurstöðu en samt átt erfitt með að sjá fyrir sér trúverðugan valkost. Það sem segir sína sögu er að þessi samstaða er að mestu þögul, í besta falli orðuð í hálfum hljóðum.
Ég fyrirlít hina þöglu samstöðu. Ég hafna því að mennirnir afsali sér forræði sínu. Ég hef andstyggð á þeirri tilfinningu að þetta sé óhjákvæmilegt. Ég minni mig á að ég gæti ekki horft í fallegu augun á litla syni mínum ef ég gæfi mig undir hina þöglu samstöðu. Þess vegna segi ég nei við hinni þöglu samstöðu. Og ég tel að tími sé kominn til að ræða hana opinskátt og hrista af okkur þá að mestu ómeðvituðu sátt sem við höfum gert við þessa framtíðarsýn.
Vandinn er þessi: það er ástæða fyrir því að hin þögla samstaða varð að samstöðu. Það er erfitt að lýsa því hvernig mennirnir geti haldið um stýrið samhliða vélgreind sem tekur mannlegri greind langt fram. Flestar tilraunir til þess byggjast á þeim rökum að Ai sé aðeins verkfæri, tæki til að greina mynstur sem sé ófært um „raunverulegan skilning“. Ég óttast að þessi rök standist ekki þann veruleika sem er í vændum. Ég óttast að þau séu annars konar andvaraleysi — afstaða sem byggist fyrst og fremst á afneitun á getu Ai fremur en trú á jákvæða framtíðarsýn þar sem mennirnir leiða för. Ekki er hægt að segja að Ai-kerfi skorti „raunverulegan skilning“ um leið og þau fara að ná árangri við að leysa vitsmunaleg viðfangsefni sem menn hafa glímt árangurslaust við í áratugi og aldir.
Hvers vegna tel ég þá að mennirnir verði að halda forræðinu? Einfalda svarið er að ég er manneskja og dreg vissulega taum mannkynsins án þess að biðjast afsökunar á því.
En annað og dýpra býr líka að baki. Forræði okkar byggist ekki á vitsmunum okkar, ekki á því að halda einkarétti okkar á „raunverulegum skilningi“ um ókomna tíð. Forræði okkar byggist þess í stað á fortíð okkar.
Því það vorum við sem risum upp úr leðjunni. Við sem mótuðum frumstætt samfélag úr mold og grjóti. Við sem horfðum upp til stjarnanna og spurðum hvers vegna. Við, með okkar átök og ást, öfund og gleði, sem uppgötvuðum siðferði, siðfræði og lög. Það vorum við sem sungum og dönsuðum, skrifuðum og sömdum tónlist. Það vorum við sem sköpuðum söguna og það vorum við sem skráðum hana. Sá arfur er okkar. Siðmenningin sem við höfum byggt er logi sem við höfum haldið lifandi, og sá logi tilheyrir okkur. Fortíð okkar er glæsilegur arfur sem við berum öll ábyrgð á að varðveita. Hluti þeirrar ábyrgðar felst í þátttöku okkar í því sem Michael Oakeshott kallaði „samræðu mannkynsins“, því stórbrotna verkefni sem hófst í árdaga.
Á þessari löngu og krókóttu vegferð mótuðum við siðmenningu sem í Bandaríkjunum var reist á réttindum einstaklingsins, með virðingu fyrir þeim leiðum sem hvert okkar ryður sér á ferð sinni um heiminn. Líf mannfólksins getur gengið betur eða verr: við njótum ávaxtanna af skynsamlegum ákvörðunum okkar og tökum afleiðingunum þegar okkur verður á. Rétturinn til að fara eigin leið er ekki háður því að vera snjallastur eða vitrastur. Ég missi ekki stöðu mína sem borgari þótt nágranni minn hafi betri dómgreind. Ég sé enga ástæðu til þess að tilkoma greindari vélar ætti heldur að svipta mig þeirri stöðu. Þvert á móti sé ég fulla ástæðu til að koma í veg fyrir það.
Sumir kunna að halda því fram að vélarnar séu líka erfingjar, enda hafi þær lesið nánast allt sem skráð hefur verið um þennan arf. Og í vissum skilningi eru þær það. En manneskja sem hefur lesið hvert einasta bréf á háalofti fjölskyldu þinnar verður ekki þar með hluti af fjölskyldunni. Ai-kerfi munu koma að samræðu mannkynsins, fyrst sem áheyrendur og í vaxandi mæli sem þátttakendur. En þau mega hvorki ráða henni né gera hana tilgangslausa. Að afsala okkur forræðinu er ekki síður svik við forfeður okkar en afkomendur. Ef þessi barátta er ekki þess virði að heyja hana er engin barátta þess virði.
Ég tel reyndar að fylgjendur hinnar þöglu samstöðu hafi rangt fyrir sér um það hvernig ofurgreind véla muni verða. Að þeim yfirsjáist mikilvægur þáttur í því hvernig heimurinn virkar, að þeir rugli saman greind og valdi. Hefðirðu fyrir fimm eða tíu árum lýst getu jafnvel núverandi Ai-kerfa fyrir fylgjanda hinnar þöglu samstöðu hefði hann líklega spáð miklu meira atvinnuleysi nú en raunin er og því að mennirnir hefðu þegar misst mun meiri völd á flestum sviðum. Ég tel að sameiginleg greind og geta mannkynsins sé miklu meiri en fylgjendur hinnar þöglu samstöðu gera ráð fyrir og að samfélög okkar muni reynast þolnari en þeir spá.
En ég gæti haft rangt fyrir mér. Til dæmis gæti einfaldlega farið svo að alsjálfstæð fyrirtæki útrýmdu rekstri manna með öllu í samkeppni. Og ef það reynist rétt mun hin kalda rökvísi efnahagslífsins knýja fram að sífellt meira fjármagn verði afhent vélunum. Í slíkri framtíð þurfa vélarnar ekki að steypa siðmenningu manna af stóli til að mennirnir missi völd sín. Það nægir að rekstur á forsendum kapítalismans haldi áfram sínum gangi. Þá ætti Ai-byltingin sér næst samsvörun í landbúnaðarbyltingunni, þegar nýir framleiðsluhættir gerbreyttu skipan mannlegs samfélags. Það er síður en svo ljóst að þessi umbreyting hafi verið fólkinu sem upplifði hana til ánægju. Raunar eru veigamiklar vísbendingar um að hún hafi skert velferð manna um árþúsundir.
Ég veit ekki hvort þessi framtíð bíður okkar og hef raunar fært rök fyrir því annars staðar að ég telji svo ekki vera. En margir samstarfsmenn mínir — skynsamt, umhyggjusamt og samviskusamt fólk — telja líklegt að þetta verði framtíð okkar. Hafi þeir rétt fyrir sér verður barátta okkar gegn hinni þöglu samstöðu þeim mun erfiðari. Við verðum að synda gegn straumi efnahagsaflanna og um leið hafna mörgu sem einstaklingshyggjumenn af meiði klassískrar frjálslyndisstefnu, eins og ég, hafa tekið sem gefnu. Þetta verður áhættusamt verkefni og alls ekki ólíklegt að það mistakist. En ef þessi barátta er ekki þess virði að heyja hana er engin barátta þess virði.
Að halda forræðinu þýðir að menn og stofnanir þeirra þurfa áfram að standa skil á gjörðum sínum. Það þýðir að þeir sem þróa Ai ættu að bera ábyrgð þegar þeir beita óöruggum þróunaraðferðum. En það þýðir líka að einstaklingar og fyrirtæki sem nota Ai ættu að bera ábyrgð þegar misnotkun þeirra eða skortur á eftirliti veldur skaða. Til þess þarf ekki aðeins lög heldur einnig tæknilega innviði sem gera kleift að framfylgja ábyrgð. Tengja verður fólk við aðgerðir aðstoðarforrita þess. Aðstoðarforrit sem ekki eru tengd neinum einstaklingi verða að starfa innan öryggisramma — ef þeim verður yfirhöfuð leyft að taka þátt í lögmætu efnahagslífi. Gæta ætti ítrustu varúðar við að veita aðstoðarforritum heimild til að stofna fyrirtæki, eiga eignir eða reka dómsmál sjálfstætt, ef slíkar heimildir verða þá yfirhöfuð veittar.
Og í minni atvinnugrein getum við farið að hugsa af alvöru um hvernig byggja megi greindar vélar sem samrýmast forræði manna. Við getum smíðað aðstoðarforrit með skiljanlegar og afmarkaðar heimildir, þannig að hægt sé að yfirfara aðgerðir þeirra og notendur geti afturkallað umboð þeirra. Ábyrgð á gjörðum sem hafa veruleg áhrif á aðra þarf ekki að fela í sér eftirlit með venjulegu einkalífi eða afnám réttarins til að tjá sig nafnlaust. Við getum skuldbundið okkur til að vernda friðhelgi notenda og sjálfsákvörðunarrétt þeirra yfir stafrænum eignum sínum og gögnum, þar á meðal raunhæfan möguleika á að flytja gögnin annað. Við getum hannað kerfi sem hjálpa fólki að öðlast skilning og taka ákvarðanir, ekki aðeins kerfi sem framkvæma verkefni. Og við getum prófað hvort vörurnar sem við þróum geri notendur sína hæfari til að láta til sín taka í heiminum.
Ekkert af þessu er fullmótuð áætlun um samfélag með greind sem tekur mannlegri greind fram. Ég myndi vantreysta hverjum þeim sem segðist búa yfir slíkri áætlun. En þetta er byrjun.
Framtíðin er hulin þykkri þoku. En við getum samt gripið til aðgerða í dag. Saman getum við meðal annars nefnt hina þöglu samstöðu upphátt og dregið útlínur hennar fram í dagsljósið. Hvert og eitt okkar getur stórhækkað markið sem við setjum okkur. Við getum valið að láta Ai ekki draga úr okkur heldur lagt á okkur þá vinnu sem þarf til að láta hana efla okkur. Við getum lært að spyrja sífellt djarfari spurninga, rannsaka heiminn af endurnýjuðum krafti og ákafa og beita öflugum vélum okkar við það. Við getum orðið ný tegund manneskju — ekki handan hins mannlega, heldur með aukna getu.
Ég hugsa um þetta þegar ég horfi á litla son minn. Ég óska honum ekki aðeins þess að góðviljaðar vélar vaki yfir honum, hversu þægilegu lífi sem þær gætu séð honum fyrir. Ég vil að hann taki við heimi þar sem hann getur spurt spurninga sem engum hefur dottið í hug að spyrja og skapað hluti sem engum hefur dottið í hug að skapa. Ég vil ekki að hann fái flottari bíl með þægilegra farþegasæti. Ég vil að hann haldi um stýrið.
- 2026


