Den tavse konsensus
Forfatterens note: Dagens essay er en bearbejdet udgave af et foredrag, forfatteren for nylig holdt som led i Vik-Bailey-forelæsningsrækken på Harvard. Indlægget afspejler forfatterens egne synspunkter og ikke nødvendigvis OpenAI's eller virksomhedens øvrige medarbejderes.
Tak, fordi I er her i dag. Mens vi taler, udspiller der sig en af de mest betydningsfulde serier af hændelser i cybersikkerhedens historie: offentliggørelsen af en række kritiske sikkerhedssårbarheder, som nogle kalder »Sort oktober«. Sårbarhederne findes i centrale dele af internettets infrastruktur og blev opdaget af banebrydende AI-systemer. Offentliggørelsen er en del af en hastende indsats for at styrke softwaresikkerheden verden over. Det er denne måneds akutte problem. Næste måned kommer der et andet. At finde softwaresårbarheder er den evne, AI-systemer i dag har opnået, som kan bruges til både gavn og skade. Men snart får de endnu en sådan evne, og den vil udløse sit eget hasteprojekt for at udnytte de gavnlige sider, før ondsindede aktører udnytter de skadelige. Alle disse hastesager vil uundgåeligt overlappe, og meget af det, vi i dag kalder »AI-politik«, vil sandsynligvis blive til midt i dette virvar.
Men jeg er ikke kommet for at tale om de akutte problemer og vores reaktioner på dem i dag. I stedet vil jeg tale med jer om, hvor udviklingen kan være på vej hen i det store billede. Når hastesagerne vælter ind, kan det være svært at tænke over disse mere abstrakte og luftige spørgsmål. Men spørgsmålene er vigtige. Uden en forestilling om, hvilke fremtider vi ønsker på lang sigt – og hvilke vi vil undgå – kan vi ende med et samlet resultat, vi ikke bryder os om, selvom vi traf kloge beslutninger ved hvert skridt på vejen.
Det bliver ofte sagt, at teknologibranchen mangler en positiv vision for, hvor de ting, den bygger, vil føre os hen. Jeg er uenig: San Francisco og andre iværksættermiljøer er fulde af positive visioner for vores teknologiske fremtid. Folk arbejder faktisk på flyvende biler, selvkørende køretøjer, robotter i mange størrelser og former, kernefusion og selvfølgelig kunstig generel intelligens. Det, vi derimod mangler, er en positiv vision for vores institutionelle fremtid: Hvordan skal alt dette fungere?
Det betyder dog ikke, at der slet ikke findes en institutionel fremtidsvision. Desværre er den vision, jeg oftest møder, ikke en, jeg ville kalde positiv. Når den overhovedet bliver udtrykt, sker det som regel i en hvisken. Men oftere forbliver den usagt og kan kun anes mellem linjerne. Jeg kalder den den tavse konsensus.
Forestil jer en virksomhed, der kan gøre næsten alt uden menneskelig arbejdskraft. Dens AI-systemer forsker og udvikler, gør opdagelser, forhandler kontrakter, fordeler kapital og står for produktionen. Antag, at den er bedre til alt dette end sine menneskelige konkurrenter, selv når de styrker deres indsats med AI. Hvis menneskelig indblanding kun bremser virksomheden, vil menneskelige ledere og ejere have et stærkt incitament til at tage hænderne fra rattet. Hvis det sker i hele den globale økonomi, vil markedskonkurrencens logik drive mennesker til at opgive deres førende rolle i verdenshandlen. Med tiden kan markedet komme til at opfylde maskinernes behov lige så meget som – eller mere end – menneskers behov og ønsker.
Hvad der så sker, kan ingen vide. Måske ville det gavne menneskene enormt. Hvis de maskiner, vi var blevet underlagt, tillagde mennesker stor værdi i sig selv, kunne vi få glæde af deres arbejde og den velstand, de skaber. Eller måske vil vi mennesker, berøvet vores økonomiske og i stigende grad politiske magt, opleve, at vi betyder mindre og mindre i verden og har stadig sværere ved at påvirke dens udvikling. Måske ville et lille antal mennesker besidde usædvanlig stor magt og rigdom på bekostning af de mange, som stort set havde mistet al indflydelse. Eller måske ville vi alle dele den samme magtesløse skæbne. Uanset detaljerne er den røde tråd i den tavse konsensus, at menneskets førende rolle i verden, som vi kender den, ophører.
Intet i disse scenarier kræver, at AI gør oprør mod sine skabere. Intet kræver, at dens ejere ønsker at fratage mennesker deres magt. Hver beslutning om at uddelegere kan give mening i sig selv. Men tilsammen kan beslutningerne skabe en verden, hvor mennesker har givet afkald på den reelle myndighed over store dele af vores civilisation. Selv hvis vi gør usædvanligt store fremskridt med de genstridige spørgsmål om AI-sikkerhed og om at få AI til at handle i tråd med menneskelige værdier, kan vi stadig ende med at have underkastet os en ny slags maskinvæsen. I den lykkelige udgave af fremtiden vil dette væsen ifølge den tavse konsensus være godhjertet: en maskine, der vil menneskene det bedste. En maskine fuld af kærlig nåde, som det hedder i Brautigans digt.
Den tavse konsensus fortæller os, at vi vil overdrage nøglerne til vores virksomheder og i stigende grad vores styrende institutioner til disse maskiner. De vil drive dem mere effektivt, med færre ressourcer, større visdom og bedre dømmekraft, end vi mennesker kan præstere. Og således vil vi med tiden tage hænderne fra rattet og lade de kærlige maskiner overtage kørslen. Vi vil være som passagerer i en bil – en meget fin bil, måske materielt set finere, end vi kan drømme om i dag – men ikke desto mindre passagerer uden kontrol over, hvor bilen er på vej hen. I det omfang vi arbejder, er det mest som et ritual eller noget, vi leger, snarere et spil, der skal underholde vores art.
Nogle iagttagere vil hævde, at den tavse konsensus hviler på en falsk præmis, fordi vi mennesker i forvejen ikke kontrollerer verden i dag. Og den kritik er værd at huske på: Der findes ikke noget »vi«, som bestemmer, hvad der skal ske. Vi lever i en radikalt decentraliseret verden, hvad enten vi bryder os om det eller ej. Men den pointe må heller ikke blive en sovepude: Selvom »vi« ikke »kontrollerer« verden, har mennesker samlet set en førende rolle i den. Ingen dyreart konkurrerer for alvor med os om kontrollen over ressourcerne. Vi bør afvise den intellektuelt sjuskede forestilling om, at mennesker kan styre verden oppefra, men vi bør ikke forveksle den afvisning med en benægtelse af den åbenlyse kendsgerning, at mennesker tilsammen er Jordens vigtigste aktør.
Nogle af dem, der er villige til at sætte ord på den tavse konsensus, mener, at den beskriver en oprigtigt god fremtid. Andre gør ikke, men har resigneret over for dens uundgåelighed. Den tavse konsensus er ikke en konsensus, fordi alle er enige om, at den er god, og den er heller ikke en hemmelig plan blandt dem, der udvikler AI. Enigheden består blot i, at det er uundgåeligt, at mennesket giver afkald på sin førende rolle i verden, eller i det mindste at det er meget svært at forestille sig en anden fremtidsvision, som reelt kan holde stand over for superintelligente maskiner. Man kan oprigtigt modsætte sig det udfald og samtidig have svært ved at forestille sig et plausibelt alternativ. Det afslørende er, at konsensussen for det meste er tavs og i bedste fald udtrykkes med dæmpet stemme.
Jeg foragter den tavse konsensus. Jeg afviser, at mennesket skal give afkald på sin forrang. Jeg afskyr følelsen af uundgåelighed. Jeg minder mig selv om, at jeg ikke ville kunne se min lille søn i hans smukke øjne, hvis jeg bøjede mig for den tavse konsensus. Så jeg siger nej til den tavse konsensus. Og jeg mener, at tiden er inde til at tale åbent om den tavse konsensus og ryste os fri af vores for det meste ubevidste accept af denne vision.
Problemet er bare, at den tavse konsensus blev en konsensus af en grund. Det er svært at beskrive, hvordan mennesker skal blive siddende ved rattet side om side med en maskinintelligens, der langt overgår vores egen. De fleste forsøg bygger på argumenter om, at AI blot er et redskab, et instrument til mønstergenkendelse uden evne til »ægte forståelse«. Jeg frygter, at disse argumenter ikke kan holde til den virkelighed, der venter. Jeg frygter, at de selv er en form for selvtilfredshed – en holdning, der mest bygger på benægtelse af, hvad AI kan, frem for en overbevisning med rod i en positiv vision for en fremtid under menneskers ledelse. Man kan ikke hævde, at AI-systemer mangler »ægte forståelse«, når de begynder at gøre fremskridt med intellektuelle problemer, som mennesker i årtier og århundreder ikke har kunnet løse.
Hvorfor mener jeg så, at mennesker skal bevare deres forrang? Det enkle svar er, at jeg er et menneske, og jeg er da også en uforbeholden menneskechauvinist.
Men der ligger også noget dybere bag. Vores forrang hviler ikke på vores intellekt, ikke på at bevare vores monopol på »ægte forståelse« i al fremtid. Vores forrang hviler derimod på vores fortid.
For det var os, der rejste os af mudderet. Os, der skabte primitive samfund af jord og sten. Os, der så op på stjernerne og spurgte hvorfor. Os, der med vores kampe og vores kærlighed og vores misundelse og vores glæde opdagede moral og etik og lov. Det var os, der sang og dansede, skrev og komponerede. Det var os, der skabte historien, og det var os, der skrev den. Den arv er vores. Den civilisation, vi har bygget, er en flamme, vi har holdt i live, og den flamme tilhører os. Vores fortid er en storslået arv, som vi alle forvalter. En del af den opgave er at deltage i det, Michael Oakeshott kaldte »menneskehedens samtale«, dette storværk, som begyndte i urtiden.
Gennem denne lange og snoede fortid skabte vi en civilisation, som i Amerika blev grundlagt på individets rettigheder, med respekt for de veje, vi hver især baner os gennem verden. Menneskers liv kan gå bedre eller værre: Vi høster frugterne af vores kloge beslutninger, og vi bærer konsekvenserne, når vi tager fejl. Retten til at gå sin egen vej afhænger ikke af, om man er den klogeste eller den viseste. Jeg mister ikke min status som borger, fordi min nabo har bedre dømmekraft. Jeg ser heller ingen grund til, at fremkomsten af en mere intelligent maskine skulle ophæve den status. Tværtimod ser jeg al mulig grund til at forhindre, at det sker.
Nogle vil måske hævde, at maskinerne også er arvinger, eftersom de har læst næsten alt, hvad der er nedskrevet af denne arv. Og i en vis forstand er de det. Men en person, der har læst hvert eneste brev på din families loft, bliver ikke af den grund en del af familien. AI-systemer vil indgå i menneskehedens samtale, først som iagttagere og i stigende grad som deltagere, men de må hverken dominere den eller gøre den irrelevant. At give afkald på vores forrang er lige så meget et svigt af vores forfædre som af vores efterkommere. Hvis denne kamp ikke er værd at tage, er ingen kamp værd at tage.
Nu mener jeg faktisk, at tilhængerne af den tavse konsensus tager fejl af, hvad maskinel superintelligens vil blive. At de overser noget vigtigt ved den måde, verden fungerer på, og forveksler intelligens med magt. Hvis man for fem eller ti år siden havde beskrevet, hvad selv nutidens AI-systemer kan, for en tilhænger af den tavse konsensus, ville vedkommende sandsynligvis have forudsagt, at arbejdsløsheden nu ville være langt højere, end den faktisk er, og at menneskets tab af magt generelt ville være langt mere fremskredent. Jeg mener, at menneskers kollektive intelligens og formåen er langt større, end tilhængerne af den tavse konsensus antager, og at vores samfund vil vise sig mere robuste, end de forudser.
Men jeg kan tage fejl. Det kan for eksempel ganske enkelt vise sig, at fuldt autonome virksomheder helt udkonkurrerer menneskedrevne virksomheder. Og hvis det er tilfældet, vil den rå økonomiske logik diktere, at mere og mere kapital overlades til maskinerne. I denne fremtid kræver menneskets tab af magt ikke, at maskinerne omstyrter den menneskelige civilisation. Det kræver blot, at den kapitalistiske virksomhedslogik fortsætter ufortrødent. Her ville AI-revolutionens nærmeste parallel være landbrugsrevolutionen, hvor nye produktionsformer ændrede menneskesamfundets opbygning fundamentalt. Det er langtfra givet, at denne omvæltning var behagelig for de mennesker, der oplevede den. Faktisk tyder meget på, at den forringede menneskers livsvilkår i årtusinder.
Jeg ved ikke, om det er den fremtid, vi går i møde, og jeg har faktisk andre steder argumenteret for, at jeg ikke tror, det er tilfældet. Men mange af mine kolleger – kloge, omsorgsfulde og samvittighedsfulde mennesker – mener, at det sandsynligvis bliver vores fremtid. Hvis de har ret, bliver vores kamp mod den tavse konsensus så meget desto sværere. Vi bliver nødt til at svømme mod den økonomiske strøm og dermed afvise meget af det, der er dogmer for klassisk liberale individualister som mig. Det bliver et farefuldt forehavende, og det er langtfra usandsynligt, at det mislykkes. Men hvis denne kamp ikke er værd at tage, er ingen kamp værd at tage.
At bevare menneskets forrang betyder, at mennesker og menneskelige institutioner fortsat skal stå til ansvar. Det betyder, at AI-udviklere bør stå til ansvar, når de anvender usikre udviklingsmetoder. Men det betyder også, at personer og virksomheder, der bruger AI, bør holdes ansvarlige, når deres misbrug eller manglende tilsyn forvolder skade. Det kræver ikke blot lovgivning, men også en teknisk infrastruktur, der gør det muligt at placere ansvaret. Mennesker skal kunne knyttes til deres agenters handlinger, og agenter uden tilknytning til et menneske skal være underlagt sikkerhedsrammer – hvis de overhovedet skal have lov til at deltage i den lovlige økonomi. Enhver adgang for agenter til selvstændigt at stifte selskaber, eje ejendom eller føre retssager bør gives med overordentlig stor forsigtighed, hvis overhovedet.
Og i min branche kan vi begynde at overveje seriøst, hvordan vi bygger intelligente maskiner, der er forenelige med menneskets forrang. Vi kan bygge agenter med forståelige og begrænsede tilladelser, hvis handlinger kan efterprøves, og hvis beføjelser brugerne kan inddrage. At skulle stå til ansvar for handlinger, der påvirker andre væsentligt, behøver ikke at medføre overvågning af det almindelige privatliv eller et farvel til muligheden for at ytre sig anonymt. Vi kan forpligte os til at beskytte brugernes privatliv og den enkeltes råderet over sin digitale ejendom og sine data, herunder den praktiske mulighed for at flytte dataene et andet sted hen. Vi kan designe systemer, der hjælper mennesker med at opnå forståelse og træffe beslutninger, såvel som systemer, der udfører opgaver. Og vi kan teste, om de produkter, vi bygger, gør brugerne bedre i stand til at handle i verden.
Intet af dette er en færdig plan for et samfund med overmenneskelig intelligens. Jeg ville være skeptisk over for enhver, der hævdede at have sådan en. Men det er et sted at begynde.
Fremtiden er indhyllet i tæt tåge. Men vi kan stadig handle i dag. Sammen kan vi blandt andet sætte ord på den tavse konsensus og bringe dens konturer frem i dagens lys. Vi kan hver især sætte os langt større mål. Vi kan vælge ikke at lade AI gøre os mindre og i stedet påtage os det hårde arbejde med at lade den gøre os større. Vi kan lære at stille stadig dristigere spørgsmål, at udforske verden med ny energi og vildskab og at bruge vores kraftfulde maskiner til det. Vi kan blive en ny slags menneske – ikke et transhumant menneske, men et menneske med større rækkevidde.
Det tænker jeg på, når jeg ser på min lille søn. Jeg ønsker ikke, at han blot skal leve under velvillige maskiners opsyn, uanset hvor behageligt et liv de måtte give ham. Jeg ønsker, at han skal arve en verden, hvor han kan stille spørgsmål, ingen har tænkt på at stille, og bygge ting, ingen har tænkt på at bygge. Jeg ønsker ikke, at han skal have en finere bil med et blødere passagersæde. Jeg ønsker, at han skal sidde ved rattet.
- 2026


