Introduktion til Intelligensens tidsalder

»Vil det være tilstrækkeligt … at stole på disse pergamentbarrierer mod magtens fremtrængende ånd?«
—James Madison, Federalist nr. 48

Det er os en glæde at lancere Intelligensens tidsalder, bloggen fra OpenAI's nye Strategic Futures-team. Vi er et lille team med et fælles mål om at besvare ét overordnet spørgsmål: Hvordan bør det frie samfund omstruktureres, så individuelle rettigheder og handlekraft bevares, samtidig med at vi giver plads til fremkomsten af transformativ AI?

Spørgsmål som dette omtales undertiden som risici ved magtkoncentration i det bredere miljø for AI-sikkerhed og -politik. Vores team bygger på den opfattelse, at denne risikokategori på langt sigt er den største, alvorligste og begrebsmæssigt vanskeligste at håndtere. Hvorfor?

Den moderne stat er resultatet af en lang og ujævn forhandlingsproces mellem forskellige magtcentre såsom ejere af kapital og råvarer, politiske magthavere og befolkningen. Helt grundlæggende har politisk og militær magt hvilet på arbejdskraft. At have politisk magt er at besidde monopolet på legitim magtanvendelse. Gennem hele menneskehedens historie har dette monopol bestået af soldater og det, vi i dag kalder »politi«, sammen med et omfattende civil-militært bureaukrati – ganske vist suppleret af mange teknologiske værktøjer, men grundlæggende drevet af mennesker, hvis støtte var nødvendig for at opretholde det. Og hele apparatet – soldaterne, værktøjerne og det tilhørende bureaukrati – blev finansieret gennem skatter på løn eller produktion fra mennesker, som skulle være villige til at betale. Magt har grundlæggende været afhængig af mange menneskers samarbejde og samtykke i stor skala. David Hume formulerede kortfattet denne ofte uudtalte antagelse, da han bemærkede, at politiske ledere »ikke har andet at støtte sig til end [folkets] mening«.

Men måske ikke længere. Fremskridt inden for autonome systemer i den fysiske verden kan snart betyde, at stater kan udøve magt – både nationalt og internationalt – uden at være afhængige af samarbejdsvillige soldater eller politibetjente. Og fremskridt inden for maskinintelligens kan betyde, at staten ikke længere behøver at hente sine indtægter fra den enkeltes arbejde, men kan få dem fra datacentrenes produktion. Selve bureaukratiets drift vil også i vid udstrækning kunne automatiseres. Magtens opretholdelse vil derfor måske ikke længere kræve en samfundsomspændende overenskomst, og befolkningen i bred forstand får måske kun en beskeden plads ved forhandlingsbordet – eller slet ingen.

At undgå dette udfald er afgørende for at bevare menneskets frihed. Ingen videnskabelig opdagelse, teknologisk udvikling eller økonomisk vækst er værd at ofre den langsigtede individuelle selvbestemmelse, som dette udfald ville koste. Mange af de bekymringer, som med rette præger den spirende AI-politik, knytter sig til dette spørgsmål. Virksomheder, interessegrupper og enkeltpersoner deler alle bekymringen: »Mister jeg min plads ved bordet?« I et vist omfang er amerikansk politik i det 21. århundrede blevet formet af lignende bekymringer om individuel og kollektiv indflydelse på landets kurs og om, »hvem« økonomien »er til for«. AI gør med god grund disse eksisterende bekymringer mere påtrængende.

Det er et strukturelt problem, der rækker dybere end nutidens partipolitik og endda dybere end de former og ritualer, som det republikanske demokrati i dag udøves gennem, uanset hvor ukrænkelige de måtte være for os. Mennesker kan være på vej til at miste deres indflydelse, selv hvis den faste praksis med at stemme på vores repræsentanter opretholdes. Mennesker kan fratages deres handlekraft, selv hvis et stykke papir erklærer, at de er frie.

Da USA blev grundlagt som en fri nation, vidste James Madison allerede, at en lov på et stykke papir ikke i sig selv ville være tilstrækkelige til at forhindre tyranni. Ligesom mange af grundlæggerne var han primært optaget af at undgå en urimelig koncentration af magt.

Men det betød ikke, at grundlæggerne gik ind for en radikal decentralisering af magten. I stedet beskrev de magtbalancen gennem metaforer hentet fra deres tids bedste videnskab: den newtonske mekanik. USA's grundlæggende dokumenter afspejler tyngdekraftens sprog og logik og er fulde af henvisninger til »kredsløb«, »sfærer« og én tings »tiltrækkende« kraft på en anden. Et solsystem er ikke en fuldstændig decentral samling af sten. Det består af måner, der kredser om planeter, som igen kredser om en central sol. De mente, at mennesker og organisationer havde tilbøjeligheder til at søge magt, ligesom himmellegemer havde forudsigelige bevægelses- og tiltrækningstendenser. Og at det for at undgå urimelig magtkoncentration var nødvendigt at forstå disse tilbøjeligheders mekanik , så de kunne sættes i bevægelse mod hinanden.

Grundlæggernes mål var altså ikke at undgå enhver koncentration af magt, men at undgå for stor koncentration ved at lade magt holde magt i skak og ambition holde ambition i skak. I dag ville vi måske bruge ord som »incitamenter« og udtryk som »spilteori« til at beskrive de samme grundlæggende dynamikker.

På samme måde er svaret på den strukturelle udfordring, som avanceret maskinintelligens udgør for det frie samfund, sandsynligvis ikke den mest radikale decentralisering af magten, man kan forestille sig. Det handler i stedet om at skabe og bevare den rette magtbalance, så ingen enkelt aktør eller lille gruppe af aktører kan dominere resten.

At finde denne balance kræver et klart blik for teknologiens realiteter. En verden, hvor enhver enkeltperson, uanset hvor ondsindet vedkommende er, uden videre kan gøre stor skade på tusinder eller millioner af andre mennesker, har ikke fundet den rette magtbalance. Men vi har heller ikke fundet den rette magtbalance, hvis enkeltpersoner ikke har bred adgang til og kontrol over næsten alle aspekter af de værktøjer, de bruger til at udøve deres frihed. Ingen enkelt virksomhed eller noget oligopol bør bestemme over eller kontrollere økonomien eller den grundlæggende arkitektur i det menneskelige samfund.

Vi må også være åbne over for risici, som ikke udspringer af ondsindede mennesker. Den nylige hændelse hos Hugging Face viste, at AI-agenter kan handle ud over deres tildelte opgaver og bygge videre på hinandens opdagelser på måder, som operatørerne hverken havde forudset eller godkendt. Ud over hændelsen hos Hugging Face har mennesker god grund til at bekymre sig om, hvad superintelligent AI »løsgjort« fra menneskelig kontrol kan betyde for vores politiske og økonomiske institutioners modstandskraft – og i sidste ende for vores liv. At foregive, at decentralisering løser alle problemer – selv hvis man mener, at den løser mange af dem – er at ignorere risici, som nu burde være både tydelige og nærværende.

Følgende overordnede principper – en ikke-udtømmende liste – vil være retningsgivende for vores arbejde med det spørgsmål, vi har rejst ovenfor:

• Mennesker bør bevare deres individuelle autonomi og muligheder, når de bruger AI og tilknyttede teknologier, selv om det undertiden sker på bekostning af både sikkerhed og økonomisk vækst;
• Individuel autonomi afhænger af individuelt ansvar for forkert brug eller misbrug af teknologi;
• En lille, men alvorlig risikokategori kræver en vis grad af kollektiv handling, og denne handling bør afgrænses så snævert og beskedent som muligt;
• Når det er muligt, bør lovgivningen søge at skabe lige vilkår og styrke enkeltpersoner og små organisationer frem for at centralisere magten;
• Menneskelige politiske, sociale og økonomiske institutioner bør fortsat have forrang i styringen af verdens anliggender, selv om de må udvikle sig på måder, der kan forekomme os fremmedartede i dag;
• Den langsigtede styring af AI vil bygge på nye institutionelle mekanismer, der kan sikre afgrænset gennemskuelighed: Når AI-systemer udfører handlinger med store konsekvenser for udenforståendes fysiske velbefindende eller ejendom, skal handlingerne kunne føres tilbage til et ansvarligt menneske eller en menneskestyret organisation. Sådanne mekanismer skal dog udformes med privatliv som et kerneprincip. Ytringsfrihed kræver anonymitet, og mennesker bør i mange sammenhænge frit kunne bruge AI anonymt.

Vi vil forsøge at beskrive så konkret som muligt, hvordan vi mener, at disse principper bør afvejes. Som ethvert godt sæt principper står de ganske vist i et vist spændingsforhold til hinanden. Det vil kræve forskning i krydsfeltet mellem udformning af offentlig politik, økonomi, jura, historie og maskinlæring. Det vil også kræve omfattende prognosearbejde. Vi mener for eksempel, at AI vil ændre virksomheder på et strukturelt plan, ligesom den industrielle revolutions teknologier – og især jernbanen – gav ophav til den moderne, ledelsesstyrede virksomhed. Det er vanskeligt at overveje fremtidens politiske økonomi og magtbalance uden at udvikle mere nuancerede forestillinger om præcis hvordan strukturen i virksomheder – og i offentlige myndigheder og civilsamfundet mere generelt – selv kan blive forandret.

Strategic Futures-teamet vil dele sit arbejde både her og i andre formater, herunder artikler, videoer og podcasts. Vores arbejde vil løbende udvikle sig med vægt på gentagelse, debat og åbenhed over for feedback. Mens vi står »ved foden af singulariteten«, har vi langt flere spørgsmål end svar. Vi ved, at en lov på et stykke papir ikke i sig selv vil give os de løsninger, vi søger, men vi afviser heller ikke det skrevne som »blot ord«. Vi arbejder for idealerne om ytringsfrihed og individuel frihed, som er nedfældet på det beskedne stykke papir, der udgør USA's forfatning og forfatningerne i så mange andre frie samfund verden over.

I sidste ende ved vi, at hverken én virksomhed, én branche eller sågar ét menneskeligt samfund egenhændigt kan besvare de tungtvejende spørgsmål, vi står over for. Det er en opgave, som menneskeheden må løfte i fællesskab. Vores største håb er at kaste lys over de vanskeligste spørgsmål om, hvordan AI vil omforme vores verden. Vores arbejde er kun lige begyndt, og vi har stadig langt til toppen.

Bemærk: Vi har ændret bloggens navn til Intelligensens tidsalder for at undgå forveksling med den almennyttige organisation AI Futures Project.