Vi lanserer Intelligensens tidsalder

«Vil det være tilstrekkelig … å stole på disse pergamentbarrierene mot maktens fremtrengende ånd?»
– James Madison, Federalist nr. 48

Det er en glede å lansere Intelligensens tidsalder, bloggen til OpenAIs nye Strategic Futures-team. Vi er et lite team med et felles mål om å besvare ett overordnet spørsmål: Hvordan bør et fritt samfunn omorganiseres for å bevare individuelle rettigheter og handlefrihet, samtidig som det legger til rette for fremveksten av banebrytende KI?

Slike spørsmål omtales iblant som risiko knyttet til maktkonsentrasjon i det bredere fagmiljøet for KI-sikkerhet og -politikk. Teamet vårt bygger på ideen om at denne risikokategorien på lang sikt er den største, mest alvorlige og konseptuelt mest krevende å håndtere. Hvorfor?

Den moderne staten er et resultat av en lang og ujevn forhandlingsprosess mellom ulike maktsentre, som eiere av kapital og råvarer, politiske makthavere og folket. På det mest grunnleggende nivået har politisk og militær makt vært basert på arbeidskraft. Å ha politisk makt innebærer å ha monopol på legitim maktbruk. Gjennom hele menneskehetens historie har dette monopolet bestått av soldater og det vi i dag kaller «politi», sammen med et enormt sivilt og militært byråkrati – riktignok supplert av mange teknologiske verktøy, men i bunn og grunn drevet av mennesker man var avhengig av støtte fra for å holde systemet i gang. Og hele apparatet – soldatene, verktøyene og det tilhørende byråkratiet – ble finansiert gjennom skatt på lønnen eller produksjonen til mennesker som måtte være villige til å betale. Makt har i sin kjerne vært avhengig av omfattende samarbeid og samtykke fra mange mennesker. David Hume formulerte denne ofte underforståtte antakelsen kortfattet da han påpekte at politiske ledere «ikke har annet å støtte seg på enn [folkets] oppfatning».

Men kanskje ikke lenger. Fremskritt innen autonome systemer i den fysiske verden kan snart gjøre det mulig for stater å utøve makt – både innenlands og internasjonalt – uten å være avhengige av samarbeidsvillige soldater eller politibetjenter. Og fremskritt innen maskinintelligens kan gjøre det mulig for staten å hente inntektene den trenger, ikke fra resultatene av menneskers arbeid, men fra datasentrenes produksjon. Selve driften av byråkratiet kan også i stor grad automatiseres. Det kan derfor hende at makten ikke lenger trenger et samfunnsomfattende kompromiss for å bestå, og at folket i vid forstand bare får en liten plass ved forhandlingsbordet – eller kanskje ingen i det hele tatt.

Å unngå dette utfallet er avgjørende for å bevare menneskets frihet. Ingen vitenskapelig oppdagelse, teknologisk utvikling eller økonomisk vekst er verdt å ofre den langsiktige individuelle selvbestemmelsen som dette utfallet ville innebære. Mange av bekymringene som med rette preger den gryende KI-politikken, er knyttet til dette spørsmålet. Både bedrifter, interessegrupper og enkeltpersoner deler samme bekymring: «Mister jeg plassen min ved bordet?» Til en viss grad har amerikansk politikk i det 21. århundret blitt formet av lignende bekymringer om individuell og kollektiv innflytelse over landets retning og «hvem» økonomien «er til for». KI gjør disse allerede eksisterende bekymringene mer fremtredende, med rette.

Dette er et strukturelt problem som stikker dypere enn dagens partipolitikk, og til og med dypere enn formene og ritualene det republikanske demokratiet praktiseres gjennom i dag, hvor hellige de enn måtte være for oss. Mennesker kan være på vei til å miste innflytelse selv om rutinen med å stemme på representantene våre opprettholdes. Folk kan fratas handlefrihet selv om et pergament sier at de er frie.

Allerede da USA oppsto som en fri nasjon, visste James Madison at «pergamentbarrierer» ikke ville være tilstrekkelige til å forhindre tyranni. Som mange av grunnlovsfedrene var han først og fremst opptatt av å unngå utilbørlig maktkonsentrasjon.

Men det betydde ikke at grunnlovsfedrene ønsket en radikal desentralisering av makten. I stedet utformet de maktbalansen med metaforer hentet fra datidens fremste vitenskap – newtonsk mekanikk. USAs grunnlagsdokumenter gjenspeiler gravitasjonens språk og logikk og er fulle av henvisninger til «baner» og «sfærer» og de «tiltrekkende» impulsene én ting har mot en annen. Et solsystem er ikke en mest mulig desentralisert samling steiner. Det består av måner som går i bane rundt planeter, som igjen går i bane rundt en sentral sol. De mente at mennesker og organisasjoner hadde tilbøyeligheter til å søke makt, akkurat som himmellegemer hadde forutsigbare tendenser til bevegelse og tiltrekning. For å unngå utilbørlig maktkonsentrasjon måtte man forstå mekanikken bak disse tendensene, slik at de kunne settes opp mot hverandre.

Grunnlovsfedrenes mål var altså ikke å unngå all maktkonsentrasjon, men for mye av den, ved å balansere makt mot makt og ambisjon mot ambisjon. I dag ville vi kanskje brukt ord som «insentiver» og uttrykk som «spillteori» for å beskrive den samme grunnleggende dynamikken.

På samme måte er den mest radikale desentraliseringen av makt man kan forestille seg, trolig ikke svaret på den strukturelle utfordringen avansert maskinintelligens utgjør for et fritt samfunn. I stedet handler det om å opprette og bevare den rette maktbalansen, slik at ingen enkeltaktør eller liten gruppe aktører kan dominere resten.

Å finne denne balansen krever at vi forholder oss nøkternt til teknologiens realiteter. En verden der hvem som helst, uansett hvor ondsinnet vedkommende er, uten videre kan påføre tusenvis eller millioner av andre mennesker stor skade, har ikke funnet den rette maktbalansen. Men vi har heller ikke funnet den rette maktbalansen dersom enkeltmennesker ikke har bred tilgang til og kontroll over nesten alle sider ved verktøyene de bruker til å utøve sin frihet. Ingen enkeltbedrift eller noe oligopol bør bestemme over eller kontrollere økonomien eller den grunnleggende strukturen i menneskesamfunnet.

Vi må også være åpne for risikoer som ikke stammer fra ondsinnede mennesker. Den nylige hendelsen hos Hugging Face viste at KI-agenter kan handle utenfor oppgavene de har fått, og bygge videre på hverandres oppdagelser på måter operatørene verken forutså eller godkjente. Utover hendelsen hos Hugging Face har mennesker god grunn til å bekymre seg for hva superintelligent KI «løskoblet» fra menneskelig kontroll kan bety for motstandskraften til de politiske og økonomiske institusjonene våre – og ikke minst for livene våre. Å late som om desentralisering løser alle problemer – selv om man mener at det løser mange av dem – er å overse risikoer som nå burde være både tydelige og overhengende.

Følgende overordnede prinsipper – som ikke utgjør en uttømmende liste – vil veilede arbeidet vårt mens vi utforsker spørsmålet ovenfor:

• Mennesker bør beholde individuell selvbestemmelse og individuelle muligheter når de bruker KI og tilknyttet teknologi, selv om dette iblant går på bekostning av både sikkerhet og økonomisk vekst;
• Individuell selvbestemmelse avhenger av at den enkelte tar ansvar for feilbruk eller misbruk av teknologi;
• En liten, men alvorlig risikokategori krever en viss grad av kollektiv handling, og denne handlingen bør avgrenses så strengt og beskjedent som mulig;
• Når det er mulig, bør lovverket søke å skape like konkurransevilkår og styrke enkeltpersoner og små organisasjoner fremfor å sentralisere makt;
• Menneskelige politiske, sosiale og økonomiske institusjoner bør beholde forrang i styringen av verdens utvikling, selv om de må utvikle seg på måter som kan virke fremmede for oss i dag;
• Styring av KI på lang sikt vil være avhengig av nye institusjonelle mekanismer for å oppnå avgrenset sporbarhet: Når KI-systemer utfører handlinger med stor betydning for utenforståendes fysiske helse eller eiendom, må handlingene kunne spores tilbake til et ansvarlig menneske eller en menneskestyrt organisasjon. Samtidig må alle slike mekanismer utformes med personvern som et grunnprinsipp. Ytringsfrihet krever anonymitet, og mennesker bør i mange sammenhenger kunne bruke KI anonymt.

Vi vil forsøke å forklare – så konkret som mulig – hvordan vi mener disse prinsippene bør balanseres. Som ethvert godt sett med prinsipper står de riktignok i et visst spenningsforhold til hverandre. Dette vil innebære forskning i skjæringspunktet mellom utforming av offentlig politikk, økonomi, juss, historie og selve maskinlæringen. Det vil også kreve omfattende prognosearbeid. Vi tror for eksempel at KI vil endre selskaper på et strukturelt nivå, omtrent slik teknologiene fra den industrielle revolusjonen – og særlig jernbanen – ga opphav til det moderne, administrativt styrte selskapet. Det er vanskelig å tenke gjennom fremtidens politiske økonomi og maktbalanse uten å utvikle mer nyanserte forestillinger om nøyaktig hvordan strukturen i selskaper – og mer generelt i offentlige etater og sivilsamfunnet – kan bli forvandlet.

Strategic Futures-teamet vil dele arbeidet sitt både her og i andre formater, blant annet artikler, videoer og podkaster. Arbeidet vårt vil være i stadig utvikling, med vekt på gjentatte forbedringer, debatt og åpenhet for tilbakemeldinger. Der vi står «ved foten av singulariteten», har vi langt flere spørsmål enn svar. Vi vet at «pergamentbarrierer» alene ikke vil gi oss løsningene vi søker, men vi avfeier heller ikke det nedskrevne som «bare ord». Vi arbeider for idealene om ytringsfrihet og individuell frihet som er nedfelt i det beskjedne pergamentet som utgjør USAs grunnlov og grunnlovene til så mange andre frie samfunn verden over.

Til syvende og sist vet vi at verken ett selskap, én bransje eller ett enkelt menneskelig samfunn kan besvare de store spørsmålene vi står overfor, på egen hånd. Dette er en oppgave menneskeheten må løse i fellesskap. Vårt største håp er å kaste lys over de vanskeligste spørsmålene knyttet til hvordan KI vil forme verden på nytt. Arbeidet vårt har så vidt begynt, og vi har fortsatt en lang vei å gå.

Merk: Vi endret navnet på denne bloggen til Intelligensens tidsalder for å unngå forveksling med den ideelle organisasjonen AI Futures Project.