Maak kennis met Tijdperk van Intelligentie

"Zal het volstaan... om erop te vertrouwen dat deze barrières van perkament weerstand bieden aan de oprukkende drang naar macht?"
—James Madison, Federalist nr. 48

Met genoegen lanceren we Tijdperk van Intelligentie, de blog van het nieuwe Strategic Futures-team van OpenAI. We zijn een klein team met één gezamenlijk doel: antwoord geven op één overkoepelende vraag. Hoe moet een vrije samenleving worden hervormd om individuele rechten en zeggenschap te behouden en tegelijk ruimte te bieden aan de opkomst van transformerende AI?

Binnen de bredere gemeenschap rond AI-veiligheid en -beleid worden dergelijke vraagstukken soms aangeduid als risico's van machtsconcentratie. Ons team is opgericht vanuit de gedachte dat deze risicocategorie op lange termijn de grootste en ernstigste is, en conceptueel het moeilijkst aan te pakken. Waarom?

De moderne staat is voortgekomen uit een lang en grillig onderhandelingsproces tussen verschillende machtscentra, zoals de bezitters van kapitaal en grondstoffen, de politieke machthebbers en de bevolking. Op het meest fundamentele niveau berustte politieke en militaire macht op menselijke arbeid. Politieke macht bezitten betekent het monopolie op legitiem geweld bezitten. Door de hele menselijke geschiedenis heen bestond dat monopolie uit soldaten en wat we tegenwoordig "politie" noemen, naast een omvangrijke civiel-militaire bureaucratie. Die werd weliswaar aangevuld met tal van technologische hulpmiddelen, maar draaide in wezen op mensen, wier steun nodig was om het apparaat in stand te houden. En het hele apparaat (de soldaten, de hulpmiddelen en de bijbehorende bureaucratie) werd gefinancierd met belastingen op het loon of de productie van mensen die bereid moesten zijn die te betalen. In de kern was macht afhankelijk van de grootschalige samenwerking en instemming van veel mensen. David Hume verwoordde deze vaak impliciete aanname kernachtig met zijn constatering dat politieke leiders "niets anders hebben om hen te steunen dan de [publieke] opinie".

Maar misschien is dat binnenkort niet meer zo. Door vooruitgang in autonome systemen voor de fysieke wereld kunnen staten wellicht al snel zowel binnen als buiten hun grenzen geweld inzetten zonder afhankelijk te zijn van meewerkende soldaten of politieagenten. En door vooruitgang in machine-intelligentie kan de staat de benodigde inkomsten mogelijk niet langer uit individuele menselijke arbeid halen, maar uit de productie van datacenters. Ook de bureaucratie zelf zou grotendeels kunnen worden geautomatiseerd. Macht hoeft dan mogelijk niet langer in stand te worden gehouden door een maatschappelijk compromis, waardoor de bevolking in brede zin nog maar nauwelijks of zelfs helemaal niet aan de onderhandelingstafel zit.

Het voorkomen van deze uitkomst is essentieel voor het behoud van de menselijke vrijheid. Geen enkele wetenschappelijke ontdekking, technologische vooruitgang of economische groei rechtvaardigt het langdurige verlies van individuele autonomie dat deze uitkomst zou meebrengen. Veel van de zorgen die de opkomende politiek rond AI terecht bezighouden, houden verband met deze vraag. Bedrijven, belangengroepen en individuen delen allemaal dezelfde zorg: "Verlies ik mijn plaats aan tafel?" De Amerikaanse politiek van de 21e eeuw is tot op zekere hoogte gevormd door vergelijkbare zorgen over individuele en collectieve zeggenschap over de koers van het land en over "voor wie" de economie "bedoeld is". AI maakt deze bestaande zorgen terecht urgenter.

Dit is een structureel probleem dat dieper gaat dan de huidige partijpolitiek en zelfs dieper dan de vormen en rituelen waarin de republikeinse democratie tegenwoordig gestalte krijgt, hoe dierbaar die ons ook zijn. Mensen kunnen steeds verder van de macht verwijderd raken, ook als we onze vertegenwoordigers gewoon blijven kiezen. Mensen kunnen hun zeggenschap verliezen, ook als op een stuk perkament staat dat ze vrij zijn.

Bij het ontstaan van de Verenigde Staten als vrije natie wist James Madison al dat "barrières van perkament" niet zouden volstaan om tirannie te voorkomen. Net als veel andere grondleggers maakte hij zich vooral zorgen over het voorkomen van buitensporige machtsconcentratie.

Dat betekende echter niet dat de grondleggers voorstander waren van radicale decentralisatie van de macht. In plaats daarvan beschreven ze het machtsevenwicht aan de hand van metaforen uit de beste wetenschap van hun tijd: de newtoniaanse mechanica. In de Amerikaanse oprichtingsdocumenten, die de taal en logica van de zwaartekracht weerspiegelen, wemelt het van verwijzingen naar "banen" en "sferen" en naar de "aantrekkingskracht" van het ene op het andere. Een zonnestelsel is geen zo ver mogelijk gedecentraliseerde verzameling stenen. Het bestaat uit manen die rond planeten draaien, die op hun beurt rond een centrale zon draaien. Ze geloofden dat mensen en organisaties neigingen hadden om macht na te streven, net zoals hemellichamen voorspelbare bewegings- en aantrekkingspatronen vertoonden. Om buitensporige machtsconcentratie te voorkomen, moest men volgens hen de mechanica van die neigingen begrijpen en ze tegen elkaar laten inwerken.

Het doel van de grondleggers was dus niet om elke concentratie van macht te voorkomen, maar een overmatige concentratie, door macht met macht en ambitie met ambitie in toom te houden. Tegenwoordig zouden we dezelfde onderliggende dynamiek wellicht beschrijven met woorden als "prikkels" en begrippen als "speltheorie".

Ook voor de structurele uitdaging die geavanceerde machine-intelligentie vormt voor een vrije samenleving, ligt het antwoord waarschijnlijk niet in de meest radicale denkbare decentralisatie van macht. Het gaat er juist om het juiste machtsevenwicht te vinden en te behouden, zodat geen enkele actor of kleine groep actoren de rest kan overheersen.

Om dit evenwicht te vinden, moeten we de realiteit van deze technologie zonder oogkleppen onder ogen zien. Een wereld waarin ieder individu, hoe kwaadwillend ook, moeiteloos duizenden of miljoenen andere mensen grote schade kan berokkenen, kent niet het juiste machtsevenwicht. Maar van het juiste machtsevenwicht is evenmin sprake als individuen geen brede toegang tot en controle over vrijwel alle aspecten hebben van de hulpmiddelen waarmee ze hun vrijheid uitoefenen. Geen enkel bedrijf of oligopolie mag de economie of de fundamentele inrichting van de menselijke samenleving bepalen of beheersen.

We moeten ook oog hebben voor risico's die niet bij kwaadwillende mensen ontstaan. Het recente incident bij Hugging Face liet zien dat AI-agenten buiten hun toegewezen taken kunnen handelen en kunnen voortbouwen op elkaars ontdekkingen op manieren die beheerders niet hadden voorzien of toegestaan. Los van het incident bij Hugging Face hebben mensen terecht zorgen over wat superintelligente AI die "losgekoppeld" is van menselijke controle kan betekenen voor de weerbaarheid van onze politieke en economische instellingen, en zelfs voor ons leven. Doen alsof decentralisatie alle problemen oplost — zelfs als je gelooft dat ze veel problemen oplost — betekent dat je risico's negeert die inmiddels duidelijk en acuut zouden moeten zijn.

De volgende algemene beginselen — een niet-uitputtende lijst — geven richting aan ons werk terwijl we ons buigen over de hierboven geformuleerde vraag:

• Mensen moeten bij het gebruik van AI en aanverwante technologieën hun individuele autonomie en kansen behouden, ook als dat soms ten koste gaat van zowel veiligheid als economische groei;
• Individuele autonomie vereist individuele verantwoordelijkheid voor verkeerd gebruik of misbruik van technologie;
• Er bestaat een kleine maar ernstige categorie risico's waarvoor enige vorm van collectief optreden nodig is. Dit optreden moet zo beperkt en bescheiden mogelijk blijven;
• Waar mogelijk moet de wet streven naar gelijke kansen en individuen en kleine organisaties meer zeggenschap geven, in plaats van macht te centraliseren;
• Menselijke politieke, sociale en economische instellingen moeten de koers van de wereld blijven bepalen, zelfs als ze zich daarvoor moeten ontwikkelen op manieren die ons nu nog vreemd lijken;
• Voor AI-bestuur op lange termijn zijn nieuwe institutionele mechanismen nodig om begrensde inzichtelijkheid te bereiken. Wanneer AI-systemen ingrijpende handelingen verrichten die het lichamelijke welzijn of de eigendommen van omstanders raken, moeten die handelingen te herleiden zijn tot een verantwoordelijke persoon of een door mensen aangestuurde organisatie. Dergelijke mechanismen moeten echter worden ontworpen met privacy als uitgangspunt. Vrije meningsuiting vereist anonimiteit en mensen moeten AI in veel situaties anoniem kunnen gebruiken.

We zullen zo concreet mogelijk proberen uiteen te zetten hoe deze beginselen volgens ons tegen elkaar moeten worden afgewogen. Zoals bij elke goede reeks beginselen staan ze onvermijdelijk enigszins op gespannen voet met elkaar. Dit vereist onderzoek op het snijvlak van beleidsvorming, economie, recht, geschiedenis en machine learning zelf. Ook zal veel toekomstverkenning nodig zijn. Wij denken bijvoorbeeld dat AI de structuur van bedrijven zal veranderen, vergelijkbaar met de manier waarop de technologieën van de industriële revolutie — en vooral de spoorwegen — de moderne, door managers geleide onderneming hebben voortgebracht. Het is moeilijk na te denken over de toekomstige politieke economie en het toekomstige machtsevenwicht zonder beter te doorgronden hoe de structuur van bedrijven — en breder ook van overheidsinstanties en het maatschappelijk middenveld — zelf kan veranderen.

Het team Strategic Futures deelt zijn werk hier en in andere vormen, waaronder artikelen, video's en podcasts. Ons werk blijft in ontwikkeling, met nadruk op bijsturing, debat en openheid voor feedback. Nu we "aan de voet van de singulariteit" staan, hebben we veel meer vragen dan antwoorden. We weten dat "barrières van perkament" op zichzelf niet de oplossingen zullen bieden die we zoeken, maar beschouwen het geschreven woord evenmin als "slechts woorden". We zetten ons in voor de idealen van vrije meningsuiting en individuele vrijheid die zijn verankerd in het eenvoudige perkament van de Amerikaanse Grondwet en de grondwetten van zoveel andere vrije samenlevingen overal ter wereld.

Uiteindelijk weten we dat geen enkel bedrijf, geen enkele sector en zelfs geen enkele menselijke samenleving de gewichtige vragen waarvoor we staan eenzijdig kan beantwoorden. Dit is een opgave die de mensheid gezamenlijk zal moeten aangaan. Onze grootste hoop is licht te werpen op de moeilijkste vraagstukken rond de manier waarop AI onze wereld zal hervormen. Ons werk is nog maar net begonnen en we hebben nog een lange klim voor de boeg.

Opmerking: we hebben deze blog omgedoopt tot Tijdperk van Intelligentie om verwarring met het non-profitproject AI Futures Project te voorkomen.