De stille consensus
Noot van de auteur: Dit essay is een bewerking van een lezing die de auteur onlangs gaf in de Vik-Bailey-lezingenreeks aan Harvard. Dit artikel geeft de persoonlijke opvattingen van de auteur weer, en niet noodzakelijkerwijs die van OpenAI of andere medewerkers van het bedrijf.
Dank u wel dat u hier vandaag bent. Terwijl wij hier spreken, voltrekt zich een van de belangrijkste reeksen gebeurtenissen in de geschiedenis van de cyberbeveiliging: de bekendmaking van een reeks kritieke beveiligingslekken, die sommigen "Zwarte Oktober" noemen. Deze kwetsbaarheden zijn door grensverleggende AI-systemen ontdekt in delen van de kerninfrastructuur van het internet. De bekendmaking ervan is onderdeel van een dringende inspanning om software wereldwijd beter te beveiligen. Dit is de urgente kwestie van deze maand; volgende maand is er weer een andere. AI-systemen kunnen inmiddels kwetsbaarheden in software opsporen, een vermogen dat zowel ten goede als ten kwade kan worden ingezet. Maar al snel zullen ze weer iets nieuws kunnen. Ook dat zal aanleiding geven tot een urgent project om het goede ervan te benutten voordat kwaadwillenden de schadelijke kant inzetten. Al deze urgente kwesties zullen onvermijdelijk door elkaar gaan lopen, en veel van wat we nu "AI-beleid" noemen, zal waarschijnlijk te midden van die hectiek tot stand komen.
Maar ik ben hier vandaag niet gekomen om het met u te hebben over urgente zaken en hoe we daarop moeten reageren. Ik wil juist met u praten over waar dit alles ons in het grotere geheel naartoe zou kunnen brengen. Bij zo'n stortvloed aan dringende kwesties kan het moeilijk zijn om na te denken over deze abstractere, minder tastbare vragen. Toch doen deze vragen ertoe. Want zonder een idee van welke toekomst we op de lange termijn willen bereiken, en welke we willen vermijden, kunnen we uitkomen op een eindresultaat dat we niet wensen, zelfs als we onderweg bij elke stap verstandige beslissingen hebben genomen.
Vaak wordt gezegd dat de technologiesector geen positieve visie heeft op waar de technologie die hij bouwt ons zal brengen. Ik ben het daar niet mee eens: San Francisco en andere centra van ondernemerschap bruisen van de positieve visies op onze technologische toekomst. Mensen werken wel degelijk aan vliegende auto's, autonome voertuigen, robots in allerlei soorten en maten, kernfusie en natuurlijk kunstmatige algemene intelligentie. Wat we wél missen, is een positieve visie op onze institutionele toekomst: hoe gaat dit allemaal werken?
Dat wil echter niet zeggen dat er geen institutionele toekomstvisie bestaat. Helaas is de visie die ik het vaakst tegenkom er niet een die ik positief zou noemen. Als ze al wordt uitgesproken, gebeurt dat meestal fluisterend. Maar vaker blijft ze onuitgesproken en is ze alleen tussen de regels door te herkennen. Ik noem haar de stille consensus.
Stel u een bedrijf voor dat vrijwel alles zonder menselijke arbeid kan doen. De AI-systemen van dat bedrijf doen onderzoek en ontwikkeling, doen ontdekkingen, onderhandelen over contracten, wijzen kapitaal toe en vervaardigen producten. Stel dat het bedrijf dit beter kan dan zijn menselijke concurrenten, zelfs wanneer die mensen AI inzetten om hun eigen werk te versterken. Als menselijke betrokkenheid het bedrijf alleen maar afremt, zullen menselijke managers en eigenaren een sterke prikkel hebben om hun handen van het stuur te halen. Als dit in de hele wereldeconomie gebeurt, zal de logica van de marktconcurrentie mensen ertoe drijven hun primaat in de wereldwijde handel op te geven. Na verloop van tijd gaat de markt misschien evenzeer, of zelfs meer, voorzien in de behoeften van machines als in de behoeften en wensen van mensen.
Wat daarna gebeurt, weet niemand. Misschien zouden mensen er enorm van profiteren. Als de machines die ons hadden ingelijfd grote intrinsieke waarde aan mensen hechtten, zouden wij kunnen profiteren van hun arbeid en de welvaart die ze voortbrengen. Maar misschien zullen wij mensen, beroofd van onze economische en steeds meer ook politieke macht, steeds minder meetellen in de wereld en steeds minder invloed kunnen uitoefenen op de loop van de wereldgebeurtenissen. Misschien zou een klein aantal mensen buitengewone macht en rijkdom bezitten, ten koste van een grotendeels machteloze massa. Of misschien zouden we allemaal hetzelfde lot van machteloosheid delen. Los van de precieze invulling is dit de rode draad in de stille consensus: het einde van het menselijk primaat in de wereld zoals we die kennen.
Voor geen van deze scenario's hoeft AI in opstand te komen tegen haar makers. Ook hoeven haar eigenaren niet te willen dat mensen hun macht verliezen. Elke beslissing om iets uit handen te geven kan op zichzelf logisch zijn. Maar samen kunnen die beslissingen leiden tot een wereld waarin mensen hun feitelijke zeggenschap over een groot deel van onze beschaving hebben opgegeven. Zelfs als we buitengewone vooruitgang boeken bij de weerbarstige vraagstukken rond AI-veiligheid en de afstemming van AI op menselijke waarden, kunnen we tot de ontdekking komen dat we ons hebben onderworpen aan een nieuw soort machinale entiteit. In de gelukkige versie van de toekomst, zo zou de stille consensus ons voorhouden, zal die entiteit goedaardig zijn: een machine die het beste met mensen voorheeft. Een machine vol liefdevolle genade, zoals het gedicht van Brautigan het verwoordt.
Aan deze machines, zo vertelt de stille consensus ons, zullen we de sleutels van onze bedrijven overhandigen, en steeds vaker ook die van onze bestuursinstellingen. Ze zullen die effectiever en efficiënter besturen, met meer wijsheid en een beter oordeelsvermogen dan wij mensen kunnen opbrengen. En dus zullen we na verloop van tijd onze handen van het stuur halen en de liefdevolle machines laten rijden. We zullen als passagiers in een auto zijn: een heel mooie auto, misschien in materieel opzicht mooier dan we ons nu kunnen voorstellen. Maar we blijven passagiers, zonder zeggenschap over waar de auto heen gaat. Voor zover we werken, zal dat vooral een soort ritueel of toneelspel zijn, meer een spel om onze soort bezig te houden.
Sommige waarnemers zullen betogen dat de stille consensus op een onjuist uitgangspunt berust, omdat wij mensen ook nu de wereld niet beheersen. En die kritiek is het waard om in gedachten te houden: er bestaat geen "wij" dat beslist wat er moet gebeuren. We leven in een radicaal gedecentraliseerde wereld, of we dat nu leuk vinden of niet. Toch mag dit inzicht ons niet in slaap sussen: ook al "beheersen" "wij" de wereld niet, mensen hebben gezamenlijk wel degelijk het primaat in het wereldgebeuren. Er is geen diersoort die serieus met ons wedijvert om de zeggenschap over hulpbronnen. We moeten het intellectueel slordige idee verwerpen dat mensen de wereld van bovenaf kunnen beheersen. Maar dat is iets anders dan de onmiskenbare werkelijkheid ontkennen dat mensen gezamenlijk de belangrijkste speler op aarde zijn.
Sommigen die bereid zijn de stille consensus onder woorden te brengen, geloven dat dit werkelijk een goede toekomst is. Anderen geloven dat niet, maar berusten in de onvermijdelijkheid ervan. De stille consensus is geen consensus omdat iedereen het erover eens is dat dit goed is. Het is evenmin een geheim plan van de mensen die AI bouwen. De consensus is simpelweg dat het onvermijdelijk is dat mensen hun primaat in het wereldgebeuren opgeven. Of op zijn minst dat het heel moeilijk is een ander toekomstbeeld te bedenken dat werkelijk standhoudt bij de komst van superintelligente machines. Iemand kan zich oprecht tegen die uitkomst verzetten en toch moeite hebben om zich een geloofwaardig alternatief voor te stellen. Dat de consensus meestal onuitgesproken blijft, hooguit fluisterend wordt verwoord, is veelzeggend.
Ik veracht de stille consensus. Ik wijs het opgeven van het menselijk primaat af. Ik verafschuw het gevoel van onvermijdelijkheid. Ik houd mezelf voor dat ik mijn kleine zoontje niet in zijn mooie ogen zou kunnen kijken als ik me bij de stille consensus neerlegde. En dus zeg ik nee tegen de stille consensus. En ik geloof dat het tijd is om openlijk over de stille consensus te spreken, om onszelf wakker te schudden uit onze grotendeels onbewuste aanvaarding van dit toekomstbeeld.
Het probleem is dit: de stille consensus is niet zonder reden een consensus geworden. Het is moeilijk te beschrijven hoe mensen aan het stuur kunnen blijven naast machine-intelligentie die de menselijke intelligentie ver overstijgt. De meeste pogingen daartoe steunen op het argument dat AI slechts een hulpmiddel is: een instrument voor patroonherkenning dat niet tot "werkelijk begrip" in staat is. Ik vrees dat deze argumenten geen stand houden tegenover de werkelijkheid die op ons afkomt. Ik vrees dat ook zij een vorm van zelfgenoegzaamheid zijn: een houding die vooral berust op ontkenning van wat AI kan, in plaats van een overtuiging die wortelt in een positief toekomstbeeld waarin de mens de leiding houdt. We kunnen niet volhouden dat AI-systemen geen "werkelijk begrip" hebben terwijl ze vooruitgang gaan boeken bij intellectuele vraagstukken waarvoor mensen al decennia of eeuwen tevergeefs naar oplossingen zoeken.
Waarom geloof ik dan dat mensen het primaat moeten behouden? Het eenvoudige antwoord is: omdat ik een mens ben. En inderdaad, ik ben een chauvinist voor de mensheid en daar verontschuldig ik me niet voor.
Maar er zit ook iets diepers achter. Ons primaat berust niet op ons intellect, niet op het voor altijd behouden van ons monopolie op "werkelijk begrip". Ons primaat berust op ons verleden.
Want wij zijn het die uit de modder zijn opgestaan. Wij die uit aarde en steen de eerste samenlevingen vormden. Wij die naar de sterren keken en vroegen waarom. Wij, met onze strijd en onze liefde en onze afgunst en onze vreugde, die moraal en ethiek en recht ontdekten. Wij zijn het die zongen en dansten, schreven en componeerden. Wij zijn het die geschiedenis maakten, en wij zijn het die haar opschreven. Die erfenis is van ons. De beschaving die we hebben opgebouwd is een vlam die we brandend hebben gehouden, en die vlam behoort ons toe. Ons verleden is een glorieuze erfenis die wij allemaal beheren. Bij dat beheer hoort onze deelname aan wat Michael Oakeshott "het gesprek van de mensheid" noemde, die grootse onderneming die in de oertijd begon.
In dat lange, kronkelige verleden bouwden we een beschaving op die in Amerika de rechten van het individu als fundament kreeg, met eerbied voor de eigen weg die ieder van ons door het leven baant. Mensen hebben levens die beter of slechter kunnen verlopen: we plukken de vruchten van onze verstandige beslissingen en dragen de gevolgen wanneer we fouten maken. Het recht om je eigen weg te gaan hangt er niet van af of je de slimste of de wijste bent. Ik verlies mijn positie als burger niet omdat mijn buurman een beter oordeelsvermogen heeft. Ik zie geen reden waarom de komst van een intelligentere machine die positie wél zou moeten ondermijnen. Sterker nog, ik zie alle reden om dat te voorkomen.
Sommigen zullen betogen dat ook de machines erfgenamen zijn, omdat ze vrijwel alles hebben gelezen wat over deze erfenis is vastgelegd. En in zekere zin zijn ze dat ook. Maar iemand die elke brief op de zolder van je familie heeft gelezen, wordt daarmee nog geen lid van je familie. AI-systemen zullen zich in het gesprek van de mensheid mengen, eerst als waarnemers en steeds meer als deelnemers. Maar ze mogen het niet overheersen of zinloos maken. Ons primaat uit handen geven is evenzeer verraad aan onze voorouders als aan onze nakomelingen. Als dit geen strijd is die het voeren waard is, dan is geen enkele strijd dat.
Nu geloof ik dat de aanhangers van de stille consensus zich vergissen in wat machinale superintelligentie zal zijn. Dat ze iets belangrijks over het hoofd zien in hoe de wereld werkt, dat ze intelligentie verwarren met macht. Als je vijf of tien jaar geleden aan een aanhanger van de stille consensus had beschreven wat zelfs de AI-systemen van nu kunnen, had die waarschijnlijk voorspeld dat de werkloosheid inmiddels veel hoger zou zijn dan ze werkelijk is, en dat het machtsverlies van de mens over de hele linie veel verder gevorderd zou zijn dan daadwerkelijk het geval is. Ik geloof dat de gezamenlijke intelligentie en het gezamenlijke kunnen van mensen veel groter zijn dan de aanhangers van de stille consensus veronderstellen, en dat onze samenlevingen veerkrachtiger zullen blijken dan zij voorspellen.
Maar ik kan het mis hebben. Het kan bijvoorbeeld eenvoudigweg zo zijn dat volledig autonome bedrijven menselijke ondernemingen geheel uit de markt concurreren. En als dat zo is, zal de harde economische logica voorschrijven dat er steeds meer kapitaal aan de machines wordt overgedragen. In die toekomst hoeven machines de menselijke beschaving niet omver te werpen om ons machteloos te maken. Het volstaat dat de logica van het kapitalistische ondernemen onverminderd blijft gelden. De AI-revolutie zou dan het meest lijken op de landbouwrevolutie, toen nieuwe productiewijzen de structuur van de menselijke samenleving fundamenteel veranderden. Het is allerminst duidelijk of die omwenteling aangenaam was voor de mensen die haar meemaakten. Er zijn zelfs sterke aanwijzingen dat het menselijk welzijn er duizenden jaren lang op achteruitging.
Ik weet niet of dit de toekomst is die ons wacht. Elders heb ik zelfs betoogd dat ik niet geloof dat dit zo is. Maar veel van mijn collega's, slimme, betrokken en gewetensvolle mensen, geloven dat dit waarschijnlijk onze toekomst zal zijn. Als zij gelijk hebben, wordt onze strijd tegen de stille consensus des te moeilijker. We zullen tegen de economische stroom in moeten zwemmen en daarbij veel moeten afwijzen van wat voor klassiek-liberale individualisten zoals ik een dogma is. Dat wordt een hachelijke onderneming, waarbij mislukking allerminst onwaarschijnlijk is. Maar als dit geen strijd is die het voeren waard is, dan is geen enkele strijd dat.
Het primaat behouden betekent dat mensen en menselijke instellingen verantwoording moeten blijven afleggen. Dat betekent dat AI-ontwikkelaars ter verantwoording moeten worden geroepen wanneer ze onveilige ontwikkelpraktijken hanteren. Maar ook mensen en bedrijven die AI gebruiken moeten verantwoordelijk worden gehouden wanneer hun misbruik of gebrekkige toezicht schade veroorzaakt. Daarvoor is niet alleen wetgeving nodig, maar ook een technische infrastructuur die het afleggen van verantwoording mogelijk maakt. De handelingen van agents moeten aan mensen kunnen worden toegerekend. Agents die niet aan een mens zijn gekoppeld, mogen alleen onder strikte waarborgen deelnemen aan de legale economie, als ze daar al toe worden toegelaten. De mogelijkheid voor agents om zelfstandig bedrijven op te richten, eigendom te bezitten of rechtszaken te voeren mag slechts met de grootst mogelijke voorzichtigheid worden toegekend, als dat al moet gebeuren.
En in mijn sector kunnen we serieus gaan nadenken over hoe we intelligente machines bouwen die verenigbaar zijn met het menselijk primaat. We kunnen agents bouwen met begrijpelijke en beperkte bevoegdheden, waarvan de handelingen te controleren zijn en waarvan gebruikers de bevoegdheden kunnen intrekken. Verantwoording afleggen voor handelingen die wezenlijke gevolgen hebben voor anderen hoeft niet te betekenen dat het alledaagse privéleven wordt bewaakt of dat mensen zich niet meer anoniem kunnen uiten. We kunnen ons vastleggen op de bescherming van de privacy van gebruikers en hun zeggenschap over hun digitale eigendommen en gegevens, inclusief de praktische mogelijkheid om die gegevens elders onder te brengen. We kunnen systemen ontwerpen die mensen helpen inzicht te krijgen en beslissingen te nemen, naast systemen die taken uitvoeren. En we kunnen toetsen of de producten die we bouwen hun gebruikers beter in staat stellen om in de wereld te handelen.
Dit alles vormt geen volledige blauwdruk voor een samenleving met bovenmenselijke intelligentie. Ik zou iedereen wantrouwen die beweert zo'n blauwdruk te hebben. Maar het is een begin.
De toekomst is in dichte mist gehuld. Maar we kunnen vandaag al handelen. Samen kunnen we om te beginnen de stille consensus hardop benoemen en de contouren ervan aan het licht brengen. We kunnen, ieder van ons, onze ambities radicaal verruimen. We kunnen ervoor kiezen ons door AI niet kleiner te laten maken, maar de moeite te doen om er juist door te groeien. We kunnen leren steeds gedurfdere vragen te stellen, de wereld met nieuwe bezieling en felheid te bevragen en daarbij onze krachtige machines in te zetten. We kunnen een nieuw soort mens worden: geen transhumaan wezen, maar een mens met ruimere mogelijkheden.
Hier denk ik aan als ik naar mijn zoontje kijk, dat nog een baby is. Ik wens hem meer toe dan alleen een bestaan onder de hoede van welwillende machines, hoe comfortabel het leven ook is dat ze hem kunnen bieden. Ik wil dat hij een wereld erft waarin hij vragen kan stellen die niemand eerder heeft bedacht, dingen kan bouwen die niemand eerder heeft overwogen. Ik wil niet dat hij een mooiere auto krijgt met een luxere passagiersstoel. Ik wil dat hij het stuur in handen heeft.
- 2026


