AI-ontwikkelingen en aanbevelingen

Toen de populaire opvatting over de Turingtest voorbij raasde, vonden velen van ons het een beetje vreemd hoe het dagelijks leven gewoon doorging. Dit was een mijlpaal waar mensen al decennialang over spraken. Het voelde onmogelijk ver weg, en toen ineens dichtbij, en toen waren we plotseling aan de andere kant. We hebben een paar geweldige nieuwe producten gekregen en er is niet veel veranderd in de wereld, ook al kunnen computers nu praten en nadenken over moeilijke problemen.

Het grootste deel van de wereld denkt nog steeds na over AI als chatbots en betere zoekfuncties, maar tegenwoordig hebben we systemen die de slimste mensen kunnen overtreffen in enkele van onze meest uitdagende intellectuele wedstrijden. Hoewel AI-systemen nog steeds pieken en serieuze zwakheden vertonen, lijken systemen die zulke moeilijke problemen kunnen oplossen voor een AI-onderzoeker meer op 80% van de weg dan op 20% van de weg. De kloof tussen hoe de meeste mensen AI gebruiken en wat AI momenteel kan, is enorm.

AI-systemen die nieuwe kennis kunnen ontdekken—hetzij autonoom, hetzij door mensen effectiever te maken—zullen waarschijnlijk een grote impact op de wereld hebben.

In slechts een paar jaar tijd is AI geëvolueerd van het uitvoeren van taken (vooral op het gebied van software-engineering) die een mens in enkele seconden kan doen, naar taken die meer dan een uur in beslag nemen. We verwachten dat we binnenkort systemen hebben die taken kunnen uitvoeren waar een mens dagen of weken over doet; we weten niet hoe we moeten nadenken over systemen die taken kunnen uitvoeren die een mens eeuwen zouden kosten.

Tegelijkertijd zijn de kosten per eenheid van een bepaald intelligentieniveau sterk gedaald; een factor 40 per jaar is een redelijke schatting over de afgelopen jaren! 

In 2026 verwachten we dat AI in staat zal zijn om heel kleine ontdekkingen te doen. In 2028 en daarna zijn we er vrij zeker van dat we systemen zullen hebben die grotere ontdekkingen kunnen doen (hoewel we natuurlijk ongelijk kunnen hebben, lijkt dit wat onze onderzoeksvoortgang aangeeft).

We hebben al lang het gevoel dat de vooruitgang van AI zich op verrassende manieren voltrekt en dat de samenleving manieren vindt om samen met de technologie mee te evolueren. Hoewel we de volgende jaren snelle en aanzienlijke vooruitgang verwachten op het gebied van AI-mogelijkheden, verwachten we dat het dagelijks leven nog steeds verrassend constant zal aanvoelen; de manier waarop we leven heeft veel inertie, zelfs met veel betere hulpmiddelen.

We verwachten vooral dat de toekomst nieuwe en hopelijk betere manieren zal bieden om een bevredigend leven te leiden, en dat meer mensen zo'n leven zullen ervaren dan nu. Het is waar dat werk anders zal zijn, de economische overgang kan op sommige manieren erg moeilijk zijn, en het is zelfs mogelijk dat het fundamentele sociaaleconomische contract zal moeten veranderen. Maar in een wereld van wijdverspreide overvloed kunnen de levens van mensen veel beter zijn dan ze nu zijn.

AI-systemen zullen mensen helpen hun gezondheid beter te begrijpen, de vooruitgang in vakgebieden zoals materiaalwetenschap, medicijnontwikkeling en klimaatmodellering versnellen, en de toegang tot gepersonaliseerd onderwijs voor studenten wereldwijd vergroten. Het aantonen van dit soort tastbare voordelen helpt een gedeelde visie te creëren op een wereld waarin AI het leven beter kan maken, niet alleen efficiënter.

OpenAI is zeer toegewijd aan veiligheid⁠, wat wij nadenken als de praktijk om de positieve effecten van AI mogelijk te maken door de negatieve te beperken. Hoewel de potentiële voordelen enorm zijn, beschouwen we de risico's van superintelligente systemen als potentieel catastrofaal en geloven we dat empirisch⁠ onderzoek⁠ naar veiligheid⁠ en afstemming⁠ kan bijdragen aan wereldwijde beslissingen, zoals of het hele veld de ontwikkeling moet vertragen om deze systemen zorgvuldiger te bestuderen naarmate we dichter bij systemen komen die in staat zijn tot recursieve zelfverbetering. Het spreekt vanzelf dat niemand superintelligente systemen zou moeten inzetten zonder ze op een betrouwbare manier te kunnen afstemmen en beheersen, en dat vergt nog meer technisch werk. 

Hier zijn een aantal zaken waarvan wij denken dat ze kunnen bijdragen aan een positieve toekomst met AI:

Wij denken na dat grensverleggende laboratoria het eens moeten worden over gedeelde veiligheidsprincipes en veiligheidsonderzoek te delen⁠, lessen over nieuwe risico's, mechanismen om de dynamiek van races te verminderen en meer. We kunnen ons voorstellen dat ideeën zoals grensverleggende laboratoria die instemmen met bepaalde normen rond AI-controle-evaluaties heel nuttig zijn.

De samenleving heeft een soortgelijk proces doorlopen om bouwvoorschriften en brandnormen op te stellen, die ontelbare levens hebben gered.

Er bestaan twee denkrichtingen over AI. De eerste stelt dat AI vergelijkbaar is met “gewone technologie”, in die zin dat de ontwikkeling zal verlopen zoals eerdere technologische revoluties in het verleden, van de boekdrukkunst tot het internet. Dingen zullen zich op een manier ontwikkelen die mensen en de maatschappij de kans geeft zich aan te passen, en de gebruikelijke instrumenten van het openbaar beleid zouden moeten volstaan. We zullen prioriteit moeten geven aan zaken zoals het bevorderen van innovatie, het beschermen van de privacy van gesprekken met AI en het verdedigen tegen misbruik van krachtige systemen door kwaadwillenden, onder meer via samenwerking met de federale overheid.

Wij geloven dat AI zich momenteel ongeveer op dit niveau van kunnen bevindt en zich overal zal verspreiden. Dat betekent dat de meeste ontwikkelaars en open-source-modellen, evenals bijna alle toepassingen van de huidige technologie, slechts minimale bijkomende regelgeving zouden moeten krijgen ten opzichte van wat al bestaat. Het zou zeker niet te maken moeten krijgen met een lappendeken van 50 staten.

De andere is waar superintelligentie zich ontwikkelt en verspreidt op manieren en met een snelheid die de mensheid nog niet eerder heeft gezien. Hier moeten we de meeste van de bovenstaande dingen doen, maar we moeten ook innovatiever zijn. Als de aanname is dat zoiets moeilijk is voor de samenleving om zich op de "normale manier" aan te passen, moeten we ook niet verwachten dat typische regelgeving veel kan doen. In dit geval moeten we waarschijnlijk nauw samenwerken met de uitvoerende macht en verwante agentschappen van meerdere landen (zoals de verschillende veiligheidsinstituten) om goed te coördineren, vooral op gebieden zoals het beperken van AI-toepassingen voor bioterrorisme (en het gebruik van AI om bioterrorisme op te sporen en te voorkomen) en de implicaties van zelfverbeterende AI.

Het belangrijkste zou moeten zijn om verantwoording af te leggen aan openbare instellingen, maar de weg daar naartoe zal mogelijk anders moeten verlopen dan in het verleden.

In beide scenario’s zal het opbouwen van een veerkrachtig AI-ecosysteem essentieel zijn. Toen het internet ontstond, hebben we het niet beschermd met één enkel beleid of één bedrijf — we hebben een volledig domein van cyberbeveiliging opgebouwd: software, encryptieprotocollen, standaarden, monitoringsystemen, noodhulpteams enzovoort. Dat ecosysteem heeft het risico niet weggenomen, maar het wel teruggebracht tot een niveau waarmee de samenleving kon leven, zodat mensen genoeg vertrouwen kregen in de digitale infrastructuur om er hun leven en economie op te bouwen. We hebben iets soortgelijks nodig voor AI, en nationale overheden kunnen een krachtige rol spelen in het bevorderen van industrieel beleid om dit te stimuleren.

Begrijpen hoe AI concreet invloed heeft op de wereld maakt het makkelijker om deze technologie naar een positieve impact te sturen. Voorspellen is moeilijk: de impact van AI op banen is bijvoorbeeld moeilijk te voorzien, deels omdat de sterke en zwakke punten van de huidige AI's heel anders zijn dan die van mensen. Meten wat er in de praktijk gebeurt, is waarschijnlijk heel informatief.

Wij geloven dat volwassenen AI op hun eigen voorwaarden moeten kunnen gebruiken, binnen de brede grenzen die door de maatschappij zijn vastgesteld. We verwachten dat toegang tot geavanceerde AI de komende jaren een basisvoorziening wordt—net als elektriciteit, schoon water of voedsel. Uiteindelijk zijn we van mening dat de maatschappij het beschikbaar maken van deze hulpmiddelen op grote schaal zou moeten ondersteunen en dat het belangrijkste doel zou moeten zijn om mensen te helpen hun doelen te bereiken.