Tien jaar

OpenAI heeft meer bereikt dan ik ooit durfde te dromen; we begonnen aan iets waanzinnigs, onwaarschijnlijks en ongekends. Vanuit een diep onzeker begin en tegen alle redelijke verwachtingen in, lijkt het er nu op dat we met blijvende inzet een kans hebben om onze missie te laten slagen.

We hebben onze doelstelling precies tien jaar geleden aan de wereld aangekondigd, hoewel we officieel pas een paar weken later, begin januari 2016, van start gingen⁠(opent in een nieuw venster).

Tien jaar is in zekere zin een lange periode, maar afgezet tegen het tempo waarin maatschappelijke veranderingen zich voltrekken, is het eigenlijk maar kort. Hoewel het dagelijks leven niet heel anders aanvoelt dan tien jaar geleden, voelt de ruimte van mogelijkheden die voor ons ligt vandaag de dag heel anders aan dan toen we met vijftien nerds rond de tafel zaten en probeerden uit te vogelen hoe we vooruitgang konden boeken.

Als ik terugkijk naar de foto's van de beginperiode, valt het me als eerste op hoe jong iedereen eruitziet. Maar dan valt het me op hoe onredelijk optimistisch en gelukkig iedereen eruitziet. Het was een waanzinnig leuke tijd: hoewel we enorm verkeerd begrepen werden, hadden we een diepgewortelde overtuiging, een gevoel dat het zo belangrijk was dat het de moeite waard was om, zelfs met een kleine kans op succes, met zeer getalenteerde mensen en een scherpe focus hier heel hard aan te werken.

Langzaam maar zeker kregen we inzicht in wat er gebeurde, terwijl we enkele overwinningen (en veel verliezen) behaalden. In die tijd was het moeilijk om te bepalen waar we specifiek aan moesten werken, maar we hebben een ongelooflijke cultuur gecreëerd die ontdekkingen mogelijk maakt. Deep learning was duidelijk een geweldige technologie, maar het ontwikkelen ervan zonder ervaring op te doen in de echte wereld leek niet helemaal juist. Ik zal de verhalen overslaan van alle dingen die we deden (ik hoop dat iemand er ooit een boek over zal schrijven), maar we hadden een geweldige geest van altijd gewoon het volgende obstakel voor ons uit te zoeken: waar het onderzoek ons vervolgens zou kunnen brengen, of hoe we geld konden krijgen voor grotere computers, of wat dan ook. We hebben baanbrekend technisch werk verricht om AI op een praktische manier veilig en robuust te maken, en dat DNA leeft tot op de dag van vandaag voort.

In 2017 behaalden we verschillende fundamentele resultaten: onze Dota 1v1-resultaten, waarbij we reinforcement learning naar nieuwe niveaus van schaal hebben gebracht. Het ongecontroleerd aangeleerde sentimentneuron, een vroege ontdekking die liet zien dat een taalmodel betekenis leert en niet alleen zinsstructuur. En we hadden ons resultaat van 'reinforcement learning' van menselijke voorkeuren, dat een rudimentair pad toont naar het afstemmen van een AI op menselijke waarden. Op dit moment was de innovatie verre van voltooid, maar we wisten dat we elk van deze resultaten moesten opschalen met enorme rekenkracht.

We gingen door en verbeterden de technologie, en we lanceerden drie jaar geleden ChatGPT. De wereld merkte het op, en nog veel meer toen we GPT‑4 lanceerden; plotseling was AGI niet langer een gek idee om te overwegen. De afgelopen drie jaar zijn buitengewoon intens en vol stress en zware verantwoordelijkheid geweest; deze technologie is op een schaal en snelheid in de wereld geïntegreerd zoals geen enkele technologie dat ooit eerder heeft gedaan. Dit vereiste een uiterst moeilijke uitvoering waarvoor we onmiddellijk een nieuwe vaardigheid moesten opbouwen. Van niets naar een groot bedrijf groeien in deze periode was niet eenvoudig en vereiste dat we wekelijks honderden beslissingen namen. Ik ben trots op hoeveel van die dingen het team goed heeft gedaan, en de fouten die we hebben gemaakt, zijn meestal mijn schuld.

We moesten nieuwe soorten beslissingen nemen. In onze zoektocht naar hoe AI zo veel mogelijk kan bijdragen aan de wereld, kozen we bijvoorbeeld voor een strategie van iteratieve inzet. Door vroege versies van de technologie beschikbaar te maken, konden mensen ervaring opdoen en konden technologie en samenleving samen evolueren. Dit was destijds behoorlijk controversieel, maar ik denk dat het een van onze beste beslissingen is geweest en de norm in de sector is geworden.

Tien jaar na de oprichting van OpenAI hebben we een AI die beter kan presteren dan de meeste van onze slimste mensen bij onze meest uitdagende intellectuele wedstrijden.

De wereld heeft deze technologie kunnen gebruiken om buitengewone dingen te doen, en we verwachten nog veel meer buitengewone dingen zelfs al in het volgende jaar. De wereld heeft tot nu toe ook goed werk geleverd bij het beperken van de potentiële nadelen, en we moeten blijven werken om dat te blijven doen.

Ik heb me nog nooit zo optimistisch gevoeld over onze onderzoeks- en productroadmaps en het algehele zicht op onze missie. Over tien jaar geloof ik dat we vrijwel zeker superintelligentie zullen ontwikkelen. Ik verwacht dat de toekomst vreemd zal aanvoelen; in zekere zin zullen het dagelijks leven en de dingen waar we het meest om geven heel weinig veranderen, en ik ben er zeker van dat we veel meer gefocust zullen doorgaan op wat andere mensen doen dan op wat machines doen. In een ander opzicht zullen de mensen van 2035 in staat zijn om dingen te doen die ik me nu nog niet eens kan voorstellen.

Ik ben dankbaar voor de mensen en bedrijven die hun vertrouwen in ons stellen en onze producten gebruiken om geweldige dingen te bereiken. Zonder dat zouden we slechts een technologie in een laboratorium zijn; onze gebruikers en klanten hebben in veel gevallen een vroege en onredelijk hoge overtuiging in ons gehad, en ons werk zou zonder hen niet op dit niveau zijn gekomen.

Het is onze missie om ervoor te zorgen dat AGI de hele mensheid ten goede komt. We hebben nog veel werk voor de boeg, maar ik ben echt trots op het traject waarop het team ons heeft gezet. We zien al enorme voordelen in wat mensen vandaag de dag met de technologie doen, en we weten dat er in de volgende jaren nog veel meer aan komt.