Tio år
Reflektioner över ett decennium av genombrott, lärdomar och vägen mot AGI som gynnar hela mänskligheten.
OpenAI har uppnått mer än jag vågade drömma om; vi bestämde oss för att göra något galet, osannolikt och aldrig tidigare skådat. Från en mycket osäker start och mot alla rimliga odds ser det nu ut som att vi, tack vare fortsatt hårt arbete, har en chans att lyckas med vårt uppdrag.
Vi tillkännagav vårt initiativ för världen för tio år sedan idag, även om vi inte officiellt kom igång(öppnas i ett nytt fönster) förrän några veckor senare, i början av januari 2016.
Tio år är i viss mening en mycket lång tid, men sett till hur lång tid det vanligtvis tar för samhället att förändras är det inte särskilt lång tid alls. Även om vardagen inte känns så annorlunda jämfört med för tio år sedan, känns möjligheterna som ligger framför oss idag väldigt annorlunda jämfört med när vi var 15 nördar som satt och funderade på hur vi skulle kunna göra framsteg.
När jag tittar tillbaka på bilderna från den första tiden slås jag först av hur unga alla ser ut. Men sedan slås jag av hur orimligt optimistiska alla ser ut, och hur glada. Det var en galet rolig tid: även om vi var extremt missförstådda hade vi en djup övertygelse, en känsla av att det var så viktigt att det var värt att arbeta mycket hårt även om chansen att lyckas var liten, mycket begåvade människor och ett skarpt fokus.
Lite i taget byggde vi upp en förståelse för vad som pågick, eftersom vi hade några vinster (och många förluster). På den tiden var det svårt att veta exakt vad vi skulle arbeta med, men vi skapade en fantastisk kultur som möjliggjorde upptäckter. Djupinlärning var uppenbarligen en fantastisk teknik, men att utveckla den utan att skaffa erfarenhet av att använda den i verkligheten kändes inte helt rätt. Jag ska hoppa över berättelserna om allt vi gjorde (jag hoppas att någon skriver en historik om det någon gång), men vi hade en fantastisk anda av att alltid bara fundera ut nästa hinder framför oss: vart forskningen kunde ta oss härnäst, eller hur vi skulle få pengar till större datorer, eller vad det nu kunde vara. Vi var pionjärer inom det tekniska arbetet för att göra AI säker och robust på ett praktiskt sätt, och den DNA:n lever vidare än idag.
Under 2017 uppnådde vi flera grundläggande resultat: våra Dota 1v1-resultat, där vi tog förstärkningsinlärning till nya nivåer. Den oövervakade sentimentneuronen, där vi såg ett språkmodell utan tvekan lära sig semantik snarare än bara syntax. Och vi fick vårt resultat från förstärkningsinlärning utifrån mänskliga preferenser, vilket visade en rudimentär väg till att anpassa AI till mänskliga värderingar. Vid denna tidpunkt var innovationen långt ifrån färdig, men vi visste att vi behövde skala upp vart och ett av dessa resultat med enorm datorkraft.
Vi fortsatte att förbättra tekniken och lanserade ChatGPT för tre år sedan. Världen uppmärksammade detta, och ännu mer när vi lanserade GPT‑4. Plötsligt var AGI inte längre något galet att överväga. De senaste tre åren har varit extremt intensiva och fyllda av stress och stort ansvar. Denna teknik har integrerats i världen i en skala och med en hastighet som ingen annan teknik tidigare har gjort. Detta krävde en extremt svår genomförande som vi omedelbart var tvungna att bygga upp en ny muskel för. Att gå från noll till ett stort företag under denna period var inte lätt och krävde att vi fattade hundratals beslut varje vecka. Jag är stolt över hur många av dessa som teamet har lyckats med, och de vi har misslyckats med är mestadels mitt fel.
Vi har varit tvungna att fatta nya typer av beslut. När vi brottades med frågan om hur AI kan göra maximal nytta för världen utvecklade vi till exempel en strategi för iterativ implementering, där vi framgångsrikt lanserade tidiga versioner av tekniken så att människor kan bilda sig en uppfattning och samhället och tekniken kan utvecklas tillsammans. Detta var ganska kontroversiellt vid den tiden, men jag tror att det har varit ett av våra bästa beslut någonsin och blivit branschstandard.
Efter tio år med OpenAI har vi en AI som kan prestera bättre än de flesta av våra smartaste människor i våra svåraste intellektuella tävlingar.
Världen har kunnat använda denna teknik för att åstadkomma extraordinära saker, och vi förväntar oss ännu mer extraordinära saker redan nästa år. Världen har hittills också gjort ett bra jobb med att mildra de potentiella nackdelarna, och vi måste fortsätta att arbeta för att upprätthålla detta.
Jag har aldrig känt mig mer optimistisk om vår forskning och våra produktplaner, och vår övergripande vision för vår mission. Om ytterligare tio år tror jag att vi med stor säkerhet kommer att ha skapat superintelligens. Jag förväntar mig att framtiden kommer att kännas konstig. I viss mening kommer vardagen och de saker vi bryr oss mest om att förändras väldigt lite, och jag är säker på att vi kommer att fortsätta att fokusera mycket mer på vad andra människor gör än på vad maskiner gör. I en annan bemärkelse kommer människorna år 2035 att kunna göra saker som jag inte tror att vi kan föreställa oss just nu.
Jag är tacksam mot de människor och företag som litar på oss och använder våra produkter för att åstadkomma fantastiska saker. Utan det skulle vi bara vara en teknik i ett laboratorium. Våra användare och kunder har i många fall satsat tidigt och med orimligt stor övertygelse på oss, och utan dem hade vårt arbete aldrig nått denna nivå.
Vårt uppdrag är att se till att AGI gynnar hela mänskligheten. Vi har fortfarande mycket arbete framför oss, men jag är verkligen stolt över den utveckling som teamet har åstadkommit. Vi ser redan idag enorma fördelar med vad människor gör med tekniken, och vi vet att det kommer att hända mycket mer under de närmaste åren.
