AI erbjuder möjligheten att avsevärt förbättra många delar av samhället.
Den här tekniken kommer, liksom andra som föregick den, att ge människor större möjligheter och handlingsfrihet. De förändringar som AI möjliggör överträffar både ångmaskinen eller elektricitet i betydelse.
Vi föreställer oss en värld där människors välstånd och livskvalitet når nivåer som i dag är svåra att föreställa sig. En värld där individers potential, handlingsfrihet och möjligheter till självförverkligande ökar avsevärt. Mycket av det vi hittills bara har kunnat drömma om – som i nuläget är ren science fiction – skulle kunna bli verklighet, och de flesta människor skulle kunna leva mer meningsfulla liv än de kan i dag.
Men detta utfall är inte garanterat. I framtiden kan makten i samhället antingen innehas av ett fåtal företag som använder och kontrollerar superintelligens, eller delas på ett decentraliserat sätt av människor. Vi anser att det sistnämnda scenariot är betydligt mer önskvärt, och vårt mål är att sätta verkligt generell AI i händerna på så många människor som möjligt. Precis som samtiden kommer framtiden att rymma både gott och ont, men de beslut vi fattar nu kan bidra till att maximera det goda.
Vårt uppdrag är att säkerställa att AGI gynnar hela mänskligheten. Här är principerna som vägleder vårt arbete.
1. Demokratisering. Vi kommer att motverka den här teknikens potential att koncentrera makt i händerna på några få.
Det betyder att vi, utöver att ge alla tillgång till AI, behöver säkerställa att viktiga beslut om AI fattas genom demokratiska processer och utifrån principer om jämlikhet, och inte bara av AI-labb.
2. Större möjligheter för människor. Vi tror att AI kan ge människor bättre förutsättningar att nå sina mål, lära sig mer, leva lyckligare och mer tillfredsställande liv samt att förverkliga sina drömmar – och att samhället i stort kommer att gynnas av detta.
För att uppnå detta måste människor få utforska den enorma potential som ligger framför oss, och vi behöver bygga produkter som möjliggör detta. Användare ska på ett tillförlitligt sätt kunna utföra allt mer värdefulla uppgifter med våra tjänster.
Världen är mångfacetterad och människor har olika behov. Vi vill ge våra användare den autonomi de behöver och tillåta så mycket som vi rimligen kan.
Även om vi vill ge våra användare mycket stort handlingsutrymme i hur de använder våra tjänster och starkt tror att AI sammantaget kommer att vara till enorm nytta, har vi ett ansvar att bygga och lansera våra produkter på ett sätt som minimerar skada. Det innefattar förstås att förhindra katastrofal skada, men också begränsa lokala skadeverkningar och undvika potentiellt negativa effekter på samhället i stort. Det innebär att vi kommer att välja försiktighet när osäkerhet råder och lätta på begränsningar i takt med att mer kunskap blir tillgänglig.
3. Välstånd för alla. Vi vill se en framtid där alla får möjlighet att leva ett meningsfullt och tillfredsställande liv.
Vi tror att den allmänna tillgången till lättanvända AI-system med stor beräkningskraft kommer att resultera i nya sätt att skapa värde och avsevärt förbättra livskvaliteten för alla – särskilt genom nya vetenskapliga upptäckter.
För att detta välstånd ska bli verkligt och allmängiltigt tror vi att 1) våra regeringar kan behöva överväga nya ekonomiska modeller för att säkerställa att alla kan delta i det värdeskapande som ligger framför oss och 2) vi behöver bygga enorma mängder AI-infrastruktur och utveckla ny teknik för att pressa ned kostnaderna för AI-infrastruktur rejält.
Mycket av det vi gör kan verka märkligt. Vi köper enorma mängder beräkningskraft medan våra intäkter är relativt små. Vi integrerar vertikalt för att sänka kostnader. Vi gör vår teknik enklare att använda. Vi satsar på att bygga datacenter runt om i världen och mycket mer. Allt detta motiveras dock av vår grundläggande tro på en framtid med välstånd för alla.
4. Motståndskraft. AI kommer att medföra nya risker och vi kommer att arbeta med andra företag, ekosystem, regeringar och samhället för att hantera dessa. Vi kommer att använda betydande delar av vår stiftelses resurser för att stödja detta arbete.
Inget AI-labb kan på egen hand säkerställa en positiv framtidsutveckling. Ett uppenbart exempel är att det kan finnas extremt kapabla modeller som gör det lättare att skapa en ny patogen, och då behöver vi ett samhällsomfattande angreppssätt för att försvara oss mot detta med patogenagnostiska motåtgärder. Ett annat exempel är att när modellernas cybersäkerhetsförmågor ökar måste vi snabbt använda dessa modeller för att bidra till att säkra programvara med öppen källkod och kritisk infrastruktur, samtidigt som vi tränar modellerna att hjälpa alla att skapa säkrare programvara.
Detta är en vidareutveckling av vår sedan länge etablerade strategi med iterativ lansering. Vi tror att samhället behöver lära sig att hantera varje nytt framsteg inom AI, i takt med att tekniken utvecklas: att man behöver förstå tekniken, integrera den och tillsammans komma fram till den bästa vägen framåt. Detta kan inte åstadkommas i ett vakuum – samhälle och teknik utvecklas tillsammans, och det tar tid.
Detta är inte vår enda säkerhetsstrategi. Vi behöver också bygga säkra system och fortsätta utveckla metoder som säkerställer att AI agerar i mänsklighetens intressen.
Vi räknar med att vi tidvis kommer behöver samarbeta med regeringar, internationella organ och andra AGI-initiativ för att säkerställa att vi i tillräckligt hög grad löser allvarliga problem kring säkerhet och samhällspåverkan innan vi går vidare med vårt arbete.
5. Anpassningsförmåga. Vi anser att det enda sättet att möta utmaningarna i en mycket oförutsägbar framtid är att vid behov uppdatera våra ståndpunkter i takt med att vi lär oss mer. Vi erkänner också att OpenAI är en mycket större kraft i världen än det var för några år sedan, och vi kommer att vara transparenta med när, hur och varför våra principer för verksamheten förändras. Som ett konkret exempel är vi ganska övertygade om att utökat välstånd även i framtiden kommer att vara mycket viktigt för oss, men vi kan föreställa oss perioder då vi behöver göra avvägningar mellan att säkerställa människors handlingsfrihet och samhällets motståndskraft.
Utvecklingen inom AI har redan fört med sig många överraskningar, och fler lär följa. I takt med att tekniken utvecklas kommer dess framväxande beteenden att bli allt svårare att förutse. Vi omfamnar denna osäkerhet genom att utveckla kapacitet varsamt, lansera system iterativt och lära oss av deras interaktioner med världen.
Det var inte särskilt länge sedan vi var tveksamma till att göra GPT‑2 allmänt tillgängligt eftersom vi inte visste vilken påverkan det skulle kunna få på samhället. Så här i efterhand var den oron uppenbart obefogad, men den ledde till att vi upptäckte strategin med iterativ lansering, vilket har visat sig vara en av våra viktigaste insikter.
__
Vi är på väg in i en mycket omvälvande fas i samband med att tekniken fortsätter att utvecklas. Det är helt rimligt att ifrågasätta varje beslut vi fattar – med tanke på hur betydelsefullt vårt arbete är så förtjänar vi att granskas. Vi kommer inte att göra allting rätt, men vi kommer att lära oss snabbt och rätta till det som behöver ändras.
Vi är fast beslutna att bidra till att framtiden blir bättre än det förflutna, och vi känner oss lyckligt lottade över att få ta oss an ett så viktigt arbete.
