AI heeft het potentieel om veel aspecten van de samenleving aanzienlijk te verbeteren.
Deze technologie zal mensen, net als eerdere technologische doorbraken, meer mogelijkheden en zelfstandigheid geven. De dingen die AI mogelijk gaat maken, zullen alles overtreffen wat stoommachines of elektriciteit ooit mogelijk maakten.
Wij zien een wereld voor ons waarin mensen op grote schaal tot bloei komen, op een niveau dat nu nog moeilijk voorstelbaar is, en waarin individueel potentieel, zelfstandigheid en ontplooiing sterk toenemen. Veel dingen die we ons nu alleen in sci-fi voorstellen, zouden werkelijkheid kunnen worden, en de meeste mensen zouden een betekenisvoller leven kunnen leiden dan nu voor velen mogelijk is.
Maar die toekomst staat niet vast. Macht kan in de toekomst óf geconcentreerd raken bij een klein aantal bedrijven dat superintelligentie gebruikt en controleert, óf op een gedecentraliseerde manier in handen komen van mensen. Wij geloven dat dat laatste veel beter is, en ons doel is om werkelijk algemene AI beschikbaar te maken voor zo veel mogelijk mensen. Net als nu zal de toekomst niet alleen maar goed of slecht zijn, maar de keuzes die we vandaag maken kunnen ervoor zorgen dat het goede de overhand krijgt.
Onze missie is ervoor te zorgen dat AGI de hele mensheid ten goede komt. Dit zijn de principes die ons werk sturen.
1. Democratisering. We zullen voorkomen dat deze technologie macht concentreert in de handen van enkelen.
Dat betekent dat we niet alleen iedereen toegang tot AI moeten geven, maar ook moeten zorgen dat belangrijke beslissingen over AI via democratische processen en op basis van gelijkheidsprincipes worden genomen, en niet alleen door AI-labs.
2. Empowerment. Wij geloven dat AI mensen kan helpen hun doelen te bereiken, meer te leren, gelukkiger te worden, meer voldoening te halen uit het leven en hun dromen waar te maken. En dat de samenleving als geheel daarvan profiteert.
Om dit te bereiken moeten mensen het enorme potentieel dat voor ons ligt kunnen verkennen, en we moeten producten bouwen die dit mogelijk maken. Gebruikers moeten met onze diensten betrouwbaar steeds waardevollere taken kunnen uitvoeren.
De wereld is divers en mensen hebben verschillende behoeften. We willen onze gebruikers de autonomie geven die ze nodig hebben en zo veel toestaan als redelijkerwijs mogelijk is.
Hoewel we onze gebruikers veel vrijheid willen geven in hoe zij onze diensten gebruiken en sterk geloven dat AI per saldo enorm gunstig zal zijn, hebben we de verantwoordelijkheid om het op een manier te bouwen en in te zetten die schade minimaliseert. Dat houdt uiteraard in dat we catastrofale schade voorkomen, maar ook lokale schade beperken en mogelijke ontwrichtende maatschappelijke effecten vermijden. Dat betekent dat we bij onzekerheid eerder voorzichtig zullen zijn en beperkingen versoepelen naarmate er meer bewijs is.
3. Universele welvaart. Wij willen een toekomst waarin iedereen een uitstekend leven kan hebben.
Door gebruiksvriendelijke AI-systemen met veel rekenkracht beschikbaar te maken voor iedereen, geloven we dat mensen nieuwe manieren zullen vinden om waarde te creëren en de levenskwaliteit sterk te verbeteren, vooral dankzij nieuwe wetenschappelijke doorbraken.
Om welvaart volledig te realiseren en breed te delen, geloven we dat 1) overheden mogelijk nieuwe economische modellen moeten overwegen zodat iedereen kan delen in de waardecreatie die AI mogelijk maakt, en 2) we op grote schaal AI-infrastructuur moeten bouwen en nieuwe technologie moeten ontwikkelen om de kosten daarvan sterk te verlagen.
Veel dingen die we doen en die vreemd kunnen lijken, zoals enorme hoeveelheden rekenkracht inkopen terwijl onze omzet relatief klein is, verticaal integreren om kosten te verlagen en onze technologie makkelijker in gebruik te maken, aandringen op de bouw van datacenters over de hele wereld, en nog veel meer, worden gedreven door ons fundamentele geloof in een toekomst van universele welvaart.
4. Veerkracht. AI zal nieuwe risico’s introduceren, en we zullen samenwerken met andere bedrijven, ecosystemen, overheden en de samenleving om die op te lossen. We zullen in belangrijke mate gebruikmaken van de middelen van onze Foundation om dit werk te ondersteunen.
Geen enkel AI-lab kan in zijn eentje een positieve toekomst waarborgen. Een duidelijk voorbeeld: er kunnen zeer krachtige modellen ontstaan die het makkelijker maken om nieuwe ziekteverwekkers te ontwikkelen. Daartegen hebben we een gezamenlijke aanpak nodig, met tegenmaatregelen die niet afhankelijk zijn van een specifieke ziekteverwekker. Een ander voorbeeld: naarmate modellen beter worden in cybersecurity, moeten we ze snel inzetten om open-sourcesoftware en kritieke infrastructuur beter te beveiligen, terwijl we ze trainen om mensen te helpen veiligere software te ontwikkelen.
Dit is een uitbreiding van onze lang aangehouden strategie van iteratieve uitrol; wij geloven dat de samenleving met elk volgend niveau van AI-capaciteit moet leren omgaan, het moet begrijpen, integreren en samen de beste weg vooruit moet bepalen. Dat kan niet in een vacuüm; samenleving en technologie evolueren samen, en daarvoor is tijd nodig.
We bedoelen dit niet als onze enige veiligheidsstrategie; we moeten ook veilige systemen maken en uitstekend werk blijven doen op het gebied van technische alignment.
We verwachten dat er periodes zullen zijn waarin we moeten samenwerken met overheden, internationale organisaties en andere AGI-initiatieven om ervoor te zorgen dat we ernstige alignment-, veiligheids- of maatschappelijke problemen voldoende hebben opgelost voordat we verdergaan met ons werk.
5. Aanpassingsvermogen. We blijven geloven dat de enige manier om de uitdagingen van een zeer onvoorspelbare toekomst het hoofd te bieden, is voorbereid te zijn om onze standpunten bij te stellen naarmate we meer leren. We erkennen ook dat OpenAI een veel grotere kracht in de wereld is dan een paar jaar geleden, en we zullen transparant zijn over wanneer, hoe en waarom onze werkprincipes veranderen. Als concreet voorbeeld: hoewel we er vrij zeker van zijn dat universele welvaart echt belangrijk zal blijven, kunnen we ons periodes in de toekomst voorstellen waarin we een deel van empowerment moeten inruilen voor meer veerkracht.
De ontwikkeling van AI heeft veel verrassingen gebracht, en er zullen er nog meer volgen. Naarmate de technologie zich verder ontwikkelt, worden onverwachte eigenschappen en gedragingen steeds moeilijker te voorspellen. We gaan zorgvuldig met die onzekerheid om door mogelijkheden stap voor stap uit te breiden, systemen iteratief uit te rollen en te leren van hun interacties met de wereld.
Nog niet zo lang geleden waren we terughoudend met het vrijgeven van de weights van GPT‑2, omdat we niet wisten wat de impact op de samenleving zou zijn. Achteraf bleek die zorg natuurlijk onterecht, maar daardoor ontdekten we wel de waarde van iteratieve uitrol: een van de belangrijkste inzichten die we hebben opgedaan.
__
We gaan een fase in met grote impact terwijl de technologie zich blijft verbeteren. Het is heel terecht om ons op elke beslissing te bekritiseren; we verdienen enorm veel kritische aandacht gezien het gewicht van wat we doen. We zullen niet alles goed doen, maar we zullen snel leren en bijsturen.
We zetten ons ervoor in om de toekomst beter te maken dan het verleden, en we voelen ons bevoorrecht dat we aan dit belangrijke werk mogen bijdragen.
