AI har potentiale til markant at forbedre mange aspekter af samfundet.
Denne teknologi vil, ligesom andre før den, give mennesker større evner og handlekraft; det, mennesker vil kunne gøre med AI, vil overgå det, mennesker kunne gøre med dampmaskiner eller elektricitet.
Vi forestiller os en verden med udbredt trivsel på et niveau, som i øjeblikket er svært at forestille sig, og en verden, hvor den enkeltes potentiale, handlekraft og opfyldelse øges markant. Mange af de ting, vi kun har tilladt os selv at drømme om i sci-fi, kan blive til virkelighed, og de fleste mennesker kan komme til at leve mere meningsfulde liv, end de fleste har mulighed for i dag.
Men dette udfald er ikke garanteret. Magten i fremtiden kan enten ligge hos en lille håndfuld virksomheder, der bruger og kontrollerer superintelligens, eller den kan være decentraliseret og ligge hos mennesker. Vi mener, at det sidste er meget bedre, og vores mål er at lægge ægte generel AI i hænderne på så mange mennesker som muligt. Ligesom nutiden vil fremtiden ikke være entydigt dårlig eller god, men de beslutninger, vi træffer nu, kan hjælpe med at maksimere det gode.
Vores mission er at sikre, at AGI gavner hele menneskeheden. Her er de principper, der styrer vores arbejde.
1. Demokratisering. Vi vil modarbejde, at denne teknologi samler magt hos de få.
Det betyder, at vi ud over at give alle adgang til AI også skal sikre, at vigtige beslutninger om AI træffes via demokratiske processer og ud fra egalitære principper, og ikke kun af AI-laboratorier.
2. Styrkelse. Vi mener, at AI kan sætte alle i stand til at nå deres mål, lære mere, være gladere og mere tilfredse og forfølge deres drømme, og at samfundet som helhed vil få gavn af dette.
At opnå dette kræver, at mennesker får mulighed for at udforske det enorme potentiale, der ligger foran os, og vi er nødt til at skabe produkter, der gør dette muligt. Brugere skal pålideligt kunne udføre stadig mere værdifulde opgaver med vores tjenester.
Verden er mangfoldig, og mennesker har forskellige behov. Vi ønsker at give vores brugere den autonomi, de har brug for, og tillade så meget, som vi med rimelighed kan.
Selvom vi ønsker at give vores brugere meget vide rammer for, hvordan de bruger vores tjenester, og i høj grad tror på, at AI samlet set vil være enormt gavnligt, har vi et ansvar for at skabe og udrulle det på en måde, der minimerer skade. Det omfatter selvfølgelig at forhindre katastrofal skade, men også at minimere lokale skader og undgå potentielt nedbrydende samfundsmæssige effekter. Det vil betyde, at vi hælder mod forsigtighed i mødet med usikkerhed og lemper begrænsninger, når der er mere evidens.
3. Universel velstand. Vi ønsker en fremtid, hvor alle kan have et fremragende liv.
Ved at give alle let anvendelige AI-systemer med stor compute-kraft mener vi, at mennesker vil finde nye måder at skabe værdi på og massivt forbedre livskvaliteten for alle, især gennem opdagelsen af ny videnskab.
For at velstanden kan realiseres fuldt ud og deles bredt, mener vi, at 1) vores regeringer muligvis skal overveje nye økonomiske modeller for at sikre, at alle kan deltage i den værdiskabelse, der ligger foran os, og 2) vi er nødt til at skabe enorme mængder AI-infrastruktur og udvikle ny teknologi, der kan bringe omkostningerne ved AI-infrastruktur markant ned.
Mange af de ting, vi gør, som kan virke mærkelige – at købe enorme mængder compute, mens vores omsætning er relativt lille, vertikalt integrere for at sænke omkostningerne og gøre vores teknologi lettere at bruge, presse på for at bygge datacentre over hele verden og meget mere – er drevet af vores grundlæggende tro på en fremtid med universel velstand.
4. Robusthed. AI vil medføre nye risici, og vi vil arbejde sammen med andre virksomheder, økosystemer, regeringer og samfundet om at løse dem. Vi vil i betydeligt omfang bruge vores Foundations ressourcer til at støtte dette arbejde.
Intet AI-laboratorium kan alene sikre en god fremtid. Et oplagt eksempel er, at der kan komme ekstremt kapable modeller, som gør det lettere at skabe et nyt patogen, og vi har brug for en samfundsdækkende tilgang til at forsvare os mod dette med modforanstaltninger, der ikke er specifikke for et bestemt patogen. Et andet eksempel er, at efterhånden som modellernes cybersikkerhedsevner øges, skal vi hurtigt bruge disse modeller til at hjælpe med at sikre open source-software og kritisk infrastruktur, samtidig med at vi træner modellerne til at hjælpe alle med at skabe mere sikker software.
Dette er en udvidelse af vores længe fastholdte strategi om iterativ udrulning; vi mener, at samfundet er nødt til at håndtere hvert næste niveau af AI-kapacitet, forstå det, integrere det og sammen finde den bedste vej frem. Dette kan ikke gøres i et vakuum; samfund og teknologi udvikler sig sammen, og det kræver tid.
Vi mener ikke, at dette er vores eneste sikkerhedsstrategi; vi er også nødt til at skabe sikre systemer og fortsætte med at udføre fremragende arbejde med teknisk overensstemmelse.
Vi forventer, at der vil være perioder, hvor vi er nødt til at samarbejde med regeringer, internationale organer og andre AGI-indsatser for at sikre, at vi i tilstrækkelig grad har løst alvorlige alignment-, sikkerheds- eller samfundsmæssige problemer, før vi går videre med vores arbejde.
5. Tilpasningsevne. Vi tror fortsat på, at den eneste måde, hvorpå vi kan møde udfordringerne i en meget uforudsigelig fremtider, er ved at være parate til at opdatere vores standpunkter, efterhånden som vi lærer mere. Vi anerkender også, at OpenAI er en langt større kraft i verden, end vi var for få år siden, og vi vil være transparente om, hvornår, hvordan og hvorfor vores arbejdsprincipper ændrer sig. Som et konkret eksempel er vi ganske sikre på, at universel velstand fortsat vil være virkelig vigtig, men vi kan forestille os perioder i fremtiden, hvor vi må bytte noget styrke for mere robusthed.
Udviklingen af AI har budt på mange overraskelser, og der kommer stadig flere. Efterhånden som teknologien udvikler sig, bliver dens emergente adfærd stadig sværere at forudsige. Vi omfavner denne usikkerhed ved at fremme kapabiliteter omhyggeligt, udrulle systemer iterativt og lære af deres interaktioner med verden.
Det er ikke så længe siden, at vi var nervøse for at frigive GPT‑2's vægte, fordi vi ikke vidste, hvilke konsekvenser det ville få for samfundet. Det var åbenlyst set i bakspejlet en fejlagtig bekymring, men det førte til, at vi opdagede strategien om iterativ udrulning, som har været en af de vigtigste ting, vi har fundet frem til.
__
Vi går ind i en fase med meget stor betydning, efterhånden som teknologien fortsætter med at blive bedre. Det er helt rimeligt at kritisere os for hver eneste beslutning; vi fortjener enorm granskning i betragtning af tyngden af det, vi gør. Vi får ikke alt rigtigt, men vi vil lære hurtigt og korrigere kursen.
Vi er forpligtet til at gøre vores del for at gøre fremtiden bedre end fortiden; vi føler os heldige over at få lov til at påtage os så vigtigt et arbejde.
