KI har potensial til å forbedre mange sider ved samfunnet betydelig.
Denne teknologien, som andre før den, vil gi mennesker større kapasitet og handlekraft; det folk vil kunne gjøre med KI, vil overgå det folk kunne gjøre med dampmaskiner eller elektrisitet.
Vi ser for oss en verden med utbredt velstand og blomstring på et nivå som det i dag er vanskelig å forestille seg, og en verden der individuell kapasitet, handlekraft og oppfyllelse øker betydelig. Mye av det vi bare har tillatt oss å drømme om i sci-fi, kan bli virkelighet, og de fleste kan leve mer meningsfulle liv enn de fleste har mulighet til i dag.
Men dette utfallet er ikke garantert. Makt i fremtiden kan enten ligge hos en liten håndfull selskaper som bruker og kontrollerer superintelligens, eller være desentralisert hos mennesker. Vi mener det siste er mye bedre, og målet vårt er å legge virkelig generell KI i hendene på så mange som mulig. Som i nåtiden vil ikke fremtiden være bare dårlig eller bare god, men beslutningene vi tar nå, kan bidra til å maksimere det gode.
Oppdraget vårt er å sikre at AGI kommer hele menneskeheten til gode. Her er prinsippene som styrer arbeidet vårt.
1. Demokratisering. Vi vil motstå at denne teknologien samler makt i hendene på de få.
Det betyr at vi, i tillegg til å gi alle tilgang til KI, må sørge for at viktige beslutninger om KI tas gjennom demokratiske prosesser og etter egalitære prinsipper, og ikke bare av KI-laboratorier.
2. Styrking. Vi mener KI kan sette alle i stand til å nå målene sine, lære mer, bli lykkeligere og mer tilfredse, og forfølge drømmene sine, og at samfunnet som helhet vil dra nytte av dette.
For å få til dette må folk få utforske det enorme potensialet som ligger foran oss, og vi må bygge produkter som gjør dette mulig. Brukere bør pålitelig kunne utføre stadig mer verdifulle oppgaver med tjenestene våre.
Verden er mangfoldig, og mennesker har ulike behov. Vi ønsker å gi brukerne våre den autonomien de trenger, og tillate så mye vi med rimelighet kan.
Selv om vi ønsker å gi brukerne våre svært stor frihet i hvordan de bruker tjenestene våre, og selv om vi er sterkt overbevist om at KI samlet sett vil være til enorm nytte, har vi et ansvar for å bygge og ta den i bruk på en måte som minimerer skade. Det omfatter selvsagt å forhindre katastrofal skade, men også å begrense lokale skader og unngå potensielle nedbrytende samfunnseffekter. Det betyr at vi heller mot forsiktighet i møte med usikkerhet, og lemping på begrensninger når vi har mer bevis.
3. Universell velstand. Vi ønsker en fremtid der alle kan ha et godt liv.
Ved å gi brukervennlige KI-systemer med mye regnekraft til alle, tror vi folk vil finne nye måter å skape verdi på og forbedre livskvaliteten for alle enormt, særlig gjennom oppdagelsen av ny vitenskap.
For at velstand skal kunne realiseres fullt ut og deles bredt, mener vi at 1) myndighetene våre kanskje må vurdere nye økonomiske modeller for å sikre at alle kan ta del i verdiskapingen som ligger foran oss, og 2) vi må bygge enorme mengder KI-infrastruktur og utvikle ny teknologi for å få kostnadene ved KI-infrastruktur kraftig ned.
Mye av det vi gjør som kan se merkelig ut – å kjøpe enorme mengder regnekraft mens inntektene våre fortsatt er relativt små, vertikal integrasjon for å senke kostnader og gjøre teknologien vår enklere å bruke, press for å bygge datasentre over hele verden, og mye mer – drives av vår grunnleggende tro på en fremtid med universell velstand.
4. Motstandsdyktighet. KI vil introdusere nye risikoer, og vi vil samarbeide med andre selskaper, økosystemer, myndigheter og samfunnet for å løse dem. Vi vil bruke betydelige deler av Foundation-ressursene våre til å støtte dette arbeidet.
Ingen KI-lab kan sikre en god fremtid alene. Et åpenbart eksempel er at det kan komme ekstremt kapable modeller som gjør det lettere å skape et nytt patogen, og vi trenger en tilnærming på tvers av hele samfunnet for å forsvare oss mot dette med mottiltak som ikke er avhengige av et bestemt patogen. Et annet eksempel er at etter hvert som modellenes cybersikkerhetsevner øker, må vi raskt bruke disse modellene til å bidra til å sikre programvare med åpen kildekode og kritisk infrastruktur, samtidig som vi trener modellene til å hjelpe alle med å lage sikrere programvare.
Dette er en utvidelse av vår lenge etablerte strategi for iterativ utrulling; vi mener samfunnet må forholde seg til hvert nye nivå av KI-kapasitet, forstå det, integrere det og sammen finne den beste veien videre. Dette kan ikke gjøres i et vakuum; samfunn og teknologi utvikler seg sammen, og det krever tid.
Vi mener ikke dette som vår eneste sikkerhetsstrategi; vi må også lage trygge systemer og fortsette å gjøre fremragende arbeid med teknisk alignment.
Vi forventer at det vil komme perioder der vi må samarbeide med myndigheter, internasjonale organer og andre AGI-aktører for å sikre at vi i tilstrekkelig grad har løst alvorlige problemer knyttet til alignment, sikkerhet eller samfunn før vi går videre med arbeidet vårt.
5. Tilpasningsevne. Vi mener fortsatt at den eneste måten å møte utfordringene i en svært uforutsigbar fremtid på, er å være forberedt på å oppdatere standpunktene våre etter hvert som vi lærer mer. Vi erkjenner også at OpenAI er en langt større kraft i verden enn for noen år siden, og vi vil være åpne om når, hvordan og hvorfor prinsippene våre for virksomheten endres. Som et konkret eksempel er vi ganske sikre på at universell velstand fortsatt vil være svært viktig, men vi kan se for oss perioder i fremtiden der vi må bytte bort noe styrking mot mer motstandsdyktighet.
Utviklingen av KI har ført med seg mange overraskelser, og flere vil fortsatt komme. Etter hvert som teknologien utvikler seg, vil de emergente egenskapene bli stadig vanskeligere å forutsi. Vi omfavner denne usikkerheten ved å utvikle kapasitet forsiktig, rulle ut systemer iterativt og lære av samspillet deres med verden.
Det er ikke så lenge siden vi var nervøse for å gi ut vektene til GPT‑2 fordi vi ikke var sikre på hvilke virkninger det ville få for samfunnet. I ettertid var det åpenbart en feilslått bekymring, men det ledet oss til å oppdage strategien med iterativ utrulling, som har vært en av de viktigste tingene vi har funnet ut.
__
Vi går inn i en svært betydningsfull fase etter hvert som teknologien fortsetter å bli bedre. Det er helt rimelig å kritisere oss for hver eneste beslutning; vi fortjener enorm gransking gitt tyngden i det vi gjør. Vi kommer ikke til å få alt riktig, men vi vil lære raskt og korrigere kursen.
Vi er forpliktet til å gjøre vår del for å gjøre fremtiden bedre enn fortiden; vi føler oss heldige som får ta på oss så viktig arbeid.
