La IA té el potencial de millorar significativament molts aspectes de la societat.
Aquesta tecnologia, com d’altres abans, donarà a les persones més capacitat i autonomia; allò que les persones podran fer amb la IA eclipsarà el que podien fer amb les màquines de vapor o l’electricitat.
Imaginem un món amb una prosperitat generalitzada a un nivell que ara mateix és difícil d’imaginar, i un món en què el potencial individual, l’autonomia i la realització personal augmenten de manera significativa. Moltes de les coses que només ens hem permès somiar a la ciència-ficció podrien fer-se realitat, i la majoria de persones podrien viure vides més plenes de sentit del que avui poden.
Però aquest resultat no està garantit. El poder en el futur pot estar en mans d’un grapat de companyies que utilitzin i controlin la superintel·ligència, o pot estar repartit de manera descentralitzada entre les persones. Creiem que la segona opció és molt millor, i el nostre objectiu és posar una IA realment general a les mans de tantes persones com sigui possible. Igual que el present, el futur no serà del tot dolent ni del tot bo, però les decisions que prenem ara poden ajudar a maximitzar el bo.
La nostra missió és garantir que l’AGI beneficiï tota la humanitat. Aquests són els principis que guien la nostra feina.
1. Democratització. Ens resistirem al potencial d’aquesta tecnologia de concentrar el poder en mans d’uns pocs.
Això vol dir que, a més de donar a tothom accés a la IA, hem de garantir que les decisions clau sobre la IA es prenguin mitjançant processos democràtics i amb principis igualitaris, i no només des dels laboratoris d’IA.
2. Empoderament. Creiem que la IA pot empoderar tothom perquè assoleixi els seus objectius, aprengui més, sigui més feliç i se senti més realitzat, i persegueixi els seus somnis, i que la societat en conjunt se’n beneficiarà.
Aconseguir-ho requereix permetre que les persones explorin l’enorme potencial que tenim al davant, i hem de construir productes que ho facin possible. Els usuaris haurien de poder completar de manera fiable tasques cada cop més valuoses amb els nostres serveis.
El món és divers i les persones tenen necessitats diferents. Volem donar als nostres usuaris l’autonomia que necessiten i permetre tant com sigui raonable.
Tot i que volem donar als nostres usuaris un marge molt ampli sobre com utilitzen els nostres serveis i creiem fermament que la IA serà enormement beneficiosa en conjunt, tenim la responsabilitat de construir-la i desplegar-la d’una manera que minimitzi els danys. Això inclou, és clar, prevenir danys catastròfics, però també minimitzar els danys locals i evitar possibles efectes socials corrosius. Això significarà decantar-nos per la prudència davant la incertesa, i relaxar les restriccions quan hi hagi més evidència.
3. Prosperitat universal. Volem un futur en què tothom pugui tenir una vida excel·lent.
Posant a l’abast de tothom sistemes d’IA fàcils d’utilitzar i amb molta potència de càlcul, creiem que les persones trobaran noves maneres de generar valor i de millorar massivament la qualitat de vida de tothom, especialment amb el descobriment de nova ciència.
Perquè la prosperitat es faci plenament realitat i es comparteixi àmpliament, creiem que 1) els nostres governs potser hauran de considerar nous models econòmics per garantir que tothom pugui participar en la creació de valor que tenim al davant i 2) hem de construir enormes quantitats d’infraestructura d’IA i desenvolupar nova tecnologia per reduir molt els costos de la infraestructura d’IA.
Moltes de les coses que fem i que poden semblar estranyes —comprar enormes quantitats de potència de càlcul mentre els nostres ingressos encara són relativament petits, integrar-nos verticalment per reduir costos i fer que la nostra tecnologia sigui més fàcil d’utilitzar, impulsar la construcció de centres de dades arreu del món, i molt més— estan impulsades per la nostra creença fonamental en un futur de prosperitat universal.
4. Resiliència. La IA introduirà nous riscos, i treballarem amb altres companyies, ecosistemes, governs i la societat per resoldre’ls. Farem un ús significatiu dels recursos de la nostra Fundació per donar suport a aquesta feina.
Cap laboratori d’IA no pot garantir tot sol un bon futur. Per posar un exemple evident, pot haver-hi models extremadament capaços que facin més fàcil crear un nou patogen, i necessitem un enfocament de tota la societat per defensar-nos-en amb contramesures independents del patogen. Per posar-ne un altre, a mesura que augmentin les capacitats de ciberseguretat dels models, hem d’utilitzar ràpidament aquests models per ajudar a assegurar el programari de codi obert i les infraestructures crítiques, alhora que els entrenem perquè ajudin tothom a crear programari més segur.
Això és una ampliació de la nostra estratègia, mantinguda des de fa temps, de desplegament iteratiu; creiem que la societat ha d’afrontar cada nivell successiu de capacitat de la IA, entendre’l, integrar-lo i esbrinar conjuntament quin és el millor camí a seguir. Això no es pot fer en el buit; la societat i la tecnologia coevolucionen, i això requereix temps.
No volem dir que aquesta sigui la nostra única estratègia de seguretat; també hem de crear sistemes segurs i continuar fent una gran feina en alineació tècnica.
Esperem que hi hagi períodes en què hàgim de col·laborar amb governs, organismes internacionals i altres iniciatives d’AGI per garantir que hàgim resolt prou bé problemes greus d’alineació, de seguretat o socials abans de continuar avançant amb la nostra feina.
5. Adaptabilitat. Continuem creient que l’única manera d’afrontar els reptes d’un futur molt imprevisible és estar preparats per actualitzar les nostres posicions a mesura que n’aprenguem més. També reconeixem que OpenAI és una força molt més gran al món del que era fa uns anys, i serem transparents sobre quan, com i per què canvien els nostres principis operatius. Com a exemple concret, tot i que estem força convençuts que la prosperitat universal continuarà sent realment important, podem imaginar períodes en el futur en què haguem d’intercanviar una mica d’empoderament per més resiliència.
El desenvolupament de la IA ha portat moltes sorpreses, i encara n’han de venir més. A mesura que la tecnologia avanci, els seus comportaments emergents seran cada vegada més difícils de predir. Acceptem aquesta incertesa avançant les capacitats amb cura, desplegant sistemes de manera iterativa i aprenent de les seves interaccions amb el món.
No fa tant de temps que estàvem nerviosos per publicar els pesos de GPT‑2 perquè no sabíem quin seria l’impacte en la societat. Evidentment, vist amb perspectiva, aquella preocupació era equivocada, però ens va portar a descobrir l’estratègia del desplegament iteratiu, que ha estat una de les coses més importants que hem esbrinat.
__
Entrem en una fase de gran impacte a mesura que la tecnologia continua millorant. És del tot legítim criticar-nos per cada decisió; mereixem un nivell enorme d’escrutini tenint en compte el pes del que estem fent. No ho farem tot bé, però aprendrem ràpidament i corregirem el rumb.
Estem compromesos a fer la nostra part perquè el futur sigui millor que el passat; ens sentim afortunats de poder assumir una feina tan important.
