Intervenció de Sam Altman al Consell de Seguretat de les Nacions Unides

Avui, el conseller delegat d'OpenAI, Sam Altman, s'ha adreçat al Consell de Seguretat de les Nacions Unides per parlar d'intel·ligència artificial. Ha parlat del potencial de la IA per ampliar les oportunitats, de la importància de mantenir els sistemes més potents sota control humà i de la necessitat de cooperació internacional en matèria de seguretat de la IA.

Gràcies, senyor president i excel·lències. És un honor ser aquí i poder-me adreçar a tots vostès en aquest moment tan important.

Fa anys que parlem d'intel·ligència artificial, però en les darreres setmanes i mesos la situació sembla diferent. El ràpid progrés dels models ha fet que els terminis semblin més curts i els beneficis més tangibles, però també que les conseqüències i els riscos siguin més immediats.

Tenim una decisió al davant. La IA pot assemblar-se més a un nou Renaixement de creativitat i descobriments o a una nova revolució industrial plena de trasbalsos i desordre.

El Renaixement va ser una època en què noves eines, idees i institucions van ampliar el que les persones creien que podien fer, i la IA pot exercir aquest paper en la nostra època. Crec que les persones són molt més capaces del que s'imaginen, però les ha frenades una tecnologia limitada que havia d'empoderar-les i que, en canvi, les distreu i sovint els roba l'atenció.

La millor versió de la IA no consisteix a convertir les persones en engranatges d'una màquina gegantina ni a optimitzar cada aspecte de la vida fins que en desaparegui la dimensió humana. Consisteix a dotar-les de més capacitat d'acció en un món cada cop més complex: més capacitat per aprendre, crear, descobrir, construir i participar. Hi ha moltes coses que la IA no pot automatitzar, ni ho hauria de fer.

La IA s'ha de crear per a les persones, no simplement per accelerar el funcionament de les màquines com un fi en si mateix. Algunes de les coses que han dit els qui treballen per crear IA són tan distòpiques que semblen l'argument d'una mala pel·lícula de ciència-ficció.

Qualsevol cosa amb tant de poder també intimida. Aquest moment és complex perquè sentim alhora un potencial enorme i una inquietud del tot comprensible.

Aquests models poden ajudar les persones a descobrir nous coneixements, com ara nous medicaments, una millor atenció sanitària o una educació més sòlida, i a construir economies més productives. Poden ser noves eines perquè les persones persegueixin somnis i ambicions que avui semblen inabastables. La complexitat de la vida quotidiana ha augmentat d'una manera extraordinària. La IA pot ser tant una eina de defensa davant d'aquesta complexitat com una eina de descobriment i innovació sense precedents.

D'altra banda, a mesura que els sistemes d'IA adquireixin més capacitats i autonomia, podrien avançar més de pressa que les nostres institucions, concentrar el poder en massa poques mans o prendre decisions que la gent ja no entengui ni controli.

Aquesta preocupació adquireix una importància especial a mesura que ens acostem a sistemes capaços de millorar-se a si mateixos i de millorar-ne les versions futures, un procés sovint anomenat automillora recursiva. A mesura que s'automatitzi el procés de creació de la IA, el ritme dels seus avenços es podria accelerar ràpidament. Aquest moment exigeix una prudència extrema.

Coincideixo en gran part amb el professor Bengio. Tot i que jo n'esmentaré dues en comptes de tres: crec que hi ha dues maneres en què el progrés de la IA podria anar molt malament i que hem d'evitar.

En primer lloc, podríem perdre el control del futur davant la IA. El risc és que avanci tan de pressa que la gent ja no pugui seguir què passa ni intervenir quan calgui. Evidentment, això seria terrible.

El sector no ha d'acceptar un risc tecnològic excessiu només perquè els beneficis siguin enormes i es considerin massa importants per alentir el ritme. Superar altres empreses en una cursa competitiva no justifica prendre decisions precipitades. Tampoc no creiem estar atrapats en una cursa que ens impedeixi abaixar el ritme. En el passat, ja ho hem fet de manera unilateral, i ho tornarem a fer en el futur. No volem crear sistemes —i creiem que és important que ningú no els creï— si no podem oferir les garanties necessàries d'alineament, supervisabilitat i seguretat.

Hem d'entendre què fan aquests sistemes i disposar de proves sòlides que demostrin que faran el que les persones pretenen, fins i tot quan esdevinguin molt més intel·ligents. De fet, sobretot en aquell moment. Tant se val si algú situa el risc de catàstrofe en un 10 %, un 1 %, un 12 % o un 0,1 %. Cap d'aquests nivells no és ni remotament acceptable. I no hauríem d'entrenar models si no podem demostrar amb arguments extremament sòlids que serem capaços de mantenir-los sota control humà.

Aquesta és, doncs, una de les maneres en què les coses poden anar malament. En l'altre extrem, aquests sistemes podrien concentrar massa poder en massa poques mans. Cap persona, empresa o país no hauria de poder utilitzar els models d'IA més potents per imposar la seva visió del món a tothom. Una empresa o un país que cregui que és l'únic actor en qui es pot confiar aquesta tecnologia pot utilitzar aquesta convicció per justificar gairebé qualsevol altra cosa. Hem de rebutjar aquesta lògica, fins i tot quan resulti convenient per a un actor determinat.

Crec que hi ha una via pragmàtica per abordar totes dues qüestions. A OpenAI, ho fem amb un objectiu clar: la IA ha de donar a les persones més control sobre la seva pròpia vida. Més llibertat per viure com vulguin. Més capacitat per resoldre problemes, grans o petits, i per millorar les seves comunitats. No volem caure en el parany de l'optimisme cec. Tampoc no volem caure en el parany del catastrofisme. Deixar-nos arrossegar cap a qualsevol dels dos extrems no ens ajudarà a resoldre amb èxit els reptes que tenim al davant, sobretot en un moment en què el món i la humanitat afronten problemes enormes que aquesta tecnologia pot ajudar a solucionar. Per això intentem seguir una via intermèdia entre aquests dos pols.

Per a nosaltres, això es tradueix en tres principis.

En primer lloc, a mesura que la IA adquireixi més capacitats, les persones han de continuar ocupant el centre de la presa de decisions sobre la IA. L'alineament no és una qüestió de recerca abstracta. Consisteix a garantir que aquests sistemes continuïn sota control humà de manera fiable, reflecteixin els valors humans i ajudin les persones a orientar les properes etapes del desenvolupament. No intentem automatitzar el judici ni els valors humans, i no ho hem de fer.

En segon lloc, els beneficis del progrés científic i el creixement econòmic han de ser obra de les persones i estar al seu servei. La IA ha d'ajudar els investigadors a fer descobriments, els metges a tractar pacients, els docents a ensenyar, els emprenedors a crear empreses i les comunitats a resoldre problemes que semblaven inabastables, entre moltes altres coses. La història ininterrompuda del progrés humà no consisteix en el fet que les eines substitueixin la capacitat d'acció humana, sinó en el fet que les eines adequades augmenten les capacitats de les persones, i crec que això arribarà molt més lluny del que ara considerem possible.

En tercer lloc, aquesta tecnologia ha d'empoderar cada persona. Un gran futur sorgirà quan les persones facin realitat el seu potencial i creïn valor per a si mateixes, les seves comunitats, els seus països i el conjunt del món. Potser som un dels creadors d'aquesta tecnologia, però no som els herois d'aquesta història. El nostre paper és facilitar que les persones d'arreu del món actuïn i confiar en la màgia de les habilitats i facultats humanes.

Ara tenim models capaços de descobrir coneixements que mai no havíem tingut. Pensem en els avenços que hem vist en matemàtiques. Fa tres estius, els nostres models se'n sortien prou bé amb les matemàtiques de primària. Fa dos estius, ja eren força bons en competicions de matemàtiques de secundària. L'estiu passat vam assolir el nivell d'una medalla d'or en la competició internacional de matemàtiques més prestigiosa. I fa només unes quantes setmanes, aquest mateix estiu, un dels nostres models va resoldre un dels problemes del Premi del Mil·lenni: les equacions de Navier-Stokes.

Aquestes equacions s'utilitzen per dissenyar aeronaus, fer prediccions meteorològiques i estudiar el flux sanguini. No resolem problemes matemàtics com un fi en si mateix, sinó per donar a les persones la capacitat de descobrir nous coneixements i utilitzar-los per millorar l'atenció sanitària, elevar el nivell de vida i ampliar el potencial de tothom arreu del món. Encara queda molt per descobrir.

Però és molt important que les empreses no substitueixin el procés democràtic.

Si la IA ha de ser democràtica, les decisions més importants no les poden prendre només els laboratoris de San Francisco. S'han de configurar mitjançant processos democràtics i governs que retin comptes davant les persones a qui serveixen.

En l'àmbit internacional, això requerirà cooperació. Al llarg de la història, hi ha hagut moments en què països que competeixen i que no sempre s'avenen gaire s'han unit, malgrat tot, per defensar interessos compartits i el bé comú davant d'una nova i poderosa tecnologia. Creiem que aquest ha de ser un d'aquests moments.

Necessitem un mecanisme que articuli estàndards nacionals i internacionals complementaris per a la IA d'avantguarda: estàndards per mesurar capacitats, avaluar riscos, determinar si les salvaguardes són suficients i mantenir una supervisió humana efectiva a mesura que els sistemes esdevenen més autònoms.

Necessitem estàndards comuns perquè els països puguin comparar proves, verificar-ne el compliment i compartir un llenguatge i una comprensió del que està passant.

Necessitem una notificació d'incidents ràpida i precisa, així com protocols de classificació i notificació, perquè el món pugui aprendre dels errors abans no es converteixin en catàstrofes.

I necessitem canals segurs entre governs, operadors d'infraestructures crítiques i experts tècnics per compartir vulnerabilitats emergents i noves amenaces.

Evidentment, aquests estàndards no haurien de consolidar la posició dels actors dominants ni afavorir un model de negoci per sobre d'un altre. Han de donar suport tant als desenvolupadors de models oberts com als de models tancats, tant als nous actors com als laboratoris consolidats, i tant a l'autoritat nacional com a la cooperació internacional. Cada govern hauria de decidir com incorpora els estàndards al seu propi ordenament jurídic. Però tots hi sortirem guanyant si podem acordar què constitueix una bona base probatòria, unes bones salvaguardes i una bona supervisió en l'àmbit mundial.

No tenim totes les respostes i estem molt oberts a qualsevol idea millor. Estem disposats a treballar amb tots vosaltres i a esforçar-nos al màxim per trobar el camí que cal seguir.

Som en una cruïlla. Un camí porta a un món on el poder està concentrat, les decisions són opaques i la gent sent que la tecnologia més important de la seva vida és una cosa que se li imposa. L'altre camí porta a un món on la IA treballa per a les persones perquè les persones, a través de les institucions democràtiques, contribueixen a decidir com aquesta s'ha de desenvolupar i orientar; on el progrés científic millora vides reals; on més persones poden participar en el futur, i on aquesta tecnologia continua donant a les persones i a les comunitats més poder per viure com vulguin. És un futur de potencial fet realitat, entusiasme i fascinació.

I és el futur que creiem que val la pena construir. Moltes gràcies.