Progrés de la IA i recomanacions

Quan la concepció popular del test de Turing ens va passar de llarg, molts de nosaltres vam pensar que era una mica estrany com la vida quotidiana simplement continuava. Aquesta era una fita de la qual la gent havia parlat durant dècades. Semblava impossiblement llunyana, després de sobte semblava propera, i després de sobte ja érem a l'altra banda. Vam obtenir alguns productes nous fantàstics i no va canviar gaire res del món, tot i que ara els ordinadors poden conversar i pensar sobre problemes difícils.

La major part del món encara pensa en la IA com a xatbots i una cerca millor, però avui tenim sistemes que poden superar els humans més intel·ligents en algunes de les nostres competicions intel·lectuals més exigents. Tot i que els sistemes d'IA continuen sent irregulars i presenten debilitats serioses, els sistemes que poden resoldre problemes tan difícils semblen més a un 80% del camí cap a un investigador d'IA que no pas a un 20% del camí. La distància entre com la majoria de la gent utilitza la IA i allò de què la IA és capaç actualment és immensa.

Els sistemes d'IA que poden descobrir coneixement nou —ja sigui de manera autònoma o fent que les persones siguin més eficaces— probablement tindran un impacte significatiu en el món.

En només uns quants anys, la IA ha passat de només poder fer tasques (concretament en l'àmbit de l'enginyeria de programari) que una persona pot fer en pocs segons a tasques que prenen a una persona més d'una hora. Esperem tenir aviat sistemes que puguin fer tasques que a una persona li portarien dies o setmanes; no sabem com pensar sobre sistemes que puguin fer tasques que a una persona li portarien segles.

Alhora, el cost per unitat d'un determinat nivell d'intel·ligència ha caigut de manera pronunciada; 40x per any és una estimació raonable durant els últims anys! 

El 2026, esperem que la IA sigui capaç de fer descobriments molt petits. El 2028 i més enllà, estem força convençuts que tindrem sistemes que podran fer descobriments més significatius (tot i que, és clar, podríem equivocar-nos; això és el que sembla indicar el progrés de la nostra recerca).

Fa temps que pensem que el progrés de la IA es desplega de maneres sorprenents i que la societat troba formes de coevolucionar amb la tecnologia. Tot i que esperem un progrés ràpid i significatiu en les capacitats de la IA en els pròxims anys, també esperem que la vida quotidiana continuï sent sorprenentment constant; la manera com vivim té molta inèrcia fins i tot amb eines molt millors.

En particular, esperem que el futur ofereixi maneres noves i, amb sort, millors de viure una vida plena, i que més persones que avui puguin experimentar aquesta mena de vida. És cert que la feina serà diferent, que la transició econòmica pot ser molt difícil en alguns aspectes, i fins i tot és possible que el contracte socioeconòmic fonamental hagi de canviar. Però en un món d'abundància àmpliament distribuïda, la vida de les persones pot ser molt millor del que és avui.

Els sistemes d'IA ajudaran les persones a entendre la seva salut, acceleraran el progrés en camps com la ciència dels materials, el desenvolupament de fàrmacs i la modelització climàtica, i ampliaran l'accés a una educació personalitzada per a estudiants d'arreu del món. Demostrar aquest tipus de beneficis tangibles ajuda a construir una visió compartida d'un món en què la IA pot millorar la vida, no només fer-la més eficient.

OpenAI està profundament compromesa amb la seguretat⁠, que entenem com la pràctica de fer possibles els impactes positius de la IA mitigant-ne els negatius. Tot i que els possibles beneficis són enormes, tractem els riscos dels sistemes superintel·ligents com a potencialment catastròfics i creiem que estudiar empíricament⁠ la seguretat⁠ i l'alineació⁠ pot ajudar en decisions globals, com ara si tot el sector hauria d'alentir el desenvolupament per estudiar aquests sistemes amb més cura a mesura que ens acostem a sistemes capaços d'automillora recursiva. Evidentment, ningú no hauria de desplegar sistemes superintel·ligents sense poder-los alinear i controlar de manera robusta, i això requereix més treball tècnic. 

Aquí teniu diverses coses que pensem que podrien ajudar a aconseguir un futur positiu amb la IA:

Pensem que els laboratoris d'avantguarda haurien d'acordar principis compartits de seguretat i compartir recerca en seguretat⁠, aprenentatges sobre riscos nous, mecanismes per reduir la dinàmica de competició i més coses. Podem imaginar que idees com ara que els laboratoris d'avantguarda acordin determinats estàndards sobre avaluacions de control de la IA serien força útils.

La societat va passar per un procés semblant per establir codis d'edificació i estàndards contra incendis, que han salvat incomptables vides.

Hi ha dues escoles de pensament sobre la IA. Una és que la IA és com una «tecnologia normal», en el sentit que progressarà com altres revolucions tecnològiques del passat, des de la impremta fins a internet. Les coses es desenvoluparan de maneres que donin a les persones i a la societat l'oportunitat d'adaptar-s'hi, i les eines convencionals de política pública haurien de funcionar. Haurem de prioritzar idees com promoure la innovació, protegir la privacitat de les converses amb la IA i defensar-nos contra l'ús indegut de sistemes potents per part de mals actors col·laborant amb el govern federal.

Creiem que la IA al voltant dels nivells de capacitat actuals ja és aquí i s'hauria de difondre arreu, cosa que significa que la majoria de desenvolupadors i models de codi obert, i gairebé tots els desplegaments de la tecnologia actual, haurien de tenir càrregues reguladores addicionals mínimes en relació amb el que ja existeix. Sens dubte no hauria d'haver d'afrontar un mosaic de 50 estats.

L'altra és aquella en què la superintel·ligència es desenvolupa i es difon d'una manera i a una velocitat que la humanitat no ha vist abans. Aquí hauríem de fer la major part de les coses anteriors, però també haurem de ser més innovadors. Si la premissa és que una cosa així serà difícil d'assimilar per a la societat de la manera «normal», tampoc no hauríem d'esperar que la regulació típica pugui fer gaire cosa. En aquest cas, probablement haurem de treballar estretament amb el poder executiu i les agències relacionades de diversos països (com ara els diversos instituts de seguretat) per coordinar-nos bé, especialment en àmbits com la mitigació de les aplicacions de la IA al bioterrorisme (i l'ús de la IA per detectar i prevenir el bioterrorisme) i les implicacions de la IA amb automillora.

La clau principal hauria de ser la rendició de comptes davant les institucions públiques, però la manera d'arribar-hi potser haurà de diferir del passat.

En qualsevol dels dos escenaris, serà essencial desenvolupar un ecosistema de resiliència de la IA. Quan va emergir internet, no el vam protegir amb una sola política o una sola empresa: vam construir tot un camp de ciberseguretat: programari, protocols de xifratge, estàndards, sistemes de monitoratge, equips de resposta d'emergència, etc. Aquest ecosistema no va eliminar el risc, però el va reduir fins a un nivell amb què la societat podia conviure, i va permetre que la gent confiés prou en la infraestructura digital per construir-hi la seva vida i les seves economies. Necessitarem una cosa anàloga per a la IA, i els governs nacionals tenen un paper important a l'hora de promoure una política industrial que ho incentivi.

Entendre com la IA està impactant concretament el món facilita orientar aquesta tecnologia cap a un impacte positiu. Predir és difícil: per exemple, l'impacte de la IA sobre els llocs de treball ha estat difícil d'anticipar, en part perquè els punts forts i febles de les IA actuals són molt diferents dels dels humans. Mesurar què està passant a la pràctica probablement serà molt informatiu.

Creiem que els adults haurien de poder utilitzar la IA en els seus propis termes, dins d'uns límits amplis definits per la societat. Esperem que l'accés a la IA avançada esdevingui un servei essencial en els anys vinents, al nivell de l'electricitat, l'aigua potable o els aliments. En últim terme, pensem que la societat hauria de donar suport a fer que aquestes eines estiguin àmpliament disponibles i que l'estrella polar hauria de ser ajudar a empoderar les persones perquè assoleixin els seus objectius.