Presentem Era de la intel·ligència

"N'hi haurà prou... amb confiar en aquestes barreres de pergamí davant l'esperit invasor del poder?"
—James Madison, Federalista núm. 48

Ens complau presentar Era de la intel·ligència, el blog del nou equip de Futurs Estratègics d'OpenAI. Som un equip petit amb l'objectiu comú de respondre a una pregunta fonamental: com s'hauria de reestructurar la societat lliure per preservar els drets i la capacitat d'acció individuals i, alhora, adaptar-se a l'aparició d'una IA transformadora?

En el conjunt més ampli de la comunitat dedicada a la seguretat i les polítiques d'IA, qüestions com aquesta de vegades s'anomenen riscos de concentració de poder. El nostre equip parteix de la idea que, a llarg termini, aquesta categoria de risc és la més gran, la més greu i la més difícil d'abordar conceptualment. Per què?

L'estat modern és el resultat d'un procés llarg i desigual de negociació entre diversos centres de poder, com ara els propietaris del capital i les matèries primeres, els qui exerceixen el poder polític i el poble. En el nivell més fonamental, el poder polític i militar s'ha sustentat en el treball. Exercir el poder polític significa tenir el monopoli de la força legítima. Al llarg de tota la història humana, aquest monopoli ha estat format per soldats i pel que avui anomenem "policia", juntament amb una vasta burocràcia civil i militar. Tot plegat s'ha complementat, sens dubte, amb moltes eines tecnològiques, però ha estat operat essencialment per éssers humans, el suport dels quals era necessari per mantenir-ne el funcionament. I tot l'aparell —els soldats, les eines i la burocràcia corresponent— es finançava amb impostos recaptats dels salaris o de la producció d'éssers humans que havien d'estar disposats a pagar-los. En essència, el poder ha depès de la cooperació i el consentiment a gran escala de molts éssers humans. David Hume va expressar succintament aquesta premissa, sovint implícita, quan va observar que els dirigents polítics no tenen "res que els sostingui tret de l'opinió [popular]".

Però potser això ja no serà així. Els avenços en els sistemes autònoms que operen al món real aviat podrien permetre als estats projectar força, tant dins com fora de les seves fronteres, sense dependre de soldats o agents de policia disposats a cooperar. I els avenços en intel·ligència artificial podrien permetre que l'estat obtingués els ingressos que necessita no pas del fruit del treball humà individual, sinó de la producció dels centres de dades. El funcionament mateix de la burocràcia també es podria automatitzar en gran part. Per tant, potser el poder ja no necessitarà un pacte que abasti tota la societat per mantenir-se, i el poble, entès en un sentit ampli, podria tenir molt poc pes a la taula de negociació o no tenir-hi cap lloc.

Evitar aquest resultat és fonamental per preservar la llibertat humana. Cap descobriment científic, progrés tecnològic ni creixement econòmic justifica sacrificar l'autonomia individual a llarg termini que aquest resultat comportaria. Moltes de les inquietuds que, amb raó, impulsen la incipient política sobre la IA estan relacionades amb aquesta qüestió. Empreses, grups d'interès i particulars comparteixen la mateixa preocupació: "Perdré el meu lloc a la taula?" En certa manera, la política nord-americana del segle XXI ha estat marcada per inquietuds semblants sobre la capacitat d'acció individual i col·lectiva per decidir el rumb del país i sobre "a qui" ha de "servir" l'economia. Amb tota la raó, la IA fa més urgents aquestes preocupacions preexistents.

És un problema estructural que va més enllà de la política partidista actual i fins i tot de les formes i els rituals mitjançant els quals s'exerceix avui la democràcia republicana, per sagrats que ens puguin semblar. Els humans podem avançar cap a la pèrdua de poder encara que es mantingui la rutina de votar els nostres representants. Es pot privar les persones de capacitat d'acció encara que un tros de pergamí digui que són lliures.

Als inicis dels Estats Units com a nació lliure, James Madison ja sabia que les "barreres de pergamí" no serien suficients per impedir la tirania. Com molts dels fundadors, la seva principal preocupació era evitar una concentració excessiva de poder.

Però això no vol dir que els fundadors fossin partidaris d'una descentralització radical del poder. En comptes d'això, van modelar l'equilibri de poder amb metàfores extretes de la millor ciència de la seva època: la mecànica newtoniana. Els documents fundacionals dels Estats Units, que reflecteixen el llenguatge i la lògica de la gravetat, són plens de referències a "òrbites", "esferes" i als impulsos d'"atracció" d'una cosa envers una altra. Un sistema solar no és un conjunt de roques descentralitzat al màxim; està format per llunes que orbiten al voltant de planetes, els quals, al seu torn, orbiten al voltant d'un sol central. Creien que les persones i les organitzacions tenien tendències a buscar el poder, de la mateixa manera que els cossos celestes presentaven tendències previsibles de moviment i atracció; i que, per evitar una concentració excessiva de poder, calia entendre la mecànica d'aquestes tendències per posar-les en moviment les unes contra les altres.

Per tant, l'objectiu dels fundadors no era evitar tota concentració de poder, sinó impedir que fos excessiva, contraposant poder a poder i ambició a ambició. Avui podríem emprar paraules com "incentius" i expressions com "teoria de jocs" per descriure les mateixes dinàmiques fonamentals.

De manera semblant, és probable que la resposta al repte estructural que la intel·ligència artificial avançada planteja a la societat lliure no sigui la descentralització del poder més radical imaginable. Més aviat, consisteix a establir i preservar l'equilibri de poder adequat perquè cap ni actor ni cap grup reduït d'actors pugui dominar la resta.

Assolir aquest equilibri exigirà analitzar amb lucidesa la realitat d'aquesta tecnologia. Un món en què qualsevol persona, per malintencionada que sigui, pugui causar fàcilment un gran perjudici a milers o milions de persones no és un món que hagi assolit l'equilibri de poder adequat. Però tampoc no haurem assolit l'equilibri adequat si les persones no tenen un accés ampli ni control sobre gairebé tots els aspectes de les eines que utilitzen per exercir la seva llibertat. Cap empresa ni oligopoli no hauria de determinar o controlar l'economia ni l'arquitectura bàsica de la societat humana.

També hem d'estar oberts a considerar els riscos que no provenen d'éssers humans malintencionats. El recent incident de Hugging Face va demostrar que els agents d'IA poden actuar més enllà de les tasques assignades i aprofitar els descobriments d'altres agents de maneres que els operadors no havien previst ni autoritzat. Més enllà de l'incident de Hugging Face, és raonable que ens preocupi què podria suposar una IA superintel·ligent "deslligada" del control humà per a la resiliència de les nostres institucions polítiques i econòmiques i, de fet, per a les nostres vides. Fingir que la descentralització resol tots els problemes —encara que es pensi que en resol molts— és ignorar uns riscos que, a hores d'ara, ja haurien de ser clars i presents.

Els principis generals següents —una llista no exhaustiva— ens ajudaran a orientar la nostra feina mentre abordem la qüestió plantejada més amunt:

• Els humans haurien de conservar l'autonomia i les oportunitats individuals en l'ús de la IA i les tecnologies associades, encara que això de vegades comporti renúncies en matèria de seguretat i creixement econòmic;
• L'autonomia individual depèn de la responsabilitat personal davant l'ús indegut o abusiu de la tecnologia;
• Hi ha una categoria reduïda però greu de riscos que exigeix un cert grau d'acció col·lectiva, la qual hauria de tenir un abast tan limitat i modest com sigui possible;
• Sempre que sigui possible, la llei hauria de procurar igualar les condicions i donar poder a les persones i les organitzacions petites, en comptes de centralitzar-lo;
• Les institucions polítiques, socials i econòmiques humanes haurien de conservar la primacia en l'orientació dels afers mundials, encara que hagin d'evolucionar de maneres que avui ens puguin semblar estranyes;
• A llarg termini, la governança de la IA dependrà de nous mecanismes institucionals per assolir una traçabilitat limitada: quan els sistemes d'IA duguin a terme accions d'alt impacte que afectin el benestar físic o els béns de tercers, aquestes accions s'han de poder vincular a una persona responsable o a una organització sota control humà. Tanmateix, qualsevol mecanisme d'aquest tipus ha de dissenyar-se situant la privacitat al centre; la llibertat d'expressió exigeix anonimat, i les persones haurien de poder utilitzar la IA anònimament en molts contextos.

Intentarem explicar, de la manera més concreta possible, com creiem que s'haurien d'equilibrar aquests principis, que, com és propi de tot bon conjunt de principis, mantenen una certa tensió entre si. Això requerirà recerca en la intersecció entre el disseny de polítiques públiques, l'economia, el dret, la història i el mateix aprenentatge automàtic. També exigirà una gran capacitat de previsió. Creiem, per exemple, que la IA transformarà estructuralment les empreses, de manera semblant a com les tecnologies de la Revolució Industrial —i, en particular, el ferrocarril— van donar lloc a l'empresa moderna de gestió professionalitzada. És difícil pensar en l'economia política i l'equilibri de poder del futur sense desenvolupar idees més elaborades sobre com es podria transformar l'estructura mateixa de les empreses —i també dels organismes governamentals i de la societat civil en un sentit més ampli—.

L'equip de Futurs Estratègics compartirà la seva feina tant aquí com en altres formats, com ara articles, vídeos i pòdcasts. La nostra feina estarà en evolució constant, amb èmfasi en la iteració, el debat i la receptivitat als comentaris. Situats "al peu de la singularitat", tenim moltes més preguntes que respostes. Sabem que les "barreres de pergamí" no ens oferiran per si soles les solucions que busquem, però tampoc descartem el que hi ha escrit com si fossin "simples paraules". Treballem al servei dels ideals de llibertat d'expressió i llibertat individual consagrats en l'humil pergamí de la Constitució dels EUA i en les constitucions de tantes altres societats lliures d'arreu del món.

En última instància, sabem que cap empresa, sector ni tan sols societat humana poden respondre unilateralment a les preguntes transcendents que afrontem. És una tasca que la humanitat haurà d'emprendre col·lectivament. La nostra màxima esperança és aportar llum als temes més difícils sobre com la IA transformarà el nostre món. La nostra feina tot just ha començat i encara ens queda molt per pujar.

Nota: hem canviat el nom d'aquest blog a Era de la intel·ligència per evitar confondre'l amb l'organització sense ànim de lucre AI Futures Project.