El consens silenciós
Nota de l'autor: L'assaig d'avui és una adaptació d'una conferència que l'autor va pronunciar recentment dins del cicle de conferències Vik-Bailey a Harvard. Aquest article reflecteix les opinions de l'autor, i no necessàriament les d'OpenAI ni les de cap dels seus altres empleats.
Gràcies per ser aquí avui. Mentre parlem, s'està produint una de les sèries d'esdeveniments més importants de la història de la ciberseguretat: la divulgació d'un conjunt de vulnerabilitats de seguretat crítiques que alguns anomenen "Octubre Negre". Aquestes vulnerabilitats, presents en algunes de les infraestructures fonamentals d'internet, les han descobert sistemes d'IA d'avantguarda, i la seva divulgació forma part d'un esforç urgent per reforçar la seguretat del programari arreu del món. Aquesta és la qüestió urgent d'aquest mes; el mes vinent n'hi haurà una altra. La descoberta de vulnerabilitats del programari és la capacitat de doble ús que els sistemes d'IA han assolit avui, però ben aviat n'hi haurà una altra, que donarà lloc a un nou projecte urgent per aprofitar-ne el vessant beneficiós abans que actors malintencionats n'explotin el perjudicial. Totes aquestes qüestions urgents se superposaran, inevitablement, i és probable que bona part del que avui anomenem "polítiques d'IA" es defineixi enmig d'aquest enrenou.
Però avui no he vingut a parlar-vos de les qüestions urgents ni de les que ens obliguen a reaccionar. Vull parlar-vos, en canvi, de cap a on podem estar anant si ens ho mirem amb perspectiva. Enmig de tantes urgències, pot costar pensar en aquestes qüestions més abstractes i intangibles. Però són importants, perquè, si no tenim una idea de quins futurs volem assolir a llarg termini —i quins volem evitar—, podríem arribar a un resultat global que no desitgem, encara que haguéssim pres decisions encertades a cada pas del camí.
Sovint es diu que el sector tecnològic no té una visió positiva d'on ens portaran les coses que està creant. No hi estic d'acord: San Francisco i altres centres d'emprenedoria són plens de visions positives del nostre futur tecnològic. Realment s'estan desenvolupant cotxes voladors, vehicles autònoms, robots de moltes mides i formes, fusió nuclear i, és clar, intel·ligència artificial general. El que ens falta, en canvi, és una visió positiva del nostre futur institucional: com funcionarà tot plegat?
Això no vol dir, però, que no hi hagi cap visió institucional de futur. Malauradament, la visió que trobo més estesa no és una que jo qualificaria de positiva. Quan s'arriba a expressar, sol ser en veu baixa. Però, més sovint, no es verbalitza i només es pot entreveure en allò que s'insinua. Jo l'anomeno el consens silenciós.
Pensem en una empresa que pot fer gairebé de tot sense treball humà. Els seus sistemes d'IA fan recerca i desenvolupament, fan descobriments, negocien contractes, assignen capital i fabriquen productes. Suposem que fa tot això millor que els seus competidors humans, fins i tot quan aquests reforcen el seu treball amb IA. Si la participació humana només serveix per alentir l'empresa, els directius i propietaris humans tindran un fort incentiu per treure les mans del volant. Si això passa a tota l'economia mundial, la lògica de la competència de mercat empenyerà els humans a renunciar a la seva primacia en el comerç global. Amb el temps, el mercat podria acabar atenent les demandes de les màquines tant o més que les demandes i els desitjos de les persones.
Ningú no sap què passarà després. Potser els humans en trauríem un benefici immens. Si les màquines que ens haguessin absorbit atribuïssin un gran valor intrínsec als humans, podríem esdevenir beneficiaris del seu treball i de la riquesa que generen. O potser, desposseïts del poder econòmic i, cada vegada més, del polític, els humans ens trobarem amb un paper cada cop menys rellevant al món i amb menys capacitat per influir en el rumb dels afers mundials. Potser un petit nombre d'humans acumularia un poder i una riquesa extraordinaris a costa d'una massa en gran part privada de poder, o potser tots compartiríem aquest mateix destí. Més enllà dels detalls, el fil conductor que constitueix el consens silenciós és la fi de la primacia humana en el món tal com el coneixem.
Cap d'aquests escenaris requereix que la IA es rebel·li contra els seus creadors. Tampoc no cal que els seus propietaris desitgin que els humans perdin poder. Cada decisió de delegar pot tenir sentit per si mateixa. Però, en conjunt, aquestes decisions podrien donar lloc a un món en què les persones haguéssim renunciat a l'autoritat efectiva sobre bona part de la nostra civilització. Encara que avancem extraordinàriament en les espinoses qüestions de la seguretat i l'alineament de la IA, podríem acabar sotmesos a un nou tipus d'entitat mecànica. En la versió feliç del futur, ens diria el consens silenciós, aquesta entitat serà bondadosa, una màquina que vetllarà pel bé dels humans. Una màquina, com diu el poema de Brautigan, de gràcia amorosa.
A aquestes màquines, ens diu el consens silenciós, els lliurarem les claus de les nostres empreses i, cada vegada més, de les nostres institucions de govern. Les dirigiran amb més eficàcia, més eficiència, més saviesa i més bon criteri del que els humans som capaços d'aportar. I així, amb el temps, traurem les mans del volant i deixarem que les màquines amoroses es facin càrrec de la conducció. Serem com passatgers en un cotxe —un cotxe molt bo, potser materialment millor del que avui podem somiar—, però passatgers al capdavall, sense control sobre on es dirigeix el vehicle. Si treballem, serà sobretot com una mena de ritual o simulacre, una cosa més semblant a un joc per entretenir la nostra espècie.
Alguns observadors argumentaran que el consens silenciós parteix d'una premissa falsa, perquè, d'entrada, els humans avui tampoc no controlem el món. I val la pena tenir present aquesta crítica: no hi ha cap "nosaltres" que decideixi què cal fer. Vivim en un món radicalment descentralitzat, ens agradi o no. Però aquest fet tampoc no ens ha de fer caure en l'autocomplaença: tot i que "nosaltres" no "controlem" el món, els éssers humans, col·lectivament, sí que tenim la primacia en els afers mundials. No hi ha cap espècie animal que competeixi seriosament amb nosaltres pel control dels recursos. Hem de rebutjar la idea, mancada de rigor intel·lectual, que els humans podem exercir un control jeràrquic sobre el món, però no hem de confondre aquest rebuig amb la negació d'una realitat evident: els humans som, col·lectivament, l'actor principal de la Terra.
Algunes de les persones disposades a expressar el consens silenciós creuen que planteja un futur genuïnament bo. D'altres no, però es resignen a la seva inevitabilitat. El consens silenciós no és un consens perquè tothom estigui d'acord que és bo, ni tampoc és un pla secret entre les persones que desenvolupen IA. El consens és, simplement, que la renúncia a la primacia humana en els afers mundials és inevitable o, si més no, que costa molt imaginar una altra visió de futur que realment pugui resistir l'arribada de màquines superintel·ligents. Una persona pot oposar-se sincerament a aquest desenllaç i, alhora, tenir dificultats per imaginar una alternativa plausible. El que ho delata és que el consens sigui majoritàriament silenciós, expressat en veu baixa en el millor dels casos.
Menyspreo el consens silenciós. Rebutjo la renúncia a la primacia humana. Detesto la sensació que tot això és inevitable. Em recordo que no podria mirar als ulls tan bonics del meu nadó si em sotmetés al consens silenciós. Per això, al consens silenciós li dic que no. I crec que ha arribat l'hora de parlar-ne obertament, de sacsejar-nos i deixar enrere l'acceptació, en gran part inconscient, d'aquesta visió.
El problema és aquest: el consens silenciós ha esdevingut un consens per alguna raó. Costa descriure com els humans continuarem al volant al costat d'una intel·ligència artificial que ens superi de molt. La majoria dels intents de fer-ho es basen en arguments segons els quals la IA és una simple eina, un instrument de reconeixement de patrons incapaç d'una "comprensió genuïna". Em temo que aquests arguments no resistiran la realitat del que s'acosta. Em temo que són una altra forma d'autocomplaença: una posició basada sobretot a negar el que la IA pot fer, més que no pas una convicció arrelada en una visió constructiva d'un futur liderat pels humans. No es pot dir que les IA no tinguin una "comprensió genuïna" mentre avancen en problemes intel·lectuals que els humans fa dècades i segles que no hem aconseguit resoldre.
Per què crec, doncs, que els humans hem de conservar la primacia? La resposta fàcil és que soc un ésser humà i, de fet, un xovinista de l'espècie humana que no se n'amaga.
Però també hi ha una raó més profunda. La nostra primacia no es fonamenta en l'intel·lecte, ni a mantenir indefinidament el monopoli de la "comprensió genuïna". La nostra primacia es fonamenta, en canvi, en el nostre passat.
Perquè som nosaltres els qui vam emergir del fang. Nosaltres, els qui vam forjar la societat primitiva amb terra i pedra. Nosaltres, els qui vam alçar la mirada cap als estels i ens vam preguntar per què. Nosaltres, amb les nostres lluites, el nostre amor, la nostra enveja i la nostra alegria, els qui vam descobrir la moral, l'ètica i el dret. Som nosaltres els qui vam cantar i ballar, escriure i compondre. Som nosaltres els qui vam fer la història i som nosaltres els qui la vam escriure. Aquest llegat és nostre. La civilització que hem construït és una flama que hem mantingut viva, i aquesta flama ens pertany. El nostre passat és una herència gloriosa de la qual tots som custodis, i part d'aquesta custòdia consisteix a participar en allò que Michael Oakeshott va anomenar "la conversa de la humanitat", aquella gran empresa que va començar en temps remots.
Al llarg d'aquest passat extens i sinuós, vam forjar una civilització que, als Estats Units, es va concebre sobre el fonament dels drets individuals, amb respecte pels camins que cadascú de nosaltres obre en el seu pas pel món. Els éssers humans tenim vides que poden anar millor o pitjor: recollim els fruits de les decisions encertades i n'assumim les conseqüències quan ens equivoquem. El dret a seguir el propi camí no depèn de ser el més intel·ligent o el més savi. No perdo la meva condició de ciutadà perquè el meu veí tingui més bon criteri. Tampoc no veig cap raó perquè l'arribada d'una màquina més intel·ligent hagi d'anul·lar aquesta condició; de fet, veig tota mena de raons per impedir-ho.
Alguns poden argumentar que les màquines, havent llegit gairebé tot el registre escrit d'aquesta herència, també en són hereves. I, en cert sentit, ho són. Però una persona que hagi llegit totes les cartes de les golfes de casa teva no es converteix, per aquest fet, en un membre de la teva família. Els sistemes d'IA s'incorporaran a la conversa de la humanitat, primer com a observadors i cada cop més com a participants, però no l'han de dominar ni fer que deixi de tenir sentit. Cedir la primacia és trair els nostres avantpassats tant com els nostres descendents. Si aquesta lluita no val la pena, no n'hi ha cap que en valgui.
Ara bé, jo crec que els partidaris del consens silenciós s'equivoquen sobre com serà la superintel·ligència de les màquines. Que passen per alt un aspecte important de com funciona el món, que confonen la intel·ligència amb el poder. Si fa cinc o deu anys haguéssiu descrit les capacitats dels sistemes d'IA actuals a un partidari del consens silenciós, probablement hauria predit que avui l'atur seria molt més alt del que és i que la pèrdua generalitzada de poder dels humans estaria molt més avançada. Crec que la intel·ligència i la capacitat col·lectives dels humans són molt més grans del que suposen els partidaris del consens silenciós, i que les nostres societats demostraran ser més resistents del que preveuen.
Però em podria equivocar. Podria passar, senzillament, que les empreses plenament autònomes acabessin desplaçant del tot les empreses dirigides per humans. I, si és així, la crua lògica de l'economia dictarà que es lliuri cada cop més capital a les màquines. En aquest futur, la pèrdua de poder no requereix que les màquines enderroquin la civilització humana; n'hi ha prou que la lògica empresarial capitalista continuï avançant. En aquest cas, el paral·lel més proper de la revolució de la IA seria la revolució agrícola, quan els nous modes de producció van transformar profundament l'estructura de la societat humana. No és gens clar que aquesta transformació fos agradable per als humans que la van viure; de fet, hi ha proves sòlides que va empitjorar el benestar humà durant mil·lennis.
No sé si aquest és el futur que ens espera i, de fet, he defensat en altres ocasions que no ho crec. Però molts dels meus col·legues —persones intel·ligents, sensibles i consciencioses— creuen que és probable que aquest sigui el nostre futur. Si tenen raó, la nostra lluita contra el consens silenciós serà encara més difícil. Haurem de nedar contra el corrent de l'economia i, en fer-ho, rebutjar moltes de les coses que són dogma per als individualistes del liberalisme clàssic com jo. Serà una empresa perillosa, en què el fracàs no serà gens improbable. Però si aquesta lluita no val la pena, no n'hi ha cap que en valgui.
Conservar la primacia vol dir mantenir l'obligació de les persones i les institucions humanes de retre comptes. Això vol dir que els desenvolupadors d'IA han de respondre de les pràctiques de desenvolupament insegures, però també que les persones i les empreses que fan servir IA han de respondre dels danys causats pel seu mal ús o per la seva manca de supervisió. Això requereix no només lleis, sinó també la infraestructura tècnica que permeti retre comptes. Les accions dels agents han de ser atribuïbles a les persones que en són responsables, i els agents no vinculats a cap humà —si és que se'ls permet participar en l'economia legal— han de fer-ho amb mesures de protecció. Qualsevol facultat dels agents per constituir empreses, posseir béns o litigar de manera autònoma s'hauria d'atorgar amb una cautela extraordinària, si és que s'ha d'atorgar.
I, al meu sector, podem començar a pensar seriosament com construir màquines intel·ligents compatibles amb la primacia humana. Podem crear agents amb permisos comprensibles i limitats, amb accions que es puguin auditar i amb una autoritat que els usuaris puguin revocar. Retre comptes de les accions que afecten substancialment els altres no ha d'implicar vigilar la vida privada quotidiana ni posar fi a la possibilitat d'expressar-se anònimament. Podem assumir compromisos amb la privacitat dels usuaris i amb la sobirania de cada persona sobre els seus béns digitals i les seves dades, inclosa la possibilitat real de traslladar aquestes dades a un altre lloc. Podem dissenyar sistemes que ajudin les persones a comprendre i a prendre decisions, a més de sistemes que executin tasques. I podem comprovar si els productes que creem fan que els seus usuaris siguin més capaços d'actuar en el món.
Res d'això no constitueix un pla complet per a una societat amb intel·ligència sobrehumana. Desconfiaria de qualsevol que afirmés tenir-ne un. Però és un punt de partida.
El futur està envoltat d'una boira espessa. Però encara podem actuar avui. Col·lectivament, podem, per començar, anomenar en veu alta el consens silenciós i posar-ne al descobert els contorns. Cadascun de nosaltres pot ampliar radicalment l'abast de les seves ambicions. Podem decidir no deixar que la IA ens empetiteixi i, en canvi, fer l'esforç que cal perquè ens faci créixer. Podem aprendre a fer preguntes cada cop més agosarades, a interrogar el món amb un nou ímpetu i una nova ferocitat, i a servir-nos de les nostres potents màquines per fer-ho. Podem esdevenir un nou tipus d'ésser humà: no pas un transhumà, sinó un ésser humà amb capacitats ampliades.
Hi penso quan miro el meu fill, encara un nadó. No desitjo que es limiti a viure sota la tutela de màquines benèvoles, per molt còmoda que sigui la vida que li puguin oferir. Vull que hereti un món en què pugui fer preguntes que a ningú no se li hagi acudit fer, construir coses que a ningú no se li hagi acudit construir. No vull que tingui un cotxe millor amb un seient de passatger més confortable. Vull que sigui ell qui porti el volant.
- 2026


