OpenAI

18 de noviembre de 2026

Era de la Inteligencia

El consenso silencioso

Por Dean Ball

Nota del autor: el ensayo de hoy es una adaptación de una conferencia que el autor impartió recientemente dentro del ciclo de conferencias Vik-Bailey de Harvard. Esta publicación refleja las opiniones personales del autor, que no coinciden necesariamente con las de OpenAI ni con las de sus demás empleados.



Gracias por estar aquí hoy. Mientras hablamos, se está produciendo una de las series de acontecimientos más importantes de la historia de la ciberseguridad: la divulgación de un conjunto de vulnerabilidades críticas que algunos llaman «Octubre Negro». Estas vulnerabilidades, presentes en parte de la infraestructura básica de internet, fueron descubiertas por sistemas de IA de vanguardia, y su divulgación forma parte de un esfuerzo urgente por reforzar la seguridad del software en todo el mundo. Este es el asunto urgente de este mes; el próximo habrá otro. El descubrimiento de vulnerabilidades de software es la capacidad de doble uso que los sistemas de IA han alcanzado hoy, pero pronto habrá otra, y esta impulsará su propio proyecto urgente para aprovechar su vertiente beneficiosa antes de que actores maliciosos exploten la dañina. Todos estos asuntos urgentes se solaparán inevitablemente, y es probable que buena parte de lo que hoy llamamos «políticas de IA» se decida en medio de ese clamor.

Pero hoy no he venido a hablar de medidas reactivas ni de asuntos urgentes. Quiero hablar, en cambio, del rumbo que podrían tomar las cosas desde una perspectiva más amplia. En medio de semejante avalancha de urgencias, puede resultar difícil pensar en estas cuestiones más abstractas y etéreas. Pero estas cuestiones importan, porque, si no tenemos una idea de los futuros a largo plazo que queremos alcanzar —y de los que queremos evitar—, podríamos acabar con un resultado global indeseado, aunque hubiéramos tomado decisiones acertadas a cada paso.

A menudo se dice que el sector tecnológico carece de una visión positiva de adónde nos llevará lo que está construyendo. No estoy de acuerdo: San Francisco y otros centros de emprendimiento están llenos de visiones positivas sobre nuestro futuro tecnológico . Se están desarrollando de verdad coches voladores, vehículos autónomos, robots de muchos tamaños y formas, fusión nuclear y, por supuesto, inteligencia artificial general. Lo que nos falta, en cambio, es una visión positiva de nuestro futuro institucional : ¿cómo va a funcionar todo esto?

Eso no quiere decir, sin embargo, que no exista una visión institucional del futuro. Por desgracia, la visión que encuentro con más frecuencia no es una que yo calificaría de positiva. Cuando llega a expresarse, suele ser en susurros. Pero lo más habitual es que no se diga, que solo pueda deducirse de lo que queda implícito. Yo lo llamo el consenso silencioso.

Imagina una empresa que puede hacerlo casi todo sin trabajo humano. Sus sistemas de IA se ocupan de la investigación y el desarrollo, hacen descubrimientos, negocian contratos, asignan capital y fabrican productos. Supón que hace todo eso mejor que sus competidores humanos, incluso cuando estos refuerzan su trabajo con IA. Si la intervención humana solo sirve para frenar el negocio, los directivos y propietarios humanos tendrán un poderoso incentivo para soltar el volante. Si esto ocurre en toda la economía mundial, la lógica de la competencia de mercado empujará a los seres humanos a renunciar a su primacía sobre el comercio mundial. Con el tiempo, el mercado podría llegar a atender las demandas de las máquinas tanto o más que las demandas y los deseos de las personas.

Nadie sabe qué ocurrirá después. Quizá los seres humanos nos beneficiáramos enormemente. Si las máquinas que nos hubieran absorbido reconocieran un gran valor intrínseco en los seres humanos, podríamos beneficiarnos de su trabajo y de la riqueza que generan. O quizá, despojados del poder económico y, cada vez más, del político, los seres humanos seamos cada vez menos relevantes en el mundo y tengamos cada vez menos capacidad de influir en el rumbo de los asuntos mundiales. Tal vez un pequeño grupo de seres humanos acumulara un poder y una riqueza extraordinarios a costa de una gran masa despojada de poder, o quizá todos compartiéramos ese mismo destino. Al margen de los detalles, el hilo conductor del consenso silencioso es el fin de la primacía humana en el mundo tal como lo conocemos.

Nada en estos escenarios exige que la IA se rebele contra sus creadores. Nada exige que sus propietarios deseen privar de poder a los seres humanos. Cada decisión de delegar puede tener sentido por sí sola. Sin embargo, en conjunto, esas decisiones podrían dar lugar a un mundo en el que las personas hubiéramos renunciado a la autoridad efectiva sobre gran parte de nuestra civilización. Aunque logremos avances extraordinarios en las espinosas cuestiones de la seguridad y la alineación de la IA, podríamos acabar sometidos a un nuevo tipo de entidad artificial. En la versión feliz del futuro, nos diría el consenso silencioso, esa entidad será bondadosa, una máquina que vele por los intereses de los seres humanos. Una máquina, como dice el poema de Brautigan, de amorosa gracia.

A estas máquinas, nos dice el consenso silencioso, entregaremos las llaves de nuestras empresas y, cada vez más, de nuestras instituciones de gobierno. Las dirigirán con más eficacia, más eficiencia, más sabiduría y mejor criterio de los que somos capaces de aportar los seres humanos. Y así, con el tiempo, soltaremos el volante y dejaremos que esas máquinas amorosas conduzcan por nosotros. Seremos como pasajeros de un coche —un coche muy bueno, quizá materialmente mejor de lo que hoy podemos soñar—, pero pasajeros al fin y al cabo, sin control sobre el rumbo del vehículo. Si trabajamos, será sobre todo como una especie de ritual o de simulacro, algo más parecido a un juego para entretener a nuestra especie.

Algunos observadores sostendrán que el consenso silencioso parte de una premisa falsa, porque, para empezar, los seres humanos tampoco controlamos el mundo hoy. Y conviene tener presente esta crítica: no existe un «nosotros» que decida qué hacer. Vivimos en un mundo radicalmente descentralizado, nos guste o no. Pero esto tampoco debería llevarnos a la autocomplacencia: aunque «nosotros» no «controlamos» el mundo, los seres humanos, en conjunto, sí tenemos la primacía sobre los asuntos mundiales. Ninguna especie animal compite seriamente con nosotros por el control de los recursos. Debemos rechazar la idea, carente de rigor intelectual, de que los seres humanos podemos ejercer un control jerárquico sobre el mundo, pero no debemos confundir ese rechazo con la negación de una realidad evidente: en conjunto, somos el principal actor de la Tierra.

Algunas personas dispuestas a expresar el consenso silencioso creen que ese futuro es verdaderamente bueno. Otras no, pero se resignan a su inevitabilidad. El consenso silencioso no es un consenso porque todos estén de acuerdo en que sea bueno, ni es un plan secreto de quienes desarrollan la IA. El consenso consiste, sencillamente, en que la renuncia a la primacía humana sobre los asuntos mundiales es inevitable o, al menos, en que resulta muy difícil imaginar otra visión de futuro que pueda sostenerse de verdad ante la llegada de máquinas superinteligentes. Una persona puede oponerse sinceramente a ese desenlace y, aun así, tener dificultades para imaginar una alternativa plausible. Lo revelador es que el consenso sea, en su mayor parte, silencioso, expresado en voz baja como mucho.

Desprecio el consenso silencioso. Rechazo la renuncia a la primacía humana. Detesto esa sensación de inevitabilidad. Me recuerdo que no podría mirar a mi bebé a sus preciosos ojos si me sometiera al consenso silencioso. Por eso, al consenso silencioso le digo que no. Y creo que ha llegado el momento de hablar abiertamente de él, de sacudirnos esa aceptación, en gran medida inconsciente, de esta visión.

El problema es este: el consenso silencioso se convirtió en consenso por una razón. Resulta difícil explicar cómo seguiremos al volante los seres humanos junto a una inteligencia artificial muy superior a la nuestra. La mayoría de los intentos se apoyan en argumentos según los cuales la IA es una mera herramienta, un instrumento de reconocimiento de patrones incapaz de una «comprensión genuina». Me temo que estos argumentos no resisten la realidad de lo que se avecina. Me temo que son otra forma de autocomplacencia: una postura basada sobre todo en negar lo que la IA puede hacer, más que una convicción arraigada en una visión constructiva de un futuro liderado por los seres humanos. No podemos afirmar que las IA carecen de una «comprensión genuina» si llegan a avanzar en problemas intelectuales cuya solución se nos ha resistido a los seres humanos durante décadas y siglos.

¿Por qué creo, entonces, que los seres humanos debemos conservar la primacía? La respuesta fácil es que soy un ser humano y, en efecto, defiendo sin complejos la preeminencia de nuestra especie.

Pero también hay algo más profundo. Nuestra primacía no se sustenta en nuestro intelecto, ni en mantener indefinidamente nuestro monopolio de la «comprensión genuina». Nuestra primacía se sustenta, en cambio, en nuestro pasado.

Porque fuimos nosotros quienes surgimos del barro. Nosotros quienes forjamos la sociedad primitiva con tierra y piedra. Nosotros quienes alzamos la mirada hacia las estrellas y nos preguntamos por qué. Nosotros, con nuestras luchas, nuestro amor, nuestra envidia y nuestra alegría, quienes descubrimos la moral, la ética y el derecho. Fuimos nosotros quienes cantamos y bailamos, escribimos y compusimos. Fuimos nosotros quienes hicimos la historia y quienes la escribimos. Ese legado es nuestro. La civilización que hemos construido es una llama que hemos mantenido viva, y esa llama nos pertenece. Nuestro pasado es una herencia gloriosa que todos custodiamos, y parte de esa custodia consiste en participar en lo que Michael Oakeshott llamó «la conversación de la humanidad», esa gran empresa que comenzó en tiempos remotos.

A lo largo de ese pasado extenso y sinuoso, forjamos una civilización que, en Estados Unidos, se concibió sobre la base de los derechos individuales, con un profundo respeto por los caminos que cada uno se abre a su paso por el mundo. Los seres humanos tenemos vidas que pueden ir mejor o peor: cosechamos los frutos de nuestras decisiones acertadas y afrontamos las consecuencias cuando nos equivocamos. El derecho a recorrer nuestro propio camino no depende de ser los más inteligentes ni los más sabios. No pierdo mi condición de ciudadano porque mi vecino tenga mejor criterio. Tampoco veo razón alguna para que la llegada de una máquina más inteligente deba anular esa condición; al contrario, veo todas las razones para impedirlo.

Algunos podrían argumentar que las máquinas, al haber leído casi todo el registro escrito de esta herencia, también son herederas. Y, en cierto sentido, lo son. Pero una persona que haya leído todas las cartas del desván de tu familia no se convierte por ello en un miembro de tu familia. Los sistemas de IA acabarán incorporándose a la conversación de la humanidad, primero como observadores y cada vez más como participantes, pero no deben dominarla ni hacer que pierda su razón de ser. Ceder la primacía es traicionar a nuestros antepasados tanto como a nuestros descendientes. Si esta lucha no merece la pena, ninguna la merece.

Ahora bien, creo que los partidarios del consenso silencioso se equivocan sobre lo que será la superinteligencia artificial. Que pasan por alto algo importante sobre cómo funciona el mundo, que confunden inteligencia con poder. Si hace cinco o diez años le hubieras descrito a un partidario del consenso silencioso las capacidades de los sistemas de IA de hoy, probablemente habría predicho un desempleo mucho mayor del que tenemos y una pérdida de poder humano, en todos los ámbitos, mucho más avanzada de lo que realmente está. Creo que la inteligencia y la capacidad colectivas de los seres humanos son mucho mayores de lo que suponen los partidarios del consenso silencioso, y que nuestras sociedades demostrarán ser más resilientes de lo que ellos predicen.

Pero podría estar equivocado. Puede ocurrir, por ejemplo, que las empresas plenamente autónomas simplemente superen por completo a las empresas humanas. Y, si es así, la cruda lógica económica dictará que se entregue cada vez más capital a las máquinas. En ese futuro, la pérdida de poder no exige que las máquinas derroquen a la civilización humana; basta con que la lógica de la empresa capitalista siga su curso. En ese caso, el paralelo más cercano a la revolución de la IA sería la revolución agrícola, cuando los nuevos modos de producción cambiaron de raíz la estructura de la sociedad humana. No está nada claro que aquella transformación fuera agradable para quienes la vivieron; de hecho, existen abundantes pruebas de que empeoró el bienestar humano durante milenios.

No sé si ese es el futuro que nos espera y, de hecho, he defendido en otros espacios que no creo que lo sea. Pero muchos de mis colegas —personas inteligentes, solidarias y concienzudas— creen que ese será probablemente nuestro futuro. Si tienen razón, nuestra lucha contra el consenso silencioso será aún más difícil. Tendremos que nadar contra la corriente de la economía y, al hacerlo, rechazar muchas de las cosas que son dogma para quienes, como yo, defendemos el individualismo y el liberalismo clásico. Será una empresa peligrosa, en la que el fracaso no será en absoluto improbable. Pero si esta no es una lucha que merezca la pena, ninguna la merece.

Conservar la primacía significa que los seres humanos y sus instituciones sigan rindiendo cuentas. Eso significa que los desarrolladores de IA deben responder por sus prácticas de desarrollo inseguras, pero también que las personas y empresas que utilizan la IA deben rendir cuentas cuando su mal uso o su falta de supervisión causen daños. Para ello no basta con la ley: también hace falta una infraestructura técnica que permita exigir responsabilidades. Las acciones de los agentes deben poder vincularse a las personas responsables de ellos, y los agentes no vinculados a un ser humano —si es que se les permite participar en la economía legal— deben hacerlo bajo medidas de control. Cualquier facultad que se conceda a los agentes para constituir sociedades, poseer bienes o litigar de forma autónoma debe otorgarse con extrema cautela, si es que se otorga.

Y en mi sector podemos empezar a pensar seriamente en cómo construir máquinas inteligentes compatibles con la primacía humana. Podemos crear agentes cuyos permisos sean comprensibles y limitados, cuyas acciones puedan auditarse y cuya autoridad puedan revocar los usuarios. Exigir responsabilidades por acciones que afectan de forma sustancial a otros no tiene por qué implicar la vigilancia de la vida privada cotidiana ni el fin de la expresión anónima. Podemos comprometernos con la privacidad de los usuarios y con la soberanía de cada persona sobre sus bienes digitales y sus datos, incluida la posibilidad real de trasladar esos datos a otro lugar. Podemos diseñar sistemas que ayuden a las personas a comprender y tomar decisiones, además de sistemas que ejecuten tareas. Y podemos comprobar si los productos que creamos aumentan la capacidad de sus usuarios para actuar en el mundo.

Nada de esto constituye un plan completo para una sociedad con inteligencia sobrehumana. Desconfiaría de cualquiera que afirmara tenerlo. Pero es un punto de partida.

El futuro está envuelto en una espesa niebla. Pero aún podemos actuar hoy. Entre todos podemos, para empezar, nombrar en voz alta el consenso silencioso, sacar a la luz sus contornos. Cada uno de nosotros puede ampliar radicalmente el alcance de sus ambiciones. Podemos elegir no dejar que la IA nos empequeñezca y, en cambio, hacer el esfuerzo que exige dejar que nos engrandezca. Podemos aprender a plantear preguntas cada vez más audaces, a interrogar al mundo con renovado ímpetu y ferocidad, y a servirnos para ello de nuestras poderosas máquinas. Podemos convertirnos en un nuevo tipo de ser humano: no un transhumano, sino un ser humano con capacidades ampliadas.

Pienso en ello cuando miro a mi hijo, todavía un bebé. No deseo para él tan solo la protección de unas máquinas benevolentes, por cómoda que sea la vida que puedan ofrecerle. Quiero que herede un mundo en el que pueda hacer preguntas que a nadie se le haya ocurrido plantear, construir cosas que a nadie se le haya ocurrido construir. No quiero que tenga un coche mejor con un asiento de pasajero más mullido. Quiero que lleve el volante.

  • 2026

Autor

Dean Ball