OpenAI

18 de noviembre de 2026

Era de la inteligencia

El consenso silencioso

Por Dean Ball

Nota del autor: El ensayo de hoy es una adaptación de una conferencia que el autor impartió recientemente como parte del ciclo de conferencias Vik-Bailey en Harvard. Esta publicación refleja las opiniones personales del autor y no necesariamente las de OpenAI ni las de ninguno de sus empleados.



Gracias por estar aquí hoy. En estos momentos se está produciendo una de las series de incidentes de ciberseguridad más importantes de la historia: una serie de revelaciones de vulnerabilidades críticas de seguridad que algunos denominan “Octubre Negro”. Estas vulnerabilidades, detectadas en parte de la infraestructura fundamental de Internet, fueron identificadas por sistemas de AI de vanguardia, y su revelación forma parte de un esfuerzo urgente por reforzar la seguridad del software en todo el mundo. Este es el asunto urgente de este mes; el mes que viene habrá otro. El descubrimiento de vulnerabilidades de software es la capacidad de doble uso a la que han llegado hoy en día los sistemas de AI, pero muy pronto habrá otra, y esta inspirará su propio proyecto urgente para aprovechar el lado positivo de dicha capacidad antes de que los actores maliciosos utilicen el lado negativo. Todas estas cuestiones urgentes se solaparán, inevitablemente, y es probable que gran parte de lo que hoy llamamos “política de AI” se elabore en medio de este revuelo.

Pero no son las cuestiones reactivas y urgentes de las que he venido a hablaros hoy. En cambio, quiero hablaros de hacia dónde podrían dirigirse las cosas desde una perspectiva más amplia. Puede resultar difícil, en medio de tal avalancha de urgencias, pensar en estas cuestiones más abstractas y etéreas. Pero estas cuestiones son importantes, porque sin una idea clara de qué futuro a largo plazo nos gustaría alcanzar (y cuál nos gustaría evitar) podríamos acabar con un resultado global que no nos convenga, incluso aunque hayamos tomado decisiones acertadas en cada paso del camino.

A menudo se dice que al sector tecnológico le falta una visión positiva sobre adónde nos llevarán las cosas que está creando. No estoy de acuerdo: San Francisco y otros centros de emprendimiento están llenos de visiones positivas sobre nuestro futuro tecnológico . La gente está construyendo de verdad coches voladores, vehículos autónomos, robots de muchos tamaños y formas, fusión nuclear y, por supuesto, inteligencia artificial general. Lo que nos falta, en cambio, es una visión positiva de nuestro futuro institucional: ¿cómo va a funcionar todo esto?

Eso no quiere decir, sin embargo, que no exista ninguna visión institucional para el futuro. Por desgracia, la visión que me parece más habitual no es precisamente lo que yo llamaría positiva. Cuando se articula, suele ser en voz baja. Pero, con mayor frecuencia, se deja en el aire, y solo se percibe por insinuación. Yo lo denomino “el consenso silencioso”.

Pensemos en una empresa que puede hacer casi todo sin mano de obra humana. Sus sistemas de AI se encargan de la investigación y el desarrollo, hacen descubrimientos, negocian contratos, asignan capital y fabrican. Supongamos que es mejor en estas cosas que sus competidores humanos, incluso cuando esos humanos complementan su esfuerzo con la AI. Si la participación humana solo sirve para ralentizar el negocio, los directivos y propietarios humanos tendrán un poderoso incentivo para dejar de llevar las riendas. Si esto ocurre en toda la economía global, los humanos se verán empujados por la lógica de la competencia de mercado a renunciar a su primacía sobre el comercio mundial. Con el tiempo, el mercado podría llegar a atender las demandas de las máquinas tanto o más de lo que atiende las demandas y deseos de las personas.

Lo que suceda después es una incógnita. Quizá los humanos nos beneficiaríamos enormemente. Si las máquinas que nos hubieran absorbido tuvieran un gran respeto intrínseco por los humanos, podríamos convertirnos en los beneficiarios de su trabajo y de la riqueza que generan. O quizá, al vernos privados del poder económico y, cada vez más, del político, los humanos nos encontraríamos cada vez menos relevantes en el mundo, cada vez menos capaces de marcar el rumbo de los asuntos mundiales. Quizá un pequeño número de humanos poseería un poder y una riqueza extraordinarios, a costa de una masa ampliamente desposeída de poder, o quizá todos compartiríamos el mismo destino de pérdida de poder. Independientemente de los detalles, el hilo conductor que constituye el consenso tácito es el fin de la primacía humana en el mundo tal y como lo conocemos.

Nada en estos escenarios exige que la AI se rebele contra sus creadores. Nada exige que sus propietarios deseen la pérdida de poder de los humanos. Cada decisión de delegar puede tener sentido en sí misma. Sin embargo, en su conjunto, esas decisiones podrían dar lugar a un mundo en el que las personas hayan perdido la autoridad efectiva sobre gran parte de nuestra civilización. Incluso si logramos avances extraordinarios en las espinosas cuestiones de la seguridad y la alineación de la AI, podríamos encontrarnos de todos modos sometidos a un nuevo tipo de entidad mecánica. En la versión optimista del futuro, el consenso tácito nos diría que esa entidad será benévola, una máquina que velará por los mejores intereses de los humanos. Una máquina, como dice el poema de Brautigan, de amorosa gracia.

A estas máquinas, según nos dice el consenso tácito, les entregaremos las riendas de nuestras empresas y, cada vez más, de nuestras instituciones de gobierno. Ellas las gestionarán de forma más eficaz, más eficiente, con mayor sabiduría y mejor criterio de lo que los humanos somos capaces. Y así, con el tiempo, soltaremos el volante y dejaremos que las máquinas amorosas se hagan cargo de la conducción. Seremos como pasajeros en un coche (un coche muy bonito, quizás un coche materialmente mejor de lo que hoy podemos soñar), pero pasajeros al fin y al cabo, sin control sobre el rumbo que toma el vehículo. En la medida en que trabajemos, será sobre todo como una especie de ritual o de actuación, algo más parecido a un juego para entretener a nuestra especie.

Algunos observadores argumentarán que el consenso tácito se basa en una premisa falsa, porque, para empezar, los seres humanos no controlamos el mundo actual. Y conviene tener en cuenta esta crítica: no existe un “nosotros” que decida qué hacer. Vivimos en un mundo radicalmente descentralizado, nos guste o no. Sin embargo, este punto tampoco debería llevarnos a la complacencia: aunque “nosotros” no “controlamos” el mundo, los seres humanos, colectivamente, sí tienen primacía sobre los asuntos mundiales. No hay ninguna especie animal que compita seriamente con nosotros por el control de los recursos. Debemos rechazar la idea intelectualmente descuidada de que los seres humanos pueden ejercer un control jerárquico sobre el mundo, pero no debemos confundir ese rechazo con una negación de la realidad evidente de que los seres humanos son, colectivamente, el actor principal de la Tierra.

Algunas personas que están dispuestas a expresar el consenso tácito creen que se trata de un futuro verdaderamente positivo. Otras no lo creen así, pero se resignan a su inevitabilidad. El consenso tácito no es un consenso porque todo el mundo esté de acuerdo en que es bueno, ni es un plan secreto entre quienes desarrollan la AI. El consenso consiste simplemente en que la pérdida de la primacía humana en los asuntos mundiales es inevitable, o al menos que resulta muy difícil imaginar otra visión de un futuro que sea verdaderamente resistente frente a las máquinas superinteligentes. Una persona puede oponerse sinceramente a ese resultado y, al mismo tiempo, tener dificultades para concebir una visión alternativa plausible. El hecho de que el consenso sea en su mayor parte silencioso, en voz baja en el mejor de los casos, lo delata todo.

Desprecio el consenso silencioso. Rechazo la pérdida de la primacía humana. Detesto esa sensación de inevitabilidad. Me recuerdo a mí mismo que no podría mirar a los hermosos ojos de mi hijo pequeño si me sometiera al consenso silencioso. Y por eso, al consenso silencioso, le digo que no. Y creo que ha llegado el momento de hablar abiertamente sobre el consenso silencioso, de sacudirnos de encima nuestra aceptación, en su mayor parte inconsciente, de esta visión.

El problema es el siguiente: el consenso tácito se convirtió en consenso por una razón. Es difícil describir cómo los seres humanos seguirán al mando junto a una inteligencia artificial que supera con creces las capacidades humanas. La mayoría de los intentos de hacerlo se basan en argumentos según los cuales la AI es una mera herramienta, un instrumento de reconocimiento de patrones incapaz de alcanzar una “comprensión genuina”. Me temo que estos argumentos no son lo suficientemente sólidos ante la realidad de lo que se avecina. Me temo que son una forma de complacencia en sí mismos: una postura basada principalmente en la negación de lo que la AI puede hacer, más que en una convicción arraigada en una visión afirmativa de un futuro liderado por los humanos. No se puede decir que las AI carezcan de “comprensión genuina”, incluso cuando logran avanzar en problemas intelectuales cuyas soluciones han eludido a los humanos durante décadas y siglos.

¿Por qué, entonces, creo que los humanos deben conservar la primacía? La respuesta fácil es porque soy un ser humano y, de hecho, soy un chovinista humano sin complejos.

Pero también hay algo más profundo. Nuestra primacía no reside en nuestro intelecto, ni en mantener nuestro monopolio sobre la “comprensión genuina” indefinidamente en el futuro. Nuestra primacía se basa, en cambio, en nuestro pasado.

Porque somos nosotros quienes salimos del barro. Nosotros quienes forjamos la sociedad primitiva a partir de la tierra y la piedra. Nosotros quienes contemplamos las estrellas y nos preguntamos por qué. Nosotros, con nuestras luchas, nuestro amor, nuestra envidia y nuestra alegría, quienes descubrimos la moral, la ética y la ley. Somos nosotros quienes cantamos y bailamos, escribimos y compusimos. Somos nosotros quienes hicimos la historia, y somos nosotros quienes la escribimos. Ese legado es nuestro. La civilización que hemos construido es una llama que hemos alimentado, y esa llama nos pertenece. Nuestro pasado es una herencia gloriosa de la que todos somos custodios, y parte de esa custodia es nuestra participación en lo que Michael Oakeshott denominó “la conversación de la humanidad”, esa gran empresa que comenzó en tiempos primitivos.

A lo largo de ese pasado largo y sinuoso, forjamos una civilización que, en Estados Unidos, se concibió sobre la base de los derechos del individuo, con respeto por los caminos que todos trazamos a medida que avanzamos por el mundo. Los seres humanos tenemos vidas que pueden ir mejor o peor: cosechamos el fruto de nuestras decisiones acertadas y sufrimos las consecuencias cuando nos equivocamos. El derecho a seguir el propio camino no depende de ser el más inteligente ni el más sabio. No pierdo mi condición de ciudadano porque mi vecino tenga mejor criterio. Tampoco veo ninguna razón por la que la llegada de una máquina más inteligente deba disolver esa condición y, de hecho, veo todas las razones para impedir que eso ocurra.

Algunos podrían argumentar que las máquinas, al haber leído casi todo el registro escrito de este legado, también son herederas. Y, en cierto sentido, lo son. Pero una persona que haya leído cada carta del desván de tu familia no se convierte por ello en miembro de tu familia. Los sistemas de AI acabarán sumándose a la conversación de la humanidad, primero como observadores y, cada vez más, como participantes, pero no deben dominarla ni hacer que esa conversación resulte irrelevante. Ceder la primacía es traicionar a nuestros antepasados tanto como traicionar a nuestra descendencia. Si esta no es una lucha que merezca la pena librar, ninguna lucha la merece.

Ahora bien, yo creo que los partidarios del consenso silencioso se equivocan respecto a cómo será la superinteligencia artificial. Que pasan por alto algo importante sobre cómo funciona el mundo, que confunden la inteligencia con el poder. Si hace cinco o diez años le hubieras descrito las capacidades de los sistemas de AI actuales (incluso los de hoy) a un partidario del consenso silencioso, probablemente habría pronosticado que el desempleo sería ahora mucho mayor de lo que es en realidad, y que la pérdida de poder de los humanos a gran escala estaría mucho más avanzada de lo que está en realidad. Creo que la inteligencia y la capacidad colectivas de los humanos son mucho mayores de lo que suponen los partidarios del consenso silencioso, y que nuestras sociedades demostrarán ser más robustas de lo que ellos predicen.

Pero podría estar equivocado. Puede que, por ejemplo, las empresas totalmente autónomas simplemente superen por completo a las empresas dirigidas por humanos. Y si eso es cierto, entonces la lógica pura de la economía dictará que se ceda cada vez más capital a las máquinas. En este futuro, la pérdida de poder no requiere que las máquinas derroquen a la civilización humana; simplemente requiere que la lógica de la empresa capitalista continúe a buen ritmo. En este sentido, la revolución de la AI encontraría su analogía más cercana en la revolución agrícola, cuando los nuevos modos de producción cambiaron radicalmente la estructura de la sociedad humana. No está nada claro que esta transformación fuera agradable para los seres humanos que la vivieron; de hecho, hay pruebas sustanciales de que esta transformación empeoró el bienestar humano durante milenios.

No sé si este es el futuro al que nos enfrentamos y, de hecho, he defendido en otras ocasiones que no creo que lo sea. Pero muchos de mis colegas (personas inteligentes, solidarias y concienzudas) creen que es probable que este sea nuestro futuro. Si tienen razón, nuestra lucha contra el consenso silencioso será aún más difícil. Tendremos que nadar a contracorriente de la economía y, al hacerlo, rechazar muchas de las cosas que son dogmas para los individualistas liberales clásicos como yo. Será una empresa arriesgada, en la que el fracaso dista mucho de ser improbable. Pero si esta lucha no merece la pena, ninguna lucha la merece.

Mantener la primacía significa mantener la responsabilidad ante las personas y las instituciones humanas. Esto implica que los desarrolladores de AI deben rendir cuentas cuando adoptan prácticas de desarrollo inseguras, pero también que las personas y las empresas que utilizan la AI deben asumir su responsabilidad cuando sea su uso indebido o su falta de supervisión lo que cause daños. Para ello no basta con la ley, sino que se requiere una infraestructura técnica de rendición de cuentas. Las personas deben estar vinculadas a las acciones de sus agentes, y los agentes que no estén vinculados a un ser humano (si es que se les permite participar en la economía legítima) deben hacerlo bajo ciertas restricciones. Cualquier capacidad de los agentes para constituir empresas de forma autónoma, poseer bienes o litigar debe concederse con extrema cautela, si es que se concede.

Y en mi sector, podemos empezar a pensar seriamente en cómo construir máquinas inteligentes que sean compatibles con la primacía humana. Podemos crear agentes cuyos permisos sean comprensibles y limitados, cuyas acciones puedan ser auditadas y cuya autoridad puedan revocar los usuarios. La responsabilidad por acciones que afecten de manera significativa a otros no tiene por qué implicar la vigilancia de la vida privada cotidiana ni el fin de la libertad de expresión anónima. Podemos comprometernos con la privacidad de los usuarios y la soberanía individual sobre su propiedad digital y sus datos, incluida la capacidad práctica de trasladar esos datos a otro lugar. Podemos diseñar sistemas que ayuden a las personas a comprender y tomar decisiones, así como sistemas que realicen tareas. Y podemos comprobar si los productos que creamos hacen que sus usuarios sean más capaces de actuar en el mundo.

Nada de esto constituye un plan completo para una sociedad con inteligencia sobrehumana. Desconfiaría de cualquiera que afirmara tener uno. Pero es un punto de partida.

El futuro está envuelto en una espesa niebla. Pero aún podemos actuar hoy. Colectivamente, podemos, para empezar, expresar en voz alta ese consenso tácito y sacar a la luz sus contornos. Cada uno de nosotros puede ampliar radicalmente el alcance de nuestra ambición. Podemos optar por no dejar que la AI nos limite y, en su lugar, esforzarnos por dejar que nos potencie. Podemos aprender a plantear preguntas cada vez más audaces, a cuestionar el mundo con nuevo ímpetu y ferocidad, y a hacer uso de nuestras poderosas máquinas para lograrlo. Podemos convertirnos en un nuevo tipo de ser humano: no un transhumano, sino un ser humano potenciado.

Pienso en esto cuando miro a mi hijo pequeño. No deseo que se limite a estar bajo el cuidado de máquinas benevolentes, por muy cómoda que pueda ser la vida que le proporcionen. Quiero que herede un mundo en el que pueda plantear preguntas que a nadie se le haya ocurrido plantear, construir cosas que a nadie se le haya ocurrido construir. No quiero que tenga un coche más bonito con un asiento del copiloto más lujoso. Quiero que tenga el volante.

  • 2026

Autor

Dean Ball