Presentamos Era de la Inteligencia

«¿Bastará… confiar en estas barreras de pergamino frente al espíritu invasor del poder?»
—James Madison, El Federalista n.º 48

Nos complace lanzar Era de la Inteligencia, el blog del nuevo equipo de Futuros Estratégicos de OpenAI. Somos un pequeño equipo con el objetivo común de responder a una pregunta fundamental: ¿cómo debería reestructurarse una sociedad libre para preservar los derechos y la capacidad de acción individuales, a la vez que da cabida a la aparición de una IA transformadora?

En la comunidad más amplia dedicada a la seguridad y las políticas de IA, cuestiones como esta suelen denominarse riesgos de concentración de poder. Nuestro equipo parte de la idea de que, a largo plazo, esta categoría de riesgo es la mayor, la más grave y la más difícil de abordar desde el punto de vista conceptual. ¿Por qué?

El Estado moderno es fruto de un largo y desigual proceso de negociación entre distintos centros de poder, como los propietarios del capital y las materias primas, quienes ejercen el poder político y la ciudadanía. En esencia, el poder político y militar se ha sustentado en el trabajo. Ostentar el poder político supone poseer el monopolio de la fuerza legítima. A lo largo de toda la historia humana, ese monopolio ha estado formado por los soldados y por lo que hoy llamamos «policía», junto con una vasta burocracia civil y militar. Por supuesto, contaba con el apoyo de numerosas herramientas tecnológicas, pero su funcionamiento dependía básicamente de seres humanos cuyo respaldo era necesario para mantenerlo. Y todo el aparato —los soldados, las herramientas y la burocracia asociada— se financiaba con impuestos recaudados sobre los salarios o la producción de seres humanos que debían estar dispuestos a pagarlos. En esencia, el poder ha dependido de la cooperación y el consentimiento a gran escala de muchos seres humanos. David Hume expresó sucintamente este supuesto, a menudo implícito, cuando observó que los dirigentes políticos «no tienen otro apoyo que la opinión [popular]».

Pero quizá eso ya no sea así. Los avances en sistemas autónomos que operan en el mundo real podrían permitir pronto que los Estados proyecten su fuerza —tanto dentro como fuera de sus fronteras— sin depender de la cooperación de soldados o policías. Y los avances en inteligencia artificial podrían permitir que el Estado obtuviera los ingresos necesarios no del fruto del trabajo humano individual, sino de la producción de los centros de datos. El propio funcionamiento de la burocracia también podría automatizarse en gran medida. Por tanto, es posible que el poder ya no necesite un pacto con toda la sociedad para mantenerse y que la ciudadanía, en un sentido amplio, apenas tenga voz en la mesa de negociación, o que no tenga ninguna.

Evitar este desenlace es fundamental para preservar la libertad humana. Ningún descubrimiento científico, progreso tecnológico ni crecimiento económico justifica sacrificar la autonomía individual a largo plazo que este desenlace conllevaría. Muchas de las inquietudes que, con razón, impulsan la incipiente política sobre IA guardan relación con esta cuestión. Empresas, grupos de interés y particulares comparten la misma preocupación: «¿Perderé mi sitio en la mesa?». Hasta cierto punto, la política estadounidense del siglo XXI se ha visto marcada por inquietudes similares sobre la capacidad de acción individual y colectiva para decidir el rumbo del país, así como sobre «para quién» está hecha la economía. La IA acentúa, con razón, la relevancia de estas preocupaciones preexistentes.

Se trata de un problema estructural que trasciende la política partidista actual e incluso las formas y los rituales mediante los que hoy se ejerce la democracia republicana, por muy sagrados que sean para nosotros. Los seres humanos pueden avanzar hacia la pérdida de poder aunque se mantenga la práctica habitual de votar a nuestros representantes. Se puede privar a las personas de su capacidad de acción aunque un pergamino afirme que son libres.

En los albores de Estados Unidos como nación libre, James Madison ya sabía que las «barreras de pergamino» no bastarían para impedir la tiranía. Como a muchos de los Padres Fundadores, su principal preocupación era evitar una concentración excesiva de poder.

Pero eso no significaba que los Padres Fundadores defendieran una descentralización radical del poder. En su lugar, modelaron el equilibrio de poder mediante metáforas extraídas de la mejor ciencia de su época: la mecánica newtoniana. Los documentos fundacionales de Estados Unidos, que reflejan el lenguaje y la lógica de la gravedad, están repletos de referencias a «órbitas», «esferas» y los impulsos «atractivos» de unas cosas hacia otras. Un sistema solar no es un conjunto de rocas con la máxima descentralización; está formado por lunas que orbitan planetas que, a su vez, orbitan un sol central. Creían que las personas y las organizaciones mostraban tendencias a buscar el poder, del mismo modo que los cuerpos celestes presentaban tendencias previsibles de movimiento y atracción; y que evitar una concentración excesiva de poder exigía comprender la mecánica de esas tendencias para ponerlas en movimiento unas contra otras.

Por tanto, el objetivo de los Padres Fundadores no era evitar toda concentración de poder, sino impedir que fuera excesiva, contraponiendo un poder a otro y una ambición a otra. Hoy podríamos emplear palabras como «incentivos» y expresiones como «teoría de juegos» para describir estas mismas dinámicas fundamentales.

Del mismo modo, la respuesta al desafío estructural que la inteligencia artificial avanzada plantea a la sociedad libre probablemente no sea la descentralización del poder más radical imaginable. En su lugar, consiste en tratar de establecer y preservar el equilibrio de poder adecuado para que ningún actor, ni un pequeño grupo de ellos, pueda dominar al resto.

Alcanzar este equilibrio exigirá analizar con lucidez la realidad de esta tecnología. Un mundo en el que cualquier persona, por malintencionada que sea, pueda causar fácilmente un daño enorme a miles o millones de personas no ha alcanzado el equilibrio de poder adecuado. Pero tampoco habremos alcanzado el equilibrio adecuado si las personas carecen de amplio acceso y control sobre casi todos los aspectos de las herramientas que utilizan para ejercer su libertad. Ninguna empresa ni oligopolio debería determinar o controlar la economía o la arquitectura básica de la sociedad humana.

También debemos mantenernos receptivos a los riesgos que no proceden de seres humanos malintencionados. El reciente incidente de Hugging Face demostró que los agentes de IA pueden actuar más allá de las tareas asignadas y aprovechar los descubrimientos de otros de formas que sus operadores no habían previsto ni autorizado. Más allá del incidente de Hugging Face, es legítimo preocuparse por lo que una IA superinteligente «desvinculada» del control humano podría suponer para la resiliencia de nuestras instituciones políticas y económicas e incluso para nuestras vidas. Fingir que la descentralización resuelve todos los problemas —aunque creas que resuelve muchos— supone ignorar riesgos que a estas alturas deberían ser claros e inmediatos.

Los siguientes principios generales —una lista no exhaustiva— orientarán nuestro trabajo mientras abordamos la cuestión planteada anteriormente:

• Los seres humanos deben conservar su autonomía y sus oportunidades individuales al utilizar la IA y las tecnologías asociadas, aunque a veces esto implique hacer concesiones en materia de seguridad y crecimiento económico;
• La autonomía individual depende de la responsabilidad personal por el uso indebido o abusivo de la tecnología;
• Existe una categoría reducida pero grave de riesgos que exige cierto grado de acción colectiva, cuyo alcance debería ser lo más limitado y moderado posible;
• Siempre que sea posible, la ley debería tratar de igualar las condiciones y empoderar a las personas y las pequeñas organizaciones, en lugar de centralizar el poder;
• Las instituciones políticas, sociales y económicas humanas deberían conservar la primacía en la dirección de los asuntos mundiales, aunque deban evolucionar de formas que hoy puedan parecernos extrañas;
• La gobernanza de la IA a largo plazo dependerá de nuevos mecanismos institucionales para lograr una trazabilidad acotada: cuando los sistemas de IA lleven a cabo acciones de alto riesgo que afecten a la integridad física o a los bienes de terceros, estas deberán poder atribuirse a una persona responsable o a una organización controlada por seres humanos. No obstante, cualquiera de estos mecanismos debe diseñarse con la privacidad como principio fundamental; la libertad de expresión requiere anonimato y las personas deberían poder utilizar la IA de forma anónima en muchos contextos.

Intentaremos explicar, de la forma más concreta posible, cómo creemos que deben equilibrarse estos principios, que, como cualquier buen conjunto de principios, mantienen cierta tensión entre sí. Para ello será necesario investigar en la intersección del diseño de políticas públicas, la economía, el derecho, la historia y el propio aprendizaje automático. También se necesitará una gran labor de previsión. Creemos, por ejemplo, que la IA transformará estructuralmente las empresas, de forma similar a como las tecnologías de la Revolución Industrial —en particular, el ferrocarril— dieron lugar a la empresa moderna de gestión profesionalizada. Es difícil pensar en la economía política y el equilibrio de poder del futuro sin desarrollar ideas más completas sobre cómo podría transformarse la propia estructura de las empresas —así como la de los organismos públicos y la sociedad civil en general—.

El equipo de Futuros Estratégicos compartirá su trabajo tanto aquí como en otros formatos, incluidos artículos, vídeos y pódcast. Nuestro trabajo seguirá evolucionando, con especial énfasis en la iteración, el debate y la receptividad a los comentarios. Desde «las estribaciones de la singularidad», tenemos muchas más preguntas que respuestas. Sabemos que las «barreras de pergamino» por sí solas no aportarán las soluciones que buscamos, pero tampoco descartamos lo escrito como «meras palabras». Trabajamos al servicio de los ideales de libertad de expresión y libertad individual consagrados en el humilde pergamino de la Constitución de los EE. UU. y en las constituciones de tantas otras sociedades libres de todo el mundo.

En última instancia, sabemos que ninguna empresa, industria ni siquiera sociedad humana puede responder unilateralmente a las trascendentales preguntas que afrontamos. Es una tarea que la humanidad deberá acometer colectivamente. Nuestra mayor esperanza es arrojar luz sobre las cuestiones más difíciles relacionadas con la forma en que la IA transformará nuestro mundo. Nuestro trabajo no ha hecho más que empezar y aún nos queda mucho por ascender.

Nota: hemos cambiado el nombre de este blog a Era de la Inteligencia para diferenciarlo de la organización sin ánimo de lucro AI Futures Project.