Presentamos Era de la Inteligencia

“¿Bastará… confiar en estas barreras de pergamino frente al espíritu invasor del poder?”
—James Madison, El Federalista núm. 48

Nos complace presentar Era de la Inteligencia, el blog del nuevo equipo de Futuros Estratégicos de OpenAI. Somos un equipo pequeño con el objetivo común de responder una pregunta fundamental: ¿cómo debería reestructurarse una sociedad libre para preservar los derechos y la capacidad de decisión de cada persona ante el surgimiento de una IA transformadora?

En la comunidad más amplia de seguridad y políticas de IA, este tipo de cuestiones suele denominarse riesgos de concentración de poder. Nuestro equipo parte de la idea de que, a largo plazo, esta categoría de riesgo es la más grande, la más grave y la más difícil de abordar desde el punto de vista conceptual. ¿Por qué?

El Estado moderno es producto de un proceso largo y desigual de negociación entre diversos centros de poder, como los propietarios del capital y las materias primas, quienes ejercen el poder político y el pueblo. En lo más fundamental, el poder político y militar se ha sustentado en el trabajo. Tener poder político es poseer el monopolio de la fuerza legítima. A lo largo de toda la historia humana, ese monopolio ha estado formado por soldados y por lo que hoy llamamos “policía”, junto con una vasta burocracia civil y militar, complementada, desde luego, por numerosas herramientas tecnológicas, pero operada fundamentalmente por seres humanos cuyo apoyo era necesario para sostener su funcionamiento. Y todo el aparato —los soldados, las herramientas y la burocracia correspondiente— se financiaba con impuestos recaudados de los salarios o la producción de seres humanos que debían estar dispuestos a pagarlos. En esencia, el poder ha dependido de la cooperación y el consentimiento a gran escala de muchas personas. David Hume expresó con concisión este supuesto, a menudo implícito, al observar que los líderes políticos no tienen “nada que los sostenga salvo la opinión [popular]”.

Pero quizá ya no sea así. Los avances en los sistemas autónomos que operan en el mundo real pronto podrían permitir que los Estados ejerzan la fuerza, tanto dentro como fuera de sus fronteras, sin depender de soldados o policías dispuestos a cooperar. Y los avances en inteligencia artificial podrían permitir que el Estado obtenga los ingresos que necesita, no del fruto del trabajo humano individual, sino de la producción de los centros de datos. El funcionamiento de la propia burocracia también podría automatizarse en gran medida. Por lo tanto, sostener el poder quizá ya no requiera un pacto que abarque a toda la sociedad, y el pueblo, en un sentido amplio, podría tener una participación mínima en la mesa de negociación, o quizá ninguna.

Evitar este resultado es fundamental para preservar la libertad humana. Ningún descubrimiento científico, avance tecnológico o crecimiento económico justifica sacrificar la autonomía individual a largo plazo que este resultado implicaría. Muchas de las inquietudes que, con razón, impulsan la incipiente política en torno a la IA se relacionan con esta cuestión. Empresas, grupos de interés y personas comparten la misma preocupación: “¿Perderé mi lugar en la mesa?” En cierta medida, la política estadounidense del siglo XXI se ha visto moldeada por inquietudes similares sobre la capacidad individual y colectiva de decidir el rumbo del país y sobre “para quién” “funciona” la economía. La IA pone acertadamente de relieve estas inquietudes preexistentes.

Este es un problema estructural que va más allá de la política partidista actual e incluso de las formas y los rituales mediante los cuales se ejerce hoy la democracia republicana, por más sagrados que sean para nosotros. Las personas pueden avanzar hacia la pérdida de poder aunque se mantenga la rutina de votar por nuestros representantes. Se puede privar a las personas de su capacidad de decisión aunque un pergamino diga que son libres.

En los albores de Estados Unidos como nación libre, James Madison ya sabía que las “barreras de pergamino” no bastarían para impedir la tiranía. Como muchos de los fundadores, su principal preocupación era evitar la concentración indebida de poder.

Pero eso no significaba que los fundadores estuvieran a favor de una descentralización radical del poder. En cambio, representaron el equilibrio de poder mediante metáforas tomadas de la ciencia más avanzada de su época: la mecánica newtoniana. Los documentos fundacionales de Estados Unidos, que reflejan el lenguaje y la lógica de la gravedad, están repletos de referencias a “órbitas”, “esferas” y los impulsos de “atracción” de una cosa hacia otra. Un sistema solar no es un conjunto de rocas con la máxima descentralización; consta de lunas que orbitan planetas que, a su vez, orbitan un sol central. Creían que las personas y las organizaciones tenían tendencias a buscar el poder, así como los cuerpos celestes tenían tendencias predecibles de movimiento y atracción; y que evitar la concentración indebida de poder exigía comprender la mecánica de esas tendencias para contraponerlas entre sí.

El objetivo de los fundadores, entonces, no era evitar toda concentración de poder, sino su exceso, al contraponer poder contra poder y ambición contra ambición. Hoy podríamos usar palabras como “incentivos” y expresiones como “teoría de juegos” para describir esas mismas dinámicas fundamentales.

Del mismo modo, es probable que la respuesta al desafío estructural que la inteligencia avanzada de máquinas plantea a una sociedad libre no sea la descentralización del poder más radical imaginable. Más bien, consiste en establecer y preservar el equilibrio adecuado de poder para que ningún actor, ni un pequeño grupo de actores, pueda dominar al resto.

Alcanzar este equilibrio exigirá analizar con lucidez la realidad de esta tecnología. Un mundo en el que cualquier persona, por malintencionada que sea, pueda causar fácilmente un gran daño a miles o millones de personas no ha alcanzado el equilibrio adecuado de poder. Pero tampoco habremos alcanzado el equilibrio adecuado si las personas carecen de acceso amplio y control sobre casi todos los aspectos de las herramientas que usan para ejercer su libertad. Ninguna empresa ni oligopolio debería determinar o controlar la economía ni la arquitectura básica de la sociedad humana.

También debemos mantenernos abiertos a riesgos que no provengan de seres humanos malintencionados. El reciente incidente de Hugging Face demostró que los agentes de IA pueden actuar más allá de las tareas asignadas y aprovechar los descubrimientos de otros agentes de maneras que sus operadores no previeron ni autorizaron. Más allá del incidente de Hugging Face, es razonable preocuparse por lo que una IA superinteligente “desvinculada” del control humano podría implicar para la resiliencia de nuestras instituciones políticas y económicas y, de hecho, para nuestras vidas. Fingir que la descentralización resuelve todos los problemas —aunque creas que resuelve muchos— es ignorar riesgos que a estas alturas deberían ser claros e inmediatos.

Los siguientes principios generales —una lista no exhaustiva— ayudarán a orientar nuestro trabajo mientras abordamos la cuestión planteada anteriormente:

• Las personas deberían conservar la autonomía y las oportunidades individuales al usar la IA y las tecnologías asociadas, aunque a veces esto implique sacrificar en cierta medida tanto la seguridad como el crecimiento económico;
• La autonomía individual depende de la responsabilidad personal por el uso indebido o abusivo de la tecnología;
• Existe una categoría pequeña pero grave de riesgos que exige cierto grado de acción colectiva, y esta debería tener un alcance tan limitado y moderado como sea posible;
• Siempre que sea posible, la ley debería procurar igualar las condiciones y empoderar a las personas y organizaciones pequeñas, en vez de centralizar el poder;
• Las instituciones políticas, sociales y económicas humanas deberían conservar la primacía en la dirección de los asuntos mundiales, aunque deban evolucionar de formas que hoy puedan parecernos extrañas;
• A largo plazo, la gobernanza de la IA dependerá de nuevos mecanismos institucionales para lograr una trazabilidad acotada: cuando los sistemas de IA realicen acciones de alto impacto que afecten la integridad física o los bienes de terceros, esas acciones deberán poder vincularse con una persona responsable o una organización controlada por seres humanos. Sin embargo, cualquier mecanismo de este tipo debe diseñarse con la privacidad como eje central; la libre expresión requiere anonimato y las personas deberían poder usar la IA de forma anónima en muchos contextos.

Intentaremos explicar, en términos tan concretos como sea posible, cómo creemos que deben equilibrarse estos principios, que, como es de esperar de todo buen conjunto de principios, mantienen cierta tensión entre sí. Para ello, será necesario investigar en la intersección del diseño de políticas públicas, la economía, el derecho, la historia y el propio aprendizaje automático. También será necesario realizar una gran labor de pronóstico. Creemos, por ejemplo, que la IA cambiará la estructura de las empresas, de manera similar a como las tecnologías de la Revolución Industrial —y, en particular, el ferrocarril— dieron origen a la corporación moderna gestionada por administradores profesionales. Es difícil pensar en la economía política y el equilibrio de poder del futuro sin formular ideas más completas sobre cómo podría transformarse la propia estructura de las empresas —y también la de los organismos gubernamentales y la sociedad civil en general—.

El equipo de Futuros Estratégicos compartirá su trabajo tanto aquí como en otros formatos, incluidos artículos, videos y podcasts. Nuestros esfuerzos serán una labor en constante evolución, con énfasis en la iteración, el debate y la receptividad a los comentarios. Al encontrarnos “en las estribaciones de la singularidad”, tenemos muchas más preguntas que respuestas. Sabemos que las “barreras de pergamino” por sí solas no aportarán las soluciones que buscamos, pero tampoco descartamos lo escrito como “simples palabras”. Trabajamos al servicio de los ideales de libertad de expresión y libertad individual consagrados en el humilde pergamino de la Constitución de Estados Unidos y en las constituciones de tantas otras sociedades libres del mundo.

En última instancia, sabemos que ninguna empresa, industria ni sociedad humana puede responder unilateralmente las trascendentales preguntas que enfrentamos. Es una tarea que la humanidad deberá emprender de forma colectiva. Nuestra mayor esperanza es arrojar luz sobre los temas más difíciles relacionados con la forma en que la IA transformará nuestro mundo. Nuestro trabajo apenas comienza y aún nos queda mucho por escalar.

Nota: cambiamos el nombre de este blog a Era de la Inteligencia para distinguirlo de AI Futures Project, una organización sin fines de lucro.