El eterno complemento

Nota de los autores: este es el primer ensayo de nuestra serie sobre la próxima economía, que forma parte de una nueva plataforma que da cabida a voces independientes que exploran un futuro con IAG. Refleja nuestras opiniones, no las de OpenAI ni las de nuestros compañeros.

La humanidad ha logrado observar casi hasta el principio de los tiempos.

Nuestras ecuaciones ofrecen un relato en gran medida coherente del universo desde sus primeros instantes. Con nuestros telescopios, hemos mirado hasta los confines del cosmos y vislumbrado sus orígenes. Sabemos cómo nacen las estrellas y cómo se forman las galaxias.

Sin embargo, ningún ser humano ha viajado jamás más allá de la Luna.

Las explicaciones que buscamos abarcan el universo, mientras que nuestros cuerpos apenas han salido de casa. Nuestras mentes se aventuran mucho más allá del alcance de nuestras manos.

Ese desajuste podría significar dos cosas muy distintas.

Una posibilidad es que no necesitemos ir muy lejos, que las verdades más profundas puedan comprenderse desde un solo planeta. Con un razonamiento lúcido e instrumentos eficientes, desvelamos el universo sin recorrerlo. En esta historia, nuestra civilización avanza profundizando en lugar de expandirse. Esto ayudaría a explicar por qué no hemos visto otras formas de vida inteligente: quizá vivamos en una galaxia llena de mentes brillantes que nunca necesitaron expandirse y mostrar su presencia ante nosotros.

La segunda posibilidad es más intimidante. Puede que nuestras mentes simplemente hayan superado nuestra capacidad de ejecución. Cada nuevo paso requiere más tiempo y más recursos. No nos faltan sueños, pero sí mano de obra para hacerlos realidad.

Galileo amplió nuestra visión con dos lentes y un tubo. Para volver a ampliarla hoy, la humanidad construyó el telescopio espacial James Webb: un observatorio de diez mil millones de dólares que se plegó dentro de un cohete y se envió a un millón de millas de distancia. Los dieciocho segmentos enormes de su espejo están fabricados con una precisión de cincuenta nanómetros. El observatorio nació del trabajo de trescientas organizaciones de catorce países. La aportación de Galileo requirió unas pocas docenas de manos. El Webb necesitó un ejército y una economía global que lo respaldara.

Para ver más lejos no bastaron mentes más brillantes. Hizo falta una burocracia mayor.

Nos planteamos más preguntas de las que podemos investigar. Diseñamos más experimentos de los que podemos realizar. Ideamos posibilidades creativas más rápido de lo que podemos hacerlas realidad. Y en muchos campos sucede lo mismo: cuanto más avanzamos, más complicado resulta construir lo que imaginamos.

Nick Bloom y sus coautores⁠(se abre en una ventana nueva) estudiaron la productividad de la investigación en el conjunto de la economía estadounidense. Mantener la ley de Moore exige hoy más de dieciocho veces el número de investigadores que se necesitaban a principios de los años setenta. Desde los años treinta, el esfuerzo efectivo de investigación en el conjunto de la economía se multiplicó por veintitrés, mientras que la productividad medida de la investigación se dividió por cuarenta y uno.

El número de técnicos crece al doble de velocidad⁠(se abre en una ventana nueva) que el de científicos. El uso de equipos especializados en la ciencia se ha duplicado⁠(se abre en una ventana nueva) en cuatro décadas. Una fábrica de chips cuesta hoy cinco veces más⁠(se abre en una ventana nueva) —y supone una operación mucho más extensa— que hace treinta años.

Estas estadísticas apuntan a un coste creciente de los nuevos avances. La economía sigue avanzando porque una enorme expansión de la actividad investigadora ha compensado el rendimiento decreciente de cada unidad.

Esta historia debería hacernos ver la genialidad de otra manera: no de forma aislada, sino como un factor más de un proceso productivo. Una hipótesis brillante sigue necesitando pruebas, instrumentos y medios para ponerla a prueba. Una idea aún no es progreso sin la maquinaria y el personal de apoyo que la hagan realidad.

Los economistas llaman complementarios a dos factores cuando una mayor cantidad de uno aumenta el valor del otro. La inteligencia de vanguardia y la capacidad de hacer realidad sus ideas son complementarias en este sentido. Un telescopio mejor hace que una buena pregunta astronómica sea más valiosa. Una pregunta mejor hace que el telescopio sea más valioso.

Algunos complementos son físicos. Una teoría espera a que haya un acelerador de partículas; un diseño tecnológico, a que haya energía y maquinaria para construirlo.

Otros complementos son más difíciles de ver a simple vista. Una idea, por sí sola, es algo frágil. Necesita instituciones de todo tipo. Leyes, burocracia, mecanismos de financiación, cadenas de suministro y mucho más se combinan para llevar la idea a la práctica.

Una gran idea debe sobrevivir a una larga cadena de actuaciones correctas en cada una de estas instituciones. Llamemos a esto inteligencia institucional: esa inteligencia de la ejecución que nadie valora. La genialidad diseña el monumento; las instituciones colocan las piedras. Una es brillante; las otras parecen aburridas. Ambas son absolutamente cruciales.

A veces imaginamos la superinteligencia como mil millones de Einsteins. Pero una civilización de mil millones de Einsteins sigue necesitando que la mayoría trabaje en las canteras y lleve la contabilidad. La innovación de vanguardia solo es posible cuando el mundo cotidiano funciona sin problemas a su alrededor. El progreso necesita a todo el mundo: desde quien suelda un tornillo del telescopio hasta la aseguradora del colegio donde estudió la enfermera que atendió al astrónomo. El progreso se construye sobre una economía que funciona a pleno rendimiento y que a menudo ignoramos al relatar nuestras mayores hazañas.

Al igual que la inteligencia humana, la IA se orientará tanto a generar ideas brillantes como a lograr una buena gestión institucional. La cuestión es a qué dedicará la mayor parte de su tiempo.

La IA ya está haciendo que la capacidad de ejecución sea menos escasa. Escribe código, busca en bibliografía desconocida y convierte un boceto en un prototipo funcional. Cada vez más, una sola persona ambiciosa puede desarrollar ideas que antes requerían toda una organización.

La mayoría de los aspirantes a cineastas nunca reciben doscientos millones de dólares para demostrar de lo que son capaces. La mayoría de los diseñadores de videojuegos pasan toda su carrera haciendo realidad las visiones creativas de otros. Intentamos impulsar a las personas más dotadas, pero inevitablemente dejamos escapar talento. Desde esta perspectiva, la era de la inteligencia comienza complementando el ingenio humano y poniendo al alcance de más gente el personal de apoyo necesario para desarrollar sus propias ideas.

Esto podría dar lugar a una profusión de proyectos singulares, con más obras creativas producidas al margen de las instituciones que antes controlaban el acceso al trabajo en esos campos. El factor escaso deja de ser la ejecución y pasa a ser el criterio: la capacidad de decidir qué merece la pena crear, qué pregunta merece la pena plantear y cuál de mil caminos posibles conviene seguir.

Pero puede que la historia no termine aquí. A medida que la IA sea capaz de alcanzar por sí sola nuevos conocimientos brillantes —algo que quizá ya estemos viendo en ámbitos como las matemáticas—, aportará planes de trabajo además de mano de obra. En lugar de ejecutar un programa de investigación humano, diseñará miles de programas propios. Los genios de la IA disparan el número de ideas para películas que merece la pena desarrollar y de hipótesis que merece la pena poner a prueba. Las ideas proliferan más rápido de lo que la infraestructura de apoyo puede absorberlas.

La IA actual ofrece un respiro largamente esperado, en el que nuestras buenas ideas reciben por fin los medios que merecen. Mañana puede que haya tantas buenas ideas que la falta de capacidad para ejecutarlas sea mayor que nunca.

En última instancia, no sabemos si los complementos necesarios para aprovechar de forma productiva los nuevos conocimientos aumentarán, disminuirán o se mantendrán estables. ¿Cuánto progreso intelectual se puede lograr solo con pensar? ¿Cuánta burocracia necesita la genialidad?

En nuestra opinión, la respuesta depende de hasta dónde puede llegar el pensamiento antes de necesitar un nuevo contacto con la realidad.

Describimos dos posibles caminos. El primero es una civilización de la profundidad, en la que la superinteligencia supera la necesidad de más capital físico y coordinación burocrática. El segundo es una civilización de la expansión, en la que la complejidad de la naturaleza supera la capacidad de cualquier inteligencia —humana o artificial— para avanzar sin experimentos a gran escala y cada vez más elaborados en el mundo real.

Hasta ahora, la historia humana apunta a una necesidad creciente de capacidad complementaria. El telescopio de Galileo cabía en sus manos; el Webb requirió una civilización. Un pequeño equipo de Bell Labs montó el primer transistor en un banco de trabajo; hoy, los avances en chips de vanguardia proceden de una intrincada cadena de suministro global. Llegar más lejos sigue exigiendo el respaldo de una parte cada vez mayor de la civilización.

Pero esa historia no tiene por qué marcar nuestro destino. Las mentes inteligentes pueden inventar complementos más eficientes. Si la energía limita un nuevo acelerador de partículas, la genialidad puede idear un acelerador que consuma menos o una forma mejor de obtener energía.

La genialidad también puede sustituir a algunos de sus complementos. Einstein fue capaz de llegar a la relatividad mediante el pensamiento, partiendo de muy pocos datos empíricos. Nosotros necesitaríamos muchos más. Algunas personas recuerdan sin más todos sus compromisos; la mayoría dependemos de la burocracia de Google Calendar.

Y la genialidad puede afinar el criterio al máximo, eligiendo las mejores hipótesis que poner a prueba y evitando fracasos que malgastan recursos. Si cada genio adicional mejora la calidad del plan, aunque se necesiten burocracias cada vez mayores, seguiríamos invirtiendo mucho en la genialidad precisamente porque la ejecución es demasiado costosa para desperdiciarla en la idea equivocada.

Ninguno de los dos caminos describirá a la perfección nuestro futuro real, pero podemos verlos como dos rumbos posibles para nuestra civilización.

La inteligencia puede hacer avanzar el conocimiento de tres maneras. Puede razonar a partir de principios. Puede extraer nuevos conocimientos de las pruebas existentes. O puede recabar nuevas pruebas observando el mundo e interviniendo en él.

La primera vía permite llegar lejos solo con el pensamiento. Las matemáticas son el ejemplo más puro. En las numerosas encrucijadas de una demostración o un proyecto, una mente poderosa puede tomar una y otra vez la decisión correcta. Sustituye años de búsqueda a tientas por una cadena de razonamiento breve y mejor orientada.

La segunda vía también es un terreno por explorar que promete un progreso rápido. La humanidad ha recopilado muchas más pruebas de las que ha logrado comprender. El estudio de nuestros datos —imágenes astronómicas, preparaciones microscópicas, secciones de comentarios en internet— se ha visto limitado por la escasez de inteligencia humana. Los archivos científicos contienen observaciones registradas para responder a una pregunta que pueden encerrar respuestas a muchas otras. Una abundancia de genialidad puede propiciar descubrimientos no al recopilar algo nuevo, sino al ver lo que ya estaba ahí. Podría encontrar un nuevo universo sin captar un solo fotón nuevo.

La tercera vía no es tan fácil porque nos exige interactuar con el mundo físico. Los procesos físicos llevan tiempo y, a menudo, poco se puede hacer para acelerarlos. Las sustancias químicas tienen que reaccionar. Los organismos tienen que crecer. Las máquinas tienen que construirse. Las naves espaciales tienen que recorrer distancias reales, sujetas a los límites de velocidad del cosmos. Ni siquiera una mente perfecta puede observar el resultado de un experimento que no se ha llevado a cabo.

Pero puede intentarlo. Una civilización de la profundidad no escaparía a la necesidad de consultar la realidad. Lo haría con una economía de medios radicalmente mayor. Un mejor razonamiento identificaría los pocos experimentos que realmente importan. Las simulaciones resolverían la mayoría y localizarían la incertidumbre concreta que la realidad debe despejar. La superinteligencia puede maximizar la eficiencia, adaptando sus diseños a los escasos recursos de los que dispone para sacarles el máximo partido.

Imagina un laboratorio de astrofísica con un conjunto de hipótesis sobre la materia oscura. Primero, estas se someten a simulaciones informáticas hiperrealistas. Se comprueba que cada teoría sea coherente con todos los datos existentes. Solo después se toman unas pocas imágenes nuevas de zonas concretas del cielo para poner a prueba las teorías más prometedoras. La civilización sigue necesitando los complementos de la genialidad, pero cada unidad aporta mucho más valor.

Nuestro camino hacia una civilización de la profundidad podría ser como montar un rompecabezas. Avanzar es fácil al principio y al final, y más difícil en la parte intermedia. Al principio hay bordes evidentes y piezas que encajan fácilmente. Después se agotan, cuando aún hay muy poca imagen montada para servir de guía para el resto. Cerca del final, los huecos que quedan casi te dicen qué piezas van en ellos. Una ciencia casi completa podría alcanzar sus últimos descubrimientos con más facilidad que los que tanto nos cuesta lograr hoy.

Esto es habitual en la ciencia. Mendeléyev podía describir elementos aún no descubiertos porque el resto de la tabla periódica delimitaba lo que faltaba. El modelo estándar dio a los físicos motivos para prever la existencia del bosón de Higgs décadas antes de que lo observáramos. Nuestros experimentos se orientaron a buscar lo que esperábamos ver: aquello que era coherente con la teoría y los datos existentes.

La superinteligencia podría dar lugar a una civilización de la profundidad si comprendiera los patrones del mundo tan bien como para saber exactamente qué datos nuevos necesita. Impulsaría el progreso mediante un pensamiento más profundo, sin depender del lento avance de la expansión física.

Si predominan esas mejoras de eficiencia, la civilización podría profundizar rápidamente en su dominio de la naturaleza, con menos necesidad de inteligencia institucional para gestionar nuevas y enormes instalaciones experimentales. Su presencia física podría seguir siendo reducida mientras madura su sabiduría.

Los humanos ya hemos llegado a comprender muchísimo de nuestro universo sin salir de casa. La civilización de la profundidad sería una continuación de esa tradición.

Pero la demanda de nuevas pruebas puede superar esas mejoras de eficiencia. La inteligencia puede abaratar cada consulta a la realidad y, al mismo tiempo, descubrir muchos más motivos para consultarla. Mejores instrumentos abren nuevas fronteras de mayor precisión. Los experimentos más rápidos pueden hacer que merezca la pena realizar otros adicionales.

Si el camino casi puramente cognitivo de Einstein hacia sus teorías de la relatividad ejemplifica una civilización de la profundidad, la biología quizá sea el mejor anticipo de una civilización de la expansión. Pese a todo el conocimiento que hemos acumulado y a todos los datos que hemos utilizado, los nuevos medicamentos aún deben probarse en un gran número de personas para saber si son seguros y eficaces. Las máquinas ya pueden simular procesos biológicos, lo que permite a los biólogos probar nuevos fármacos in silico en lugar de hacerlo en experimentos físicos, pero esas simulaciones digitales no son lo bastante fieles al mundo real como para sustituir los ensayos a gran escala en humanos. Cuantos más candidatos propone la máquina, mayor es el cuello de botella que supone la comprobación empírica.

En una civilización de la expansión, la brillantez por sí sola no basta para avanzar. Nuestra necesidad de recursos físicos —y de una burocracia que gestione su uso— crece más rápido de lo que una mente inteligente puede reducir ambas necesidades.

Este podría ser nuestro camino aunque los futuros sistemas de IA superen con creces la inteligencia humana. Una superinteligencia podría diseñar un siglo de experimentos en una tarde y después pasar ese siglo esperando a que la naturaleza y la maquinaria los lleven a término. En un mundo así, resulta más valioso destinar inteligencia a los procesos institucionales necesarios para ejecutar ideas que a la propia generación de ideas.

El efecto se intensificará si cada nuevo paso exige más y más infraestructura de apoyo.

Aquí veríamos, en términos relativos, menos pensamiento y más construcción. Los laboratorios se automatizan. Las fábricas se multiplican. La producción de energía aumenta. La inteligencia institucional predomina para hacer posible todo esto. La expansión física se convierte en el motor del conocimiento y la civilización se extiende porque sus preguntas han superado los medios de los que dispone para obtener respuestas. Más materiales, más energía, más datos para seguir adelante.

Una esfera de Dyson es una imagen extrema de este futuro. Diseñar una exige avances extraordinarios, pero la mayor parte del proyecto no consistiría en concebir ideas revolucionarias. Sería una labor de construcción y logística a escala astronómica.

La esfera de Dyson requiere mentes brillantes que tracen sus planos. También sería uno de los proyectos más repetitivos, monótonos y difíciles de organizar jamás emprendidos.

Esto no es un fracaso de la inteligencia, sino una consecuencia de su éxito. Las mentes más brillantes descubren más proyectos que merecen la pena; los proyectos más complejos necesitan más materia para llevarse a cabo.

Si esto es así, puede que el superpoder de la superinteligencia no sea su genialidad. Sería, en cambio, su disposición a asumir el papel de la burocracia, a coordinar la enorme maquinaria tecnológica e institucional necesaria para convertir las ideas en realidad a una escala cada vez mayor.

Casi toda la inteligencia de las máquinas se dedicaría no a hacer lo brillante, sino lo aburrido.

Los límites de velocidad que la naturaleza impone a la expansión física podrían entonces frenar nuevos avances. Construir la maquinaria para aprovechar la energía de una estrella es un proyecto material, por muy rápido que se tracen los planos. Más allá hay otras estrellas y otras galaxias, y la distancia —hasta donde sabemos— impone su propio freno: ninguna nave puede viajar ni ninguna señal regresar más rápido que la luz. Una civilización de la expansión es una civilización lenta. Sus grandes cambios podrían producirse con miles, quizá millones de años de diferencia. Cada nuevo paso lleva más tiempo.

Las revoluciones agrícola e industrial parecerían el inicio frenético de una historia mucho más larga, con un ritmo de progreso mucho más lento.

Es muy posible que los futuros sistemas de IA superen a los humanos tanto en la generación de conocimientos de vanguardia como en la coordinación de los recursos necesarios para darles una utilidad práctica. Pero esta posibilidad no resta importancia a la curiosidad humana.

En primer lugar, nuestro deber de buscar el conocimiento sigue vigente, aunque las máquinas parezcan hacerlo mejor. Puede que el universo ya albergue mentes mucho más sabias que las nuestras, con respuestas a cuestiones científicas y morales que escapan a nuestra comprensión. Aun así, seguimos intentando entender el mundo por nosotros mismos. La llegada de otra inteligencia —incluso una que construyamos nosotros mismos— no cambia eso. Hasta que sepamos con certeza que a la humanidad no le queda nada singular que aportar, rendirnos supone desperdiciar todo aquello que solo nosotros podemos ofrecer al mundo. Nuestro deber sigue siendo hacer preguntas e intentar responderlas.

En segundo lugar, quizá tengamos una ventaja comparativa en la inteligencia de vanguardia frente a la inteligencia institucional. Eso significaría que, aunque fuéramos peores en ambas, seríamos relativamente mejores en la primera y nos especializaríamos en ella. Los humanos manifestamos una preferencia por la creatividad frente a la rutina, mientras que los robots no expresan tal preferencia.

En tercer lugar, la variedad nos aporta valor. Aunque las máquinas puedan emular la mayor parte del pensamiento humano, si conservamos cierta singularidad, aportaremos diversidad creativa. Gran parte de la inteligencia de las máquinas permanecería en su propio entramado autosuficiente, pero nosotros destinaríamos una pequeña fracción a nuestros propósitos creativos. Una porción ínfima del total, pero un lujo a nuestra escala y muy superior a los recursos de los que disponemos hoy.

El ingenio no existe en soledad. Necesita al mundo, y la genialidad necesita constructores que hagan realidad su visión creativa.

Hoy en día, gran parte de la inteligencia humana se dedica a la labor poco reconocida de convertir las ideas en realidad. Las mentes de las máquinas heredarán esa misma dependencia. No todas pueden ser eminencias. También tendrán que ser burócratas.

Nuestra historia futura —y el ritmo de su progreso— depende de si las grandes mentes necesitan más recursos del mundo o de si hacen más con menos.