Intervención de Sam Altman ante el Consejo de Seguridad de las Naciones Unidas

Hoy, Sam Altman, CEO de OpenAI, se ha dirigido al Consejo de Seguridad de las Naciones Unidas para hablar sobre inteligencia artificial. Ha hablado sobre el potencial de la IA para ampliar las oportunidades, la importancia de mantener los sistemas potentes bajo control humano y la necesidad de cooperar internacionalmente en materia de seguridad de la IA.

Gracias, señor presidente y excelencias. Es un honor estar aquí y poder dirigirme a todos vosotros en este momento tan importante.

Llevamos años hablando de inteligencia artificial, pero en las últimas semanas y meses la situación parece distinta. El rápido avance de los modelos ha hecho que los plazos parezcan más cortos y los beneficios más tangibles, pero también que lo que está en juego y los riesgos sean más inmediatos.

Tenemos que tomar una decisión. La IA puede asemejarse a un nuevo Renacimiento de creatividad y descubrimientos o a una nueva Revolución Industrial marcada por la agitación y el desorden.

El Renacimiento fue una época en la que nuevas herramientas, ideas e instituciones ampliaron los límites de lo que las personas creían poder hacer. La IA puede desempeñar ese papel en nuestra época. Creo que las personas tienen muchas más capacidades de las que imaginan, pero se han visto limitadas por una tecnología que pretendía empoderarlas y que, en cambio, las distrae y a menudo les roba la atención.

La mejor versión de la IA no consiste en convertir a las personas en engranajes de una máquina gigantesca ni en optimizar cada aspecto de la vida hasta hacer desaparecer lo humano. Consiste en dar a las personas más capacidad de acción en un mundo cada vez más complejo: más capacidad para aprender, crear, descubrir, construir y participar. Hay muchas cosas que la IA no puede —ni debe— automatizar.

La IA debe construirse para las personas, no simplemente para acelerar la maquinaria como un fin en sí mismo. Algunas afirmaciones de quienes trabajan en el desarrollo de la IA son tan distópicas que parecen el argumento de una mala película de ciencia ficción.

Todo lo que tiene semejante poder también resulta intimidante. Este momento es complejo porque sentimos a la vez un potencial enorme y una inquietud perfectamente comprensible.

Estos modelos pueden ayudar a las personas a descubrir nuevos conocimientos: nuevos medicamentos, una mejor atención sanitaria y una educación más sólida, además de contribuir a crear economías más productivas. Pueden ser nuevas herramientas para que las personas persigan sueños y ambiciones que hoy parecen fuera de su alcance. La complejidad de la vida cotidiana ha aumentado de forma espectacular. La IA puede ser tanto una herramienta defensiva frente a esta complejidad como una herramienta de descubrimiento e innovación sin precedentes.

Por otro lado, a medida que los sistemas de IA adquieren más capacidades y autonomía, podrían avanzar más rápido que nuestras instituciones, concentrar el poder en muy pocas manos o tomar decisiones que las personas ya no comprendan ni controlen.

Esta preocupación cobra especial importancia a medida que nos acercamos a sistemas capaces de mejorarse a sí mismos y de mejorar sus futuras versiones, un proceso denominado a menudo «automejora recursiva». A medida que se automatice el proceso de creación de la IA, el ritmo de sus avances podría acelerarse rápidamente. Este momento exige extremar la cautela.

Coincido en gran medida con el profesor Bengio. Aunque yo hablaré de dos en lugar de tres: creo que hay dos formas en las que el avance de la IA podría salir muy mal y que debemos evitar.

En primer lugar, podríamos perder el control del futuro frente a la IA. El riesgo es que avance tan rápido que las personas ya no puedan seguir lo que ocurre ni intervenir cuando sea necesario. Evidentemente, eso sería terrible.

La industria no debe aceptar un riesgo tecnológico excesivo solo porque los beneficios sean enormes y parezcan demasiado importantes como para frenar. Superar a otras empresas en una carrera competitiva no justifica tomar decisiones precipitadas. Tampoco creemos estar atrapados en una carrera que nos impida hacerlo. En el pasado hemos ralentizado el avance por iniciativa propia. Volveremos a hacerlo en el futuro. No queremos construir sistemas —y creemos que es importante que nadie los construya— si no podemos ofrecer las garantías necesarias de alineación, supervisabilidad y seguridad.

Necesitamos comprender qué hacen estos sistemas y disponer de pruebas sólidas de que harán lo que las personas pretenden, incluso cuando alcancen un nivel de inteligencia muy, muy elevado. De hecho, especialmente cuando alcancen un nivel de inteligencia muy, muy elevado. Da igual que se estime el riesgo de catástrofe en un 10 %, un 1 %, un 12 % o un 0,1 %. Ninguno de estos niveles es ni remotamente aceptable. Y no debemos entrenar modelos si no podemos demostrar con argumentos extremadamente sólidos que podremos mantenerlos bajo control humano.

Esa es una de las formas en que las cosas pueden salir mal. En el otro extremo, estos sistemas podrían concentrar demasiado poder en muy pocas manos. Ninguna persona, empresa o país debe poder utilizar los modelos de IA más potentes para imponer su visión del mundo a todos los demás. Una empresa o un país que crea que solo se puede confiar en él para manejar esta tecnología puede utilizar esa convicción para justificar casi cualquier otra cosa. Debemos rechazar esa lógica, incluso cuando resulte conveniente para un actor determinado.

Creo que existe una vía pragmática para abordar ambas cuestiones. En OpenAI abordamos estas cuestiones con un objetivo claro: la IA debe dar a las personas más control sobre su propia vida. Más libertad para vivir como quieran. Más capacidad para resolver problemas, grandes o pequeños, y mejorar sus comunidades. No queremos caer en la trampa del optimismo ciego. Tampoco queremos caer en la trampa del catastrofismo. Dejarnos arrastrar hacia cualquiera de los extremos no nos ayudará a resolver con éxito los retos que tenemos ante nosotros, especialmente cuando el mundo y sus habitantes afrontan desafíos enormes que esta tecnología puede ayudar a solucionar. Por eso intentamos seguir una vía intermedia entre ambos polos.

Para nosotros, eso se traduce en tres principios.

En primer lugar, a medida que la IA adquiere más capacidades, las personas deben seguir ocupando el centro de la toma de decisiones sobre ella. La alineación no es una cuestión de investigación abstracta. Consiste en garantizar que estos sistemas permanezcan de forma fiable bajo control humano, reflejen valores humanos y ayuden a las personas a orientar las siguientes etapas de desarrollo. No intentamos automatizar —ni debemos hacerlo— el criterio ni los valores humanos.

En segundo lugar, los beneficios del progreso científico y el crecimiento económico deben estar en manos de las personas y a su servicio. La IA debe ayudar a los investigadores a realizar descubrimientos, a los médicos a tratar a sus pacientes, a los docentes a enseñar, a los emprendedores a crear empresas y a las comunidades a resolver problemas que parecían fuera de su alcance, entre muchas otras cosas. La historia continua del progreso humano no consiste en que las herramientas sustituyan la capacidad de acción humana. Consiste en que las herramientas adecuadas aumentan las capacidades de las personas, y creo que esto llegará mucho más lejos de lo que hoy consideramos posible.

En tercer lugar, esta tecnología debe empoderar a cada persona. Un gran futuro surgirá cuando las personas hagan realidad su potencial y creen valor para sí mismas, sus comunidades, sus países y el conjunto del mundo. Puede que seamos uno de los artífices de esta tecnología, pero no somos los héroes de esta historia. Nuestro papel es facilitar que las personas de todo el mundo desarrollen sus capacidades y confiar en la magia del talento y las facultades de la humanidad.

Ya tenemos modelos capaces de descubrir conocimientos a los que nunca antes habíamos tenido acceso. Pensemos en los avances que hemos visto en matemáticas. Hace tres veranos, nuestros modelos se desenvolvían de forma aceptable con las matemáticas de primaria. Hace dos veranos, se desenvolvían bastante bien en competiciones de matemáticas de secundaria. El verano pasado alcanzamos el nivel de una medalla de oro en la competición internacional de matemáticas más prestigiosa. Y hace apenas unas semanas, este verano, uno de nuestros modelos resolvió uno de los Problemas del Milenio: las ecuaciones de Navier-Stokes.

Estas ecuaciones se utilizan para diseñar aeronaves, predecir el tiempo y estudiar el flujo sanguíneo. No resolvemos problemas matemáticos como un fin en sí mismo, sino para que las personas puedan descubrir nuevos conocimientos y utilizarlos para mejorar la atención sanitaria, elevar el nivel de vida y ampliar el potencial de todos en todo el mundo. Aún queda muchísimo por descubrir.

Pero es muy importante que las empresas no sustituyan al proceso democrático.

Para que la IA sea democrática, las decisiones más importantes no pueden tomarlas únicamente unos laboratorios de San Francisco. Deben definirse mediante procesos democráticos y a través de gobiernos que rindan cuentas ante las personas a las que sirven.

En el ámbito internacional, esto exigirá cooperación. A lo largo de la historia ha habido momentos en que países que compiten y no siempre se llevan demasiado bien se han unido por intereses comunes y por el bien colectivo ante una nueva y poderosa tecnología. Creemos que este debe ser uno de esos momentos.

Necesitamos un mecanismo de normas nacionales e internacionales complementarias para la IA de vanguardia: normas para medir capacidades, evaluar riesgos, determinar si las salvaguardias son suficientes y preservar una supervisión humana efectiva a medida que los sistemas adquieren más autonomía.

Necesitamos normas comunes para que los países puedan comparar pruebas, verificar el cumplimiento y compartir un lenguaje y una comprensión de lo que ocurre.

Necesitamos una notificación precisa y rápida de los incidentes, junto con protocolos de clasificación y notificación, para que el mundo pueda aprender de los fallos antes de que se conviertan en catástrofes.

Y necesitamos canales seguros entre gobiernos, operadores de infraestructuras críticas y expertos técnicos para compartir información sobre nuevas vulnerabilidades y amenazas emergentes.

Evidentemente, estas normas no deben consolidar la posición de quienes ya dominan el mercado ni favorecer un modelo de negocio frente a otro. Deben respaldar a los desarrolladores de modelos abiertos y cerrados, tanto a los recién llegados como a los laboratorios consolidados, así como la autoridad nacional y la cooperación internacional. Cada gobierno debe decidir cómo incorporar las normas a su propio ordenamiento jurídico. Pero todos estaremos mejor si logramos acordar qué constituyen unas pruebas, unas salvaguardias y una supervisión adecuadas en el ámbito mundial.

No tenemos todas las respuestas y estamos muy abiertos a cualquier idea mejor. Estamos dispuestos a trabajar con todos vosotros y a esforzarnos al máximo para encontrar el camino a seguir.

Estamos en una encrucijada. Un camino conduce a un mundo donde el poder está concentrado, las decisiones son opacas y las personas sienten que la tecnología más importante de su vida es algo que se les impone. El otro camino conduce a un mundo donde la IA trabaja para las personas porque estas, a través de las instituciones democráticas, ayudan a decidir cómo debe desarrollarse y orientarse; donde el progreso científico mejora vidas reales; donde más personas pueden participar en el futuro; y donde esta tecnología sigue dando a las personas y las comunidades más poder para vivir como elijan. Es un futuro de potencial realizado, entusiasmo y asombro.

Y es el futuro que creemos que merece la pena construir. Muchas gracias.