Principios de OpenAI

Este documento refleja la estrategia que afinamos durante los últimos dos años, con comentarios de muchas personas dentro y fuera de OpenAI. Aún es incierto cuándo llegará la IAG; sin embargo, nuestros principios nos servirá de guía para actuar siempre en beneficio de la humanidad durante su desarrollo.

OpenAI tiene la misión de asegurar que la inteligencia artificial general (IAG), entendida como sistemas altamente autónomos que tienen un desempeño superior al de las personas en la mayoría de las tareas con valor económico, genere beneficios para toda la humanidad. Buscamos desarrollar directamente una IAG segura y provechosa, aunque consideraremos cumplida esta misión si nuestro trabajo ayuda a que otros logren ese resultado. Con este fin, asumimos los siguientes principios:

Nos comprometemos a usar cualquier influencia que tengamos sobre el despliegue de la IAG para asegurar que se utilice en beneficio de todas las personas y para evitar usos de la IA o la IAG que perjudiquen a la humanidad o concentren el poder de forma indebida.

Nuestra responsabilidad fiduciaria principal es hacia la humanidad. Prevemos que necesitaremos reunir recursos significativos para cumplir nuestra misión, pero siempre actuaremos con diligencia para minimizar los conflictos de interés entre nuestro personal y las partes interesadas que puedan comprometer el beneficio general.

Nos comprometemos a realizar la investigación necesaria para que la IAG sea segura y a promover activamente su adopción generalizada en toda la comunidad de IA.

Nos preocupa que el desarrollo de la IAG en etapas avanzadas se convierta en una carrera competitiva sin tiempo para aplicar medidas de seguridad adecuadas. Por ello, si un proyecto alineado con nuestros valores y con una orientación clara hacia la seguridad está cerca de construir una IAG antes que nosotros, nos comprometemos a dejar de competir y apoyarlo. Definiremos los detalles mediante acuerdos caso por caso, aunque una condición típica para activar este compromiso podría ser que un proyecto tenga "más de la mitad de probabilidades de lograrlo en los próximos dos años".

Para responder de manera efectiva al impacto de la IAG en la sociedad, OpenAI debe mantenerse a la vanguardia de las capacidades de la IA; la promoción de políticas y seguridad por sí sola no sería suficiente.

Creemos que la IA tendrá un impacto social amplio antes de que surja la IAG, y nos esforzaremos por liderar en aquellas áreas que estén directamente alineadas con nuestra misión y experiencia.

Cooperaremos activamente con otras instituciones de investigación y políticas; buscamos impulsar una comunidad global que trabaje unida para abordar los desafíos globales de la IAG.

Nos comprometemos a ofrecer bienes públicos que ayuden a la sociedad a avanzar en el camino hacia la IAG. Hoy esto incluye publicar la mayor parte de nuestra investigación en IA, aunque prevemos que, por razones de seguridad, en el futuro publicaremos menos investigación tradicional y cobrarán más importancia los estudios sobre seguridad, políticas y estándares.