La IA tiene el potencial de mejorar de forma significativa muchos aspectos de la sociedad.
Esta tecnología, como otras anteriores, dará a las personas más capacidad y autonomía; lo que podrán hacer con la IA superará por mucho lo que podían hacer con las máquinas de vapor o la electricidad.
Imaginamos un mundo de prosperidad generalizada a un grado que hoy resulta difícil de imaginar, donde el potencial individual, la autonomía y la realización personal aumenten significativamente. Muchas de las cosas que solo nos hemos permitido soñar en la ciencia ficción podrán hacerse realidad, y la mayoría de las personas podrían vivir vidas más plenas de lo que hoy pueden.
Pero el resultado no está garantizado. En el futuro, el poder podría quedar en manos de un pequeño grupo de empresas que usarán y controlarán la superinteligencia, o bien, distribuirse de forma descentralizada entre las personas. Creemos que la segunda opción es mucho mejor, y nuestro objetivo es poner una IA verdaderamente general en manos del mayor número posible de personas. Como ocurre en el presente, el futuro no será del todo malo ni del todo bueno, pero las decisiones que tomemos ahora pueden ayudar a maximizar lo bueno.
La misión es garantizar que la IAG beneficie a toda la humanidad. Estos son los principios que guían nuestro trabajo.
1. Democratización. Buscaremos evitar que esta tecnología concentre el poder en pocas manos.
Esto significa que, además de dar acceso a la IA a todas las personas, debemos asegurar que las decisiones clave se tomen mediante procesos democráticos y con principios igualitarios, y no solo por los laboratorios que la desarrollan.
2. Empoderamiento. Creemos que la IA puede ayudar a todas las personas a alcanzar sus metas, aprender más, ser más felices y realizarse, además de perseguir sus sueños, y que la sociedad en su conjunto se beneficiará de ello.
Lograrlo implica permitir que las personas exploren el enorme potencial que tenemos por delante y desarrollar productos que lo hagan posible. Los usuarios deben poder realizar de forma fiable tareas cada vez más valiosas con nuestros servicios.
El mundo es diverso y las personas tienen necesidades distintas. Queremos dar a nuestros usuarios la autonomía que necesitan y permitir todo lo posible dentro de lo que sea razonable.
Aunque queremos dar a los usuarios una gran libertad en el uso de nuestros servicios y creemos firmemente que, en general, la IA traerá enormes beneficios, también tenemos la responsabilidad de desarrollarla y desplegarla de forma que minimice los posibles daños. Esto implica no solo evitar los riesgos más graves, sino también reducir los efectos negativos más pequeños y prevenir consecuencias sociales indeseadas. Para ello, será necesario actuar con cautela cuando haya incertidumbre y relajar las restricciones conforme contemos con más evidencia.
3. Prosperidad universal. Queremos un futuro en el que todas las personas pueda tener una vida excelente.
Al poner sistemas de IA potentes y fáciles de usar al alcance de todas las personas, creemos que surgirán nuevas formas de crear valor y que la calidad de vida podrá mejorar de forma notable para todos, especialmente gracias a nuevos avances científicos.
Para que la prosperidad se materialice plenamente y se comparta de forma amplia, creemos que: 1) los gobiernos podrían tener que considerar nuevos modelos económicos que permitan a todas las personas participar en la creación de valor que tenemos por delante, y 2) es necesario construir una gran cantidad de infraestructura de IA y desarrollar nuevas tecnologías para reducir al máximo los costos de esta infraestructura.
Muchas de las decisiones que tomamos y que pueden parecer extrañas, como adquirir enormes cantidades de capacidad de cómputo con ingresos aún relativamente bajos, simplificar y unificar el desarrollo para reducir costos y facilitar el uso de la tecnología, impulsar la construcción de centros de datos en todo el mundo y otras similares, responden a nuestra convicción fundamental de un futuro de prosperidad universal.
4. Resiliencia. La IA traerá nuevos riesgos, y trabajaremos junto con otras empresas, ecosistemas, gobiernos y la sociedad para resolverlos. Haremos un uso importante de los recursos de nuestra fundación para apoyar este trabajo.
Ningún laboratorio de IA puede garantizar por sí solo un buen futuro. Por ejemplo, podrían surgir modelos extremadamente capaces que faciliten la creación de un nuevo patógeno, y sería necesario un enfoque a nivel social para defendernos mediante contramedidas independientes del patógeno. Otro ejemplo es que, a medida que aumenten las capacidades de ciberseguridad de los modelos, debemos usarlos rápidamente para ayudar a proteger el software de código abierto y la infraestructura crítica, al mismo tiempo que entrenamos los para que ayuden a todas las persons a crear software más seguro.
Esto amplía la estrategia de despliegue iterativo de larga data. Creemos que la sociedad debe enfrentar cada nuevo nivel de capacidad de la IA, comprenderlo e integrarlo, y encontrar colectivamente la mejor forma de avanzar. Esto no puede hacerse en aislamiento: sociedad y tecnología evolucionan de forma conjunta, y eso toma tiempo.
No queremos decir que esta sea nuestra única estrategia de seguridad; también necesitamos crear sistemas seguros y seguir avanzando en el trabajo técnico de alineación.
Esperamos que haya momentos en los que necesitemos colaborar con gobiernos, organismos internacionales y otros proyectos de AGI para asegurarnos de haber resuelto adecuadamente problemas graves de alineación, seguridad o impacto social antes de seguir avanzando con nuestro trabajo.
5. Adaptabilidad. Seguimos creyendo que la única forma de afrontar los desafíos de un futuro muy impredecible es prepararnos para actualizar nuestras posturas a medida que aprendemos más. También reconocemos que OpenAI es hoy una fuerza mucho mayor en el mundo de lo que era hace unos años, y seremos transparentes sobre cuándo, cómo y por qué cambian nuestros principios operativos. Como ejemplo concreto, aunque tenemos la certeza de que la prosperidad universal seguirá siendo muy importante, podemos imaginar períodos en el futuro en los que tengamos que priorizar la resiliencia por encima de cierto nivel de empoderamiento.
El desarrollo de la IA ha traído muchas sorpresas, y aún quedan más por venir. A medida que la tecnología avance, sus comportamientos emergentes serán cada vez más difíciles de predecir. Aceptamos esa incertidumbre al avanzar en las capacidades con cuidado, al desplegar sistemas de forma iterativa y aprender de sus interacciones con el mundo.
No hace tanto tiempo que nos preocupaba publicar los pesos de GPT‑2 porque no teníamos la certeza de cuál sería el impacto en la sociedad. Con el tiempo quedó claro que esa preocupación no era del todo acertada, pero nos llevó a descubrir la estrategia de despliegue iterativo, que ha sido una de las cosas más importantes que hemos aprendido.
__
Nos encaminamos a una etapa de gran impacto a medida que la tecnología sigue mejorando. Es totalmente válido criticar cada una de nuestras decisiónes; merecemos un enorme grado de escrutinio dado el peso de lo que estamos haciendo. No acertaremos en todo, pero aprenderemos rápido y corregiremos el rumbo.
Nos comprometemos a hacer nuestra parte para que el futuro sea mejor que el pasado; sentimos gratitud de poder asumir un trabajo tan importante.
