La IA tiene el potencial de mejorar significativamente muchos aspectos de la sociedad.
Esta tecnología, como las anteriores, ampliará la capacidad y autonomía de las personas; lo que se podrá hacer con la IA será mucho mayor que lo que alguna vez permitieron la máquina de vapor o la electricidad.
Imaginamos un mundo de bienestar generalizado a un nivel que hoy es difícil de concebir, donde el potencial, la autonomía y la realización de las personas aumenten de forma significativa. Muchas de las cosas que solo nos hemos permitido soñar en la ciencia ficción podrían hacerse realidad, y la mayoría de las personas podría vivir vidas más plenas de lo que la mayoría puede hoy.
Pero ese resultado no está asegurado. En el futuro, el poder podría quedar en manos de unas cuantas empresas que usen y controlen la superinteligencia, o bien distribuirse de forma más abierta entre las personas. Creemos que esta segunda opción es mejor, y buscamos que una IA realmente general esté disponible para la mayor cantidad de gente posible. Como hoy, el futuro no será ni completamente bueno ni completamente malo, pero las decisiones que tomemos ahora pueden inclinar la balanza hacia mejores resultados.
Nuestra misión es asegurar que la IAG beneficie a toda la humanidad. Estos son los principios que guían nuestro trabajo.
1. Democratización. Evitaremos que esta tecnología concentre el poder en manos de unos pocos.
Eso significa que, además de darles acceso a la IA a todas las personas, debemos asegurar que las decisiones clave sobre su desarrollo se tomen mediante procesos democráticos y con principios de igualdad, y no solo por parte de los laboratorios de IA.
2. Empoderamiento. Creemos que la IA puede ayudar a las personas a alcanzar sus objetivos, aprender más, vivir con mayor bienestar y plenitud, así como perseguir sus sueños. Esto también beneficiará a la sociedad en su conjunto.
Lograr esto requiere dejar que las personas exploren el enorme potencial que tenemos por delante, y desarrollar productos que lo hagan posible. Los usuarios deben poder realizar de manera confiable tareas cada vez más valiosas con nuestros servicios.
El mundo es diverso y las personas tienen necesidades diferentes. Queremos darles a nuestros usuarios la autonomía que necesitan y permitir tanto como sea razonable.
Aunque buscamos dar a los usuarios una amplia libertad para usar nuestros servicios y creemos que la IA será, en general, muy beneficiosa, también tenemos la responsabilidad de desarrollarla y desplegarla al minimizar los posibles daños. Esto implica no solo evitar riesgos catastróficos, sino también reducir impactos puntuales y prevenir efectos negativos en la sociedad. En contextos de incertidumbre, esto nos llevará a ser más prudentes, y a relajar las restricciones conforme tengamos más evidencia.
3. Prosperidad universal. Queremos un futuro en el que todas las personas puedan tener una vida excelente.
Al poner sistemas de IA fáciles de usar y con gran capacidad de cómputo al alcance de todos, creemos que las personas encontrarán nuevas formas de generar valor y mejorarán de manera significativa la calidad de vida en general, en especial a través de nuevos descubrimientos científicos.
Para que la prosperidad se materialice plenamente y se comparta de forma amplia, creemos que: 1) los gobiernos podrían necesitar considerar nuevos modelos económicos que permitan a todas las personas participar en la creación de valor que se avecina, y 2) debemos construir una gran infraestructura de IA y desarrollar nuevas tecnologías que reduzcan significativamente sus costos.
Muchas de las decisiones que pueden parecer inusuales, como adquirir grandes volúmenes de cómputo aunque nuestros ingresos aún sean relativamente bajos, integrarnos verticalmente para reducir costos y simplificar el uso de la tecnología, o impulsar la construcción de centros de datos en todo el mundo, responden a una convicción de fondo: un futuro de prosperidad universal.
4. Resiliencia. La IA traerá nuevos riesgos, y trabajaremos con otras empresas, ecosistemas, gobiernos y la sociedad para enfrentarlos. También destinaremos una parte importante de los recursos de nuestra fundación para apoyar este esfuerzo.
Ningún laboratorio de IA puede garantizar por sí solo un buen futuro. Por ejemplo, podrían aparecer modelos muy capaces que faciliten la creación de nuevos patógenos, por lo que se requiere una respuesta a nivel social basada en contramedidas generales. En ciberseguridad, a medida que los modelos se vuelven más capaces, debemos usarlos para reforzar el software de código abierto y la infraestructura crítica, además de entrenarlos para ayudar a desarrollar software más seguro.
Esto amplía nuestra estrategia de despliegue iterativo que hemos seguido por años. Creemos que la sociedad debe ir enfrentando cada nuevo nivel de capacidad de la IA, entenderlo, integrarlo y, en conjunto, definir el mejor camino hacia adelante. Esto no ocurre en aislamiento. La sociedad y la tecnología evolucionan juntas, y ese proceso toma tiempo.
Esto no es nuestra única estrategia de seguridad. También es necesario desarrollar sistemas seguros y seguir avanzando de manera sólida en la alineación técnica.
Esperamos que haya momentos en los que tengamos que colaborar con gobiernos, organismos internacionales y otros proyectos de AGI para asegurarnos de que los problemas serios de alineación, seguridad o impacto social estén bien resueltos antes de seguir avanzando.
5. Adaptabilidad. Seguimos creyendo que la única manera de enfrentar los desafíos de un futuro muy impredecible es estar preparados para actualizar nuestras posturas a medida que aprendemos más. También reconocemos que OpenAI es una fuerza mucho mayor en el mundo de lo que era hace unos años, y seremos transparentes sobre cuándo, cómo y por qué cambian nuestros principios operativos. Como ejemplo concreto, aunque confiamos en que la prosperidad universal seguirá siendo una prioridad central, es posible que en ciertos momentos tengamos que ceder algo de empoderamiento para ganar resiliencia.
El desarrollo de la IA ha traído muchas sorpresas, y aún están por venir más. A medida que la tecnología avance, su comportamiento será cada vez más difícil de predecir. Aceptamos esa incertidumbre al avanzar con cuidado en las capacidades, implementar sistemas de manera iterativa y aprender de sus interacciones con el mundo.
No hace tanto nos preocupaba publicar el modelo completo de GPT‑2 porque no teníamos claro cuál sería su impacto en la sociedad. Con el tiempo vimos que esa preocupación no era del todo acertada, pero nos llevó a desarrollar la estrategia de despliegue iterativo, una de las ideas más importantes que hemos adoptado.
__
Estamos entrando en una fase de gran impacto a medida que la tecnología sigue mejorando. Es completamente válido cuestionar cada una de nuestras decisiones; merecemos un alto nivel de escrutinio por la importancia de lo que estamos haciendo. No vamos a acertar en todo, pero aprenderemos rápido y corregiremos el rumbo.
Tenemos el compromiso de contribuir para que el futuro sea mejor que el pasado; consideramos que es un privilegio poder dedicarnos a un trabajo tan importante.
