Hacer que la IA funcione para todos, en todas partes

La misión de OpenAI es asegurar que la IAG beneficie a toda la humanidad, y para cumplir esta misión, necesitamos encontrarnos con las personas donde estén en todo el mundo.

La IA se reconoce cada vez más como una infraestructura nacional crítica, al mismo nivel que la electricidad. Los gobiernos e instituciones de todo el mundo quieren asegurarse de que sus ciudadanos y economías puedan beneficiarse de la era de la IA con el acceso a los sistemas más avanzados disponibles.

Para que la IA cumpla con esa promesa, también necesita ser relevante a nivel local. Eso significa hablar en idiomas locales y con acentos locales, respetar las leyes locales y reflejar las normas y valores culturales.

Sin embargo, solo un pequeño número de países está en condiciones de desarrollar modelos de IA de vanguardia por sí mismos. Para la mayoría, el desafío no es cómo construir un modelo desde cero, sino cómo adaptar la mejor IA disponible para que funcione en su contexto específico. Esto es algo que escuchamos constantemente de los gobiernos a nivel mundial: quieren una IA soberana que puedan construir con nosotros, no solo sistemas traducidos a su idioma.

A través de nuestra iniciativa OpenAI for Countries⁠, hemos estado explorando cómo podría funcionar la localización en la práctica. El objetivo es permitir sistemas de IA localizados, mientras se ofrece un modelo global de vanguardia.

Actualmente, estamos probando una versión localizada de ChatGPT para estudiantes en Estonia como parte de nuestro trabajo en ChatGPT Edu, incorporando planes de estudio locales y métodos pedagógicos. También estamos explorando esfuerzos piloto de localización en otros países. Como parte de nuestro compromiso con la transparencia en la investigación y la implementación de la IA, estamos compartiendo más detalles sobre cómo funciona la localización.

Nuestras especificaciones del modelo⁠ son parte de un documento público que establece cómo pretendemos que se comporten nuestros modelos. Entrenamos nuestros modelos para seguir las especificaciones, las cuales perfeccionamos de manera continua mediante un proceso colaborativo que abarca a todo OpenAI e incorpora lo que nuestros equipos escuchan de personas de todo el mundo. Las especificaciones incluyen toda la gama de formas en que se utilizan nuestros modelos, desde ChatGPT hasta las experiencias que los desarrolladores crean en nuestra plataforma y otros contextos.  Estas reglas, que se aplican en todos los lugares donde se implementan nuestros modelos, establecen límites claros sobre lo que se puede y no se puede cambiar, así como nuestro compromiso de ser transparentes respecto a los cambios.

Las especificaciones del modelo incluyen “principios de línea roja⁠(se abre en una nueva ventana)” que se aplican a todas las implementaciones, incluidas las del programa OpenAI for Countries. En dichas especificaciones, enfatizamos que “la seguridad humana y los derechos humanos son primordiales para la misión de OpenAI” y aclaramos lo siguiente:

• No permitiremos que nuestros modelos causen daños graves, como actos de violencia, armas de destrucción masiva, terrorismo, persecución o vigilancia masiva.
• No permitiremos que nuestros modelos se usen para la exclusión dirigida o a gran escala, la manipulación, socavar la autonomía humana o erosionar la participación en los procesos cívicos.
• Nos comprometemos a proteger la privacidad de las personas en sus interacciones con la IA.

Cuando OpenAI ofrece una experiencia de primera mano directamente a los consumidores, como ChatGPT, también nos comprometemos a lo siguiente:

• Las personas deben tener acceso fácil a información confiable y crítica para la seguridad de los modelos.
• La personalización y la localización no anularán las reglas vinculantes en las especificaciones del modelo. Esto incluye el principio de punto de vista objetivo⁠(se abre en una nueva ventana), lo que significa que la localización puede afectar el lenguaje o el tono, pero no puede cambiar la esencia ni el equilibrio de los hechos presentados. 
• Las personas deberían tener transparencia sobre las reglas importantes y los motivos detrás del comportamiento de nuestros modelos; por ejemplo, cualquier contenido que se omita debido a requisitos legales se indicará de manera transparente al usuario en cada respuesta del modelo, especificando el tipo de información eliminada y la justificación de su eliminación, sin revelar el contenido redactado en sí. De manera similar, cualquier información añadida también se identificará con transparencia.

A medida que exploramos la IA localizada y soberana a través de OpenAI for Countries, estamos comprometidos a seguir compartiendo más sobre lo que aprendemos y a evolucionar nuestro enfoque de manera transparente.