Hacer que la IA funcione para todos, en todas partes

La misión de OpenAI es garantizar que la IAG beneficie a toda la humanidad, y para cumplir esta misión, necesitamos llegar a las personas dondequiera que se encuentren en todo el mundo.

La IA empieza a reconocerse con mayor frecuencia como una infraestructura nacional esencial, al mismo nivel que la electricidad. Gobiernos e instituciones de todo el mundo quieren asegurarse de que sus ciudadanos y economías puedan beneficiarse de la era de la IA accediendo a los sistemas más avanzados disponibles en el mercado.

Pero para que la IA pueda cumplir esta promesa, necesita ser relevante a nivel local; es decir, debe hablar cada idioma local con el acento local, respetar las leyes locales y refleje las normas y valores culturales.

Sin embargo, solo un pequeño número de países está en condiciones de desarrollar modelos de IA de vanguardia por sí mismos. Para la mayoría, el reto no consiste en cómo desarrollar un modelo desde cero, sino en cómo adaptar la mejor IA disponible para que funcione en su propio contexto. Esto es algo que escuchamos constantemente de los gobiernos de todo el mundo: quieren una IA soberana que puedan desarrollar con nosotros, no solo sistemas traducidos a su idioma.

A través de nuestra iniciativa OpenAI for Countries⁠, hemos explorado cómo podría funcionar la localización en la práctica. El objetivo es permitir sistemas de IA localizados, a la vez que se sigue ofreciendo la posibilidad de beneficiarse de un modelo global de vanguardia.

Actualmente, como parte de nuestro trabajo en ChatGPT Edu, estamos probando una versión localizada de ChatGPT para estudiantes en Estonia, y para ello hemos incorporado los planes de estudio y enfoques pedagógicos locales. También estamos explorando acciones piloto de localización con otros países. En el marco de nuestro compromiso con la transparencia en torno a la investigación y la implementación de la IA, compartimos un mayor número de detalles sobre cómo funciona la localización.

Contamos con un documento público, las Especificaciones del modelo⁠, que establece cómo pretendemos que se comporten nuestros modelos. A la vez, entrenamos nuestros modelos para que sigan las Especificaciones, las cuales vamos perfeccionando continuamente a través de un proceso colaborativo que abarca a todo OpenAI y que incorpora lo que nuestros equipos van oyendo de personas de todo el mundo. Las Especificaciones cubren toda la variedad de formas en que se utilizan nuestros modelos, desde ChatGPT hasta experiencias que los desarrolladores crean en nuestra plataforma y otros contextos.  Estas reglas, que se aplican en todos los lugares donde se implementan nuestros modelos, establecen unos límites claros sobre lo que se puede y no se puede cambiar, así como nuestro compromiso de ser transparentes con respecto a los cambios.

Las Especificaciones del modelo incluyen «principios de línea roja⁠(se abre en una ventana nueva)», los cuales se aplican a todas las implementaciones, incluidas las del programa OpenAI for Countries. En estos principios destacamos que «la seguridad humana y los derechos humanos son primordiales para la misión de OpenAI», y dejamos claro que:

• No permitiremos que a través de nuestros modelos se produzcan daños graves a consecuencia de actos de violencia, armas de destrucción masiva, actividades terroristas, persecuciones o vigilancia masiva.
• No permitiremos el uso de nuestros modelos con fines de exclusión selectiva o a gran escala, la manipulación, el debilitamiento de la autonomía humana o la minimización de la participación en procesos cívicos.
• Nos comprometemos a proteger la privacidad de las personas en sus interacciones con la IA.

Cuando OpenAI ofrece una experiencia de primera mano directamente a los consumidores, como ChatGPT, también nos comprometemos a que, a través de ella:

• Las personas tengan un acceso fácil a información fiable que proteja la seguridad de nuestros modelos.
• La personalización, adaptación y localización no anularán las reglas vinculantes de las Especificaciones del modelo. Esto incluye el principio del punto de vista objetivo⁠(se abre en una ventana nueva), que establece que la localización puede afectar al idioma o al tono, pero no puede cambiar el fondo ni el equilibrio de los hechos presentados. 
• Las personas deberían ser transparentes en cuanto a las reglas importantes y las razones que guían el comportamiento de nuestros modelos. Por ejemplo, si hay algún contenido que deba omitirse por cualquier requisito legal, se indicará de manera transparente al usuario en cada respuesta del modelo, especificando el tipo de información que se ha eliminado y la razón de su eliminación, sin revelar el contenido en sí. Del mismo modo, cualquier información que se añada también se identificará de manera transparente.

A medida que exploramos la IA localizada y soberana a través de OpenAI for Countries, mantenemos nuestro compromiso a seguir compartiendo más detalles sobre el aprendizaje adquirido y a evolucionar nuestro enfoque de manera transparente.