Agenda de políticas públicas de OpenAI

La misión de OpenAI es garantizar que la inteligencia artificial general (IAG) beneficie a toda la humanidad. Nuestro trabajo se guía por cinco principios⁠ fundamentales que determinan cómo desarrollamos IA y cómo participamos en las políticas públicas: 

1. Democratización. Evitaremos que esta tecnología concentre el poder en manos de unos pocos.
2. Empoderamiento. Creemos que la IA puede empoderar a todas las personas para alcanzar sus objetivos, aprender más, ser más felices y sentirse más realizadas, y perseguir sus sueños, y que la sociedad en su conjunto se beneficiará de esto.
3. Prosperidad universal. Queremos un futuro en el que todas las personas puedan tener una vida excelente.
4. Resiliencia. La IA traerá nuevos riesgos, y trabajaremos con otras empresas, ecosistemas, gobiernos y la sociedad para enfrentarlos. 
5. Adaptabilidad. Seguimos creyendo que la única manera de enfrentar los desafíos de un futuro muy impredecible es estar preparados para actualizar nuestras posturas a medida que aprendemos más. 

Creemos que la IA tiene el potencial de transformar la manera en que las personas trabajan, aprenden, crean y participan en la sociedad, y que las democracias desempeñarán un papel esencial para ayudar a ampliar el acceso a oportunidades, mitigar los riesgos y garantizar que las personas tengan una capacidad real de decisión para dar forma al futuro de la IA que desean. Por eso, nos comprometemos a hacer que nuestra tecnología sea accesible de forma gratuita y segura. 

Nuestra base de usuarios refleja ese compromiso:⁠ tenemos tantas mujeres como hombres usando nuestras herramientas, más usuarios menores y mayores de 30 años que en cualquier otra plataforma de IA, y más usuarios con ingresos inferiores a USD 100 000 que superiores a USD 100 000, en línea con la composición más amplia de la fuerza laboral global.

Por eso, OpenAI trabaja con gobiernos y la sociedad civil en todo el mundo: para ayudar a los responsables de políticas públicas a comprender nuestra tecnología y sus impactos, mejorar la forma en que funcionan los gobiernos y aportan valor a sus ciudadanos, ampliar la capacidad de las personas para participar en las instituciones democráticas y beneficiarse de ellas, y dar forma a políticas que impulsen nuestra misión de garantizar que la IAG beneficie a toda la humanidad.

Las siguientes prioridades reflejan cómo traducimos nuestra misión⁠ y nuestros principios⁠ en políticas públicas. Apoyamos políticas que ayuden a los gobiernos y a la sociedad a responder a las oportunidades y los desafíos que plantea la IA, mitigar riesgos, ampliar el acceso a oportunidades y garantizar que las personas puedan participar de manera significativa en la economía de la IA y beneficiarse de ella. En conjunto, estas prioridades tienen como objetivo ayudar a los gobiernos a servir mejor a la ciudadanía, a la vez que impulsan nuestra misión de garantizar que la IAG beneficie a toda la humanidad. Representan algunas de las áreas en las que participamos más activamente en la actualidad, pero esta lista no es exhaustiva. A medida que la IA evoluciona, esperamos también que nuestras prioridades de política pública y áreas de participación evolucionen en consecuencia.

Creemos que la seguridad de la IA de vanguardia es un asunto de seguridad nacional y seguridad pública, en particular para los modelos de IA de propósito general más avanzados, que pueden generar riesgos relacionados con armas cibernéticas, químicas, biológicas, radiológicas y nucleares (CBRN). En EE. UU., apoyamos los esfuerzos de los estados para alinearse en torno a marcos comunes como la SB 53 de California⁠(se abre en una nueva ventana), la Ley RAISE de Nueva York⁠(se abre en una nueva ventana) y la SB 315 de Illinois⁠(se abre en una nueva ventana), que ponen el foco en la transparencia, la divulgación pública de evaluaciones de riesgos catastróficos e incidentes de seguridad, la protección de denunciantes y la rendición de cuentas exigible a los desarrolladores que no cumplan con sus responsabilidades en materia de seguridad y protección. Estos enfoques a nivel estatal pueden ayudar a establecer normas armonizadas que reduzcan la fragmentación y allanen el camino hacia un futuro marco federal. 

También apoyamos medidas del Congreso para establecer un marco federal integral que aproveche el consenso emergente reflejado en las leyes estatales sobre seguridad de la IA de vanguardia, fortalezca el Centro de Estándares e Innovación en IA (CAISI) como la institución principal del gobierno federal de EE. UU. para la seguridad de la IA de vanguardia y promueva un plan de resiliencia más amplio en todo el gobierno para abordar los desafíos de seguridad nacional y seguridad pública que plantea la IA de vanguardia. Este marco debería exigir que CAISI realice evaluaciones de los modelos de vanguardia más capaces, que cree un ecosistema de evaluación independiente y que priorice el monitoreo del progreso hacia la automejora recursiva (RSI). Con un marco federal integral vigente, apoyamos la primacía de la normativa federal sobre las leyes estatales que buscan regular los mismos riesgos de seguridad de vanguardia.

Además, apoyamos que el gobierno federal de EE. UU. desempeñe un papel de liderazgo en el establecimiento de estándares internacionales comunes y fuimos la primera empresa estadounidense en firmar el Código de buenas prácticas de la Ley de IA de la UE. Asimismo, fuimos una de las primeras empresas en celebrar acuerdos voluntarios tanto con el CAISI de EE. UU. como con el Instituto de Seguridad de la IA del Reino Unido (UK AISI). 

De cara al futuro, creemos que los responsables de formular políticas deberían comenzar a centrar su atención en ideas más ambiciosas⁠(se abre en una nueva ventana), como guías de contención de modelos, reporte de incidentes u organismos internacionales de gobernanza que faciliten la coordinación en torno a los riesgos, las protecciones y los incidentes de seguridad relacionados con la IA de vanguardia.

En materia de ciberseguridad⁠(se abre en una nueva ventana) en particular, apoyamos políticas que amplíen el acceso seguro y confiable a herramientas de defensa cibernética basadas en IA, así como alianzas más sólidas entre gobiernos, investigadores y la industria para realizar evaluaciones, profundizar el intercambio de información y desarrollar medidas de resiliencia que fortalezcan la defensa cibernética. Igualmente apoyamos iniciativas para modernizar los sistemas de ciberseguridad obsoletos del sector público y colaboramos con el gobierno de EE. UU. a nivel federal, estatal y local, así como con socios internacionales.

Creemos que la IA puede ayudar a los jóvenes a aprender, crear y desarrollar las habilidades y la mentalidad emprendedora que necesitarán para prosperar en la economía del futuro, siempre que se implemente con medidas de seguridad sólidas y protecciones adecuadas para su edad. Los adolescentes deberían tener acceso a una IA segura y confiable⁠(se abre en una nueva ventana) en casa, en la escuela y mientras se preparan para incorporarse al mercado laboral, y deberían estar protegidos de sus posibles daños. Apoyamos regulaciones sólidas, aplicables y basadas en riesgos para la seguridad de los adolescentes, así como marcos que combinan protecciones sólidas con transparencia y herramientas que ponen a las familias al mando. 

Esto incluye requisitos de verificación de edad que preserven la privacidad, de modo que las empresas puedan identificar cuándo un usuario es menor de edad y aplicar protecciones adecuadas para su edad. También contempla evaluaciones periódicas de riesgos para la seguridad de los jóvenes, con el fin de identificar riesgos previsibles e impulsar medidas de protección proporcionales antes de que se produzca un daño. Además, incorpora controles parentales accesibles que ayuden a las familias a orientar y acompañar las experiencias de sus adolescentes. Por último, promueve políticas públicas claras sobre la seguridad de los jóvenes, que expliquen qué protecciones existen y cómo evolucionan con el tiempo.

Asimismo, incluye medidas de protección diseñadas para abordar los riesgos que los adolescentes pueden encontrar al interactuar con sistemas de IA, incluidas protecciones contra contenido dañino o inapropiado para su edad, protocolos claros para responder ante situaciones graves de seguridad y medidas de protección contra interacciones manipuladoras o engañosas. Los protocolos de respuesta ante crisis deben incluir apoyo dentro del servicio, derivaciones a recursos adecuados del mundo real, como el 988 en Estados Unidos, y notificaciones oportunas a los padres cuando corresponda. A las empresas también se les debería exigir que protejan la información personal de los adolescentes, incluso mediante restricciones a la publicidad dirigida a menores de edad y a la venta de datos personales.

Finalmente, los mecanismos sólidos de rendición de cuentas, incluidas las auditorías independientes, son esenciales para garantizar que estas protecciones sean efectivas en la práctica. Las auditorías deben estar respaldadas por un conjunto de normas comunes que permitan auditorías interoperables entre jurisdicciones. Los marcos legislativos deberían incluir medidas de supervisión y cumplimiento que permitan a los gobiernos evaluar si las empresas están implementando eficazmente las medidas de seguridad para jóvenes, mitigando los riesgos identificados y cumpliendo las obligaciones de seguridad y privacidad para jóvenes. Nos enorgullece apoyar los esfuerzos de la Coalición de Padres y Niños por una IA Segura⁠(se abre en una nueva ventana) para impulsar estos principios y promover medidas prácticas de protección en materia de IA que protejan a los jóvenes, a la vez que preservan su capacidad de aprender de la IA y beneficiarse de ella. 

Además, respaldamos protecciones legales y técnicas sólidas contra el abuso y la explotación sexual infantil. Esto incluye modernizar las leyes de protección infantil para abordar las formas en que la IA generativa puede utilizarse indebidamente para crear MASI sintético, alterar digitalmente imágenes existentes y ampliar a gran escala las actividades de captación de menores con fines de explotación. Los responsables de formular políticas deben garantizar que las leyes sobre MASI cubran claramente el material generado por IA y alterado digitalmente, aclaren la responsabilidad legal por los esfuerzos intencionales para producir o solicitar MASI y preserven facultades sólidas de aplicación de la ley para fiscales y autoridades encargadas de hacer cumplir la ley. También respaldamos estándares de reporte y coordinación de los proveedores que mejoran la calidad y la capacidad de generar acciones concretas a partir de los reportes de CyberTipline, al tiempo que reducen la carga investigativa y ayudan a NCMEC y a las autoridades a actuar con mayor rapidez. Por último, las empresas deberían implementar medidas de seguridad desde el diseño —como detección, mecanismos de rechazo, supervisión humana y monitoreo continuo— para interrumpir los intentos de explotación antes de que se produzca algún daño.

La IA influirá cada vez más en la forma en que las personas aprenden, trabajan y participan en la vida cívica. Las instituciones educativas desempeñarán un papel fundamental en el desarrollo de la alfabetización en IA⁠(se abre en una nueva ventana) y en la preparación de los estudiantes para desenvolverse en un mundo donde la IA es omnipresente. Apoyamos políticas que ayuden a estudiantes, docentes, familias y comunidades a interactuar con la IA de forma segura, crítica y creativa, al tiempo que garantizan que los educadores sigan siendo fundamentales en la toma de decisiones en el aula y marquen el ritmo de adopción de la IA en las escuelas. Eso incluye inversiones en alfabetización en IA, una sólida enseñanza básica en materias como historia, educación cívica, matemáticas, ciencias, literatura, ciencias de la computación y educación técnico profesional. También incluye capacitación docente y tiempo protegido para el desarrollo profesional, rutas de aprendizaje alineadas con las necesidades del mercado laboral y mayor acceso a herramientas de IA, banda ancha, dispositivos y recursos educativos en escuelas, bibliotecas e instituciones comunitarias. También apoyamos los esfuerzos para fortalecer la investigación sobre cómo la IA afecta los resultados de aprendizaje, el bienestar estudiantil y la equidad educativa, así como los esfuerzos para incorporar esos aprendizajes en el desarrollo y la implementación de la IA.

Creemos que todas las personas deberían tener la posibilidad de participar en las nuevas oportunidades que crea la IA⁠(se abre en una nueva ventana), y por eso ofrecemos ChatGPT de forma gratuita. Apoyamos políticas que amplían el acceso asequible a la IA útil y ayudan a trabajadores, emprendedores, educadores y pequeñas empresas a adoptarla mediante inversiones en capacitación laboral y alfabetización en IA. Asimismo, apoyamos la creación de centros regionales de IA que conecten a empleadores, organizaciones laborales, colegios comunitarios, universidades, juntas de desarrollo de la fuerza laboral y empresas locales, así como programas de adopción para pequeñas empresas que brinden acceso a herramientas de IA, soporte técnico y capacitación práctica.

Además, colaboramos con organizaciones laborales⁠(se abre en una nueva ventana) para ampliar el acceso a la capacitación⁠ y ayudar a los trabajadores a desarrollar habilidades prácticas de IA y prepararse para los cambios en la economía impulsados por sistemas de IA cada vez más capaces. También publicamos periódicamente datos sobre cómo los trabajadores y empleadores usan nuestras herramientas, y apoyamos medidas de transparencia de la fuerza laboral que no solo ayudan a los responsables de formular políticas y al público a comprender mejor cómo la IA está transformando el trabajo, sino que también ayudan a identificar caminos que permitan a los trabajadores avanzar hacia nuevos roles y trabajos centrados en las personas. Al mismo tiempo, estamos comprometidos a trabajar con los responsables de formular políticas públicas para desarrollar e implementar una agenda de transición laboral y económica más ambiciosa⁠(se abre en una nueva ventana), que contempla beneficios portátiles, modernización tributaria, fondos públicos de riqueza y redes de protección adaptativas.

Creemos que la IA puede ampliar la expresión creativa, empoderar a artistas y creadores, permitir nuevas formas de expresión, comentario y transformación creativa, y reducir las barreras para que creadores independientes, estudios pequeños y nuevas voces participen en la economía creativa. A la vez, las personas deberían poder entender de dónde proviene el contenido digital y estar protegidas contra deepfakes perjudiciales, como la suplantación de identidad engañosa y las réplicas digitales no autorizadas. Apoyamos políticas que promueven la transparencia en línea, incluidos los requisitos para que las herramientas de IA incluyan señales de procedencia, como las desarrolladas por la Coalición para la Procedencia y Autenticidad del Contenido (C2PA), en el contenido audiovisual que generan, y estamos trabajando con socios de toda la industria para impulsar estándares de procedencia interoperables y herramientas de autenticidad de contenido que ayuden a las personas a comprender mejor el origen del contenido digital. Apoyamos políticas que protejan contra el uso indebido perjudicial de la voz y la imagen, al tiempo que preserven protecciones importantes para la libertad de expresión, la parodia, el periodismo y otros usos lícitos. 

Apoyamos protecciones sólidas contra el abuso sexual basado en imágenes, incluidos los esfuerzos para tipificar como delito la distribución de imágenes íntimas sintéticas no consentidas y fortalecer las vías de reparación para las víctimas. También apoyamos medidas de protección de la integridad electoral relacionadas con contenido político engañoso generado por IA, incluidas prohibiciones contra la distribución intencional de contenido generado por IA para engañar a los votantes, así como requisitos de divulgación para determinados anuncios políticos y comunicaciones de campaña generados por IA. Nos asociamos con autoridades electorales de confianza para ayudar a proporcionar información precisa sobre votaciones y elecciones⁠ y ayudar a evitar que nuestros sistemas recomienden o clasifiquen indebidamente a candidatos.

Creemos que, si la infraestructura de IA se desarrolla en colaboración con las comunidades, es un motor de crecimiento económico local, estatal y nacional. Colaborar con las comunidades locales comienza por comprender las necesidades locales, y por eso cada sitio de Stargate cuenta con un plan comunitario a medida⁠ elaborado en consulta con las comunidades, que incluye el diseño del sitio y las fuentes de energía. También es por eso que apoyamos políticas que exigen transparencia respecto del agua, la electricidad y los acuerdos gubernamentales, con excepciones adecuadas para preservar la seguridad, las sensibilidades comerciales, los secretos comerciales y la información propietaria. 

Nos comprometemos a asumir nuestros propios costos de energía, para que nuestras operaciones no aumenten los precios de la electricidad y también apoyamos políticas que garanticen que los centros de datos paguen la parte que les corresponde de los costos de electricidad, incluidos los requisitos para que las comisiones estatales de servicios públicos creen tarifas para grandes cargas que obliguen a los centros de datos a pagar los costos incrementales que generan. Estamos trabajando con empresas de servicios públicos locales y organismos reguladores para garantizar que los centros de datos contribuyan a la confiabilidad de la red eléctrica. Además, respaldamos los requisitos de presentación de informes de sostenibilidad, incluida la divulgación de información sobre tecnologías y prácticas que reducen los impactos ambientales, como generadores de respaldo de bajas emisiones y sistemas de enfriamiento de circuito cerrado o de bajo consumo de agua. Apoyamos políticas que ayuden a los trabajadores locales a acceder a empleos bien remunerados en la construcción, incluidos incentivos para contratar aprendices registrados y utilizar acuerdos laborales para proyectos. Asimismo, promovemos políticas que mantengan marcos fiscales y de incentivos neutrales respecto de la industria y previsibles, responsabilicen a las empresas por cumplir sus compromisos e impulsen la innovación, el emprendimiento y el crecimiento económico a largo plazo en las comunidades aledañas.