Agenda de políticas públicas de OpenAI

La misión de OpenAI es garantizar que la inteligencia artificial general (IAG) beneficie a toda la humanidad. Nuestro trabajo se guía por cinco principios⁠ fundamentales que determinan cómo desarrollamos IA y cómo participamos en políticas públicas: 

1. Democratización. Buscaremos evitar que esta tecnología concentre el poder en pocas manos.
2. Empoderamiento. Creemos que la IA puede empoderar a todas las personas para alcanzar sus metas, aprender más, ser más felices y realizarse, además de perseguir su sueño, y que la sociedad en su conjunto se beneficiará de ello.
3. Prosperidad universal. Queremos un futuro en el que todas las personas puedan tener una vida excelente.
4. Resiliencia. La IA traerá nuevos riesgos, y trabajaremos junto con otras empresas, ecosistemas, gobiernos y la sociedad para resolverlos. 
5. Adaptabilidad. Aún creemos que la única forma de afrontar los retos de un futuro muy impredecible es contar con la preparación para actualizar nuestras posturas a medida que aprendamos más. 

Creemos que la IA tiene el potencial de transformar la forma en que las personas trabajan, aprenden, crean y participan en la sociedad, y que las democracias desempeñarán un papel esencial para ayudar a ampliar el acceso a las oportunidades, mitigar los riesgos y garantizar que las personas tengan una capacidad real de decisión para dar forma al futuro de la IA que desean. Por eso, nos comprometemos a hacer que nuestra tecnología sea accesible de forma gratuita y segura. 

Nuestra base de usuarios refleja ese compromiso:⁠ tenemos tantas mujeres como hombres utilizando nuestras herramientas, más usuarios tanto menores como mayores de 30 años que cualquier otra plataforma de IA, y más usuarios con ingresos inferiores a 100 000 $ que superiores a 100 000 $, lo que refleja la población activa mundial en general.

Por eso OpenAI colabora con gobiernos y la sociedad civil de todo el mundo para ayudar a los responsables políticos a entender nuestra tecnología y sus repercusiones, mejorar el funcionamiento de los gobiernos y el valor que aportan a la ciudadanía, ampliar la capacidad de las personas para participar en las instituciones democráticas y beneficiarse de ellas, y dar forma a políticas que impulsen nuestra misión de asegurar que la IAG beneficie a toda la humanidad.

Las siguientes prioridades reflejan cómo trasladamos nuestra misión⁠ y principios⁠ a las políticas públicas. Apoyamos políticas que ayudan a los gobiernos y a la sociedad a responder a las oportunidades y los retos que crea la IA, mitigar riesgos, ampliar el acceso a oportunidades y garantizar que las personas puedan participar de forma significativa en la economía de la IA y beneficiarse de ella. En conjunto, estas prioridades están concebidas para ayudar a los gobiernos a servir mejor a la ciudadanía, al tiempo que impulsan nuestra misión de asegurar que la IAG beneficie a toda la humanidad. Representan algunas de las áreas en las que actualmente participamos de forma más activa, pero esta lista no es exhaustiva. A medida que evolucione la IA, esperamos que las prioridades en materia de políticas y ámbitos de actuación también sigan evolucionando.

Creemos que la seguridad de la IA de vanguardia es una cuestión de seguridad nacional y pública, sobre todo en el caso de los modelos de IA de propósito general más avanzados, que pueden generar riesgos relacionados con la ciberseguridad y con armas químicas, biológicas, radiológicas y nucleares (CBRN, por sus siglas en inglés). En EE. UU., apoyamos las iniciativas estatales destinadas a converger en torno a marcos comunes como la SB 53 de California⁠(se abre en una ventana nueva), la Ley RAISE de Nueva York⁠(se abre en una ventana nueva) y la SB 315 de Illinois⁠(se abre en una ventana nueva), que hacen hincapié en la transparencia, la divulgación pública de evaluaciones de riesgos catastróficos e incidentes de seguridad, la protección de denunciantes y una rendición de cuentas exigible para los desarrolladores que no cumplan sus responsabilidades en materia de seguridad y protección. Estos enfoques a nivel de los estados pueden ayudar a establecer normas armonizadas que reduzcan la fragmentación y sienten las bases para un futuro marco regulador federal. 

También apoyamos la acción del Congreso para establecer un marco federal integral que aproveche el consenso emergente reflejado en las leyes estatales sobre seguridad de la IA de vanguardia; refuerce el Centro de Normas e Innovación en IA (CAISI) como la principal institución del Gobierno federal de EE. UU. para la seguridad de la IA de vanguardia; y movilice un plan de resiliencia más amplio en todo el Gobierno para abordar los desafíos para la seguridad nacional y la seguridad pública que plantea la IA de vanguardia. Este marco debería exigir a CAISI que realice evaluaciones de los modelos de vanguardia más capaces, encomendar a CAISI la creación de un ecosistema independiente de evaluación y priorizar el seguimiento de los avances hacia la automejora recursiva (RSI). Con un marco federal integral en vigor, apoyamos la prevalencia de la normativa federal sobre las leyes estatales que pretendan regular los mismos riesgos de seguridad de vanguardia.

También apoyamos que el gobierno federal de EE. UU. desempeñe un papel de liderazgo en el establecimiento de normas internacionales comunes, y fuimos la primera empresa estadounidense en firmar el código de buenas prácticas de la Ley de IA de la UE. También fuimos una de las primeras empresas en suscribir acuerdos voluntarios tanto con el CAISI de EE. UU. como con el Instituto de Seguridad de la IA del Reino Unido (UK AISI). 

De cara al futuro, creemos que la atención de los responsables políticos debería empezar a contemplar ideas más ambiciosas⁠(se abre en una ventana nueva), como manuales de contención de modelos, la notificación de incidentes u organismos internacionales de gobernanza que faciliten la coordinación en torno a los riesgos, las salvaguardias y los incidentes de seguridad relacionados con la IA de vanguardia.

En materia de ciberseguridad⁠(se abre en una ventana nueva) en particular, apoyamos políticas que amplíen el acceso fiable a herramientas de ciberdefensa basadas en IA y fomenten alianzas más sólidas entre gobiernos, investigadores y la industria para realizar evaluaciones, profundizar en el intercambio de información y desarrollar medidas de resiliencia que refuercen la ciberdefensa. También apoyamos las iniciativas para modernizar los sistemas de ciberseguridad obsoletos del sector público y colaboramos con el Gobierno de EE. UU. a nivel federal, estatal y local, así como con socios internacionales.

Creemos que la IA puede ayudar a los jóvenes a aprender, crear y desarrollar las habilidades y la mentalidad emprendedora que necesitarán para prosperar en la economía del futuro, siempre que se implemente con sólidas salvaguardias y protecciones adecuadas a su edad. Los adolescentes deben tener acceso a una IA segura y fiable⁠(se abre en una ventana nueva) en casa, en la escuela y mientras se preparan para incorporarse al mercado laboral, y deben contar con protección frente a los posibles daños que pueda causar. Apoyamos normativas sólidas, aplicables y basadas en el riesgo para la seguridad de los adolescentes, así como marcos que combinen salvaguardias robustas con transparencia y herramientas que otorguen el control a las familias. 

Eso incluye requisitos para la comprobación de la edad que preserve la privacidad, de modo que las empresas puedan identificar cuándo un usuario es menor y aplicar protecciones adecuadas a su edad; evaluaciones periódicas de riesgos para la seguridad de los jóvenes que identifiquen riesgos previsibles e impulsen medidas de protección proporcionales antes de que se produzca un daño; controles parentales accesibles que ayuden a las familias a orientar y apoyar las experiencias de sus hijos adolescentes; y políticas públicas claras sobre seguridad de los jóvenes que expliquen qué protecciones existen y cómo evolucionan con el tiempo.

También incluye medidas de protección diseñadas para abordar los riesgos que los adolescentes pueden encontrar al interactuar con sistemas de IA, incluidas protecciones contra contenido dañino o inadecuado para su edad, protocolos claros para responder a situaciones graves que afecten a la seguridad y medidas de protección frente a interacciones manipuladoras o engañosas. Los protocolos de respuesta ante crisis deben incluir asistencia en el propio servicio, derivaciones a recursos adecuados del mundo real, como el 988 en Estados Unidos, y notificaciones oportunas a los padres o tutores cuando proceda. Las empresas también deberían estar obligadas a proteger la información personal de los adolescentes, entre otras medidas, al restringir la publicidad dirigida a menores y la venta de datos personales.

Por último, es fundamental contar con mecanismos sólidos de rendición de cuentas, incluidas auditorías independientes, para garantizar que estas protecciones sean efectivas en la práctica. Las auditorías deben basarse en un conjunto de normas comunes que permitan su interoperabilidad entre distintas jurisdicciones. Los marcos legislativos deberían incorporar medidas de supervisión y aplicación que permitan a los gobiernos evaluar si las empresas están implementando de forma eficaz las salvaguardias de seguridad para menores, mitigando los riesgos identificados y cumpliendo sus obligaciones en materia de seguridad y privacidad de los jóvenes. Nos enorgullece apoyar los esfuerzos de la Parents and Kids Safe AI Coalition’s⁠(se abre en una ventana nueva) para impulsar estos principios y promover medidas prácticas de protección en materia de IA que protejan a los jóvenes y, al mismo tiempo, preserven su capacidad de aprender de la IA y beneficiarse de ella. 

Además, apoyamos medidas sólidas de protección legales y técnicas contra el abuso y la explotación sexual infantil. Esto incluye modernizar las leyes de protección de la infancia para abordar las formas en que la IA generativa puede utilizarse indebidamente para crear material de abuso sexual infantil (MASI) sintético, alterar digitalmente imágenes existentes y ampliar a gran escala actividades de acoso (grooming) o explotación. Los responsables políticos deben asegurarse de que las leyes sobre material de abuso sexual infantil (MASI) cubran claramente el material generado por IA y alterado digitalmente, aclaren la responsabilidad por los esfuerzos deliberados para producir o solicitar MASI, y preserven unas sólidas facultades de ejecución para los fiscales y las fuerzas y cuerpos de seguridad. También apoyamos estándares de notificación por parte de los proveedores y de coordinación que mejoran la calidad y la capacidad de actuación de los informes de CyberTipline, a la vez que reducen la carga investigadora y ayudan a NCMEC y a las fuerzas y cuerpos de seguridad a actuar con mayor rapidez. Por último, las empresas deben implementar salvaguardias de seguridad desde el diseño (incluidas la detección, los mecanismos de rechazo, la supervisión humana y la monitorización continua) para interrumpir los intentos de explotación antes de que se produzcan daños.

La IA influirá cada vez más en la forma en que las personas aprenden, trabajan y participan en la vida cívica. Las instituciones educativas desempeñarán un papel fundamental en el desarrollo de la alfabetización en IA⁠(se abre en una ventana nueva) y en la preparación de los estudiantes para desenvolverse en un mundo en el que la IA es ubicua. Apoyamos políticas que ayuden a estudiantes, docentes, familias y comunidades a interactuar con la IA de manera segura, crítica y creativa, al tiempo que garanticen que los educadores sigan ocupando un lugar central en la toma de decisiones en el aula y marquen el ritmo de adopción de la IA en los centros educativos. Eso incluye inversiones en alfabetización en IA, así como una formación sólida en materias troncales como historia, educación cívica, matemáticas, ciencias, literatura, informática y formación profesional y técnica. También incluye formación docente y tiempo protegido para el desarrollo profesional, itinerarios de aprendizaje alineados con el mercado laboral, y un acceso ampliado a herramientas de IA, banda ancha, dispositivos y recursos educativos para escuelas, bibliotecas e instituciones comunitarias. También apoyamos iniciativas para reforzar la investigación sobre cómo la IA influye en los resultados del aprendizaje, el bienestar del alumnado y la equidad educativa, así como iniciativas para incorporar los conocimientos adquiridos al desarrollo y despliegue de la IA.

Creemos que todo el mundo debería poder participar en las nuevas oportunidades que crea la IA⁠(se abre en una ventana nueva) y por eso ofrecemos ChatGPT gratis. Apoyamos políticas que amplíen el acceso asequible a la IA útil y ayuden a trabajadores, emprendedores, educadores y pequeñas empresas a adoptarla mediante inversiones en formación laboral y alfabetización en IA. También apoyamos la creación de centros regionales de IA que conecten a empleadores, organizaciones sindicales, centros de formación superior comunitarios, universidades, consejos de desarrollo de la fuerza laboral y empresas locales, así como programas de adopción para pequeñas empresas que proporcionen acceso a herramientas de IA, asistencia técnica y formación práctica.

También colaboramos con organizaciones sindicales⁠(se abre en una ventana nueva) para ampliar el acceso a la formación⁠ y ayudar a los trabajadores a desarrollar competencias prácticas en IA y prepararse para los cambios en la economía impulsados por sistemas de IA cada vez más capaces. Además, publicamos periódicamente datos sobre cómo trabajadores y empleadores utilizan nuestras herramientas, y apoyamos medidas de transparencia laboral que no solo ayudan a los responsables políticos y al público a comprender mejor cómo la IA está transformando el trabajo, sino que también ayudan a identificar vías que permitan a los trabajadores acceder a nuevos puestos y a un trabajo centrado en las personas. Al mismo tiempo, nos comprometemos a trabajar con los responsables políticos para desarrollar e implementar una agenda de transición laboral y económica más ambiciosa⁠(se abre en una ventana nueva), que contempla prestaciones transferibles, modernización fiscal, fondos públicos de riqueza y redes de protección adaptables.

Creemos que la IA puede ampliar la expresión creativa, empoderar a artistas y creadores, permitir nuevas formas de expresión, interpretación y transformación creativa, y reducir las barreras para que creadores independientes, pequeños estudios y nuevas voces participen en la economía creativa. Al mismo tiempo, las personas deberían poder entender de dónde procede el contenido digital y estar protegidas frente a deepfakes perjudiciales, como la suplantación de identidad engañosa y las réplicas digitales no autorizadas. Apoyamos las políticas que promueven la transparencia en internet, incluidos los requisitos para que las herramientas de IA incluyan señales de procedencia, como las desarrolladas por la Coalition for Content Provenance and Authenticity (C2PA), en el contenido audiovisual que generan, y estamos trabajando con socios de distintos sectores para impulsar estándares de procedencia compatibles entre sí y herramientas de autenticidad de contenido que ayuden a las personas a comprender mejor el origen del contenido digital. Apoyamos políticas que protejan frente al uso indebido perjudicial de la voz y la imagen, al tiempo que preserven garantías importantes para la libertad de expresión, la parodia, el periodismo y otros usos lícitos. 

Apoyamos una protección sólida frente al abuso sexual basado en imágenes, incluidas iniciativas para tipificar como delito la difusión de imágenes íntimas sintéticas no consentidas y reforzar los mecanismos de reparación para las víctimas. También apoyamos medidas de protección de la integridad electoral relacionadas con el contenido político engañoso generado por IA, incluidas las prohibiciones de distribuir intencionadamente contenido generado por IA para inducir a error a los electores, así como las obligaciones de divulgación para determinada publicidad política y ciertas comunicaciones de campaña generadas por IA. Colaboramos con autoridades electorales de confianza para ayudar a proporcionar información precisa sobre votación y elecciones⁠ y para evitar que nuestros sistemas recomienden o clasifiquen indebidamente a candidatos.

Creemos que, si la infraestructura de IA se desarrolla en colaboración con las comunidades, puede convertirse en un motor de crecimiento económico local, estatal y nacional. Colaborar con las comunidades locales comienza por comprender sus necesidades, y por eso cada emplazamiento de Stargate cuenta con un plan comunitario⁠ personalizado, desarrollado en consulta con las comunidades, incluso en aspectos como el diseño del emplazamiento y las fuentes de energía. También por eso respaldamos políticas que exijan transparencia en torno al uso del agua y la electricidad, así como a los acuerdos con las administraciones públicas, con las excepciones necesarias para preservar la seguridad, la confidencialidad comercial, los secretos empresariales y la información de carácter propietario. 

Nos comprometemos a asumir nuestros propios costes energéticos, de modo que las operaciones no aumenten los precios de la electricidad y también apoyamos políticas que garanticen que los centros de datos paguen la parte justa que les corresponde de los costes de electricidad, incluidos los requisitos para que las comisiones estatales de servicios públicos creen tarifas para grandes cargas que obliguen a los centros de datos a pagar los costes incrementales que generan. Trabajamos con empresas de servicios públicos locales y organismos reguladores para garantizar que los centros de datos contribuyan a la fiabilidad de la red eléctrica. También apoyamos los requisitos de información sobre sostenibilidad, incluida la información a revelar sobre tecnologías y prácticas que reducen los impactos ambientales, como los generadores de respaldo de bajas emisiones y los sistemas de refrigeración de circuito cerrado o de bajo consumo de agua. Apoyamos políticas que ayuden a los trabajadores locales a acceder a empleos bien remunerados en el sector de la construcción, incluidos incentivos para recurrir a aprendices registrados y acuerdos laborales para proyectos. Asimismo, apoyamos políticas que mantengan marcos fiscales y de incentivos predecibles y neutrales para todos los sectores, que exijan a las empresas cumplir los compromisos adquiridos y que impulsen la innovación, el emprendimiento y el crecimiento económico sostenible a largo plazo en las comunidades de su entorno.