Presentamos el Plan de protección de menores
Marco para combatir y prevenir la explotación sexual infantil impulsada por IA
La explotación sexual de menores es uno de los desafíos más urgentes de la era digital. La inteligencia artificial está transformando rápidamente tanto la forma en que surgen estos riesgos en el conjunto del sector como la manera de abordarlos a gran escala.
En OpenAI, desarrollamos y reforzamos de forma continua medidas de seguridad para prevenir el uso indebido de nuestros sistemas. Además, colaboramos estrechamente con socios como el National Center for Missing & Exploited Children (NCMEC) y con las autoridades para mejorar la detección y la denuncia. Este trabajo ha puesto de manifiesto la necesidad de contar con estándares más sólidos y compartidos en el conjunto del sector.
Hoy presentamos un plan que traza un camino claro para reforzar los marcos de protección de menores en EE. UU. en la era de la IA. Este plan recoge e incorpora aportaciones de organizaciones y especialistas del ámbito de la protección de menores, entre ellos NCMEC, la Attorney General Alliance (Alianza de Fiscales Generales) y los copresidentes de su grupo de trabajo sobre IA —el fiscal general de Carolina del Norte, Jeff Jackson, y el fiscal general de Utah, Derek Brown— y Thorn, para que refleje sus prioridades y facilite una colaboración más eficaz para prevenir el daño a menores.
El plan se centra en tres prioridades clave: modernizar la legislación para abordar el material de abuso sexual de menores (MASM) generado o manipulado con IA; mejorar la denuncia y la coordinación entre proveedores para apoyar investigaciones más eficaces; e incorporar medidas de seguridad desde el diseño en los sistemas de IA para prevenir y detectar el uso indebido.
Ninguna intervención por sí sola basta para hacer frente a este desafío. El marco propuesto integra enfoques jurídicos, operativos y técnicos para mejorar la identificación de riesgos, acelerar la respuesta y reforzar la rendición de cuentas, y garantiza que las autoridades puedan adaptarse al ritmo de la evolución tecnológica.
En conjunto, estos pasos permiten al sector abordar la protección de menores de forma más temprana y eficaz. Este marco busca prevenir el daño antes de que se produzca y garantizar una respuesta más rápida para proteger a los menores cuando surjan riesgos. Para lograrlo, detecta y frena a tiempo los intentos de explotación, mejora la calidad de las señales que se comunican a las autoridades y refuerza la rendición de cuentas en todo el ecosistema.
«Como copresidentes del grupo de trabajo sobre IA de la Attorney General Alliance, consideramos este plan un paso clave para alinear las prácticas de protección de menores del sector tecnológico con la realidad operativa a la que se enfrentan nuestras oficinas a diario. Nos parece especialmente acertado que el marco reconozca que las medidas de seguridad eficaces para la IA generativa requieren un enfoque por capas: no un único control técnico, sino una combinación de detección, mecanismos de rechazo, supervisión humana y adaptación continua a los patrones emergentes de uso indebido». Esto refleja lo que vemos en la práctica: la amenaza cambia constantemente y las soluciones estáticas no bastan. Diseñar la prevención desde la base es la inversión más efectiva que puede hacer la industria para proteger a los menores.
En última instancia, la eficacia de cualquier marco voluntario depende de la claridad de sus compromisos y de la disposición del sector a rendir cuentas. Esperamos seguir colaborando con OpenAI, NCMEC y los fiscales generales para que estas recomendaciones se traduzcan en protecciones duraderas para los menores.
— Los fiscales generales estatales Jeff Jackson (Carolina del Norte) y Derek Brown (Utah), copresidentes del grupo de trabajo sobre IA de la Attorney General Alliance.
«La Attorney General Alliance lidera los esfuerzos para proteger a los menores en línea al reunir a fiscales generales, líderes del sector, organizaciones sin ánimo de lucro y socios globales para impulsar soluciones prácticas y con visión de futuro en IA y seguridad digital. A través de la colaboración y la innovación, la AGA está estableciendo un estándar sólido sobre cómo proteger a los menores mientras se adoptan de forma responsable las tecnologías emergentes. Reconocemos el compromiso continuo de OpenAI con la seguridad y su colaboración con la AGA y los fiscales generales para desarrollar un plan clave para la protección de menores».
— Karen White, directora ejecutiva de la Attorney General Alliance
«La IA generativa está acelerando la explotación sexual de menores en línea de formas profundamente preocupantes: reduce las barreras, amplía la escala y abre nuevas vías de daño. Al mismo tiempo, el National Center for Missing & Exploited Children (NCMEC) ve con optimismo que empresas como OpenAI reflexionen sobre cómo diseñar este tipo de herramientas de forma más responsable, con salvaguardas desde el inicio. Ninguna organización, empresa o sector por sí solo puede afrontar este problema. Seguimos comprometidos a trabajar con socios de toda la industria, la Administración y el ámbito de la protección de menores para impulsar soluciones que reduzcan el daño y refuercen la protección de los menores».
— Michelle DeLaune, presidenta y directora general del National Center for Missing & Exploited Children
