Presentamos el Plan de protección infantil
Un marco para combatir y prevenir la explotación sexual infantil facilitada por IA
La explotación sexual infantil es uno de los desafíos más urgentes de la era digital. La IA está cambiando rápidamente tanto la forma en que surgen estos daños en toda la industria como la manera de abordarlos a gran escala.
En OpenAI, desarrollamos y reforzamos continuamente medidas de seguridad para prevenir el uso indebido de nuestros sistemas. Además, colaboramos estrechamente con socios como el National Center for Missing & Exploited Children (NCMEC) y con las autoridades para mejorar la detección y denuncia. Este trabajo ha puesto en evidencia dónde hacen falta estándares más sólidos y compartidos en la industria.
Hoy presentamos un plan que traza una ruta clara para fortalecer los marcos de protección infantil en EE. UU. en la era de la IA. Este plan recoge e incorpora aportes de organizaciones y especialistas del ámbito de la protección infantil, entre ellos NCMEC, la Attorney General Alliance (la Alianza de Fiscales Generales) y los copresidentes de su grupo de trabajo sobre IA —el fiscal general de Carolina del Norte, Jeff Jackson, y el fiscal general de Utah, Derek Brown— y Thorn, para asegurar que refleje sus prioridades y facilite una colaboración más eficaz para prevenir el daño infantil.
El plan se centra en tres prioridades clave: modernizar las leyes para abordar el material de abuso sexual infantil (MASI) generado o manipulado con IA; mejorar los reportes y la coordinación entre proveedores para apoyar investigaciones más eficaces; e incorporar medidas de seguridad desde el diseño en los sistemas de IA para prevenir y detectar el uso indebido.
Ninguna intervención por sí sola basta para hacer frente a este desafío. El marco propuesto integra enfoques jurídicos, operativos y técnicos para mejorar la identificación de riesgos, acelerar la respuesta y reforzar la rendición de cuentas y garantiza que las autoridades puedan adaptarse al ritmo de la evolución tecnológica.
En conjunto, estos pasos permiten a la industria abordar la protección infantil de forma más temprana y eficaz. Este marco busca prevenir el daño antes de que ocurra y garantizar una respuesta más rápida para proteger a los niños cuando surjan riesgos. Para lograrlo, detecta y frena a tiempo los intentos de explotación, mejora la calidad de las señales que se envían a las autoridades y fortalece la rendición de cuentas en todo el ecosistema.
"Como copresidentes del grupo de trabajo sobre IA de la Attorney General Alliance, vemos este plan como un paso clave para alinear las prácticas de protección infantil del sector tecnológico con la realidad operativa a la que se enfrentan nuestras oficinas a diario. Nos parece especialmente acertado que el marco reconozca que las medidas de seguridad eficaces para la GenAI requieren un enfoque por capas: no un único control técnico, sino una combinación de detección, mecanismos de rechazo, supervisión humana y adaptación continua a los patrones emergentes de uso indebido". Esto refleja lo que vemos en la práctica: la amenaza cambia constantemente y las soluciones estáticas no bastan. Diseñar la prevención desde la base es la inversión más efectiva que puede hacer la industria para proteger a la infancia.
En última instancia, la eficacia de cualquier marco voluntario depende de la claridad de sus compromisos y de la disposición de la industria a rendir cuentas. Esperamos seguir colaborando con OpenAI, NCMEC y los fiscales generales para que estas recomendaciones se traduzcan en protecciones duraderas para los menores.
— Los fiscales generales estatales Jeff Jackson (Carolina del Norte) y Derek Brown (Utah), copresidentes del grupo de trabajo sobre IA de la Attorney General Alliance.
“La Attorney General Alliance encabeza los esfuerzos para proteger a los jóvenes en línea al reunir a fiscales generales, líderes de la industria, organizaciones sin fines de lucro y socios globales para impulsar soluciones prácticas y con visión de futuro en IA y seguridad digital. A través de la colaboración y la innovación, la AGA está fijando un estándar sólido sobre cómo proteger a los jóvenes mientras se adoptan de forma responsable las tecnologías emergentes. Reconocemos el compromiso continuo de OpenAI con la seguridad y su colaboración con la AGA y los fiscales generales para desarrollar un plan clave para la protección infantil".
— Karen White, directora ejecutiva de la Attorney General Alliance
“La IA generativa está acelerando la explotación sexual infantil en línea de formas profundamente preocupantes: reduce las barreras, amplía la escala y abre nuevas vías de daño. Al mismo tiempo, el National Center for Missing & Exploited Children (NCMEC) ve con optimismo que empresas como OpenAI piensen en cómo diseñar este tipo de herramientas de forma más responsable, con salvaguardas desde el inicio. Ninguna organización, empresa o sector por sí solo puede afrontar este problema. Seguimos comprometidos a trabajar con socios de toda la industria, el gobierno y la comunidad de protección infantil para impulsar soluciones que reduzcan el daño y apoyen mejor la seguridad de los menores”.
— Michelle DeLaune, presidenta y directora general del National Center for Missing & Exploited Children
