Introduzione al piano per la sicurezza dei minori
Un quadro per contrastare e prevenire lo sfruttamento sessuale dei minori facilitato dall’IA
Lo sfruttamento sessuale dei minori è una delle sfide più urgenti dell’era digitale. L’IA sta cambiando rapidamente sia il modo in cui questi rischi emergono nel settore sia il modo in cui possono essere affrontati su larga scala.
In OpenAI, abbiamo sviluppato e continuiamo a rafforzare misure di sicurezza per prevenire l’uso improprio dei nostri sistemi e collaboriamo strettamente con partner come il National Center for Missing and Exploited Children (NCMEC) e le forze dell’ordine per migliorare il rilevamento e la segnalazione. Questo lavoro ha evidenziato la necessità di standard condivisi più solidi in tutto il settore.
Oggi presentiamo un piano strategico che delinea un percorso pratico per rafforzare i sistemi di tutela dei minori negli Stati Uniti nell’era dell’IA. Questo piano riflette e integra il contributo di organizzazioni ed esperti di primo piano nell’ecosistema della sicurezza dei minori, tra cui NCMEC, la Attorney General Alliance e i copresidenti della sua AI Task Force, il procuratore generale del North Carolina Jeff Jackson e il procuratore generale dello Utah Derek Brown, oltre a Thorn, per garantire che rispecchi le loro priorità e favorisca una collaborazione più efficace nella prevenzione dei danni ai minori.
Il piano si concentra su tre priorità principali: modernizzare le leggi per affrontare il CSAM generato e modificato dall’IA, migliorare la segnalazione e il coordinamento dei provider per supportare indagini più efficaci e integrare nei sistemi di IA misure di sicurezza by design per prevenire e rilevare abusi.
Nessun singolo intervento può affrontare da solo questa sfida. Questo quadro integra approcci giuridici, operativi e tecnici per individuare meglio i rischi, accelerare le risposte e rafforzare la responsabilità, garantendo al contempo che le autorità di applicazione della legge restino efficaci con l’evoluzione della tecnologia.
Insieme, queste azioni permettono al settore di intervenire prima e in modo più efficace sulla sicurezza dei minori. Interrompendo prima i tentativi di sfruttamento, migliorando la qualità delle segnalazioni alle forze dell’ordine e rafforzando la responsabilità nell’intero ecosistema, questo quadro mira a prevenire i danni prima che si verifichino e a garantire una protezione più rapida quando emergono rischi.
"In qualità di copresidenti della task force sull’IA dell’Attorney General Alliance, accogliamo questo piano come un passo concreto verso l’allineamento delle pratiche di sicurezza dei minori nel settore tecnologico con le realtà operative che i nostri uffici affrontano ogni giorno. Siamo particolarmente incoraggiati dal riconoscimento, da parte del framework, che misure efficaci per la GenAI richiedono difese su più livelli: non un singolo controllo tecnico, ma una combinazione di rilevamento, meccanismi di rifiuto, supervisione umana e adattamento continuo ai nuovi modelli di uso improprio. Questo riflette ciò che osserviamo nella pratica: la minaccia evolve costantemente e le soluzioni statiche non sono sufficienti. Definire correttamente a monte l’architettura della prevenzione è l’investimento a più alto impatto che il settore possa fare per la sicurezza dei minori.
In ultima analisi, la solidità di qualsiasi quadro volontario dipende dalla chiarezza dei suoi impegni e dalla disponibilità del settore a esserne responsabile. Attendiamo con interesse di proseguire la collaborazione con OpenAI, NCMEC e gli altri Procuratori generali per garantire che queste raccomandazioni si traducano in tutele durature per i minori."
:I procuratori generali statali Jeff Jackson (North Carolina) e Derek Brown (Utah), copresidenti della task force sull’IA dell’Attorney General Alliance.
"L’Attorney General Alliance sta guidando la protezione dei giovani online, riunendo procuratori generali, leader del settore, organizzazioni non profit e partner globali per promuovere soluzioni pratiche e orientate al futuro su IA e sicurezza digitale. Attraverso collaborazione e innovazione, AGA definisce uno standard solido per proteggere i giovani, adottando in modo responsabile le tecnologie emergenti. Applaudiamo l’impegno continuo di OpenAI per la sicurezza e la collaborazione con AGA e i procuratori generali nello sviluppo di un piano di grande valore per la sicurezza dei minori."
Karen White, Direttrice esecutiva, Attorney General Alliance
"L’IA generativa sta accelerando lo sfruttamento sessuale online dei minori in modi profondamente preoccupanti, abbassando le barriere, aumentando la scala e introducendo nuove forme di danno. Allo stesso tempo, il National Center for Missing & Exploited Children (NCMEC) è incoraggiato nel vedere aziende come OpenAI riflettere su come progettare questi strumenti in modo più responsabile, con protezioni integrate fin dall’inizio. Nessuna organizzazione, impresa o settore può affrontare questo problema da sola. Restiamo impegnati a collaborare con partner del settore, delle istituzioni e della comunità per la protezione dei minori per sviluppare soluzioni che riducano i danni e rafforzino la sicurezza dei bambini.”
—Michelle DeLaune, Presidente e CEO, National Center for Missing & Exploited Children
