Promuovere sicurezza e opportunità per i giovani attraverso la leadership globale

L'IA può essere uno strumento potente per i giovani. Può aiutare gli studenti a comprendere un concetto difficile, esercitarsi in una nuova lingua, prepararsi a un colloquio di lavoro, esplorare idee creative o apprendere una nuova competenza. Proprio come il movimento per l'alfabetizzazione, diffuso in tutto il mondo a metà del XX secolo, richiese la distribuzione su larga scala di testi stampati e l'accesso a insegnanti formati, oggi offrire accesso a un'IA sicura aprirà nuove opportunità per l'apprendimento personalizzato, contribuirà a ridurre le barriere per le comunità meno servite e aumenterà la preparazione della forza lavoro.

Poiché i potenziali benefici sono così significativi, è essenziale che i giovani possano accedere all'IA in modi sicuri, adeguati all'età e di supporto a uno sviluppo sano. Questa responsabilità non dovrebbe ricadere principalmente sui genitori o sui giovani stessi. Le aziende, inclusa OpenAI, hanno la responsabilità di creare prodotti con adeguate tutele predefinite, fornendo al contempo alle famiglie strumenti e informazioni per guidare l'uso dell'IA.

Quando i Capi di Stato si riuniranno al Summit dei leader del G7 a Évian, in Francia, più avanti questo mese, il tema della sicurezza dei giovani nell'IA sarà al centro dell'attenzione. OpenAI parteciperà per discutere di una maggiore collaborazione sulla sicurezza dei giovani, di come possiamo lavorare insieme per innalzare gli standard del settore e della nuova richiesta di OpenAI di istituire un istituto internazionale per la sicurezza dei giovani.

Il Summit dei leader del G7 rappresenta una rara opportunità di coordinamento globale sulla sicurezza dei giovani. Ma un istituto dedicato garantirebbe la continuità e il seguito necessari oltre un singolo summit, aiutando governi, ricercatori, società civile e settore privato a continuare a collaborare per condividere evidenze, sviluppare linee guida e innalzare gli standard nel tempo.

Esistono diversi modi credibili per farlo: tramite un nuovo istituto internazionale, oppure affidando a un istituto nazionale per l'IA, esistente o di nuova istituzione, un mandato globale per condividere ricerca, evidenze e linee guida con partner in tutto il mondo. Ciò che conta di più è la funzione che svolge. La sicurezza dei giovani nell'IA richiede attenzione costante, evidenze affidabili e indicazioni pratiche in grado di tenere il passo con la tecnologia.

Un istituto di questo tipo può basarsi su iniziative emergenti come lo Youth AI Safety Institute di Common Sense Media, sostenuto dalla OpenAI Foundation, nonché su collaborazioni pratiche con gli educatori, incluso il lavoro di OpenAI con l'American Federation of Teachers⁠. Dovrebbe inoltre attingere a implementazioni nel mondo reale, come il lancio nazionale di ChatGPT nelle scuole in Estonia, dove OpenAI collabora con Stanford e ricercatori estoni per studiarne l'impatto e promuovere un uso più sicuro ed efficace nell'apprendimento.

OpenAI accoglie con favore l'opportunità di collaborare con il governo francese, altri governi del G7 e partner della società civile, del mondo accademico e dell'industria su questo lavoro vitale e per innalzare gli standard globali sulla sicurezza dei giovani.

Crediamo che solidi quadri per la sicurezza dei giovani nell'IA, incluso qualsiasi potenziale accordo raggiunto negli incontri del G7, debbano essere guidati dai principi che presentiamo qui.

1. Le aziende dovrebbero sapere quando un utente è minorenne e applicare protezioni adeguate all'età. Ciò significa richiedere ai fornitori di usare strumenti come una stima dell'età efficace e rispettosa della privacy per distinguere i minori dagli adulti, e applicare per impostazione predefinita tutele protettive quando l'età di un utente non può essere determinata. Senza questa base, anche le protezioni per i giovani concepite con le migliori intenzioni potrebbero non raggiungere i giovani che intendono tutelare.
2. Le aziende dovrebbero valutare regolarmente sia i rischi sia i benefici per i giovani e adottare misure per affrontarli—prima che si verifichino danni. Ciò significa richiedere ai fornitori di completare valutazioni annuali dei rischi per la sicurezza dei giovani e di implementare tutele proporzionate in base ai rischi individuati. Tali valutazioni dovrebbero considerare i rischi per i giovani in base alla loro fase di sviluppo, alle evidenze empiriche derivanti dall'uso effettivo e alla ricerca o alle indicazioni normative pertinenti. Le valutazioni dovrebbero considerare non solo i potenziali danni, ma anche se l'IA stia sostenendo risultati positivi come apprendimento, creatività, sviluppo di competenze e accesso alle opportunità.
3. Genitori e tutori dovrebbero disporre di controlli accessibili e facili da usare per aiutarli a guidare le esperienze dei propri figli, sostenendone al contempo un'indipendenza adeguata all'età. Questi dovrebbero includere strumenti per gestire impostazioni chiave, tra cui memoria, uso dei dati e limiti di tempo. Gli strumenti di controllo parentale dovrebbero essere promossi attivamente, così che i genitori sappiano che esistono e capiscano come usarli.
4. Le famiglie meritano informazioni chiare e comprensibili su come le aziende proteggono i giovani utenti e informazioni significative sia sui benefici sia sui rischi dell'uso dell'IA da parte dei giovani. Le aziende dovrebbero pubblicare policy di sicurezza che spieghino quali tutele sono in atto per proteggere i giovani, quali strumenti parentali sono disponibili e come le protezioni vengono aggiornate con l'evoluzione dei rischi. Questa trasparenza crea fiducia e aiuta i genitori a fare scelte informate.
5. Le aziende dovrebbero disporre di protocolli chiari per affrontare situazioni gravi di sicurezza, tra cui autolesionismo, sfruttamento, adescamento, contenuti sessualmente lesivi e altre interazioni ad alto rischio. Questi dovrebbero includere supporto all'interno del servizio, indirizzamento verso risorse appropriate e notifiche tempestive ai genitori quando opportuno. Le aziende dovrebbero inoltre progettare i propri sistemi in modo da impedire che generino contenuti non sicuri o non adeguati allo sviluppo dei bambini, incluso materiale sessuale o violento esplicito.  
6. I sistemi di IA utilizzati dai giovani dovrebbero essere progettati per sostenere apprendimento, sviluppo e relazioni nel mondo reale, non per sostituirli. L'IA dovrebbe fungere da strumento che aiuta i giovani a imparare, creare, sviluppare competenze e prepararsi al futuro. Allo stesso tempo, le aziende dovrebbero stabilire confini chiari negli ambiti in cui uno sviluppo sano dipende dal giudizio umano, dalle relazioni nel mondo reale e dal supporto professionale.
7. Le informazioni personali dei minori dovrebbero essere protette. Ciò significa vietare la pubblicità mirata e invasiva della privacy rivolta ai giovani e impedire alle aziende di vendere informazioni personali.
8. I quadri per la sicurezza dei giovani dovrebbero promuovere opportunità, alfabetizzazione e protezione. I giovani dovrebbero avere accesso a strumenti di IA che supportino apprendimento, creatività, sviluppo di competenze e opportunità future, ed essere al contempo dotati delle conoscenze e delle capacità di pensiero critico necessarie per usare l'IA in modo sicuro e responsabile. Ciò include promuovere l'alfabetizzazione all'IA e aiutare i giovani a comprendere le opportunità e i limiti dei sistemi di IA, così che possano partecipare agli spazi digitali con fiducia e responsabilità.
9. Solidi meccanismi di responsabilità, inclusi audit indipendenti, sono essenziali per garantire che queste protezioni siano significative nella pratica. Gli audit dovrebbero poggiare su un insieme di standard comuni che consentano audit interoperabili tra giurisdizioni. I quadri legislativi dovrebbero includere misure di supervisione e applicazione che consentano ai governi di valutare se le aziende stiano implementando efficacemente le tutele per la sicurezza dei giovani, mitigando i rischi identificati e rispettando gli obblighi in materia di sicurezza dei giovani e privacy.

I principi si riflettono nel modo in cui sviluppiamo e gestiamo ChatGPT, dal comportamento del modello e dal design del prodotto fino al contributo degli esperti e al supporto nel mondo reale. Abbiamo rafforzato le tutele per gli utenti sotto i 18 anni, lanciato il controllo parentale⁠ con notifiche proattive e sistemi avanzati di previsione dell'età⁠ affinché ChatGPT possa applicare protezioni più forti quando qualcuno potrebbe avere meno di 18 anni. La nostra specifica modello, che descrive come dovrebbero comportarsi i nostri modelli, include anche principi dedicati agli utenti sotto i 18 anni⁠(si apre in una nuova finestra), dando priorità alla sicurezza degli adolescenti, a esperienze adeguate all'età, al supporto nel mondo reale e ad aspettative chiare. In pratica, ciò significa barriere più robuste contro autolesionismo, attività pericolose, contenuti espliciti, immagine corporea e segretezza, insieme all'incoraggiamento a cercare, quando necessario, supporto offline affidabile o risorse per le crisi. Quando l'età è incerta, applichiamo per impostazione predefinita tutele più forti.

Un'IA progettata con solide tutele e offerta con indicazioni chiare, insieme al supporto di famiglie ed educatori, può aiutare i giovani a beneficiare in sicurezza di strumenti che ampliano apprendimento, creatività e opportunità. L'IA può aiutare gli studenti a comprendere concetti difficili, esercitarsi nelle lingue, migliorare la scrittura, imparare a programmare, organizzare ricerche, esplorare idee creative e prepararsi a lavori che stanno già cambiando. Attraverso Education for Countries⁠, OpenAI collabora con governi ed educatori su implementazioni guidate dalla ricerca, strumenti di apprendimento localizzati e formazione degli insegnanti, affinché l'adozione dell'IA sia fondata su evidenze e sulle reali esigenze delle classi. Questo lavoro sta già sostenendo iniziative nazionali per l'istruzione con i nostri Paesi partner, tra cui Estonia⁠, Grecia⁠ e Singapore⁠.

Oltre a partecipare al Summit dei leader, porteremo l'OpenAI Forum⁠(si apre in una nuova finestra) a Parigi per convocare una conversazione pratica su come governi, ricercatori, società civile, educatori e industria possano trasformare obiettivi condivisi di sicurezza dei giovani in tutele, standard e pratiche di implementazione concreti. L'ambasciatrice francese per l'IA e gli Affari digitali, Clara Chappaz, si unirà al Chief Global Affairs Officer di OpenAI Chris Lehane, ai leader della sicurezza dei giovani di iRaise/Everyone.AI e ad altri esperti per discutere di come i giovani possano beneficiare dell'IA riducendo al contempo i rischi.