OpenAI sostiene il disegno di legge californiano per la sicurezza dei giovani nell’uso dell’IA

Di Ann O’Leary, vicepresidente, Politiche globali

OpenAI sostiene il disegno di legge 1119 del Senato della California, che introduce importanti tutele per l’uso dell’IA da parte dei giovani, preservando al contempo il loro accesso a strumenti che possono aiutarli a imparare, creare e prepararsi al futuro. Questo sostegno dà seguito all’impegno assunto lo scorso anno da Sam Altman, cofondatore e CEO di OpenAI, quando ha illustrato i principi dell’azienda relativi agli adolescenti.

In assenza di un intervento federale, la California ha l’opportunità di definire uno standard rigoroso per la sicurezza dei giovani nell’uso dell’IA.

Nella nostra lettera al governatore Newsom⁠(si apre in una nuova finestra), elogiamo il suo impegno e quello del senatore Steve Padilla, dei membri dell’Assemblea Buffy Wicks e Rebecca Bauer-Kahan e dell’Assemblea legislativa della California su questa importante questione. La SB 1119 sviluppa ulteriormente le misure per la sicurezza dei giovani che OpenAI ha sostenuto attraverso i propri prodotti, i principi di politica globale, l’attività di sensibilizzazione in California e il lavoro sul Parents & Kids Safe AI Act. Invitiamo il governatore Newsom a promulgare il disegno di legge.

Gli adolescenti sono la prima generazione a crescere con l’IA. In una settimana tipo, quasi nove adolescenti su dieci tra quelli che usano ChatGPT vi ricorrono per imparare, informarsi, sviluppare competenze o essere più produttivi. Questa opportunità comporta una chiara responsabilità: gli adolescenti devono poter contare su esperienze progettate in base alle loro specifiche esigenze di sviluppo, con solide tutele predefinite e occasioni adeguate per imparare, creare ed esplorare.

Il nuovo ChatGPT per adolescenti riflette questo approccio. È progettato per aiutare gli utenti con meno di 18 anni a imparare, pensare in modo critico e creare, promuovendo un uso sano, offrendo tutele integrate e mettendo a disposizione dei genitori ulteriori controlli. Se il nostro sistema stima che una persona abbia meno di 18 anni, oppure se questa dichiara di averne tra 13 e 17, viene automaticamente indirizzata a ChatGPT per adolescenti. Queste tutele fanno parte dell’esperienza di base e non sono impostazioni facoltative che gli utenti possono disattivare.

Più in generale, crediamo che gli adolescenti possano beneficiare dell’IA senza rinunciare alla sicurezza, un obiettivo che è al centro della SB 1119.

La SB 1119 abbina solide tutele al mantenimento dell’accesso a strumenti di IA utili. Sosteniamo con convinzione questi requisiti fondamentali:

• Determinare l’età dell’utente;
• Individuare e affrontare i rischi per la sicurezza prima di rendere un prodotto disponibile ai giovani;
• Sottoporsi a verifiche indipendenti;
• Proteggere i giovani dai contenuti dannosi, compresi quelli relativi all’autolesionismo, i contenuti di sfruttamento sessuale e altre interazioni ad alto rischio;
• Fornire ai genitori strumenti per orientare e limitare l’uso da parte dei figli;
• Mettere i giovani in contatto con risorse di sostegno in situazioni di crisi quando emergono gravi rischi per la sicurezza; e
• Limitare la pubblicità mirata e proteggere i dati personali dei giovani.

Per gli utenti identificati come persone di età compresa tra 13 e 17 anni, queste tutele dovrebbero essere applicate automaticamente. Questa legge unirebbe una responsabilità concreta a misure di tutela che contribuirebbero a proteggere i giovani durante l’uso dell’IA.

La SB 1119 riconosce inoltre, correttamente, che l’IA non è un social media. Il disegno di legge introduce tutele specifiche per aiutare i giovani a usare l’IA per imparare, creare ed esplorare. Nell’elaborare questo quadro normativo, i legislatori hanno cercato di preservare l’accesso alle funzionalità didattiche e a quelle essenziali per la sicurezza, compresi gli usi responsabili della funzione di memoria di ChatGPT, promuovendo al contempo esperienze più sicure e adeguate all’età degli adolescenti.

ChatGPT per adolescenti include una serie di funzionalità pensate appositamente per aiutarli a imparare, come Quiz, Visualizzazioni didattiche e Modalità studio, sviluppate con docenti ed esperti dell’apprendimento per guidare gli studenti nella risoluzione dei problemi passo dopo passo. Questi strumenti mirano ad approfondire la comprensione e a favorire abitudini di apprendimento più efficaci. Le funzionalità che utilizzano il contesto delle conversazioni precedenti, inclusa la memoria, aiutano ad applicare le tutele in modo coerente, a riconoscere schemi preoccupanti e a offrire nel tempo un supporto didattico più utile.

Il contesto aiuta inoltre questi strumenti per la sicurezza e l’apprendimento a funzionare con maggiore coerenza nel tempo. Grazie a funzionalità come la memoria, ChatGPT può conservare informazioni e preferenze pertinenti emerse nelle conversazioni precedenti, consentendo agli adolescenti di proseguire progetti di apprendimento a lungo termine senza dover ricominciare da capo. Questa continuità può anche contribuire a evitare di rafforzare schemi dannosi e favorire risposte più efficaci quando un giovane potrebbe aver bisogno di ulteriore aiuto o di altre risorse.

Conciliare sicurezza e apprendimento non è una novità per noi. Nell’ultimo anno abbiamo introdotto il controllo parentale, la stima dell’età, il nostro Piano per la sicurezza degli adolescenti e i Principi per i minori di 18 anni della nostra specifica modello, ossia le regole che definiscono il comportamento previsto dei nostri modelli, per stabilire nuovi standard sul modo in cui devono interagire con i giovani. Vietano il coinvolgimento romantico, l’incoraggiamento della dipendenza emotiva e le affermazioni secondo cui ChatGPT sarebbe umano o senziente. Offriamo inoltre il controllo parentale, che consente alle famiglie di gestire le principali impostazioni per gli adolescenti e ricevere notifiche nelle situazioni ad alto rischio.

La SB 1119 istituisce in California un solido quadro normativo per la sicurezza dei giovani nell’uso dell’IA. Proseguire lo studio e la collaborazione durante l’attuazione può contribuire a migliorare le disposizioni principali e a mantenere efficace il quadro normativo con l’evolversi della tecnologia. OpenAI è pronta a sostenere questo lavoro e a continuare a creare esperienze di IA che trattino gli adolescenti come tali, con tutele automatiche più solide e opportunità concrete per imparare e crescere.