Perché gli adolescenti meritano accesso a un’IA sicura

Gli adolescenti sono la prima generazione che cresce con l’IA, e questa tecnologia plasmerà profondamente il loro futuro. Oggi, quasi 9 adolescenti su 10 che usano ChatGPT lo utilizzano ogni settimana per imparare, informarsi, sviluppare competenze o aumentare la produttività. Per questo riteniamo fondamentale che gli adolescenti possano accedere all’IA. Impedire agli adolescenti di usarla fino all’età adulta sarebbe come chiedere a una generazione precedente di evitare internet o i motori di ricerca fino ai 18 anni, lasciandoli meno preparati a usare una delle tecnologie che definiranno la loro epoca. Ma l’accesso deve essere accompagnato da protezioni pensate specificamente per gli adolescenti.

Durante un recente evento di OpenAI Academy⁠(si apre in una nuova finestra), Oriana McKenzie ha raccontato come ChatGPT l’abbia aiutata a diventare la prima della sua classe alle superiori, studiando in modo più efficace e gestendo meglio il carico di lavoro, così da avere il tempo necessario per gli sport e i programmi scolastici che ama. La sua storia mostra cosa diventa possibile quando gli adolescenti hanno accesso a un’IA che li aiuta a imparare e creare.

Per massimizzare questi benefici, gli adolescenti hanno bisogno di protezioni più solide, progettate per la loro fase della vita, incluse barriere di sicurezza automatizzate che consentano loro di esplorare, imparare e costruire con fiducia, offrendo al tempo stesso tutele adeguate alla loro età. Man mano che l’IA diventa più capace, la nostra responsabilità è combinare un accesso ampio con protezioni adeguate all’età, così che gli adolescenti possano beneficiare di questa tecnologia mentre evolve.

Nell’ultimo anno questo ha significato rafforzare le protezioni predefinite per gli adolescenti, introdurre la previsione dell’età⁠, ampliare il controllo parentale⁠, creare ulteriori risorse per le famiglie⁠(si apre in una nuova finestra) per aiutare i genitori a sostenere un uso sano e responsabile, e introdurre funzionalità di apprendimento che favoriscano una comprensione più profonda invece di limitarsi a fornire risposte.

Il nostro lavoro è guidato da quattro impegni fondamentali⁠:

• Mettiamo al primo posto la sicurezza degli adolescenti, anche quando può entrare in conflitto con altri obiettivi.
• Incoraggiamo a cercare supporto nella vita reale nei momenti di bisogno.
• Trattiamo gli adolescenti come adolescenti.
• Siamo trasparenti, definendo aspettative chiare.

L’apprendimento è uno dei modi più evidenti in cui gli adolescenti traggono beneficio dall’IA, perciò stiamo creando strumenti che incoraggiano partecipazione attiva, pensiero critico e comprensione più profonda. La Modalità studio⁠(si apre in una nuova finestra) è stata progettata in collaborazione con insegnanti, ricercatori dell’apprendimento ed esperti di pedagogia per aiutare gli studenti ad affrontare i problemi passo dopo passo, usando domande guida, spiegazioni strutturate e occasioni di riflessione, senza limitarsi a fornire la risposta. Le prime valutazioni di strumenti come la Modalità studio hanno mostrato miglioramenti promettenti nelle prestazioni degli studenti⁠, contribuendo a orientare la nostra ricerca più ampia su come l’IA possa sostenere i risultati di apprendimento.

Anche se gli adolescenti possono attivare autonomamente questa modalità, ora i genitori con un account collegato a quello di un adolescente possono attivare la Modalità studio⁠ direttamente dal controllo parentale⁠. Quando è abilitata, è attiva per impostazione predefinita ogni volta che un adolescente avvia una nuova chat, offrendo alle famiglie un ulteriore modo per orientare l’uso di ChatGPT per i compiti e lo studio.

Abbiamo inoltre introdotto di recente prompt iniziali dedicati all’apprendimento, pensati per gli adolescenti, così è più facile cominciare con attività come scomporre un argomento in passaggi semplici, trasformare gli appunti in una guida allo studio, creare flashcard o domande di esercitazione, e verificare fonti e chiarezza.

Continuiamo inoltre ad ampliare le esperienze di apprendimento interattive⁠. La ricerca ha mostrato in modo costante⁠ che le persone imparano più efficacemente quando possono interagire attivamente con i concetti, anziché assorbire informazioni in modo passivo. Dal lancio all’inizio di quest’anno, 18 milioni di utenti ogni settimana interagiscono ora con esperienze interattive di matematica e scienze in ChatGPT, e abbiamo ampliato queste esperienze a oltre 250 nuovi argomenti, dagli integrali alla mitosi, fino alle fasi lunari, alla fotosintesi e altro ancora. Abbiamo inoltre introdotto un’esperienza di pronuncia che usa l’audio per aiutare le persone a imparare a pronunciare parole in più di 61 lingue.

Se il nostro sistema stima che una persona che usa ChatGPT abbia meno di 18 anni,⁠ forniamo automaticamente un’esperienza più adeguata all’età⁠(si apre in una nuova finestra). Gli adolescenti possono comunque usare ChatGPT per imparare, creare ed esplorare, ma con protezioni aggiuntive pensate per ridurre l’esposizione a contenuti che potrebbero non essere adatti a loro. Ciò include tutele più solide per violenza esplicita, autolesionismo, challenge virali rischiose, contenuti dannosi sull’immagine corporea e roleplay pericolosi, romantici o sessuali. Il principio guida è contribuire a garantire che ChatGPT resti uno strumento per l’apprendimento e la creatività, e non un sostituto delle relazioni nel mondo reale.

Stiamo inoltre progettando ChatGPT per incoraggiare abitudini sane. Gli adolescenti che trascorrono molto tempo in ChatGPT riceveranno ora promemoria di pausa⁠ più frequenti, che li incoraggiano a fermarsi e staccare. Questi promemoria sono pensati per aiutare i giovani a costruire abitudini tecnologiche equilibrate, lasciando loro comunque la libertà di usare l’IA per imparare, creare e risolvere problemi.

Crediamo che i migliori strumenti di sicurezza possano aiutare le famiglie a orientarsi insieme nelle esperienze online degli adolescenti. Abbiamo creato controllo parentale e notifiche⁠ che consentono di impostare orari di pausa, disattivare la modalità vocale, gestire l’accesso alla generazione di immagini e ricevere notifiche in alcune situazioni ad alto rischio, ad esempio in presenza di segnali di possibile autolesionismo.

Stiamo estendendo queste notifiche ai casi in cui l'account di un adolescente collegato a quello del genitore sia stato disattivato per violazione delle nostre policy d’uso⁠ relative a minacce violente o atti di violenza online. Questo approccio aiuta i genitori a sapere quando è accaduto qualcosa di serio, rispettando al contempo la privacy degli adolescenti e incoraggiando conversazioni e supporto nella vita reale.

Nello sviluppo di queste funzionalità abbiamo consultato diversi esperti, tra cui Moonshot⁠(si apre in una nuova finestra), leader nella prevenzione della violenza online, per contribuire a garantire che questi interventi siano ponderati, efficaci e orientati ad aiutare le famiglie a rispondere nei momenti di bisogno.

Vogliamo inoltre garantire che genitori, adolescenti ed educatori dispongano di indicazioni chiare su come usare al meglio l’IA in modo responsabile. Pubblichiamo risorse educative in più di 50 lingue, tra cui Una guida per le famiglie per aiutare gli adolescenti a usare l’IA in modo responsabile⁠(si apre in una nuova finestra), Consigli per parlare di IA con tuo figlio adolescente⁠(si apre in una nuova finestra) e Consigli per i genitori che usano ChatGPT⁠(si apre in una nuova finestra).

Proteggere i giovani online non è qualcosa che una singola azienda possa risolvere da sola. Collaboriamo a stretto contatto con adolescenti, genitori, educatori, esperti di sicurezza dei minori, professionisti della salute mentale, ricercatori, governi e organizzazioni della società civile. Queste partnership ci aiutano a comprendere meglio le esigenze dei giovani, individuare rischi emergenti, valutare l’efficacia delle nostre tutele e garantire che le nostre politiche siano informate da competenze indipendenti.

Questo lavoro riguarda sia il nostro approccio all’apprendimento sia il benessere dei giovani. Collaboriamo con educatori, inclusa l’American Federation of Teachers⁠, studenti e organizzazioni per l’apprendimento per capire meglio come l’IA possa sostenere insegnamento e apprendimento, rafforzando al contempo il coinvolgimento attivo e il pensiero critico. Collaboriamo inoltre a stretto contatto con esperti delle comunità della salute mentale, dello sviluppo infantile e della sicurezza dei giovani, tra cui l’American Psychological Association⁠(si apre in una nuova finestra), il nostro Global Physicians Network⁠ e il nostro Expert Council on Well-Being and AI⁠.

Il nostro lavoro per costruire un ecosistema digitale più sano va oltre i nostri prodotti. Abbiamo chiesto di sviluppare standard globali scalabili per la sicurezza dei giovani nell’IA⁠ tramite un AI Safety Institute dedicato, abbiamo reso open source politiche e strumenti⁠ che gli sviluppatori possono integrare nei propri sistemi di IA, e collaboriamo con organizzazioni come Common Sense Media⁠(si apre in una nuova finestra) ed everyone.ai⁠(si apre in una nuova finestra) per condividere conoscenze e buone pratiche.

Quest’anno abbiamo anche aderito al Family Online Safety Institute⁠(si apre in una nuova finestra) (FOSI), da tempo impegnato a promuovere esperienze online sicure per famiglie e giovani. Lavoreremo insieme per garantire che i giovani possano beneficiare dell’IA, mettendo al centro genitori più consapevoli e pratiche responsabili del settore. Ci auguriamo che questa partnership aiuti a far progredire la comprensione condivisa di ciò che funziona, a rafforzare le protezioni adeguate all’età e gli strumenti per i genitori, e a sostenere iniziative di settore che consentano ai giovani di beneficiare dell’IA in modo sicuro e responsabile.

Proteggere i giovani online richiede progressi continui. Nei prossimi mesi continueremo a rafforzare le protezioni adeguate all’età, offrire ai genitori più strumenti e controllo, migliorare le tutele contro danni gravi, portare avanti la ricerca su un uso sano dell’IA e creare più esperienze che aiutino gli adolescenti a imparare in modo attivo e a usare l’IA con fiducia.

Sappiamo che c’è ancora molto da fare e ci impegniamo a proseguire il nostro lavoro in collaborazione con adolescenti, genitori, educatori, esperti e comunità di tutto il mondo per offrire agli adolescenti un accesso ampio e sicuro.