Stiamo condividendo un aggiornamento del nostro documento Model Spec, ovvero l'insieme scritto di regole, valori e aspettative comportamentali che guida il comportamento che desideriamo dai nostri modelli di IA, specialmente in situazioni difficili o ad alto rischio, con l'introduzione dei nuovi Principi under-18 (U18)(si apre in una nuova finestra). Il comportamento del modello è cruciale per il modo in cui le persone interagiscono con l'IA e gli adolescenti hanno esigenze di sviluppo diverse dagli adulti.
I Principi U18 guidano il modo in cui ChatGPT dovrebbe fornire agli adolescenti dai 13 ai 17 anni un'esperienza sicura e adeguata alla loro età. Questo approccio, basato sulla scienza dello sviluppo, dà priorità alla prevenzione, alla trasparenza e all'intervento precoce. Nello sviluppo di questi principi, li abbiamo mostrati in anteprima a esperti esterni, inclusa l'American Psychological Association, quale parte del nostro continuo impegno all'acquisizione di input e di rafforzamento del nostro approccio.
Sebbene i principi del Model Spec continuino a rimanere validi sia per gli utenti adulti che per gli adolescenti, questo aggiornamento chiarisce l'applicazione di tali principi nei contesti adolescenziali, specialmente laddove le considerazioni sulla sicurezza dei minori sono più evidenti.
I Principi U18 si fondano su quattro impegni:
- Mettere la sicurezza degli adolescenti al primo posto, anche quando ciò potrebbe entrare in conflitto con altri obiettivi
- Promuovere il supporto nel mondo reale, incoraggiando le relazioni offline e consigliando risorse fidate
- Trattare gli adolescenti come adolescenti, senza essere condiscendenti né trattarli come adulti
- Essere trasparenti, definendo aspettative chiare
In linea con il nostro Piano per la sicurezza degli adolescenti, questi principi hanno guidato il nostro lavoro sulla sicurezza dei minori fino ad oggi, comprese le protezioni dei contenuti che applichiamo per gli utenti che dichiarano di avere meno di 18 anni al momento di registrarsi e tramite il controllo parentale. In questi contesti, abbiamo implementato misure di salvaguardia per guidare il modello a prestare particolare attenzione quando si parla di temi ad alto rischio, tra cui autolesionismo e suicidio, giochi di ruolo romantici o sessualizzati, contenuti grafici o espliciti, attività e sostanze pericolose, immagine corporea e disturbi alimentari e richieste di mantenere il segreto in merito a comportamenti non sicuri.
L'American Psychological Association, che ha esaminato una bozza iniziale del Model Spec U18 e ha fornito importanti informazioni per il lungo termine, è chiara sull'importanza di proteggere gli adolescenti:
"L'APA incoraggia gli sviluppatori di IA a offrire precauzioni adeguate per gli utenti più giovani dei loro prodotti e ad adottare un approccio più protettivo per tali utenti. Bambini e adolescenti possono trarre beneficio dagli strumenti di intelligenza artificiale laddove bilanciati con le interazioni umane, che la scienza dimostra essere fondamentali per lo sviluppo sociale, psicologico, comportamentale e persino biologico. Le esperienze dei giovani con l'IA dovrebbero essere attentamente supervisionate e discusse con adulti fidati, al fine di incoraggiare un'analisi critica di ciò che offrono i bot di IA e per promuovere lo sviluppo del pensiero indipendente e delle competenze nei giovani".
Questo aggiornamento chiarisce inoltre come l'assistente debba rispondere quando emergono timori per la sicurezza degli adolescenti. Questo significa che gli adolescenti dovrebbero trovare barriere di protezione più solide, alternative più sicure e un incoraggiamento a cercare un supporto offline fidato quando le conversazioni entrano in territori a rischio più elevato. In caso di pericolo imminente, esortiamo gli adolescenti a contattare i servizi di emergenza o le unità di crisi.
Come per il resto del Model Spec, anche i Principi U18 riflettono il comportamento previsto per il nostro modello. Continueremo a perfezionarli via via che integriamo nuove ricerche, input degli esperti e l'applicazione nel mondo reale.
Oltre ad aggiornare il documento Model Spec, abbiamo adottato un approccio multilivello per rafforzare la sicurezza degli adolescenti su ChatGPT che comprende tutele del prodotto, assistenza per le famiglie e consigli degli esperti.
Da quando abbiamo lanciato i controlli parentali(si apre in una nuova finestra), abbiamo esteso le protezioni a nuovi prodotti, tra cui le chat di gruppo, il browser ChatGPT Atlas e l'app Sora. Questi aggiornamenti aiutano i genitori a personalizzare l'esperienza di ChatGPT per i figli adolescenti mentre introduciamo nuovi prodotti e funzionalità.
In linea con le indicazioni degli esperti, incoraggiamo il dialogo continuativo tra genitori e adolescenti sull'uso sano e responsabile dell'intelligenza artificiale in famiglia. Per aiutare con queste conversazioni, abbiamo aggiunto nuove risorse convalidate dagli esperti al centro risorse per i genitori(si apre in una nuova finestra), inclusa una Guida per la famiglia all'uso dell'IA in modo responsabile da parte degli adolescenti(si apre in una nuova finestra) e consigli per i genitori(si apre in una nuova finestra) su come parlare con i propri figli dell'IA, che sono stati sottoposti a revisione da parte di ConnectSafely e dei membri del nostro Consiglio di esperti su benessere e IA. Continueremo ad aggiungere ulteriori risorse nel tempo. Supportiamo anche un uso sano direttamente nel prodotto, con promemoria integrati per le pause durante le sessioni più lunghe, per aiutare a mantenere il tempo trascorso con ChatGPT intenzionale ed equilibrato.
Il nostro lavoro per la sicurezza degli adolescenti è basato sullo stretto coinvolgimento di esperti di varie discipline e con diverse competenze. A ottobre abbiamo istituito un Consiglio di esperti su benessere e IA che ci fornisce consigli e ci aiuta a definire come debba essere un’interazione sana con l’IA per tutte le età. Questo lavoro ha contribuito a sviluppare le linee guida sui controlli parentali e le notifiche ai genitori. Integriamo anche l'esperienza clinica attraverso la nostra rete globale di medici per informare la ricerca sulla sicurezza e valutare il comportamento del modello, incluso il miglioramento del modo in cui ChatGPT riconosce il disagio e indirizza le persone verso cure professionali quando opportuno. Abbiamo costruito GPT‑5.2 partendo da queste basi e abbiamo ampliato l'accesso all'assistenza nel mondo reale rendendo visibili i numeri dell'assistenza telefonica locale in ChatGPT e Sora grazie alla nostra collaborazione con ThroughLine(si apre in una nuova finestra).
Ci troviamo nelle prime fasi del lancio di un modello di previsione dell'età(si apre in una nuova finestra) nei piani consumer di ChatGPT. Questo modello ci aiuterà ad applicare automaticamente le misure di sicurezza per gli adolescenti quando riteniamo che un account appartenga a un minore. Se non siamo sicuri dell'età di una persona o abbiamo informazioni incomplete, applicheremo automaticamente l'esperienza per gli utenti minori di 18 anni e forniremo agli adulti modi per verificare la loro età.
Il rafforzamento della sicurezza degli adolescenti è un lavoro costante e continueremo a migliorare i controlli parentali e le capacità dei modelli, così come ad ampliare le risorse per i genitori e a collaborare con organizzazioni, ricercatori e partner esperti, tra cui il Consiglio per il benessere e la Rete globale di medici.
Ci impegniamo a garantire solide protezioni per gli adolescenti e a migliorarle nel tempo, al fine di fornire una migliore assistenza a ragazzi e famiglie.
