Alcuni dei nostri principi sono in conflitto tra loro, per cui vogliamo spiegare le decisioni che stiamo adottando con un esempio di contrasto tra sicurezza, libertà e privacy degli adolescenti.
Per noi e per la società, è estremamente importante che venga tutelato il diritto alla privacy nell’uso dell’IA. La gente parla con l’intelligenza artificiale di questioni sempre più personali; è una tecnologia diversa dalle generazioni precedenti e riteniamo che possa trattarsi di uno degli account più sensibili dal punto di vista privato che si possano avere. Nel caso in cui si discuta con un medico della propria storia clinica o con un avvocato di una questione legale, il nostro obiettivo è garantire che tali informazioni siano riservate e protette al massimo livello. A nostro avviso, lo stesso livello di protezione deve essere applicato alle conversazioni con l’intelligenza artificiale, a cui le persone ricorrono sempre più spesso per domande delicate e questioni private. Stiamo sostenendo questa posizione con i responsabili politici.
Stiamo sviluppando funzionalità di sicurezza avanzate per garantire la riservatezza dei dati degli utenti, anche per i dipendenti di OpenAI. Come per i privilegi in altre categorie, ci saranno alcune eccezioni: ad esempio, i sistemi automatizzati monitoreranno i potenziali abusi gravi e i rischi più critici potranno essere segnalati per essere sottoposti a revisione umana (minacce alla vita di qualcuno, piani per danneggiare altri o danni su scala sociale come un potenziale incidente di sicurezza informatica su larga scala).
Il secondo principio riguarda la libertà. Vogliamo che gli utenti possano utilizzare i nostri strumenti nel modo che preferiscono, entro limiti di sicurezza molto ampi. Abbiamo lavorato per aumentare le libertà degli utenti nel corso del tempo, man mano che i nostri modelli diventavano più gestibili. Ad esempio, il comportamento predefinito del nostro modello non darà luogo a conversazioni particolarmente civettuole, ma se un utente adulto lo richiede, dovrebbe poterlo ottenere. Per esemplificare con un caso molto più complesso, il modello non dovrebbe fornire istruzioni su come suicidarsi, ma se un utente adulto chiede consiglio per scrivere una storia di fantasia che descrive un suicidio, il modello dovrebbe aiutarlo in tal senso. “Trattare i nostri utenti adulti come adulti”: è così che ne discutiamo a livello interno, con l’obiettivo di garantire la massima libertà possibile senza causare danni o compromettere la libertà altrui.
Il terzo principio riguarda la protezione degli adolescenti. La sicurezza è per noi prioritaria rispetto alla privacy e alla libertà degli adolescenti; si tratta di una tecnologia nuova e potente e riteniamo che i minori abbiano bisogno di una protezione importante.
In primo luogo, dobbiamo distinguere gli utenti minori di 18 anni da quelli maggiorenni (ChatGPT è destinato a persone di età pari o superiore a 13 anni). Stiamo sviluppando un sistema di previsione dell’età che stima l’età delle persone in base al loro utilizzo di ChatGPT. In caso di dubbio, preferiamo procedere con cautela e impostare come predefinita l’esperienza per gli utenti di età inferiore ai 18 anni. In alcuni casi o Paesi potremmo anche richiedere un documento d’identità; siamo consapevoli che ciò costituisce una violazione della privacy degli adulti, ma ci sembra un compromesso accettabile.
Applicheremo regole diverse agli adolescenti che utilizzano i nostri servizi. Ad esempio, ChatGPT verrà addestrato a non parlare in modo civettuolo come sopra descritto nel caso in cui gli venisse chiesto, né a partecipare a discussioni sul suicidio o sull’autolesionismo, nemmeno in un contesto di scrittura creativa. Inoltre, se un utente minore di 18 anni manifesta propositi suicidi, ci adopereremo per contattare i suoi genitori e, qualora ciò non fosse possibile, contatteremo le autorità competenti in caso di pericolo imminente. Oggi abbiamo condiviso altre informazioni sullo sviluppo di un sistema di previsione dell’età e sui nuovi controlli parentali per realizzare questo progetto.
Ci rendiamo conto che questi principi sono in conflitto tra loro e che non tutti si troveranno d'accordo sul modo in cui risolviamo tale conflitto. Si tratta di decisioni difficili, ma dopo aver consultato gli esperti, riteniamo che questa sia la soluzione migliore e desideriamo essere trasparenti nelle nostre intenzioni.
