Au cours des deux dernières semaines, nous avons intensifié nos échanges avec des experts, des groupes de défense et des responsables politiques qui soutiennent et orientent nos efforts pour rendre ChatGPT aussi utile que possible.
Nous continuons d’améliorer la sécurité pour tous les utilisateurs, mais aujourd’hui nous partageons davantage d’informations sur le renforcement des protections pour les adolescents. Lorsque certains de nos principes entrent en conflit, nous faisons passer la sécurité des adolescents avant la confidentialité et la liberté. Nous expliquons notre démarche plus en détail ici. Il est essentiel de disposer d’outils efficaces pour orienter la manière dont ces technologies s’intègrent dans la vie des adolescents, aussi bien dans les moments faciles que dans les plus difficiles.
Les adolescents grandissent avec l’IA, et il nous incombe de veiller à ce que ChatGPT s’adapte à eux. ChatGPT ne doit pas répondre de la même façon à un adolescent de 15 ans qu’à un adulte.
Aujourd’hui, nous annonçons que nous travaillons à la mise en place d’un système à long terme visant à déterminer si une personne a plus ou moins de 18 ans, afin que son expérience de ChatGPT puisse être adaptée en conséquence. Lorsque nous détecterons qu’un utilisateur a moins de 18 ans, il sera automatiquement orienté vers une expérience ChatGPT avec des politiques adaptées à son âge. Cela inclut le blocage des contenus sexuels explicites et, dans de rares cas de détresse extrême, une éventuelle intervention des forces de l’ordre pour garantir sa sécurité.
Ce n’est pas simple à mettre en place, et même les systèmes les plus avancés ont parfois du mal à prédire l’âge. Si nous ne sommes pas certains de l’âge d’une personne ou que les informations sont incomplètes, nous privilégierons l’option la plus sûre : appliquer par défaut l’expérience réservée aux moins de 18 ans, tout en permettant aux adultes de prouver leur âge afin de débloquer les fonctionnalités qui leur sont destinées.
En attendant, les contrôles parentaux restent le moyen le plus fiable pour les familles d’orienter la façon dont ChatGPT s’invite à la maison. Comme nous l’avons déjà annoncé, ces contrôles seront disponibles d’ici la fin du mois et permettront aux parents ce qui suit :
- Lier leur compte à celui de leur adolescent (âge minimum : 13 ans) via une simple invitation par e-mail.
- Aider à orienter la façon dont ChatGPT répond à leur adolescent, sur la base de règles de comportement du modèle spécifiques aux adolescents.
- Gérer les fonctionnalités à désactiver, y compris la mémoire et l’historique des chats.
- Recevoir des notifications lorsque le système détecte que leur adolescent traverse un moment de détresse extrême. Si nous ne parvenons pas à joindre un parent lors d’une urgence rare, nous pourrons faire appel aux forces de l’ordre. L’avis d’experts guidera cette fonctionnalité afin de renforcer la confiance entre parents et adolescents.
- Définir des heures de black-out pendant lesquelles un adolescent ne peut pas utiliser ChatGPT (un nouveau contrôle que nous ajoutons).
Ces contrôles viendront s’ajouter aux fonctionnalités déjà disponibles pour tous les utilisateurs, comme les rappels intégrés lors de longues sessions afin d’encourager les pauses.
Nous continuerons à partager nos avancées au fur et à mesure. En attendant, nous tenons à remercier les partenaires, les défenseurs et les experts qui nous font part de leurs commentaires et nous poussent à nous améliorer. Vos voix façonnent ce travail d’une manière qui comptera pour des centaines de millions de personnes.
Auteur
Poursuivez votre lecture
