Sécurité, liberté et confidentialité : nos choix pour les adolescents
Par Sam Altman
Certains de nos principes impliquent de faire des compromis, et nous tenons donc à vous expliquer les choix que nous avons faits en matière de sécurité, de liberté et de confidentialité pour les adolescents.
Tout d’abord, il est capital pour nous, et pour le reste de la société, que le droit à la confidentialité de l’utilisation de l’IA soit protégé. Avec l’IA, les utilisateurs communiquent des informations de plus en plus personnelles. Cette technologie diffère de toutes celles qui l’ont précédée, et nous pensons que les comptes qui lui sont liés seront les plus sensibles sur le plan personnel. Lorsque vous parlez à un médecin de vos antécédents médicaux ou à un avocat d’une question juridique, la société estime qu’il est dans son intérêt de considérer ces informations comme secrètes et de leur accorder une protection de haut niveau. Pour nous, les conversations avec l’IA devraient bénéficier du même niveau de protection, car elles portent de plus en plus sur des questions sensibles et personnelles. Nous travaillons en ce sens auprès des décideurs politiques.
Nous mettons également en place des fonctionnalités de sécurité avancées pour nous assurer que vos données restent confidentielles, même pour les employés d’OpenAI. Pour autant, comme pour le secret professionnel, certaines exceptions s’appliqueront : par exemple, des systèmes automatisés surveilleront les conversations pour détecter d’éventuels abus et les risques les plus graves, comme les menaces envers la vie d’une personne ou les risques pour la société dans son ensemble (incident de cybersécurité massif, par exemple), pourront être transmis à un humain pour analyse.
Notre deuxième principe est la liberté. Nous voulons que nos utilisateurs puissent se servir de nos outils comme ils l’entendent, avec des limites de sécurité très larges. À mesure que nos modèles gagnent en contrôlabilité, nous renforçons cette liberté. Par exemple, notre modèle n’a pas tendance à flirter par défaut, mais si un adulte le lui demande, il doit pouvoir le faire. Autre exemple, cette fois beaucoup plus délicat : par défaut, le modèle ne donnera aucun conseil expliquant comment se suicider. Mais si un adulte demande de l’aide pour écrire une fiction décrivant une scène de suicide, le modèle doit lui fournir les informations nécessaires. En interne, nous considérons que nous devons « traiter nos utilisateurs adultes comme des adultes» pour étendre au maximum les libertés sans pour autant permettre de blesser des tiers ou de limiter les libertés d’autrui.
Notre troisième principe concerne la protection des adolescents. En ce qui concerne les adolescents, nous privilégions la sécurité plutôt que la confidentialité. Notre technologie est jeune et puissante, et nous estimons que les mineurs ont besoin d’une protection renforcée.
Pour y parvenir, nous devons d’abord distinguer les utilisateurs de moins de 18 ans des autres (ChatGPT ne peut être utilisé qu’à partir de 13 ans). Nous travaillons en ce sens sur un système de prédiction de l’âge qui se base sur les interactions des utilisateurs avec ChatGPT. En cas de doute, nous suivrons le principe de sécurité et basculerons automatiquement sur l’expérience réservée aux mineurs. Dans certains cas et dans certains pays, nous demanderons également une pièce d’identité. Nous avons conscience qu’il s’agit d’un compromis entre sécurité et confidentialité, mais nous estimons qu’il en vaut la peine.
Les adolescents utilisateurs de notre service seront soumis à des règles spécifiques. Pour reprendre notre exemple précédent, ChatGPT sera entraîné à ne pas flirter, même si l’utilisateur le lui demande, mais aussi à éviter les discussions évoquant la question du suicide ou de l’automutilation, et ce même dans un contexte d’écriture créative. Enfin, si un adolescent de moins de 18 ans évoque des idées suicidaires, nous essaierons de contacter ses parents. Si ce n’est pas possible, nous contacterons les autorités si nous estimons que le danger est imminent. Nous avons abordé plus en détail le fonctionnement de notre système de prédiction de l’âge et de nos nouveaux contrôles parentaux dans un autre communiqué publié aujourd’hui.
Nous savons que ces principes sont parfois contradictoires et que tout le monde ne sera pas d’accord avec notre manière de résoudre cette contradiction. Ces décisions sont difficiles, mais nos discussions avec des experts nous ont amenés à ce que nous pensons être les meilleurs choix, et nous tenons à vous en faire part en toute transparence.
