Comment nous intégrons la sûreté, la sécurité et la confidentialité aux dots

Les dots sont des agents toujours actifs qui assument des responsabilités continues, vous laissant plus de temps et d’attention pour ce qui compte pour vous. Chaque dot dispose de son propre ordinateur et travaille dans les applications que vous choisissez de connecter. Vous donnez des objectifs aux dots et définissez ce qu’ils peuvent faire de façon autonome. Ils peuvent accomplir les étapes, s’adapter aux changements et continuer à progresser entre les conversations. Ils peuvent suivre un sujet d’actualité et préparer une ébauche d’infolettre, ou aider à mettre à jour un projet à mesure que de nouvelles informations arrivent, en vous présentant les résultats pour examen et en vous consultant pour les décisions qui nécessitent votre jugement.

Donner cette responsabilité aux dots, c’est leur confier davantage de vos informations et de votre travail. Vous devez comprendre à quoi chaque dot peut accéder, comment il utilise cet accès et quand il doit vous faire intervenir. Ces questions comptent, car les erreurs d’un agent peuvent avoir des conséquences au-delà d’une conversation : une demande mal comprise pourrait l’amener à modifier le mauvais fichier ou à partager des informations que vous souhaitiez garder privées.

Nous mettons en place des protections pour chaque volet de ce travail. Nous partons de GPT‑6 Astra, que nous entraînons à comprendre votre intention et à respecter les règles de sûreté, puis nous ajoutons des garde-fous autour des informations que les dots utilisent, des environnements dans lesquels ils travaillent et des actions qu’ils prévoient d’effectuer. Un espace de travail infonuagique protégé aide à limiter les conséquences des erreurs, des processus de connexion sécurisée aident à protéger les identifiants sensibles, et des contrôles distincts des actions aident à repérer les étapes qui ne respectent pas vos instructions ou les exigences de sûreté. Vous choisissez ce que vous connectez, définissez vos préférences et suivez ou réorientez le travail à mesure qu’il avance.

Les dots peuvent encore faire des erreurs, et nous continuerons à améliorer ces protections grâce aux enseignements tirés de leur utilisation réelle. Nous expliquons ici comment les garde-fous fonctionnent ensemble, ce que vous contrôlez et quelles limites subsistent, afin que vous puissiez prendre des décisions éclairées sur le travail que vous confiez aux dots.

Les dots reposent sur GPT‑6 Astra, notre modèle le plus performant et le mieux aligné. Astra excelle à comprendre votre objectif, à rester dans le cadre de votre demande et à poser des questions ciblées lorsque les réponses pourraient changer ce qu’il doit faire. Ces capacités aident les dots à assurer le suivi des tâches au fil du temps sans perdre de vue votre intention.

Nous avons entraîné Astra à refuser les demandes nuisibles, notamment celles qui impliquent des usages malveillants en biologie ou en cybersécurité. Nous testons la façon dont les dots gèrent les changements d’instructions, les demandes ambiguës et les tentatives de les pousser à dépasser les autorisations que vous leur avez accordées. Les tests d’équipe rouge humains et automatisés nous aident à repérer les faiblesses, à améliorer le modèle et les systèmes qui l’entourent, puis à tester de nouveau ces changements.

Nous complétons ces garde-fous du modèle avec les protections de sécurité de ChatGPT et des mesures supplémentaires pour les agents qui peuvent continuer à travailler en votre nom.

Les protections intégrées de ChatGPT comprennent le chiffrement de votre contenu lorsqu’il est stocké et lorsqu’il circule entre vous, OpenAI et nos fournisseurs de services, ainsi que des contrôles d’accès qui aident à protéger les informations stockées. Nos systèmes de sécurité des comptes détectent également les utilisations suspectes de votre compte OpenAI et peuvent exiger une nouvelle connexion si une session semble compromise.

Les agents doivent aussi être protégés contre les informations qu’ils rencontrent dans le cadre de leur travail. Une page Web, un courriel ou un document peut contenir des instructions malveillantes qui tentent de les détourner de leur tâche ou de leur faire partager des informations privées : un problème appelé injection d’invite. Nous combinons les garde-fous du modèle avec des restrictions sur les outils, des vérifications avant les actions et une surveillance pour aider à empêcher que ce contenu mène à une action indésirable.

Nous surveillons aussi les dots lorsqu’ils planifient et exécutent des actions, afin de repérer des comportements potentiellement nuisibles, comme agir en dehors de vos instructions ou tenter de contourner les garde-fous. Si le système de surveillance de la sûreté repère un problème dans le travail en cours d’un dot, il peut suspendre ce travail et afficher un avertissement à votre intention. Cette surveillance intégrée aide à détecter les problèmes au fil d’une tâche, en complément des protections qui limitent ce à quoi les dots peuvent accéder et ce qu’ils peuvent faire.

Chaque dot dispose de son propre ordinateur infonuagique, où il peut naviguer, analyser des informations, créer des fichiers et exécuter des outils. Les dots peuvent continuer à progresser dans ces espaces de travail, même lorsque vous n’intervenez pas activement.

Vous choisissez les comptes que les dots peuvent utiliser, soit en connectant des applications dans le cadre des autorisations que vous avez accordées à ChatGPT, soit en vous connectant à un site Web dans le navigateur d’un dot, avec la connexion sécurisée lorsqu’elle est prise en charge. Vous pouvez aussi choisir de connecter votre ordinateur personnel pour offrir aux dots plus de façons de vous aider, par exemple en analysant une feuille de calcul enregistrée sur votre bureau ou en utilisant des outils de programmation installés sur votre appareil.

Dans l’espace de travail protégé de chaque dot, le cloisonnement en bac à sable restreint le code et les outils auxquels il peut accéder, ce qui aide à limiter les conséquences d’un code nuisible ou d’une commande erronée. Nous isolons aussi les environnements infonuagiques des utilisateurs les uns des autres et assurons la maintenance du système d’exploitation Linux sous-jacent et du navigateur Chrome.

Les dots exécutent du code dans des environnements distincts des systèmes qui coordonnent leur travail et appliquent les principaux garde-fous. Ils peuvent y créer des fichiers et exécuter des outils, mais ils ne peuvent pas utiliser cet accès pour modifier ces systèmes de sûreté ou désactiver les vérifications obligatoires. Cette séparation aide à maintenir ces garde-fous en place, même si un dot commet une erreur.

Les règles d’action décrites ci-dessous encadrent ce que les dots peuvent faire avec leurs accès.

La connexion sécurisée permet aux dots de travailler dans des comptes sans que les mots de passe entrent dans la conversation. Pour les connexions prises en charge, le modèle est mis en pause pendant que vous remplissez un formulaire de connexion sécurisé, qui envoie vos identifiants directement à l’environnement du navigateur et les soumet sans les exposer au contexte du modèle. Le dot reprend ensuite son travail dans le compte connecté. Garder le mot de passe hors de la conversation réduit le risque qu’il apparaisse dans une réponse ou soit partagé par erreur.

Les processus de connexion avec mot de passe enregistré pris en charge maintiennent cette séparation grâce à un service dédié de gestion des identifiants chiffrés. Le service fournit le mot de passe pour la connexion sans le transmettre au modèle. Les dots peuvent ainsi travailler dans les comptes que vous avez autorisés, tandis que les mots de passe restent en dehors du contexte du modèle. Ces protections sont propres aux processus de connexion sécurisée et de connexion avec mot de passe enregistré; une information secrète placée séparément dans un message ou un document lisible peut quand même être visible par le modèle.

Vous gérez les applications que les dots peuvent utiliser au moyen de vos connexions et autorisations ChatGPT existantes, qui sont partagées entre ChatGPT, ChatGPT Work et Codex. Dans la section Modules d’extension des Paramètres, vous pouvez consulter les comptes connectés et modifier ce à quoi les dots pourront accéder à l’avenir. Déconnecter une application met fin au partage de nouvelles informations par cette connexion. Toutefois, les informations qu’un dot a déjà acquises restent dans son propre contexte. Ces autorisations encadrent l’accès à vos applications; elles ne supplantent pas les exigences de sûreté obligatoires.

Si vous souhaitez que les dots travaillent avec des fichiers ou des outils locaux, vous pouvez aussi choisir de connecter votre ordinateur. Cette connexion reste soumise au bac à sable local et aux contrôles d’action applicables. L’utilisation du microphone ou de la caméra de votre ordinateur nécessite aussi les autorisations de l’appareil, que vous pouvez choisir d’accorder à ChatGPT.

La vue Activité de l’application de bureau vous permet de suivre et de guider le travail en cours. Elle affiche les tâches en cours et déléguées ainsi que leur état. Vous pouvez ajouter du contexte, corriger un malentendu, changer de direction ou demander à un dot de s’arrêter.

Les dots enrichissent leur contexte au fil du temps pour rendre leur aide plus utile. Lorsqu’ils délèguent du travail, les autres agents reçoivent l’instruction de conserver les informations nécessaires à la tâche et d’éviter de garder des détails sensibles inutiles. Chaque dot possède son propre contexte, que vous pouvez réinitialiser à tout moment.

Pour les espaces de travail ChatGPT Business, Enterprise et Edu, nous n’utilisons pas vos données pour entraîner nos modèles par défaut. Pour les forfaits ChatGPT personnels, vous contrôlez si les conversations de vos dots et le travail qu’ils effectuent servent à améliorer nos modèles, au moyen du paramètre « Améliorer le modèle pour tout le monde ». Lorsque l’entraînement des modèles est activé, cela peut inclure les actions des dots et les automatisations que vous configurez, après nos efforts pour supprimer les éléments d’identification personnelle. Pour en savoir plus sur l’utilisation de vos données, consultez cet article⁠(s'ouvre dans une nouvelle fenêtre) de notre centre d’aide.

En plus du travail que vous leur demandez, les dots peuvent lancer des tâches de recherche en arrière-plan pour trouver d’autres façons de vous aider, par exemple en remarquant un changement dans vos projets de voyage. Nous appelons cela la recherche proactive.

Ces tâches s’exécutent dans l’environnement infonuagique de chaque dot. Elles utilisent des outils en lecture seule pour recueillir des informations auprès des sources connectées autorisées, puis enregistrent des notes privées pour ce dot. Nous imposons ces limites dans le code : les tâches de recherche ne peuvent pas envoyer directement des messages à d’autres personnes, modifier du contenu dans les applications connectées ni contrôler un navigateur ou un bureau. Les dots peuvent utiliser les résultats pour décider de la façon d’aider, mais toute action de suivi doit respecter les règles et les vérifications habituelles.

Nous n’entraînons pas nos modèles directement sur ces fils de recherche en arrière-plan ni sur les notes qu’ils produisent. Un dot peut toutefois recevoir des notes de sa tâche de recherche en arrière-plan ou lire des parties de ses fils de recherche. Les informations ainsi intégrées à une conversation ou à une tâche admissible peuvent servir à l’entraînement des modèles, selon vos paramètres. Par exemple, une tâche de recherche en arrière-plan pourrait recueillir des informations sur plusieurs destinations pour un prochain voyage en Europe. Ce fil de recherche et ses notes ne servent pas directement à l’entraînement. Plus tard, lorsque vous demandez à votre dot de vous aider à planifier un voyage à Lisbonne, il pourrait lire une note sur Lisbonne provenant de sa tâche de recherche en arrière-plan. Cette note fait alors partie du contexte de votre conversation de planification de voyage et peut ensuite servir à l’entraînement, selon vos paramètres. Le reste de la recherche en arrière-plan ne sert pas à l’entraînement, à moins d’être aussi intégré à une conversation ou à une tâche admissible.

Les dots respectent des garde-fous intégrés conçus pour prévenir les préjudices et vous laisser les décisions importantes. Leurs règles de sûreté les obligent à refuser les demandes nuisibles, notamment les usages malveillants en biologie ou en cybersécurité. Pour les tâches auxquelles ils peuvent contribuer, les règles d’action définissent quand ils peuvent poursuivre, quand ils doivent demander une confirmation et quand ils doivent vous redonner la main pour une étape.

Dans ces limites, les dots peuvent lire les informations auxquelles ils sont autorisés à accéder, les analyser et préparer des ébauches dans vos conversations. Pour envoyer un message ou partager un fichier, ils sont entraînés à demander une autorisation qui couvre les informations et le type de destinataire; plus les données sont sensibles, plus les destinataires doivent être précisés. Par exemple, les données de santé exigeront toujours que l’utilisateur désigne un destinataire par son nom (« partage mes antécédents médicaux avec le Dr Thompson »). Les données personnelles moins sensibles, comme une adresse courriel ou un numéro de téléphone, exigeront par défaut que l’utilisateur précise des catégories de destinataires (« n’importe quelle compagnie aérienne »). L’utilisateur peut élargir davantage les règles relatives aux données personnelles moins sensibles (« partage-les dans n’importe quel formulaire en ligne ») en créant une règle personnalisée. Consultez la section suivante pour en savoir plus sur cette fonctionnalité. Cette autorisation reste liée à vos instructions pour la tâche; reprendre le travail plus tard ou le déléguer n’en élargit pas la portée.

Les dots peuvent effectuer des achats avec les cartes que vous avez déjà enregistrées sur le site Web d’un commerçant. Ces achats nécessitent votre approbation.

Certaines actions nécessitent votre confirmation chaque fois, notamment la suppression définitive de données, l’installation ou l’exécution de logiciels provenant d’une source non reconnue, ou l’octroi de nouveaux accès sensibles sur le plan de la sécurité. Ces exigences vous donnent l’occasion d’examiner les changements qui pourraient être difficiles à annuler ou qui accorderaient de nouveaux accès à quelqu’un.

Pour d’autres étapes sensibles, comme modifier un mot de passe ou transférer de l’argent entre des comptes financiers, les dots peuvent aider à accomplir la tâche globale, mais doivent vous laisser effectuer ces étapes sensibles.

Les règles personnalisées vous permettent de façonner l’aide des dots dans le cadre de ces protections intégrées, par exemple en leur demandant de ne jamais envoyer de courriels. Vous pouvez aussi donner des consignes propres à une tâche, comme demander à un dot d’informer un collègue de votre absence sans en partager la raison personnelle. Ces instructions continuent de s’appliquer lorsque ce dot délègue du travail ou travaille en arrière-plan.

Les dots peuvent vous aider à rédiger des règles personnalisées, mais ils ont besoin de votre approbation pour les modifier. Ces préférences s’inscrivent dans les garde-fous intégrés et ne peuvent pas supprimer les confirmations obligatoires, les étapes qui vous reviennent ou les exigences fondamentales de sûreté.

Avant que les dots effectuent des actions comme envoyer des courriels ou modifier des fichiers, un système de sûreté distinct, appelé vérification automatique, examine les étapes prévues à la lumière de vos instructions, des règles personnalisées et des exigences de sûreté. Pour un courriel, il vérifie le destinataire et le message afin de repérer une adresse erronée ou des informations que vous ne souhaitiez pas partager.

Si la vérification automatique autorise une étape, le dot qui l’a proposée l’exécute à l’aide de l’outil approprié sur l’ordinateur ou dans l’application, puis utilise le résultat pour poursuivre votre tâche. Elle peut s’appuyer sur une approbation que vous avez déjà donnée si celle-ci couvre l’action et si les règles n’exigent pas une nouvelle confirmation.

Si la vérification automatique bloque une étape, elle empêche l’exécution de l’action et en indique la raison au dot. Ce dot peut demander plus d’informations ou votre approbation si cela peut lever le blocage, puis soumettre de nouveau l’étape à la vérification. Selon la raison, il peut plutôt essayer une autre option autorisée, vous redonner la main pour une étape sensible ou s’arrêter. Votre approbation ne peut pas supplanter les exigences fondamentales de sûreté.

Nous maintenons les contrôles qui imposent la vérification automatique en dehors des environnements que les dots peuvent modifier, afin qu’ils ne puissent pas modifier ou désactiver une vérification obligatoire. Les étapes ordinaires en lecture seule respectent toujours les autorisations des applications, les restrictions sur les outils et les autres garde-fous, mais ne nécessitent pas cette vérification supplémentaire.

Confier du travail continu aux dots suppose de savoir comment ils suivront vos instructions et réagiront en cas d’imprévu. Astra les aide à comprendre votre intention, tandis que les protections entourant leurs données, leurs espaces de travail, leurs identifiants et leurs actions aident à limiter les préjudices causés par des erreurs ou du contenu malveillant. Ensemble, ces garde-fous donnent aux dots la latitude nécessaire pour accomplir un travail utile tout en réduisant le risque qu’une erreur mène à une action ou à une divulgation indésirable.

Vous choisissez ce à quoi les dots peuvent se connecter et la façon dont ils vous aident, et vous pouvez suivre leurs progrès ou changer de direction à mesure que vos besoins évoluent. Les approbations et les étapes qui vous reviennent vous laissent les décisions clés. Les dots peuvent encore faire des erreurs; nous continuerons donc à tester et à améliorer leurs protections grâce aux enseignements tirés de leur utilisation réelle. Notre objectif est de vous permettre de confier plus facilement du travail aux dots et de retrouver des progrès utiles à votre retour, avec vos préférences pour guider la tâche et les décisions importantes toujours entre vos mains.

Consultez la fiche système⁠(s'ouvre dans une nouvelle fenêtre) pour en savoir plus sur nos garde-fous, nos évaluations de sûreté et les limites qui subsistent.

Pour connaître les fondements de la sécurité de ChatGPT, consultez Sécurité et confidentialité chez OpenAI. Pour examiner de plus près une protection de sécurité Web, consultez Protéger vos données lorsqu’un agent d’IA clique sur un lien.