Comment nous intégrons sûreté, sécurité et confidentialité aux dots

Les dots sont des agents toujours actifs qui prennent en charge des responsabilités dans la durée, vous laissant plus de temps et d’attention pour ce qui compte pour vous. Chaque dot dispose de son propre ordinateur et travaille dans les applications que vous choisissez de connecter. Vous donnez des objectifs aux dots et définissez ce qu’ils peuvent faire de manière autonome. Ils peuvent enchaîner les étapes, s’adapter aux changements et continuer à progresser entre les conversations. Ils peuvent suivre l’évolution d’une actualité et préparer un brouillon de newsletter, ou aider à mettre à jour un projet à mesure que de nouvelles informations arrivent. Ils vous présentent leurs résultats pour examen et vous sollicitent pour les décisions qui nécessitent votre jugement.

Confier cette responsabilité aux dots implique de leur confier davantage d’informations et de travail. Vous devez pouvoir comprendre à quoi chaque dot peut accéder, comment il utilise cet accès et quand il doit vous solliciter. Ces questions sont importantes, car les erreurs d’un agent peuvent avoir des conséquences au-delà d’une conversation : une demande mal comprise pourrait l’amener à modifier le mauvais fichier ou à partager des informations que vous souhaitiez garder privées.

Nous intégrons des protections à chaque aspect de ce travail. Nous partons de GPT‑6 Astra, que nous entraînons à comprendre votre intention et à suivre des règles de sécurité, puis ajoutons des garde-fous autour des informations utilisées par les dots, des environnements dans lesquels ils travaillent et des actions qu’ils prévoient d’effectuer. Un espace de travail cloud protégé aide à limiter les effets des erreurs, des procédures de connexion sécurisées contribuent à protéger les identifiants sensibles et des vérifications distinctes des actions aident à repérer les étapes qui sortent du cadre de vos instructions ou des exigences de sécurité. Vous choisissez les éléments à connecter, définissez vos préférences et suivez ou réorientez le travail à mesure qu’il avance.

Les dots peuvent toujours commettre des erreurs, et nous continuerons d’améliorer ces protections grâce aux enseignements tirés de leur utilisation réelle. Nous expliquons ici comment les garde-fous se complètent, ce que vous contrôlez et quelles limites subsistent, afin que vous puissiez décider en connaissance de cause du travail à confier aux dots.

Les dots reposent sur GPT‑6 Astra, notre modèle le plus performant et le plus aligné. Astra excelle à comprendre votre objectif, à respecter le périmètre de votre demande et à poser des questions ciblées lorsque les réponses pourraient changer la marche à suivre. Ces capacités aident les dots à suivre des tâches dans la durée sans perdre de vue votre intention.

Nous avons entraîné Astra à refuser les demandes nuisibles, y compris celles impliquant des usages malveillants en biologie ou en cybersécurité. Nous testons la manière dont les dots gèrent les changements d’instructions, les demandes ambiguës et les tentatives visant à leur faire dépasser les autorisations que vous avez accordées. Le red teaming humain et automatisé nous aide à détecter les faiblesses, à améliorer le modèle et les systèmes qui l’entourent, puis à tester de nouveau ces modifications.

Nous complétons ces garde-fous du modèle par les protections de sécurité de ChatGPT et des mesures supplémentaires pour les agents capables de continuer à travailler pour vous.

Les protections intégrées de ChatGPT comprennent le chiffrement de votre contenu lors de son stockage et de son transfert entre vous, OpenAI et nos prestataires de services, ainsi que des contrôles d’accès qui contribuent à protéger les informations stockées. Nos systèmes de sécurité des comptes recherchent également toute utilisation suspecte de votre compte OpenAI et peuvent exiger une nouvelle connexion si une session semble compromise.

Les agents doivent aussi être protégés contre les informations qu’ils rencontrent dans leur travail. Une page web, un e-mail ou un document peut contenir des instructions malveillantes visant à les détourner de leur tâche ou à leur faire partager des informations privées : c’est ce qu’on appelle une attaque par injection de prompt. Nous associons les garde-fous du modèle à des restrictions sur les outils, à des vérifications avant les actions et à une surveillance pour aider à empêcher que ces contenus ne déclenchent une action indésirable.

Nous surveillons aussi les dots lorsqu’ils planifient et exécutent des actions, à la recherche de comportements potentiellement nuisibles, comme le non-respect de vos instructions ou les tentatives de contournement des garde-fous. Si le système de surveillance de la sécurité détecte un problème dans le travail en cours d’un dot, il peut le mettre en pause et afficher un avertissement pour que vous l’examiniez. Cette surveillance intégrée aide à détecter les problèmes à mesure qu’une tâche avance, en complément des protections qui limitent les accès et les actions des dots.

Chaque dot dispose de son propre ordinateur cloud, sur lequel il peut naviguer, analyser des informations, créer des fichiers et exécuter des outils. Les dots peuvent continuer à progresser dans ces espaces de travail, même sans votre participation active.

Vous choisissez les comptes que les dots peuvent utiliser, soit en connectant des applications dans les limites des autorisations accordées à ChatGPT, soit en vous connectant à un site web dans le navigateur d’un dot, avec la connexion sécurisée lorsqu’elle est prise en charge. Vous pouvez aussi connecter votre ordinateur personnel pour donner aux dots davantage de moyens de vous aider, par exemple en analysant une feuille de calcul enregistrée sur votre bureau ou en utilisant des outils de programmation installés sur votre appareil.

Dans l’espace de travail protégé de chaque dot, le cloisonnement en bac à sable restreint le code et les outils auxquels il peut accéder, ce qui contribue à limiter l’impact d’un code malveillant ou d’une commande erronée. Nous isolons également les environnements cloud des utilisateurs les uns des autres et assurons la maintenance du système d’exploitation Linux sous-jacent et du navigateur Chrome.

Les dots exécutent du code dans des environnements distincts des systèmes qui coordonnent leur travail et font respecter les garde-fous essentiels. Ils peuvent y créer des fichiers et exécuter des outils, mais ne peuvent pas utiliser cet accès pour modifier ces systèmes de sécurité ou désactiver les vérifications obligatoires. Cette séparation aide à maintenir ces garde-fous en place, même si un dot commet une erreur.

Les règles d’action décrites ci-dessous encadrent ce que les dots peuvent faire avec leurs accès.

La connexion sécurisée permet aux dots de travailler dans des comptes sans que les mots de passe n’entrent dans la conversation. Pour les connexions prises en charge, le modèle est mis en pause pendant que vous remplissez un formulaire de connexion sécurisé. Celui-ci envoie vos identifiants directement à l’environnement du navigateur et les soumet sans les exposer au contexte du modèle. Le dot reprend ensuite son travail dans le compte connecté. Garder le mot de passe hors de la conversation réduit le risque qu’il apparaisse dans une réponse ou soit partagé par erreur.

Les procédures de connexion avec mot de passe enregistré prises en charge préservent cette séparation grâce à un service chiffré dédié aux identifiants. Le service fournit le mot de passe pour la connexion sans le transmettre au modèle. Les dots peuvent ainsi travailler dans les comptes que vous avez autorisés, tandis que les mots de passe restent hors du contexte du modèle. Ces protections sont propres aux procédures de connexion sécurisée et de connexion avec mot de passe enregistré ; un secret placé séparément dans un message ou un document lisible peut rester visible pour le modèle.

Vous gérez les applications que les dots peuvent utiliser au moyen de vos connexions et autorisations ChatGPT existantes, communes à ChatGPT, ChatGPT Work et Codex. Dans la section Plugins des paramètres, vous pouvez consulter les comptes connectés et modifier ce à quoi les dots pourront accéder à l’avenir. Déconnecter une application met fin à tout nouveau partage d’informations via cette connexion. Toutefois, les informations qu’un dot a déjà acquises restent dans son propre contexte. Ces autorisations régissent l’accès à vos applications ; elles ne prévalent pas sur les exigences de sécurité obligatoires.

Si vous souhaitez que les dots travaillent avec des fichiers ou des outils locaux, vous pouvez aussi connecter votre ordinateur. Cette connexion reste soumise au bac à sable local et aux vérifications d’actions applicables. L’utilisation du microphone ou de la caméra de votre ordinateur nécessite également les autorisations de l’appareil, que vous pouvez choisir d’accorder à ChatGPT.

La vue Activité de l’application de bureau vous permet de suivre et d’orienter le travail en cours. Elle affiche les tâches en cours et déléguées ainsi que leur état. Vous pouvez ajouter du contexte, corriger un malentendu, changer de direction ou demander à un dot de s’arrêter.

Les dots enrichissent leur contexte au fil du temps pour rendre leur aide plus utile. Lorsqu’ils délèguent du travail, les autres agents reçoivent pour consigne de conserver les informations nécessaires à la tâche et d’éviter de retenir des détails sensibles superflus. Chaque dot possède son propre contexte, que vous pouvez réinitialiser à tout moment.

Pour les espaces de travail ChatGPT Business, Enterprise et Edu, nous n’utilisons pas vos données pour entraîner nos modèles par défaut. Pour les offres ChatGPT personnelles, vous décidez si les conversations de vos dots et le travail qu’ils effectuent servent à améliorer nos modèles, grâce au paramètre « Améliorer le modèle pour tous ». Lorsque l’entraînement des modèles est activé, cela peut inclure les actions des dots et les automatisations que vous configurez, après un travail de suppression des éléments permettant de vous identifier. Pour en savoir plus sur l’utilisation de vos données, consultez cet article⁠(ouverture dans une nouvelle fenêtre) de notre centre d’aide.

En parallèle du travail que vous leur confiez, les dots peuvent lancer des tâches de recherche en arrière-plan pour trouver d’autres façons de vous aider, par exemple en repérant un changement dans vos projets de voyage. C’est ce que nous appelons la recherche proactive.

Ces tâches s’exécutent dans l’environnement cloud de chaque dot. Elles utilisent des outils en lecture seule pour recueillir des informations auprès de sources connectées autorisées, puis enregistrent des notes privées pour ce dot. Nous imposons ces limites dans le code : les tâches de recherche ne peuvent pas envoyer directement de messages à d’autres personnes, modifier du contenu dans les applications connectées ni contrôler un navigateur ou un bureau. Les dots peuvent s’appuyer sur les résultats pour décider comment vous aider, mais toute action qui en découle doit respecter les règles et vérifications habituelles.

Nous n’entraînons pas nos modèles directement sur ces fils de recherche en arrière-plan ni sur les notes qu’ils produisent. Un dot peut toutefois recevoir des notes issues de sa tâche de recherche en arrière-plan ou lire des parties de ses fils de recherche. Les informations ainsi intégrées à une conversation ou à une tâche admissible peuvent servir à l’entraînement des modèles, selon vos paramètres. Par exemple, une tâche de recherche en arrière-plan peut recueillir des informations sur plusieurs destinations pour un prochain voyage en Europe. Ce fil de recherche et ses notes ne sont pas directement utilisés pour l’entraînement. Plus tard, lorsque vous demandez à votre dot de vous aider à préparer un voyage à Lisbonne, il peut lire une note sur Lisbonne issue de sa tâche de recherche en arrière-plan. Cette note entre dans le contexte de votre conversation de préparation du voyage et peut alors servir à l’entraînement, selon vos paramètres. Le reste de la recherche en arrière-plan n’est pas utilisé pour l’entraînement, sauf s’il est lui aussi intégré à une conversation ou à une tâche admissible.

Les dots respectent des garde-fous intégrés conçus pour prévenir les préjudices et vous laisser les décisions importantes. Leurs règles de sécurité leur imposent de refuser les demandes nuisibles, notamment les usages malveillants en biologie ou en cybersécurité. Pour les tâches auxquelles ils peuvent contribuer, des règles d’action définissent quand ils peuvent poursuivre, quand ils doivent demander confirmation et quand ils doivent vous rendre la main sur une étape.

Dans ce cadre, les dots peuvent lire les informations auxquelles ils sont autorisés à accéder, les analyser et préparer des brouillons dans vos conversations. Pour envoyer un message ou partager un fichier, ils sont entraînés à demander une autorisation couvrant les informations et le type de destinataire. Plus les données sont sensibles, plus les destinataires doivent être définis précisément. Par exemple, les données de santé exigent toujours que l’utilisateur désigne nommément un destinataire (« partage mes antécédents médicaux avec le Dr Thompson »). Les données personnelles moins sensibles, comme une adresse e-mail ou un numéro de téléphone, exigent par défaut que l’utilisateur précise des catégories de destinataires (« n’importe quelle compagnie aérienne »). L’utilisateur peut élargir davantage les règles applicables aux données personnelles moins sensibles (« partage avec n’importe quel formulaire en ligne ») en créant une règle personnalisée. La section suivante présente cette fonctionnalité plus en détail. Cette autorisation reste liée à vos instructions pour la tâche ; reprendre le travail plus tard ou le déléguer n’en élargit pas la portée.

Les dots peuvent effectuer des achats avec les cartes que vous avez déjà enregistrées sur le site d’un commerçant. Ces achats nécessitent votre approbation.

Certaines actions exigent votre confirmation à chaque fois, notamment la suppression définitive de données, l’installation ou l’exécution de logiciels provenant d’une source non reconnue, ou l’octroi de nouveaux accès sensibles sur le plan de la sécurité. Ces exigences vous permettent d’examiner les changements qui pourraient être difficiles à annuler ou donner un nouvel accès à quelqu’un.

Pour d’autres étapes sensibles, comme changer un mot de passe ou transférer de l’argent entre des comptes financiers, les dots peuvent aider à réaliser la tâche globale, mais doivent vous rendre la main sur ces étapes sensibles.

Les règles personnalisées vous permettent de définir la manière dont les dots vous aident dans le cadre de ces protections intégrées, par exemple en leur demandant de ne jamais envoyer d’e-mails. Vous pouvez aussi donner des consignes propres à une tâche, comme demander à un dot d’informer un collègue de votre absence sans en partager la raison personnelle. Ces instructions continuent de s’appliquer lorsque le dot délègue du travail ou travaille en arrière-plan.

Les dots peuvent vous aider à rédiger des règles personnalisées, mais ils ont besoin de votre approbation pour les modifier. Ces préférences s’inscrivent dans les garde-fous intégrés et ne peuvent supprimer les confirmations obligatoires, les étapes qui doivent vous être confiées ou les exigences fondamentales de sécurité.

Avant que les dots n’effectuent des actions comme envoyer des e-mails ou modifier des fichiers, un système de sécurité distinct, appelé vérification automatique, contrôle les étapes prévues au regard de vos instructions, de vos règles personnalisées et des exigences de sécurité. Pour un e-mail, il vérifie le destinataire et le message afin de repérer une adresse erronée ou des informations que vous ne souhaitiez pas partager.

Si la vérification automatique autorise une étape, le dot qui l’a proposée l’exécute à l’aide de l’outil approprié sur l’ordinateur ou dans l’application, puis utilise le résultat pour poursuivre votre tâche. Il peut s’appuyer sur une approbation que vous avez déjà donnée lorsqu’elle couvre l’action et que les règles n’exigent pas de nouvelle confirmation.

Si la vérification automatique bloque une étape, elle empêche l’exécution de l’action et en indique la raison au dot. Ce dot peut demander des informations supplémentaires ou votre approbation si cela peut lever le blocage, puis soumettre à nouveau l’étape à vérification. Selon la raison du blocage, il peut plutôt essayer une autre solution autorisée, vous rendre la main sur une étape sensible ou s’arrêter. Votre approbation ne peut pas prévaloir sur les exigences fondamentales de sécurité.

Nous maintenons les mécanismes qui imposent la vérification automatique hors des environnements que les dots peuvent modifier, afin qu’ils ne puissent ni modifier ni désactiver une vérification obligatoire. Les étapes ordinaires en lecture seule restent soumises aux autorisations des applications, aux restrictions des outils et aux autres garde-fous, mais n’ont pas besoin de cette vérification supplémentaire.

Confier aux dots du travail dans la durée suppose de savoir comment ils suivront vos instructions et réagiront face à un imprévu. Astra les aide à comprendre votre intention, tandis que les protections entourant leurs données, leurs espaces de travail, leurs identifiants et leurs actions contribuent à limiter les préjudices liés aux erreurs ou aux contenus malveillants. Ensemble, ces garde-fous donnent aux dots la latitude nécessaire pour accomplir un travail utile, tout en réduisant le risque qu’une erreur se transforme en action ou en divulgation indésirable.

Vous choisissez à quoi les dots peuvent se connecter et comment ils vous aident, et vous pouvez suivre leur progression ou les réorienter selon l’évolution de vos besoins. Les approbations et les reprises en main vous laissent les décisions clés. Les dots peuvent toujours commettre des erreurs. Nous continuerons donc à tester et à améliorer leurs protections grâce aux enseignements tirés de leur utilisation réelle. Notre objectif est de vous permettre de confier plus facilement du travail aux dots et de retrouver des avancées utiles à votre retour, avec vos préférences pour guider la tâche et les décisions importantes toujours entre vos mains.

Consultez la fiche système⁠(ouverture dans une nouvelle fenêtre) pour en savoir plus sur nos garde-fous, nos évaluations de sécurité et les limites qui subsistent.

Pour découvrir les fondements de la sécurité de ChatGPT, consultez Sécurité et confidentialité chez OpenAI. Pour en savoir plus sur une protection de sécurité web, consultez Protéger vos données lorsqu’un agent d’IA clique sur un lien.