Politique de non-conservation des données pour les modèles de pointe

La politique de non-conservation des données offre aux clients API éligibles une garantie claire : OpenAI ne conserve ni leurs requêtes ni les réponses du modèle après le traitement d’une demande. Le contenu des clients n’est pas accessible au personnel d’OpenAI à des fins d’examen¹, et les données des entreprises clientes ne servent pas à entraîner nos modèles, sauf consentement explicite de leur part.

À mesure que les modèles accomplissent des tâches plus longues et plus complexes, certains risques graves peuvent n’apparaître qu’au fil de plusieurs interactions. Les systèmes de sécurité existants compatibles avec la ZDR évaluent chaque interaction séparément. Aujourd’hui, nous présentons en avant-première le Traitement privé de sécurité, conçu pour repérer des schémas dans plusieurs interactions liées sans donner au personnel d’OpenAI accès au contenu sous-jacent.

Pour les déploiements ZDR, le contenu des clients reste sur une infrastructure qu’ils contrôlent. Nous développons également une option permettant de stocker le contenu sur l’infrastructure d’OpenAI, avec un chiffrement reposant sur des clés contrôlées par le client. Dans les deux cas, des systèmes automatisés peuvent détecter une utilisation abusive potentielle et renvoyer des signaux de sécurité limités sans exposer les requêtes ou réponses sous-jacentes au personnel d’OpenAI.

Les risques les plus graves pour la sécurité de l’IA ne sont pas toujours visibles au cours d’une seule interaction. Souvent, des intentions potentiellement malveillantes ne deviennent claires qu’en examinant plusieurs interactions ensemble. Des risques similaires peuvent survenir lorsque des acteurs malveillants testent continuellement les mesures de protection, se coordonnent entre plusieurs comptes ou dissimulent des menaces sous l’apparence de recherches ordinaires. Des risques peuvent également apparaître au cours d’une tâche agentique, par exemple si un système s’écarte de l’intention de l’utilisateur en continuant à agir après avoir reçu l’ordre de s’arrêter.

À mesure que les systèmes d’IA accomplissent des tâches plus longues et plus complexes, ce contexte élargi devient de plus en plus important pour distinguer les activités légitimes des utilisations abusives et garantir que les agents d’IA restent dans les limites de l’autorité qui leur est conférée.

Certains déploiements récents de modèles de pointe ont obligé les clients à autoriser leur fournisseur d’IA à conserver du contenu sensible à des fins de surveillance de la sécurité. Pour de nombreuses organisations, ces exigences entrent en conflit avec leurs obligations de sécurité ou leurs engagements envers les personnes qu’elles servent.

Le Traitement privé de sécurité est conçu pour nous permettre de continuer à proposer la ZDR.

Le Traitement privé de sécurité s’appuie sur les protections automatisées déjà utilisées dans les déploiements ZDR et d’autres déploiements. Les systèmes de sécurité existants compatibles avec la ZDR évaluent les interactions séparément. Le Traitement privé de sécurité étend ces protections aux interactions liées, ce qui permet aux systèmes automatisés de repérer des schémas sans que le personnel d’OpenAI ait accès au contenu client conservé.

Le Traitement privé de sécurité utilise le contenu des clients quel que soit son lieu de stockage : sur une infrastructure qu’ils contrôlent dans les déploiements ZDR ou dans un stockage fourni par OpenAI. Lorsque le stockage est fourni par OpenAI, le contenu des clients est chiffré à l’aide de clés contrôlées par le client. Le personnel d’OpenAI ne possède aucune copie de ces clés et ne peut donc pas accéder au contenu sous-jacent.

Lorsqu’un risque est détecté, OpenAI reçoit un signal précisément défini qui indique le type d’activité concerné, comme avec nos systèmes de sécurité actuels. Ce signal peut servir à déterminer si des mesures d’application sont nécessaires. Le personnel d’OpenAI n’accède pas au contenu du client, même lorsque celui-ci est signalé.

Les clients peuvent examiner les alertes et les décisions d’application à l’aide des informations disponibles dans leurs propres systèmes. S’ils souhaitent contester une décision, clarifier une activité légitime ou contribuer à une enquête sur un abus avéré, ils peuvent choisir de communiquer les informations pertinentes à OpenAI.

Le Traitement privé de sécurité est actuellement testé auprès de premiers clients. Nous présentons dès maintenant cet aperçu parce que nos clients nous ont clairement indiqué avoir besoin de visibilité sur la protection de leur contenu à mesure que les systèmes d’IA gagnent en capacités.

Notre mission consiste à faire en sorte que l’intelligence artificielle générale profite à toute l’humanité. La collaboration avec nos clients et partenaires est essentielle à la conception de mesures de protection efficaces. Comme l’expliquent clairement nos principes, aucun laboratoire d’IA ne peut faire face seul aux risques émergents. Le Traitement privé de sécurité reflète cette approche et se construit avec des clients de secteurs, de régions et de tailles d’entreprise variés.

Les organisations avec lesquelles nous travaillons traitent certaines des informations les plus sensibles de leur secteur, notamment des documents financiers, des données de santé, des plans d’affaires confidentiels et des recherches exclusives. La protection de ces informations est essentielle pour respecter les obligations réglementaires, maintenir la confiance des clients et préserver leur avantage concurrentiel.

Leurs retours nous aident à renforcer les mesures de protection tout en leur laissant le contrôle de leurs informations.

Nous continuerons à travailler avec nos clients sur les détails techniques et opérationnels de notre approche. Nous prévoyons de commencer à déployer le Traitement privé de sécurité et de publier un livre blanc technique en septembre. Nous tiendrons les clients informés à chaque étape, en communiquant rapidement les nouveautés, en expliquant leur incidence sur les engagements existants et en leur accordant le temps et l’accompagnement nécessaires pour anticiper.