Offrir aucune conservation des données pour les modèles de pointe

L’option d’aucune conservation des données offre une promesse claire aux clients API admissibles : OpenAI ne conserve ni leurs requêtes ni les réponses du modèle une fois la requête traitée. Le contenu des clients n’est pas accessible au personnel d’OpenAI à des fins d’examen¹, et les données des entreprises clientes ne servent pas à entraîner nos modèles, sauf si les clients y consentent explicitement.

À mesure que les modèles accomplissent des tâches plus longues et complexes, certains risques graves peuvent ne devenir visibles qu’au fil de plusieurs interactions. Les systèmes de sécurité existants compatibles avec la ZDR évaluent chaque interaction séparément. Aujourd’hui, nous présentons un aperçu du traitement privé de sécurité, conçu pour repérer des tendances dans des interactions connexes sans donner au personnel d’OpenAI accès au contenu sous-jacent.

Dans les déploiements ZDR, le contenu du client demeure sur une infrastructure qu’il contrôle. Nous développons également une option permettant de stocker le contenu sur l’infrastructure d’OpenAI, chiffré au moyen de clés contrôlées par le client. Dans les deux cas, des systèmes automatisés peuvent repérer une utilisation abusive potentielle et transmettre des signaux de sécurité limités sans exposer les requêtes ou réponses sous-jacentes au personnel d’OpenAI.

Les risques les plus graves liés à la sécurité de l’IA ne sont pas toujours visibles dans une seule interaction. Souvent, les intentions potentiellement nuisibles ne deviennent évidentes que lorsque plusieurs interactions sont examinées ensemble. Des risques semblables peuvent survenir lorsque des acteurs malveillants mettent les mesures de protection à l’épreuve de façon répétée, coordonnent leurs activités entre plusieurs comptes ou présentent des menaces comme de la recherche courante. Des risques peuvent aussi apparaître au cours d’une tâche agentique, par exemple si un système se désaligne de l’intention de l’utilisateur en continuant d’agir après avoir reçu l’ordre de s’arrêter.

À mesure que les systèmes d’IA accomplissent des tâches plus longues et complexes, ce contexte élargi devient de plus en plus important pour distinguer les activités légitimes des utilisations abusives et veiller à ce que les agents d’IA respectent les limites de l’autorité qui leur est accordée.

Certains déploiements récents de modèles de pointe ont exigé que les clients autorisent leur fournisseur d’IA à conserver du contenu sensible à des fins de surveillance de la sécurité. Pour de nombreuses organisations, de telles exigences entrent en conflit avec leurs obligations de sécurité ou leurs engagements envers les personnes qu’elles servent.

Le traitement privé de sécurité est conçu pour nous permettre de continuer à offrir la ZDR.

Le traitement privé de sécurité s’appuie sur les protections automatisées déjà utilisées dans les déploiements ZDR et autres. Les systèmes de sécurité existants compatibles avec la ZDR évaluent les interactions séparément. Le traitement privé de sécurité étend ces protections aux interactions connexes, permettant aux systèmes automatisés de repérer des tendances sans que le personnel d’OpenAI ait accès au contenu conservé des clients.

Le traitement privé de sécurité utilise le contenu du client, peu importe où il est stocké, que ce soit dans une infrastructure contrôlée par le client (déploiements ZDR) ou dans un espace de stockage fourni par OpenAI. Avec le stockage fourni par OpenAI, le contenu du client est chiffré au moyen de clés contrôlées par celui-ci. Le personnel d’OpenAI ne possède aucune copie de ces clés et ne peut donc pas accéder au contenu sous-jacent.

Lorsqu’un risque est détecté, OpenAI reçoit un signal étroitement défini indiquant le type d’activité en cause, comme c’est le cas avec nos systèmes de sécurité actuels. Ce signal peut servir à déterminer si des mesures d’application sont nécessaires. Le personnel d’OpenAI n’a pas accès au contenu du client, même lorsque celui-ci est signalé.

Les clients peuvent examiner les alertes et les décisions d’application au moyen des renseignements disponibles dans leurs propres systèmes. S’ils souhaitent faire appel, préciser qu’une activité est légitime ou contribuer à une enquête sur un abus confirmé, ils peuvent choisir de transmettre les renseignements pertinents à OpenAI.

Le traitement privé de sécurité est actuellement mis à l’essai auprès de premiers clients. Nous présentons cet aperçu dès maintenant parce que nos clients nous ont clairement indiqué qu’ils ont besoin de prévisibilité quant à la protection de leur contenu à mesure que les systèmes d’IA gagnent en capacité.

Notre mission consiste à veiller à ce que l’intelligence artificielle générale profite à toute l’humanité. La collaboration avec les clients et les partenaires est essentielle à notre façon de concevoir des mesures de protection efficaces. Comme l’indiquent clairement nos principes, aucun laboratoire d’IA ne peut faire face seul aux risques émergents. Le traitement privé de sécurité reflète cette approche et est façonné par des clients de différents secteurs, régions et tailles d’entreprise.

Les organisations avec lesquelles nous travaillons traitent certains des renseignements les plus sensibles de leur secteur, notamment des dossiers financiers, des données sur la santé, des plans d’affaires confidentiels et des recherches exclusives. La protection de ces renseignements est essentielle pour respecter les obligations réglementaires, maintenir la confiance des clients et préserver leur avantage concurrentiel.

Leurs commentaires nous aident à renforcer nos mesures de protection tout en leur laissant le contrôle de leurs renseignements.

Nous continuerons de collaborer avec nos clients sur les détails techniques et opérationnels de notre approche. Nous prévoyons commencer à déployer le traitement privé de sécurité et publier un livre blanc technique en septembre. Nous tiendrons les clients informés à chaque étape en communiquant rapidement les mises à jour, en expliquant leur incidence sur les engagements existants et en leur donnant le temps et le soutien nécessaires pour planifier la suite.