Passer au contenu principal
OpenAI

Lutte contre les usages malveillants de l’IA

Découvrez les dernières études de cas et les derniers rapports d’OpenAI sur la manière dont nous détectons et interrompons les usages malveillants de l’IA.

Carte jaune à motif quadrillé portant en violet le texte « Repérer les arnaques avec ChatGPT ».

Repérer les arnaques avec ChatGPT : un deuxième avis en cas de doute

En savoir plus(ouverture dans une nouvelle fenêtre)

Fonctionnement de l’examen humain

Les systèmes automatisés aident à détecter les infractions potentielles, tandis que les examinateurs humains jouent un rôle essentiel dans l’identification et l’interruption des usages malveillants de l’IA, notamment les arnaques, les activités cybermalveillantes, les opérations d’influence clandestines et d’autres comportements nuisibles ou illégaux.

Détecter

Identifier les signes de tentatives d’usage abusif dans les produits, les signalements et les pistes d’enquête.

Enquêter

Des enquêteurs humains examinent les activités, établissent des liens entre les cas associés et évaluent les comportements dans leur contexte.

Interrompre

Nous intervenons contre les comptes et les réseaux qui enfreignent nos conditions ou nos politiques, tout en renforçant nos défenses contre des abus similaires.

Informer

Lorsque cela est approprié, nous publions des conclusions susceptibles d’aider notre secteur et la société dans son ensemble à mieux reconnaître ces menaces et à y répondre.

Études de cas

Découvrez les études de cas issues des enquêtes d’OpenAI sur les usages malveillants de l’IA. Chaque cas décrit les tentatives des acteurs, leur usage de l’IA et la réponse d’OpenAI.

Rapports