Motverkar skadlig användning av AI
Utforska OpenAI:s senaste fallstudier och rapporter om hur vi upptäcker och motverkar skadlig användning av AI.
Upptäck bedrägerier med ChatGPT: Få en andra bedömning när något känns fel
Så fungerar mänsklig granskning
Automatiserade system hjälper till att upptäcka möjliga överträdelser, medan mänskliga granskare har en central roll i att identifiera och stoppa skadlig användning av AI – däribland bedrägerier, skadlig cyberaktivitet, hemliga påverkansoperationer och annat skadligt eller olagligt agerande.
Upptäcka
Identifiera tecken på försök till missbruk i produkter, rapporter och utredningsuppslag.
Utreda
Mänskliga utredare granskar aktivitet, kopplar samman relaterade fall och bedömer beteenden i sitt sammanhang.
Stoppa
Vi vidtar åtgärder mot konton och nätverk som bryter mot våra villkor eller policyer, samtidigt som vi stärker vårt skydd mot liknande missbruk.
Redovisa
När det är lämpligt publicerar vi resultat som kan hjälpa vår bransch och samhället i stort att bättre känna igen och bemöta dessa hot.
Fallstudier
Utforska fallstudier från OpenAI:s utredningar av skadlig AI-användning. Varje fall beskriver vad aktörerna försökte göra, hur de använde AI och hur OpenAI agerade.
Rapporter
Läs källpublikationerna för att få veta mer om varje utredning och hur OpenAI stoppade aktiviteten.