Suzbijanje zlonamjernih upotreba umjetne inteligencije

Istražite najnovije OpenAI-jeve studije slučaja i izvješća o tome kako otkrivamo i suzbijamo zlonamjerne upotrebe umjetne inteligencije.

Istražite slučajeve Pročitajte izvješća

Žuta kartica s mrežastim uzorkom i ljubičastim tekstom „Prepoznavanje prijevara uz ChatGPT”.

Prepoznavanje prijevara uz ChatGPT: drugo mišljenje kada nešto djeluje sumnjivo

Saznajte više

Kako funkcionira ljudski pregled

Automatizirani sustavi pomažu otkriti moguća kršenja pravila, dok ljudski pregledavatelji imaju ključnu ulogu u prepoznavanju i suzbijanju zlonamjernih upotreba umjetne inteligencije, uključujući prijevare, zlonamjerne kibernetičke aktivnosti, prikrivene operacije utjecaja te druga štetna ili nezakonita postupanja.

Otkrivanje

Prepoznajemo znakove pokušaja zloupotrebe u proizvodima, prijavama i istražnim tragovima.

Istraga

Ljudski istražitelji pregledavaju aktivnosti, povezuju povezane slučajeve i procjenjuju ponašanje u njegovu kontekstu.

Suzbijanje

Poduzimamo mjere protiv računa i mreža koji krše naše uvjete ili pravila te istodobno jačamo obranu od sličnih zloupotreba.

Objavljivanje

Kada je to primjereno, objavljujemo saznanja koja našoj industriji i širem društvu mogu pomoći da bolje prepoznaju te prijetnje i odgovore na njih.

Studije slučaja

Istražite studije slučaja iz OpenAI-jevih istraga zlonamjernih upotreba umjetne inteligencije. Svaka studija opisuje što su akteri pokušali, kako su upotrebljavali umjetnu inteligenciju i kako je OpenAI reagirao.

Ometanje nove tajne kampanje utjecaja iz Rusije

Globalna suradnja25. kol 2026.

PREVARA: naslovna slika o kriminalnoj operaciji prijevare.

Suzbijanje kriminalne operacije prijevare iz Kambodže

Sigurnost31. srp 2026.

COVERT IO: slika kartice kampanje „Tehnologija i carine”.

Kampanja „Tehnologija i carine”: utjecanje na američku tehnološku politiku

Sigurnost1. lip 2026.

PRIKRIVENE OPERACIJE UTJECAJA: naslovna slika kampanje „Pomama za podatkovnim centrima”.

Kampanja „Pomama za podatkovnim centrima”: aktivnosti utjecaja usmjerene na SAD

Sigurnost1. lip 2026.

Izvješća

Pročitajte izvorne publikacije kako biste saznali više o svakoj istrazi i o tome kako je OpenAI suzbio te aktivnosti.