Operācija “Viltus liecinieks”: viltus līdzekļu atgūšanas pakalpojuma sniedzēji uzdodas par iestādēm
OpenAI bloķēja kontus, kas, ļoti iespējams, darbojās no Kambodžas un izmantoja MI, lai uzdotos par līdzekļu atgūšanas pakalpojumu sniedzējiem, advokātu birojiem un iestādēm, vēršoties pret krāpniecībā cietušajiem.
Šī gadījuma izpēte sākotnēji tika publicēta OpenAI 2026. gada februāra(atveras jaunā logā) ziņojumā par MI ļaunprātīgas izmantošanas novēršanu.
Darbības veicēji
Mēs bloķējām saistītu ChatGPT kontu grupu, kuru lietotāji izmantoja mūsu modeļus, lai uzdotos par izdomātiem advokātu birojiem, kā arī īstiem advokātiem un ASV tiesībaizsardzības iestādēm. Tā bija krāpnieciska līdzekļu atgūšanas shēma, kas bija vērsta pret krāpniecībā cietušajiem. Šīs darbības, ļoti iespējams, tika veiktas no Kambodžas un atbilst nesen publiskotajām ziņām par ķīniešu vadītām noziedzīgām krāpniecības shēmām šajā valstī.
Rīcība
Šo kontu lietotāji izmantoja ChatGPT krāpnieciskā shēmā, kurā solīja atgūt izkrāptos līdzekļus. Shēmas pamatā bija viltus advokātu biroji un uzdošanās par uzticamām personām un iestādēm, piemēram, īstiem advokātiem un FBI Interneta noziegumu sūdzību centru (IC3).
1. Uzrunāšana: Krāpnieki izmantoja ChatGPT, lai veidotu saturu vismaz sešu viltus advokātu biroju vārdā. Daļa šī satura pēc tam tika publicēta sociālo mediju kontos un tiešsaistes reklāmās, kurās reklamēja neesošus izkrāpto līdzekļu atgūšanas pakalpojumus. Vairākas publiski pieejamos avotos konstatētas pazīmes liecināja, ka biroji ir krāpnieciski: nebija pierādījumu par štata advokātu kolēģijas izsniegtām licencēm, tika izmantoti neatbilstoši tīmekļa domēni, kontaktinformācijā norādītas šķietami neesošas adreses un sniegtas norādes sazināties ar advokātiem ziņapmaiņas lietotnēs.
Krāpnieki izmantoja mūsu modeļus, lai ģenerētu sociālo mediju saturu, kurā reklamēja viltus izkrāpto līdzekļu atgūšanas pakalpojumus.
2. Uzticības iegūšana: Krāpnieki centās iegūt uzrunāto cilvēku uzticību, ģenerējot komentārus, kuros mēģināja atdarināt tādu advokātu toni un profesionālo izteiksmi, kuri specializējas palīdzībā krāpniecības upuriem atgūt zaudētos līdzekļus. Viņi ģenerēja saturu izdomātu advokātu vārdā. Dažas no šīm izdomātajām identitātēm mēs atradām dažādās tīmekļvietnēs, kur to profila attēli acīmredzot bija pārņemti no sociālajiem medijiem vai ģenerēti ar MI. Dažos gadījumos krāpnieks vienas un tās pašas “advokātu” identitātes izmantoja vairākos it kā pastāvošos advokātu birojos. Viena no mūsu atklātajām tīmekļvietnēm uzdevās par IC3 vietni.
Šajās krāpnieciskajās tīmekļvietnēs publicētā kontaktinformācija aicināja apmeklētājus sazināties privātās ziņapmaiņas lietotnēs, piemēram, Telegram. Ar ChatGPT palīdzību sagatavotajās ziņās potenciālajiem upuriem krāpnieki nepatiesi apgalvoja, ka darbojas Starptautiskās Krimināltiesas uzraudzībā, un solīja neiekasēt maksu, kamēr nebūs sekmīgi atgūti visi cietušā līdzekļi.
3. Naudas izkrāpšana: Krāpnieki mēģināja izvilināt naudu no potenciālajiem upuriem, pieprasot maksu un depozītus vēl pirms jebkādas līdzekļu “atgūšanas”. Piemēram, viņi pieprasīja samaksāt 15% “pakalpojuma maksu” pirms it kā atgūto līdzekļu saņemšanas, iemaksāt depozītu konta aktivizēšanai un maksāt “konsultāciju maksu”. Krāpnieku ziņās potenciālajiem upuriem, kas bija sagatavotas ar ChatGPT palīdzību, bija norādījumi veikt maksājumus kriptovalūtā un kā maksājuma pierādījumu nosūtīt darījumu apstiprinājumu ekrānuzņēmumus.
Ar šo krāpniecības shēmu saistīta tīmekļvietne, kas uzdodas par FBI IC3 struktūrvienības vietni. Noklikšķinot uz “Iesniegt sūdzību”, apmeklētāji tika novirzīti uz Telegram kontu ar viltotu identitāti.
Izpilde
Shēmas īstenotāji izmantoja mūsu modeļus vairākos darbības posmos, piemēram, lai ģenerētu reklāmas saturu sociālajiem medijiem un nelūgtas uzrunas ziņas potenciālajiem upuriem. Tomēr visbiežāk krāpnieki izmantoja ChatGPT, lai tulkotu privātās ziņapmaiņas lietotnēs potenciālajiem upuriem sūtītās un no viņiem saņemtās ziņas, tostarp lūdza rakstīt atbildes “amerikāņu angļu valodā” vai advokāta stilā.
Daļa krāpnieku kontu lietotāju izmantoja mūsu modeļus arī maldinošu materiālu izveidei, lai radītu lielāku uzticamību. Tie ietvēra viltotus advokātu reģistrācijas ierakstus un advokātu asociāciju biedru kartes, kā arī viltus konfidencialitātes vienošanās, kuru mērķis bija atturēt upurus no palīdzības meklēšanas citur.
Viltota Ņujorkas štata Advokātu asociācijas biedra karte, kas ģenerēta ar mūsu modeļiem. Daļu informācijas aizklājuši OpenAI izmeklētāji.
Ietekme
Ietekme jāvērtē piesardzīgi, jo viens no galvenajiem pierādījumu avotiem ir pašu krāpnieku ievadītais saturs. Šis saturs liecina, ka krāpnieki no atsevišķiem upuriem, iespējams, izkrāpuši tūkstošiem dolāru, taču mēs nevaram neatkarīgi pārbaudīt šos apgalvojumus. FBI un vismaz viens advokātu birojs, kura vārdā krāpnieki uzdevās, ir publicējuši brīdinājumus par šo krāpniecību. FBI amatpersonas brīdināja, ka shēma ir vērsta pret neaizsargātām sabiedrības grupām, jo īpaši gados vecākiem cilvēkiem, izmantojot krāpniecības upuru emocionālo stāvokli un vēlmi ātri atgūt zaudētos līdzekļus.
OpenAI noteikumi stingri aizliedz izmantot mūsu rīku ģenerēto saturu krāpšanai vai krāpnieciskām shēmām. Mēs esam apņēmušies sadarboties ar citiem nozares uzņēmumiem un iestādēm, lai izprastu, kā MI ietekmē ļaunprātīgu rīcību, un aktīvi apturētu krāpniecību, kurā ļaunprātīgi izmanto mūsu pakalpojumus.