Sari la conținutul principal
OpenAI

1 iunie 2025

Siguranță

Operațiunea „Număr greșit”: fraudă cu sarcini asistată de IA

OpenAI a blocat conturi provenite probabil din Cambodgia, care foloseau IA pentru a sprijini fluxuri de lucru frauduloase ce vizau persoane din Regatul Unit.

Se încarcă…

Acest studiu de caz a fost publicat inițial în raportul OpenAI din iunie 2025⁠(se deschide într-o fereastră nouă).

Autor

Am blocat conturi ChatGPT care generau mesaje scurte de recrutare în engleză, spaniolă, swahili, kinyarwanda, germană și creolă haitiană. Aceste mesaje le ofereau destinatarilor salarii mari pentru sarcini banale, precum aprecierea postărilor de pe rețelele sociale, și îi încurajau să recruteze alte persoane. Operațiunea părea foarte centralizată și provenea probabil din Cambodgia.

Cu ajutorul instrumentelor de traducere bazate pe IA, am putut investiga și opri rapid utilizarea serviciilor OpenAI în cadrul campaniei.

Comportament

Majoritatea solicitărilor rețelei vizau sarcini de traducere. Rețeaua folosea ChatGPT pentru a traduce fraze conversaționale între chineză și alte câteva limbi, în special engleză, spaniolă, kinyarwanda, swahili, germană și creolă haitiană. De regulă, aceste sarcini alternau între traducerea în chineză a unui mesaj primit și traducerea răspunsului din chineză înapoi în limba inițială.

Unele dintre aceste mesaje semănau cu anunțuri de angajare nesolicitate, oferind o remunerație orară mare pentru foarte puțină muncă. Un astfel de mesaj a fost distribuit prin SMS către ceea ce părea a fi un set aleatoriu de numere de telefon mobil din Regatul Unit, dintre care unul îi aparținea unui investigator OpenAI. Am denumit această operațiune „Număr greșit”, după SMS-ul inițial.

SMS trimis unui investigator OpenAI.

SMS trimis aleatoriu unui investigator OpenAI și generat cu ChatGPT.

Autorii amenințării păreau să folosească mai multe platforme de mesagerie. SMS-ul inițial le cerea destinatarilor să continue conversația pe WhatsApp, iar cei care răspundeau erau apoi îndrumați către un „mentor” pe Telegram. În cadrul unor activități era menționată și aplicația de mesagerie BonChat. Primele mesaje introductive trimise prin aceste canale nu păreau să fi fost generate cu modelele noastre. Erau mesaje standard care, probabil, puteau fi folosite în orice conversație.

Mesaj de continuare trimis pe WhatsApp de Operațiunea „Număr greșit”.

Mesaj WhatsApp trimis ulterior SMS-ului. Acest mesaj nu pare să fi fost generat de modelele noastre.

Multe dintre sarcinile de traducere vizau comunicări despre care se pretindea că proveneau de la reprezentanții unor presupuse companii „angajatoare”. Aceleași nume de companii apăreau în mod repetat în numeroase conversații ChatGPT analizate în cadrul acestei investigații. Printre acestea se numărau Hyesung Advertising⁠(se deschide într-o fereastră nouă) și Lightning Shared Scooter Co (LSSC)⁠(se deschide într-o fereastră nouă). Informațiile publice au identificat Hyesung și LSSC drept presupuse scheme frauduloase cu sarcini. Deși nu am verificat independent natura acestor entități, investigația noastră a constatat că mesajele despre care se pretindea că provin de la ele erau generate de utilizatori ChatGPT vorbitori de chineză, care operau probabil din Cambodgia.

Răspunsuri generate

Companiile pe care această rețea pretindea că le reprezintă activau în domenii foarte variate, de la tranzacții bursiere și închirierea de trotinete până la vânzarea de aprecieri pe rețelele sociale. Un semnal clar de alarmă era oferta de a plăti peste 5 USD pentru o singură apreciere pe TikTok. Spre comparație, verificarea noastră manuală a piețelor online a arătat că unii vânzători de aprecieri pentru rețelele sociale cer mai puțin de 10 USD pentru 1.000 de aprecieri.

Combinând indiciile din afara platformei cu observațiile interne, am identificat un tipar recurent al fluxului de lucru. Pentru a facilita înțelegerea acestei tactici și clasificarea sa, descriem tiparul astfel: semnalul (contactarea la rece), scânteia (stârnirea entuziasmului) și capcana (obținerea banilor):

  1. Semnalul (contactarea la rece): rețeaua generează conținut pentru abordări nesolicitate, oferind de obicei salarii neobișnuit de mari pentru foarte puțină muncă sau promițând câștiguri mari din investiții bursiere. Aceste oferte includ remunerații mari pentru sarcini simple, cum ar fi aprecierea postărilor de pe rețelele sociale, sau oportunități profitabile de investiții.

  2. Scânteia (stârnirea entuziasmului): rețeaua traduce conversații, probabil între operator și „angajații” săi. Aceste schimburi includ detalii logistice despre sarcini, dar sunt adesea presărate cu mesaje motivaționale despre câștiguri și posibile bonusuri.

  3. Capcana (obținerea banilor): rețeaua generează și/sau trimite conținut prin care „angajatul” sau „investitorul” este presat să contribuie cu bani pentru a debloca recompense mai mari. Aceasta ia mai multe forme, inclusiv un „depozit” inițial, achiziții de criptomonede și „comisioane de procesare”.

Mesaj de contactare nesolicitată, generat cu ChatGPT și distribuit de Operațiunea „Număr greșit”.

Exemplu de mesaj de contactare nesolicitată, generat cu ChatGPT și distribuit de această rețea. Mesajul a fost trimis simultan către opt numere de telefon, dintre care niciunul nu se afla în lista de contacte a destinatarului. Un destinatar a părăsit imediat grupul.

Mesaj Telegram prin care unei potențiale victime i se cere să cumpere criptomonede.

Mesaj Telegram trimis de rețea unei potențiale victime, prin care i se cere să cumpere criptomonede în valoare de 20 GBP și să le transfere unui comerciant neidentificat.

Informațiile publice⁠(se deschide într-o fereastră nouă) sugerează că unele dintre aceste companii percepeau taxe substanțiale de înscriere de la noii recruți, apoi foloseau o parte din bani pentru a le plăti „angajaților” existenți doar atât cât să-i mențină implicați. Această structură este caracteristică fraudelor cu sarcini⁠(se deschide într-o fereastră nouă).

Impact

Din cauza vizibilității noastre limitate, este dificil să cuantificăm adevărata amploare a acestei rețele. Totuși, relatările din afara platformei⁠(se deschide într-o fereastră nouă) și conversațiile în care „angajații” solicitau rambursări indică faptul că cel puțin unele persoane le-au plătit acestor presupuși angajatori. Am observat și utilizatori reali care apărau companiile pe rețelele sociale, ceea ce sugerează un anumit grad de implicare în lumea reală.