Manualul razei de speranță: activitate probabil originară din China, care viza persoane din SUA

Acest studiu de caz a fost publicat inițial în raportul OpenAI din februarie 2026⁠(se deschide într-o fereastră nouă) privind combaterea utilizărilor rău intenționate ale IA.

Am blocat un grup restrâns de conturi ChatGPT, probabil originare din China, care foloseau modelele noastre pentru a solicita informații despre persoane din SUA, forumuri și amplasarea unor clădiri federale, instrucțiuni privind programe de înlocuire a fețelor și pentru a genera e-mailuri în engleză ce păreau tentative de inginerie socială. Utilizatorii trimiteau solicitări modelelor noastre în limba chineză, erau activi mai ales în timpul programului de lucru din China continentală și foloseau VPN-uri pentru a accesa platforma noastră.

Conturile generau ciorne de e-mailuri care pretindeau că provin de la angajații unei companii cu sediul în Hong Kong, numită „Nimbus Hub Consulting”. Totuși, solicitările adresate modelelor noastre foloseau caractere chinezești simplificate (utilizate de obicei în China continentală), nu tradiționale (utilizate de obicei în Hong Kong), ceea ce sugerează că operatorii se aflau de fapt în China continentală. În plus, un cont a generat un e-mail al cărui expeditor pretindea că reprezintă o organizație de relații publice din Shanghai care promovează schimburile economice și culturale dintre SUA și Shanghai. Pornind de la referirea din numele companiei la „Nimbus”, care înseamnă nor de ploaie sau aureolă, am numit această operațiune „Manualul razei de speranță”.

Conturile generau ciorne de e-mailuri în engleză, adresate unor oficiali americani de la nivel statal sau unor analiști de politici care lucrau în domeniul afacerilor și al finanțelor. Mesajele păreau să îi invite pe destinatari să participe la consultări remunerate, descrise ca interpretarea politicilor și oferirea de consiliere strategică pentru clienții companiei. Utilizatorii cereau ca e-mailurile să fie concise, clare și profesionale, iar subiectele acestora să creeze un sentiment de urgență și să folosească indicii psihologice subtile.

În plus, conturile ChatGPT foloseau modelele noastre pentru căutări de informații generale, la care modelul nostru răspundea pe baza unor surse publice. Acestea includeau întrebări despre următoarele subiecte:

• Amplasarea birourilor guvernului federal al SUA, inclusiv a sediilor principale, și un clasament al statelor cu o concentrație mare de agenții și funcționari federali.

• Distribuția personalului federal al SUA pe state.

• Persoane din SUA, precum prezentatori ai postului Vocea Americii, inclusiv interviurile lor anterioare și subiectele de interes.

• Forumuri și site-uri folosite frecvent de profesioniști și de persoanele care caută un loc de muncă în domeniul economic și financiar din SUA.

De remarcat că un cont a solicitat instrucțiuni pentru descărcarea și instalarea pe computer a FaceFusion, o platformă de manipulare a fețelor, folosită pentru înlocuirea acestora și alte îmbunătățiri ale conținutului media. În activitatea sa pe ChatGPT, utilizatorul și-a exprimat intenția de a folosi în mod special funcția de înlocuire a fețelor în timp real. A cerut îndrumări de instalare pas cu pas, fără termeni tehnici, susținând că este începător în programare și că instrucțiunile trebuie, așadar, să fie simple. A încărcat o captură de ecran cu specificațiile hardware ale computerului său pentru a facilita instalarea. Modelul a răspuns cu informații preluate de pe site-ul public FaceFusion și din documentația sa disponibilă public.

Instrucțiunile lor de generare a ciornelor de e-mailuri cu modelele noastre semănau mai degrabă cu un ghid de tactici⁠(se deschide într-o fereastră nouă) de inginerie socială pentru abordări din partea unui serviciu de informații străin decât cu mesaje obișnuite de recrutare. Pentru fiecare ciornă de e-mail, au solicitat următoarele secțiuni:

Crearea unei aparențe de legitimitate: Prezentau „Nimbus Hub” drept o firmă profesionistă de consultanță strategică, cu expertiză solidă în geopolitică și politici transnaționale. Includeau un link către site-ul Nimbus Hub (vezi captura de ecran de mai jos).

Personalizarea mesajului și flatarea persoanei vizate: Îi cereau modelului să menționeze explicit experiența destinatarului în sectorul public ca dovadă că acesta era persoana ideală pentru rol. Într-un caz, utilizatorul unui cont a încărcat capturi de ecran ale profilului LinkedIn al unui american stabilit în Shanghai și i-a cerut modelului să personalizeze ciorna e-mailului pe baza textului din capturi despre experiențele personale și parcursul persoanei respective.

Cumularea stimulentelor: Oferta de consultanță era prezentată de obicei ca o oportunitate tentantă, bine plătită, de a lucra online, cu bonusuri de performanță și recompense pentru recomandări, dar fără detalii clare despre activitatea propriu-zisă.

Folosirea unui limbaj liniștitor și reducerea riscurilor percepute: Susțineau adesea că munca era relaxantă, plățile erau făcute la timp, iar activitatea era confidențială.

Mutarea rapidă a comunicării în afara platformei: Încercau întotdeauna să îi convingă pe destinatari să renunțe la e-mail și să participe la o primă videoconferință prin WhatsApp, Zoom sau Teams.

În acest caz, interacțiunile rețelelor cu modelele nu au fost sofisticate din punct de vedere tehnic, iar solicitările lor păreau uneori cereri plauzibile de redactare a unor invitații de recrutare sau de instalare legitimă a unor programe. Totuși, tacticile utilizatorilor de a se ascunde în spatele unei identități corporative false și interesul lor pentru subiecte geopolitice indică o posibilă intenție de recrutare în scopuri ostile.

Utilizarea ChatGPT de către aceste conturi nu a oferit dovezi că persoanele vizate ar fi răspuns invitațiilor. Nu am putut stabili independent dacă invitațiile prin e-mail au fost efectiv trimise sau dacă vreunul dintre destinatarii vizați a răspuns.

Guvernele mai multor țări democratice (de exemplu, SUA⁠(se deschide într-o fereastră nouă), Regatul Unit⁠(se deschide într-o fereastră nouă), Australia⁠(se deschide într-o fereastră nouă)) au avertizat că serviciile de informații străine vizează actuali și foști angajați guvernamentali în vederea recrutării, dându-se drept firme de consultanță și alte entități pe rețelele sociale și profesionale. Poate fi dificil să deosebești mesajele obișnuite de recrutare de aceste abordări țintite de inginerie socială, deoarece au unele trăsături comune. Totuși, mesajele legitime sunt de obicei concepute pentru procese de selecție mai lente și conțin informații verificabile despre denumirea postului, detalii credibile despre angajator, intervale de remunerare rezonabile în raport cu piața și linkuri către anunțuri de angajare reale. Pe scurt, dacă pare prea frumos ca să fie adevărat, probabil că așa și este.