Abuzuri asociate RPC: activități de supraveghere și influență

Acest studiu de caz a fost publicat inițial în raportul OpenAI din octombrie 2025⁠(se deschide într-o fereastră nouă).

Persoane aparent asociate unor entități guvernamentale din RPC au folosit ChatGPT pentru asistență în activități de dezvoltare, creare de profiluri și îndeplinirea unor sarcini birocratice.

Așa cum am arătat în documentul transmis în martie Biroului pentru Politici Științifice și Tehnologice în cadrul Planului de acțiune al SUA privind IA, considerăm că, pentru ca IA să aducă beneficii unui număr cât mai mare de oameni, trebuie să facilităm dezvoltarea acesteia prin norme de bun-simț care să protejeze oamenii de prejudicii reale și să construim o IA democratică. Prin IA democratică înțelegem o IA modelată de principiile democratice pe care America le-a susținut dintotdeauna. Aceasta presupune inclusiv împiedicarea regimurilor autoritare să folosească instrumente de IA pentru a acumula putere și a-și controla cetățenii.

Investițiile noastre în detectarea și contracararea tentativelor regimurilor autoritare de a abuza de capacitățile ChatGPT nu doar că protejează oamenii în prezent, ci oferă și informații importante despre modul în care aceste regimuri ar putea abuza de capacitățile viitoare. Această secțiune prezintă o serie de astfel de constatări privind persoane care ar putea avea legături cu asemenea regimuri, cu accent pe RPC.

Așa cum am scris în iunie, RPC face progrese reale în dezvoltarea propriei versiuni autocratice a IA. Blocarea de către noi a conturilor ChatGPT folosite de persoane aparent asociate unor entități guvernamentale chineze oferă o perspectivă asupra modului în care este utilizată în prezent IA în acest context autoritar. Unele aspecte ale acestei utilizări păreau să urmărească sprijinirea monitorizării la scară largă a activității online sau offline, subliniind importanța atenției pe care continuăm să o acordăm potențialelor abuzuri autoritare din acest domeniu. Alte aspecte ale acestei utilizări păreau să vizeze crearea unor profiluri mai detaliate. Am blocat conturile asociate acestei activități și prezentăm în acest raport informațiile obținute.

Acest studiu se bazează pe o selecție de activități neconforme pe care le-am identificat, le-am contracarat și le-am blocat. Activitatea respectivă indica folosirea ChatGPT de către utilizatori individuali, nu adoptarea instituțională pe scară largă a modelelor noastre. Prin urmare, aceasta oferă doar o imagine limitată asupra utilizării diferitelor modele de IA în acest context.

Unele dintre conturile pe care le-am blocat păreau să încerce să folosească ChatGPT pentru a dezvolta instrumente de monitorizare la scară largă, prin analizarea unor seturi de date colectate adesea de pe platforme de socializare occidentale sau chineze. În februarie, am raportat un astfel de caz care viza proiectarea unui instrument bazat pe IA pentru monitorizarea rețelelor sociale, despre care operatorii susțineau că era destinat forțelor de securitate chineze. De regulă, acești utilizatori solicitau ajutorul ChatGPT pentru proiectarea unor asemenea instrumente sau generarea de materiale promoționale despre acestea, dar nu și pentru efectuarea monitorizării.

De exemplu, am blocat recent un utilizator care este posibil să fi folosit un VPN pentru a ne accesa serviciile din China și care solicita ajutorul ChatGPT pentru elaborarea materialelor promoționale și a planurilor de proiect pentru un instrument de monitorizare a rețelelor sociale, pretins destinat unui client guvernamental. Instrumentul era descris drept o „sondă” pentru rețelele sociale (探针), despre care se pretindea că poate scana Twitter/X, Facebook, Instagram, Reddit, TikTok și YouTube pentru a identifica ceea ce utilizatorul descria drept discurs extremist și conținut etnic, religios și politic. Utilizatorul nu a folosit modelul nostru pentru a efectua monitorizarea propriu-zisă a rețelelor sociale. Nu putem verifica independent dacă acest instrument a fost folosit de o entitate guvernamentală chineză.

În mod similar, am blocat un al doilea utilizator, probabil asociat unei entități guvernamentale, care a solicitat ajutorul ChatGPT pentru redactarea unei propuneri privind ceea ce acesta numea un Model de avertizare privind afluxul persoanelor cu risc ridicat asociate uigurilor (高危涉维吾尔关注人员流入预警模型). Propunerea descria un instrument care ar analiza rezervările de transport și le-ar compara cu evidențele poliției, pentru a avertiza din timp asupra deplasărilor persoanelor clasificate ca având legături cu uigurii și prezentând un risc ridicat, categorie care nu era definită în alt mod. Utilizatorul nu a solicitat ajutorul modelului nostru pentru construirea unui astfel de instrument, ci doar pentru elaborarea unei propuneri generale; prin urmare, nu putem confirma independent ce tehnologie intenționa să folosească sau dacă un asemenea instrument a fost utilizat de o entitate guvernamentală chineză.

Am blocat și utilizatori care păreau să aibă legături cu entități guvernamentale chineze și să încerce să folosească ChatGPT pentru crearea unor profiluri personalizate și țintite, precum și pentru cercetări online.

De exemplu, un utilizator a solicitat ChatGPT să identifice sursele de finanțare ale unui cont de pe X care critica guvernul chinez. Un al doilea utilizator a solicitat ChatGPT să identifice organizatorii unei petiții din Mongolia. În ambele cazuri, modelele noastre au furnizat doar informații disponibile public, care nu includeau detalii sensibile precum sursele de finanțare sau identitatea organizatorilor petiției.

În cadrul unora dintre aceste activități, modelele noastre au fost folosite ca instrumente de cercetare din surse deschise, într-un mod similar căutărilor pe internet sau pe rețelele sociale efectuate anterior de utilizatori. De exemplu, un al treilea utilizator a solicitat ChatGPT să identifice și să rezume zilnic știrile de ultimă oră relevante pentru China, inclusiv pe teme sensibile precum comemorarea masacrului din Piața Tiananmen din 1989 și ziua de naștere a lui Dalai Lama.