Pang-aabusong kaugnay ng PRC: Pagsubaybay at mga operasyong pang-impluwensiya

Unang inilathala ang case study na ito sa ulat ng OpenAI noong Oktubre 2025⁠(magbubukas sa bagong window).

Mga indibidwal na tila may kaugnayan sa mga entidad ng pamahalaan ng PRC na gumagamit ng ChatGPT upang tumulong sa pagbuo, pag-profile, at mga gawaing burukratiko.

Gaya ng inilahad namin noong Marso sa aming isinumite para sa U.S. AI Action Plan ng Office of Science and Technology Policy, naniniwala kaming upang matiyak na mapakinabangan ng pinakamaraming tao ang AI, dapat bigyang-daan ang AI sa pamamagitan ng mga praktikal na panuntunang naglalayong protektahan ang mga tao laban sa aktuwal na pinsala at bumuo ng demokratikong AI. Ang demokratikong AI ay AI na hinuhubog ng mga demokratikong prinsipyong matagal nang ipinagtatanggol ng Amerika. Kabilang dito ang pagpigil sa mga awtoritaryong rehimen na gamitin ang mga AI tool upang magkamal ng kapangyarihan at kontrolin ang kanilang mga mamamayan.

Ang aming pamumuhunan sa pagtukoy at pagpigil sa mga pagtatangka ng mga awtoritaryong rehimen na abusuhin ang mga kakayahan ng ChatGPT ay hindi lamang nagpoprotekta sa mga tao ngayon, kundi nagbibigay rin ng mahahalagang kaalaman tungkol sa kung paano maaaring abusuhin ng mga rehimeng iyon ang mga kakayahan sa hinaharap. Tinatalakay sa seksiyong ito ang isang pangkat ng mga natuklasang iyon tungkol sa mga indibidwal na posibleng may kaugnayan sa gayong mga rehimen, na nakatuon sa PRC.

Gaya ng isinulat namin noong Hunyo, tunay na sumusulong ang PRC sa pagtataguyod ng awtokratiko nitong bersiyon ng AI. Ang pagpigil namin sa mga ChatGPT account na ginagamit ng mga indibidwal na tila may kaugnayan sa mga entidad ng pamahalaan ng China ay nagbibigay-linaw sa kasalukuyang paggamit ng AI sa awtoritaryong kalagayang ito. Tila layunin ng ilang bahagi ng paggamit na ito na suportahan ang malawakang pagsubaybay sa online o offline na trapiko, na nagpapatunay sa kahalagahan ng patuloy naming pagbabantay sa posibleng pang-aabusong awtoritaryo sa larangang ito. Tila nakatuon naman ang ibang bahagi ng paggamit na ito sa mas masusing pag-profile. Ipinagbawal namin ang mga account na nauugnay sa aktibidad na ito at ibinabahagi namin sa ulat na ito ang aming mga natuklasan.

Nakabatay ang pag-aaral na ito sa ilang mapanlabag na aktibidad na natukoy at pinigil namin. Ipinapakita ng aktibidad na iyon na mga indibidwal na user ang gumagamit ng ChatGPT, sa halip na malawakang gamitin ng mga institusyon ang aming mga modelo. Dahil dito, limitado lamang ang ipinapakita nito tungkol sa paggamit ng iba't ibang modelo ng AI sa kontekstong ito.

Tila sinusubukan ng ilan sa mga account na ipinagbawal namin na gamitin ang ChatGPT upang bumuo ng mga tool para sa malawakang pagsubaybay: pagsusuri ng mga dataset na kadalasang nakalap mula sa mga social media platform sa Kanluran o China. Noong Pebrero, iniulat namin ang isang ganitong kaso na naglalayong magdisenyo ng AI-powered na tool sa pakikinig sa social media na ayon sa mga operator ay para sa mga puwersang panseguridad ng China. Karaniwang hinihiling ng mga user na ito sa ChatGPT na tumulong sa pagdisenyo ng gayong mga tool o gumawa ng mga materyal na pang-promosyon tungkol sa mga ito, ngunit hindi na isagawa ang pagsubaybay.

Halimbawa, kamakailan ay ipinagbawal namin ang isang user na posibleng gumagamit ng VPN upang ma-access ang aming mga serbisyo mula sa China. Humihingi siya ng tulong sa ChatGPT sa pagdisenyo ng mga materyal na pang-promosyon at plano ng proyekto para sa isang tool sa pakikinig sa social media na sinasabing gagamitin ng isang kliyente sa pamahalaan. Inilarawan ang tool bilang isang “probe” (探针) sa social media na diumano'y kayang mag-scan sa Twitter/X, Facebook, Instagram, Reddit, TikTok, at YouTube para sa tinatawag ng user na ekstremistang pananalita at nilalamang etniko, panrelihiyon, at pampolitika. Hindi ginamit ng user ang aming modelo upang aktuwal na subaybayan ang social media. Hindi namin malayang mapatunayan kung ginamit ng isang entidad ng pamahalaan ng China ang tool na ito.

Gayundin, ipinagbawal namin ang pangalawang user na malamang ay konektado sa isang entidad ng pamahalaan. Hiniling niya sa ChatGPT na tumulong sa pagsulat ng panukala para sa tinawag niyang Modelo ng Maagang Babala sa Pagpasok ng mga Taong Mataas ang Panganib at Kaugnay ng Uyghur (高危涉维吾尔关注人员流入预警模型). Inilarawan sa panukala ang isang tool na susuri sa mga booking sa transportasyon at ihahambing ang mga ito sa mga rekord ng pulisya upang makapagbigay ng maagang babala tungkol sa pagbibiyahe ng mga taong inuri bilang kaugnay ng Uyghur at mataas ang panganib—isang kategoryang hindi naman binigyang-kahulugan. Hindi hiniling ng user sa aming modelo na tumulong sa pagbuo ng gayong tool, kundi sa paggawa lamang ng pangkalahatang panukala. Dahil dito, hindi namin malayang matiyak kung anong teknolohiya ang balak niyang gamitin o kung ginamit na ng isang entidad ng pamahalaan ng China ang gayong tool.

Ipinagbawal din namin ang mga user na tila may kaugnayan sa mga entidad ng pamahalaan ng China at tila nagtatangkang gamitin ang ChatGPT para sa mas pasadya at naka-target na pag-profile at online na pananaliksik.

Halimbawa, hiniling ng isang user sa ChatGPT na tukuyin ang mga pinagmumulan ng pondo ng isang X account na bumabatikos sa pamahalaan ng China. Hiniling naman ng pangalawang user sa ChatGPT na tukuyin ang mga tagapag-organisa ng isang petisyon sa Mongolia. Sa dalawang kasong ito, pampublikong impormasyon lamang ang ibinalik ng aming mga modelo, at hindi rito kasama ang sensitibong detalye gaya ng mga pinagmumulan ng pondo o pagkakakilanlan ng mga tagapag-organisa ng petisyon.

Sa ilan sa mga aktibidad na ito, ginamit ang aming mga modelo bilang open-source na tool sa pananaliksik, katulad ng paggamit noon ng ibang mga user sa paghahanap sa internet o social media. Halimbawa, hiniling ng ikatlong user sa ChatGPT na tukuyin at ibuod araw-araw ang mahahalagang bagong balitang may kaugnayan sa China, kabilang ang mga sensitibong paksa gaya ng anibersaryo ng masaker sa Tiananmen Square noong 1989 at kaarawan ng Dalai Lama.