Hiina RV-ga seotud väärkasutus: järelevalve- ja mõjutustegevus

See juhtumiuuring avaldati algselt OpenAI 2025. aasta oktoobri⁠(avaneb uues aknas) aruandes.

Isikud, kes on nähtavasti seotud Hiina RV valitsusasutustega ning kasutavad ChatGPT‑d arendus-, profiilianalüüsi- ja haldusülesannete täitmiseks.

Nagu märkisime märtsis USA teadus- ja tehnoloogiapoliitika büroole esitatud seisukohas USA tehisintellekti tegevuskava kohta, tähendab tehisintellektist võimalikult paljudele kasu tagamine meie arvates selle arengu võimaldamist mõistlike reeglitega, mille eesmärk on kaitsta inimesi tegeliku kahju eest, ning demokraatliku tehisintellekti loomist. Demokraatliku tehisintellekti all peame silmas tehisintellekti, mida kujundavad demokraatlikud põhimõtted, mida Ameerika on alati kaitsnud. See hõlmab takistamist, et autoritaarsed režiimid ei saaks kasutada tehisintellekti tööriistu võimu koondamiseks ja oma kodanike kontrollimiseks.

Investeeringud autoritaarsete režiimide ChatGPT võimaluste kuritarvitamise katsete tuvastamisse ja tõkestamisse ei kaitse inimesi üksnes praegu, vaid annavad ka olulist teavet selle kohta, kuidas need režiimid võivad tulevasi võimalusi kuritarvitada. Selles jaotises käsitletakse üht osa sellistest leidudest, mis puudutavad võimalikke seoseid selliste režiimidega, keskendudes Hiina RV-le.

Nagu juunis kirjutasime, teeb Hiina RV oma autokraatliku tehisintellektiversiooni arendamisel märkimisväärseid edusamme. Hiina valitsusasutustega nähtavasti seotud isikute kasutatud ChatGPT kontode tegevuse tõkestamine heidab valgust tehisintellekti praegusele kasutusele selles autoritaarses keskkonnas. Osa sellest kasutusest näis olevat suunatud veebis või väljaspool veebi toimuva liikluse ulatusliku jälgimise toetamisele, mis rõhutab vajadust pöörata jätkuvalt tähelepanu võimalikule autoritaarsele väärkasutusele selles valdkonnas. Muud kasutusviisid näisid olevat suunatud põhjalikumale profiilianalüüsile. Blokeerisime selle tegevusega seotud kontod ja jagame aruandes oma tähelepanekuid.

Uuring põhineb valikul meie tuvastatud ja blokeeritud reegleid rikkuvatest tegevustest, mille tõkestasime. See tegevus vastas pigem ChatGPT kasutamisele üksikisikute poolt kui meie mudelite ulatuslikule institutsionaalsele kasutuselevõtule. Seetõttu annab see vaid piiratud ülevaate eri tehisintellektimudelite kasutamisest selles kontekstis.

Mõne meie blokeeritud konto kaudu püüti nähtavasti kasutada ChatGPT‑d ulatusliku jälgimise tööriistade arendamiseks: analüüsida andmestikke, mis olid sageli kogutud lääne või Hiina sotsiaalmeediaplatvormidelt. Veebruaris teatasime ühest sellisest juhtumist, mille eesmärk oli kavandada tehisintellektil põhinev sotsiaalmeedia seire tööriist, mis oli käitajate väitel mõeldud Hiina julgeolekujõududele. Need kasutajad palusid ChatGPT‑l tavaliselt aidata selliseid tööriistu kavandada või koostada nende kohta reklaammaterjale, kuid mitte jälgimist ellu viia.

Näiteks blokeerisime hiljuti kasutaja, kes võis kasutada meie teenustele Hiinast juurdepääsuks VPN-i ja palus ChatGPT‑l aidata koostada väidetavalt valitsusasutusest kliendile mõeldud sotsiaalmeedia seire tööriista reklaammaterjale ja projektiplaane. Tööriista kirjeldati sotsiaalmeedia „sondina“ (探针), mis suutvat skannida Twitterit/X-i, Facebooki, Instagrami, Redditit, TikToki ja YouTube'i, et leida kasutaja sõnul äärmuslikke avaldusi ning etnilise, usulise ja poliitilise sisuga materjale. Kasutaja ei rakendanud meie mudelit sotsiaalmeedia tegelikuks jälgimiseks. Me ei saa sõltumatult kontrollida, kas mõni Hiina valitsusasutus on seda tööriista kasutanud.

Samuti blokeerisime teise, tõenäoliselt mõne valitsusasutusega seotud kasutaja, kes palus ChatGPT‑l aidata koostada ettepanekut tööriista kohta, mida ta nimetas suure riskiga uiguuridega seotud isikute saabumise eelhoiatuse mudeliks (高危涉维吾尔关注人员流入预警模型). Ettepanekus kirjeldati tööriista, mis analüüsiks transpordibroneeringuid ja võrdleks neid politsei andmetega, et anda varakult teada uiguuridega seotud ja suure riskiga isikute reisidest; seda kategooriat muul viisil ei määratletud. Kasutaja ei palunud meie mudelil aidata sellist tööriista luua, vaid üksnes üldise ettepaneku koostada. Seetõttu ei saa me sõltumatult kinnitada, millist tehnoloogiat kavatseti kasutada või kas mõni Hiina valitsusasutus on sellist tööriista kasutanud.

Blokeerisime ka kasutajaid, kes näisid olevat seotud Hiina valitsusasutustega ja püüdvat kasutada ChatGPT‑d konkreetsete isikute täpsemaks profiilianalüüsiks ja veebipõhiseks uurimistööks.

Näiteks palus üks kasutaja ChatGPT‑l tuvastada Hiina valitsust kritiseerinud X-i konto rahastamisallikad. Teine kasutaja palus ChatGPT‑l tuvastada Mongoolias korraldatud petitsiooni eestvedajad. Mõlemal juhul andsid meie mudelid vastuseks üksnes avalikult kättesaadavat teavet, mis ei sisaldanud tundlikke üksikasju, nagu rahastamisallikad või petitsiooni eestvedajate isikud.

Mõnes sellises tegevuses kasutati meie mudeleid avalikest allikatest teabe otsimise tööriistana, umbes nii, nagu varem oleks kasutatud interneti- või sotsiaalmeediaotsingut. Näiteks palus kolmas kasutaja ChatGPT‑l leida ja kokku võtta igapäevaseid Hiina jaoks olulisi värskeid uudiseid, sealhulgas tundlikel teemadel, nagu 1989. aasta Tian'anmeni väljaku veresauna aastapäev ja dalai-laama sünnipäev.