Злоупотреба повезана с НР Кином: надзор и активности утицаја

Ова студија случаја првобитно је објављена у извештају компаније OpenAI из октобра 2025.⁠(отвара се у новом прозору)

Појединци који су наизглед повезани са државним органима НР Кине користили су ChatGPT као помоћ у развоју, профилисању и бирократским пословима.

Као што смо навели у мартовском поднеску Канцеларији за научну и технолошку политику поводом Акционог плана САД за вештачку интелигенцију, верујемо да обезбеђивање користи од вештачке интелигенције за што већи број људи подразумева омогућавање њеног развоја кроз разумна правила усмерена на заштиту људи од стварне штете и изградњу демократске вештачке интелигенције. Под демократском вештачком интелигенцијом подразумевамо ону која је обликована демократским начелима за која се Америка одувек залагала. То обухвата спречавање ауторитарних режима да користе алате вештачке интелигенције за гомилање моћи и контролу грађана.

Наша улагања у откривање и ометање покушаја ауторитарних режима да злоупотребе могућности ChatGPT‑а не само да сада штите људе већ пружају и важне увиде у то како би ти режими могли да злоупотребе будуће могућности. У овом одељку разматра се један скуп таквих налаза о појединцима који су можда повезани с таквим режимима, са фокусом на НР Кину.

Као што смо писали у јуну, НР Кина остварује стваран напредак у развоју своје аутократске верзије вештачке интелигенције. Онемогућавање налога на ChatGPT‑у које су користили појединци наизглед повезани с кинеским државним органима донекле расветљава тренутни начин употребе вештачке интелигенције у овом ауторитарном окружењу. Изгледа да су неки видови ове употребе били усмерени на масовно праћење саобраћаја на интернету или ван њега, што наглашава важност наше сталне пажње према могућим ауторитарним злоупотребама у овој области. Други видови ове употребе били су, по свему судећи, усмерени на детаљније профилисање. Забранили смо налоге повезане с овом активношћу и у овом извештају износимо своја сазнања.

Ова студија заснива се на одабраним случајевима активности које крше наша правила, а које смо открили и онемогућили. Та активност одговарала је начину на који појединачни корисници користе ChatGPT, а не масовном институционалном усвајању наших модела. Стога она пружа само ограничен увид у употребу различитих модела вештачке интелигенције у овом контексту.

Изгледа да су неки од налога које смо забранили покушавали да користе ChatGPT за развој алата за масовни надзор: анализу скупова података, често прикупљених са западних или кинеских платформи друштвених мрежа. У фебруару смо известили о једном таквом случају, усмереном на пројектовање алата за праћење друштвених мрежа заснованог на вештачкој интелигенцији, за који су оператери тврдили да је намењен кинеским снагама безбедности. Ови корисници обично су тражили од ChatGPT‑а помоћ у осмишљавању таквих алата или изради промотивног материјала о њима, али не и у спровођењу надзора.

На пример, недавно смо забранили корисника који је можда приступао нашим услугама из Кине преко VPN-а и тражио од ChatGPT‑а помоћ у изради промотивног материјала и пројектних планова за алат за праћење друштвених мрежа, наводно намењен државном клијенту. Алат је описан као „сонда“ (探针) за друштвене мреже која би наводно могла да претражује Twitter/X, Facebook, Instagram, Reddit, TikTok и YouTube у потрази за оним што је корисник описао као екстремистички говор, као и етнички, верски и политички садржај. Корисник није употребио наш модел за стварно праћење друштвених мрежа. Не можемо независно да потврдимо да ли је овај алат користио неки кинески државни орган.

Слично томе, забранили смо и другог корисника, вероватно повезаног с неким државним органом, који је од ChatGPT‑а затражио помоћ у писању предлога за оно што је описао као „Модел за упозоравање на прилив високоризичних лица повезаних са Ујгурима“ (高危涉维吾尔关注人员流入预警模型). У предлогу је описан алат који би анализирао резервације превоза и упоређивао их с полицијским евиденцијама како би благовремено упозоравао на путовања особа сврстаних у неодређену категорију лица повезаних са Ујгурима и високог ризика. Корисник није тражио од нашег модела помоћ у изради таквог алата, већ само општег предлога; стога не можемо независно да потврдимо коју је технологију намеравао да користи нити да ли је такав алат користио неки кинески државни орган.

Забранили смо и кориснике који су наизглед били повезани с кинеским државним органима и покушавали да користе ChatGPT за прилагођено, циљано профилисање и истраживање на интернету.

На пример, један корисник је затражио од ChatGPT‑а да утврди изворе финансирања налога на платформи X који је критиковао кинеску владу. Други корисник је затражио од ChatGPT‑а да утврди ко су организатори петиције у Монголији. У оба случаја наши модели су пружили само јавно доступне информације, које нису обухватале осетљиве податке попут извора финансирања или идентитета организатора петиције.

У делу ових активности наши модели су коришћени као алати за истраживање отворених извора, слично начину на који су ранији корисници могли да претражују интернет или друштвене мреже. На пример, трећи корисник је затражио од ChatGPT‑а да свакодневно проналази и сажима најновије вести значајне за Кину, укључујући осетљиве теме попут годишњице масакра на Тргу Тјенанмен 1989. године и рођендана далај-ламе.