A KNK-hoz köthető visszaélések: megfigyelési és befolyásolási tevékenység

Ez az esettanulmány eredetileg az OpenAI 2025. októberi⁠(új ablakban nyílik meg) jelentésében jelent meg.

A KNK kormányzati szerveihez feltehetően köthető személyek a ChatGPT segítségével végeztek fejlesztési, profilalkotási és bürokratikus feladatokat.

Amint azt márciusban kifejtettük a Tudomány- és Technológiapolitikai Hivatalnak az Egyesült Államok MI-cselekvési tervéhez benyújtott javaslatunkban, úgy véljük, hogy az MI előnyeinek lehető legtöbb emberhez való eljuttatásához észszerű, a tényleges károktól védő szabályokkal kell lehetővé tenni az MI használatát, és demokratikus MI-t kell építeni. Demokratikus MI alatt olyan mesterséges intelligenciát értünk, amelyet az Amerika által mindig is képviselt demokratikus elvek formálnak. Ennek része annak megakadályozása, hogy tekintélyelvű rezsimek MI-eszközökkel növeljék hatalmukat és ellenőrizzék polgáraikat.

A tekintélyelvű rezsimek ChatGPT‑képességekkel való visszaélési kísérleteinek észlelésébe és megakadályozásába fektetett munkánk nemcsak már most védi az embereket, hanem fontos ismeretekkel is szolgál arról, miként élhetnek vissza ezek a rezsimek a jövőbeli képességekkel. Ez a szakasz az ilyen rezsimekhez esetlegesen köthető személyekkel kapcsolatos megállapítások egyik csoportját tárgyalja, a KNK-ra összpontosítva.

Amint júniusban írtuk, a KNK valódi előrelépést tesz az MI tekintélyelvű változatának fejlesztésében. A kínai kormányzati szervekhez feltehetően köthető személyek által használt ChatGPT‑fiókok letiltása némi betekintést enged abba, hogyan használják jelenleg az MI-t ebben a tekintélyelvű környezetben. E felhasználás egyes elemei látszólag az online vagy offline forgalom nagyszabású megfigyelését szolgálták, ami rávilágít arra, hogy továbbra is figyelemmel kell kísérnünk a lehetséges tekintélyelvű visszaéléseket ezen a területen. A felhasználás más elemei látszólag részletesebb profilalkotásra irányultak. Az ehhez a tevékenységhez kapcsolódó fiókokat letiltottuk, megállapításainkat pedig ebben a jelentésben tesszük közzé.

Ez a tanulmány az általunk azonosított és letiltott, szabályzatot sértő tevékenységek elleni intézkedéseink válogatásán alapul. A tevékenység arra utalt, hogy egyéni felhasználók használták a ChatGPT‑t, nem pedig arra, hogy intézményi szinten, széles körben alkalmazták volna modelljeinket. Így ez csupán korlátozott pillanatkép a különböző MI-modellek ilyen célú használatáról.

Az általunk letiltott fiókok némelyikével látszólag arra próbálták használni a ChatGPT‑t, hogy nagyszabású megfigyelésre alkalmas eszközöket fejlesszenek: gyakran nyugati vagy kínai közösségimédia-platformokról gyűjtött adathalmazokat elemezzenek. Februárban beszámoltunk egy ilyen esetről, amelyben egy MI-alapú közösségimédia-figyelő eszközt terveztek; az üzemeltetők állítása szerint a kínai biztonsági erők számára. Ezek a felhasználók jellemzően ilyen eszközök megtervezéséhez vagy a róluk szóló promóciós anyagok elkészítéséhez kértek segítséget a ChatGPT‑től, nem pedig a megfigyelés végrehajtásához.

Nemrég például letiltottunk egy felhasználót, aki valószínűleg VPN-en keresztül, Kínából érte el szolgáltatásainkat, és arra kérte a ChatGPT‑t, hogy segítsen promóciós anyagokat és projektterveket készíteni egy feltehetően kormányzati ügyfélnek szánt közösségimédia-figyelő eszközhöz. Az eszközt közösségimédia-„szondaként” (探针) írták le, amely állítólag képes átvizsgálni a Twitter/X, a Facebook, az Instagram, a Reddit, a TikTok és a YouTube tartalmait a felhasználó által szélsőségesnek nevezett megnyilvánulások, valamint etnikai, vallási és politikai tartalmak után kutatva. A felhasználó nem használta modellünket a közösségi média tényleges megfigyelésére. Nem tudjuk független forrásból ellenőrizni, hogy használta-e ezt az eszközt valamely kínai kormányzati szerv.

Hasonlóképpen letiltottunk egy másik, valószínűleg valamely kormányzati szervhez köthető felhasználót is, aki arra kérte a ChatGPT‑t, hogy segítsen javaslatot írni egy általa „magas kockázatú, ujgurokhoz kapcsolódó személyek beáramlására figyelmeztető modellnek” (高危涉维吾尔关注人员流入预警模型) nevezett rendszerhez. A javaslat egy olyan eszközt ismertetett, amely közlekedési foglalásokat elemezne és vetne össze rendőrségi nyilvántartásokkal, hogy előre jelezze az „ujgurokhoz kapcsolódóként” és magas kockázatúként besorolt személyek utazását; ezt a kategóriát egyébként nem határozták meg. A felhasználó nem egy ilyen eszköz megépítéséhez kért segítséget modellünktől, csupán egy általános javaslat kidolgozásához; ezért nem tudjuk független forrásból megerősíteni, milyen technológiát szándékozott használni, illetve hogy alkalmazott-e ilyen eszközt valamely kínai kormányzati szerv.

Olyan felhasználókat is letiltottunk, akik látszólag kínai kormányzati szervekhez kötődtek, és a ChatGPT‑t személyre szabottabb, célzott profilalkotásra és online kutatásra próbálták használni.

Egy felhasználó például arra kérte a ChatGPT‑t, hogy azonosítsa egy, a kínai kormányt bíráló X-fiók finanszírozási forrásait. Egy másik felhasználó arra kérte a ChatGPT‑t, hogy azonosítsa egy mongóliai petíció szervezőit. Modelljeink mindkét esetben kizárólag nyilvánosan elérhető információkat adtak vissza, amelyek nem tartalmaztak érzékeny részleteket, például finanszírozási forrásokat vagy a petíció szervezőinek személyazonosságát.

E tevékenység során részben nyílt forrású kutatási eszközként használták modelljeinket, hasonlóan ahhoz, ahogyan korábban internetes vagy közösségimédia-kereséseket végezhettek a felhasználók. Egy harmadik felhasználó például arra kérte a ChatGPT‑t, hogy azonosítsa és foglalja össze a Kína szempontjából fontos napi rendkívüli híreket, köztük olyan érzékeny témákat, mint az 1989-es Tienanmen téri mészárlás évfordulója és a dalai láma születésnapja.