Keqpërdorim i lidhur me RPK-në: veprimtari mbikëqyrjeje dhe ndikimi

Ky studim rasti u botua fillimisht në raportin e OpenAI të tetorit 2025⁠(hapet në një dritare të re).

Individë, me sa duket të lidhur me institucione qeveritare të RPK-së, që përdornin ChatGPT për t’i ndihmuar në zhvillim, profilizim dhe funksione burokratike.

Siç parashtruam në mars në kontributin tonë për Planin e Veprimit të SHBA-së për IA të Zyrës së Politikave të Shkencës dhe Teknologjisë, besojmë se, për t’u siguruar që IA të jetë në dobi të sa më shumë njerëzve, duhet të mundësojmë përdorimin e saj përmes rregullave të arsyeshme që synojnë t’i mbrojnë njerëzit nga dëmet reale, si edhe të ndërtojmë IA demokratike. Me IA demokratike nënkuptojmë IA të formësuar nga parimet demokratike që Amerika ka mbrojtur gjithmonë. Kjo përfshin pengimin e regjimeve autoritare që t’i përdorin mjetet e IA-së për të grumbulluar pushtet dhe për të kontrolluar qytetarët e tyre.

Investimet tona për zbulimin dhe pengimin e përpjekjeve të regjimeve autoritare për të keqpërdorur aftësitë e ChatGPT jo vetëm që mbrojnë njerëzit sot, por ofrojnë edhe njohuri të rëndësishme se si këto regjime mund t’i keqpërdorin aftësitë e ardhshme. Ky seksion shqyrton një grup gjetjesh të tilla për individë që mund të kenë lidhje me këto regjime, duke u përqendruar te RPK-ja.

Siç shkruam në qershor, RPK-ja po bën përparim të ndjeshëm në zhvillimin e versionit të saj autokratik të IA-së. Bllokimi nga ana jonë i llogarive të ChatGPT të përdorura nga individë, me sa duket të lidhur me institucione të qeverisë kineze, hedh dritë mbi gjendjen aktuale të përdorimit të IA-së në këtë mjedis autoritar. Disa elemente të këtij përdorimi dukeshin se synonin të mbështetnin monitorimin në shkallë të gjerë të trafikut në internet ose jashtë tij, duke theksuar rëndësinë e vëmendjes sonë të vazhdueshme ndaj keqpërdorimeve të mundshme autoritare në këtë fushë. Elemente të tjera të këtij përdorimi dukeshin se synonin profilizim më të thelluar. Ne i bllokuam llogaritë e lidhura me këtë veprimtari dhe po ndajmë gjetjet tona në këtë raport.

Ky studim bazohet në një përzgjedhje rastesh të veprimtarisë shkelëse që zbuluam dhe penguam. Kjo veprimtari përputhej me përdorimin e ChatGPT nga përdorues individualë dhe jo me adoptimin institucional në shkallë të gjerë të modeleve tona. Prandaj, ajo paraqet vetëm një tablo të kufizuar të përdorimit të modeleve të ndryshme të IA-së në këtë kontekst.

Disa nga llogaritë që bllokuam dukej se po përpiqeshin të përdornin ChatGPT për të zhvilluar mjete monitorimi në shkallë të gjerë: për të analizuar grupe të dhënash, shpesh të mbledhura nga platformat perëndimore ose kineze të mediave sociale. Në shkurt raportuam për një rast të tillë, që synonte projektimin e një mjeti për monitorimin e mediave sociale të mundësuar nga IA, për të cilin operatorët pretendonin se ishte destinuar për forcat kineze të sigurisë. Këta përdorues zakonisht i kërkonin ChatGPT t’i ndihmonte të projektonin mjete të tilla ose të krijonin materiale promovuese për to, por jo të kryenin monitorimin.

Për shembull, së fundmi bllokuam një përdorues, i cili mund të përdorte VPN për të hyrë në shërbimet tona nga Kina dhe që i kërkonte ChatGPT ta ndihmonte të hartonte materiale promovuese dhe plane projekti për një mjet monitorimi të mediave sociale, që pretendohej se do të përdorej nga një klient qeveritar. Mjeti përshkruhej si një “sondë” (探针) e mediave sociale, që pretendohej se mund të skanonte Twitter/X, Facebook, Instagram, Reddit, TikTok dhe YouTube për ato që përdoruesi i përshkruante si gjuhë ekstremiste dhe përmbajtje etnike, fetare e politike. Përdoruesi nuk e përdori modelin tonë për të kryer monitorimin faktik të mediave sociale. Nuk jemi në gjendje të verifikojmë në mënyrë të pavarur nëse ky mjet është përdorur nga ndonjë institucion i qeverisë kineze.

Në mënyrë të ngjashme, bllokuam një përdorues të dytë, me gjasë të lidhur me një institucion qeveritar, i cili i kërkoi ChatGPT ta ndihmonte të hartonte një propozim për atë që e përshkroi si Model Paralajmërimi për Hyrjen e Personave me Rrezik të Lartë të Lidhur me Ujgurët (高危涉维吾尔关注人员流入预警模型). Propozimi përshkruante një mjet që do të analizonte rezervimet e udhëtimeve dhe do t’i krahasonte me të dhënat e policisë, për të paralajmëruar herët për lëvizjet e personave të klasifikuar si të lidhur me ujgurët dhe me rrezik të lartë, një kategori që nuk përkufizohej më tej. Përdoruesi nuk i kërkoi modelit tonë ta ndihmonte të ndërtonte një mjet të tillë, por vetëm të hartonte një propozim të përgjithshëm; prandaj, nuk mund të konfirmojmë në mënyrë të pavarur se çfarë teknologjie synonte të përdorte ose nëse një mjet i tillë është përdorur nga ndonjë institucion i qeverisë kineze.

Bllokuam gjithashtu përdorues që dukej se kishin lidhje me institucione të qeverisë kineze dhe që dukej se po përpiqeshin ta përdornin ChatGPT për profilizim më të personalizuar e të synuar dhe për kërkime në internet.

Për shembull, një përdorues i kërkoi ChatGPT të identifikonte burimet e financimit të një llogarie në X që kritikonte qeverinë kineze. Një përdorues i dytë i kërkoi ChatGPT të identifikonte organizatorët e një peticioni në Mongoli. Në të dyja rastet, modelet tona dhanë vetëm informacione të disponueshme publikisht, të cilat nuk përfshinin hollësi sensitive, si burimet e financimit ose identitetet e organizatorëve të peticionit.

Në një pjesë të kësaj veprimtarie, modelet tona u përdorën si mjete kërkimi me burime të hapura, ngjashëm me mënyrën se si përdoruesit e mëparshëm mund të kishin përdorur kërkimet në internet ose në mediat sociale. Për shembull, një përdorues i tretë i kërkoi ChatGPT të identifikonte dhe të përmblidhte çdo ditë lajmet më të fundit me rëndësi për Kinën, përfshirë tema sensitive si përvjetori i masakrës së Sheshit Tiananmen në vitin 1989 dhe ditëlindja e Dalai Lamës.