ՉԺՀ-ի հետ կապված չարաշահումներ․ հսկողության և ազդեցության գործողություններ

Այս դեպքի ուսումնասիրությունն ի սկզբանե հրապարակվել է OpenAI-ի 2025 թ. հոկտեմբերի⁠(բացվում է նոր պատուհանում) զեկույցում։

ՉԺՀ-ի պետական կառույցների հետ առերևույթ կապ ունեցող անձինք ChatGPT‑ն օգտագործել են մշակման, պրոֆիլավորման և վարչարարական գործառույթներում աջակցության համար։

Ինչպես մարտին ԱՄՆ Գիտության և տեխնոլոգիաների քաղաքականության գրասենյակի՝ ԱԲ գործողությունների ծրագրի վերաբերյալ մեր ներկայացրած առաջարկում նշել էինք, մենք համոզված ենք, որ ԱԲ-ն հնարավորինս շատ մարդկանց օգտակար դարձնելու համար անհրաժեշտ է դրա կիրառումը կարգավորել ողջամիտ կանոններով, որոնք մարդկանց պաշտպանում են իրական վնասներից, և կառուցել ժողովրդավարական ԱԲ։ Ժողովրդավարական ԱԲ ասելով՝ նկատի ունենք ԱԲ, որը ձևավորվել է այն ժողովրդավարական սկզբունքներով, որոնք Ամերիկան միշտ պաշտպանել է։ Դա ներառում է նաև կանխել, որ ավտորիտար վարչակարգերն ԱԲ գործիքներն օգտագործեն իշխանություն կուտակելու և իրենց քաղաքացիներին վերահսկելու համար։

ChatGPT‑ի հնարավորությունները չարաշահելու՝ ավտորիտար վարչակարգերի փորձերը հայտնաբերելու և խափանելու ուղղությամբ մեր ներդրումները ոչ միայն այսօր են պաշտպանում մարդկանց, այլև կարևոր պատկերացում են տալիս, թե այդ վարչակարգերն ինչպես կարող են չարաշահել ապագա հնարավորությունները։ Այս բաժնում ներկայացվում են ՉԺՀ-ի վրա կենտրոնացած մի շարք բացահայտումներ՝ նման վարչակարգերի հետ հնարավոր կապ ունեցող անձանց վերաբերյալ։

Ինչպես գրել էինք հունիսին, ՉԺՀ-ն իրական առաջընթաց է գրանցում ԱԲ-ի իր ավտորիտար տարբերակը զարգացնելու գործում։ Չինաստանի պետական կառույցների հետ առերևույթ կապ ունեցող անձանց օգտագործած ChatGPT հաշիվների գործունեության խափանումը որոշակի լույս է սփռում այս ավտորիտար միջավայրում ԱԲ-ի օգտագործման ներկա վիճակի վրա։ Այս օգտագործման որոշ դրսևորումներ, ըստ ամենայնի, նպատակ ունեին աջակցելու առցանց կամ անցանց հաղորդակցության լայնածավալ մշտադիտարկմանը՝ ընդգծելով այս ոլորտում հնարավոր ավտորիտար չարաշահումներին շարունակաբար հետևելու կարևորությունը։ Այս օգտագործման այլ դրսևորումներ, ըստ ամենայնի, ուղղված էին ավելի խորքային պրոֆիլավորմանը։ Մենք արգելափակել ենք այս գործունեության հետ կապված հաշիվները և մեր բացահայտումները ներկայացնում ենք այս զեկույցում։

Այս ուսումնասիրությունը հիմնված է կանոնները խախտող այն գործունեության ընտրված դեպքերի վրա, որոնք մենք հայտնաբերել և արգելափակել ենք։ Այդ գործունեությունը համապատասխանում էր ChatGPT‑ն առանձին օգտատերերի կողմից օգտագործելուն, այլ ոչ թե մեր մոդելների լայնածավալ ինստիտուցիոնալ ներդրմանը։ Ուստի սա տվյալ համատեքստում տարբեր ԱԲ մոդելների օգտագործման սահմանափակ պատկերն է միայն։

Մեր արգելափակած հաշիվներից մի քանիսի օգտատերերը, ըստ ամենայնի, փորձում էին ChatGPT‑ի օգնությամբ մշակել լայնածավալ մշտադիտարկման գործիքներ՝ վերլուծելով տվյալների հավաքածուներ, որոնք հաճախ ստացվել էին արևմտյան կամ չինական սոցիալական հարթակներից։ Փետրվարին մենք հայտնել էինք նման մի դեպքի մասին, որի նպատակն էր նախագծել ԱԲ-ով աշխատող՝ սոցիալական մեդիայի մշտադիտարկման գործիք։ Օպերատորների պնդմամբ՝ այն նախատեսված էր Չինաստանի անվտանգության ուժերի համար։ Այս օգտատերերը սովորաբար ChatGPT‑ից խնդրում էին օգնել նախագծել նման գործիքներ կամ դրանց մասին գովազդային նյութեր պատրաստել, բայց ոչ իրականացնել մշտադիտարկումը։

Օրինակ՝ վերջերս արգելափակեցինք մի օգտատիրոջ, որը, հնարավոր է, Չինաստանից մեր ծառայություններ մուտք գործելու համար VPN էր օգտագործում և ChatGPT‑ից խնդրում էր օգնել պատրաստել սոցիալական մեդիայի մշտադիտարկման գործիքի գովազդային նյութերն ու նախագծային ծրագրերը։ Ենթադրվում էր, որ գործիքը նախատեսված էր պետական պատվիրատուի համար։ Գործիքը ներկայացվել էր որպես սոցիալական մեդիայի «զոնդ» (探针), որն իբր կարող էր Twitter/X-ում, Facebook-ում, Instagram-ում, Reddit-ում, TikTok-ում և YouTube-ում հայտնաբերել այն, ինչ օգտատերը բնութագրել էր որպես ծայրահեղական խոսք, ինչպես նաև էթնիկ, կրոնական ու քաղաքական բովանդակություն։ Օգտատերը մեր մոդելը չի օգտագործել սոցիալական մեդիայի իրական մշտադիտարկումն իրականացնելու համար։ Մենք չենք կարող անկախ աղբյուրներով հաստատել՝ արդյոք այս գործիքն օգտագործվել է Չինաստանի որևէ պետական կառույցի կողմից։

Նմանապես, մենք արգելափակեցինք ևս մեկ օգտատիրոջ, որը, հավանաբար, կապված էր պետական կառույցի հետ և ChatGPT‑ից խնդրել էր օգնել կազմել մի գործիքի առաջարկ, որն անվանել էր «Ույղուրների հետ առնչվող բարձր ռիսկային անձանց ներհոսքի նախազգուշացման մոդել» (高危涉维吾尔关注人员流入预警模型)։ Առաջարկում նկարագրվում էր մի գործիք, որը պետք է վերլուծեր տրանսպորտային ամրագրումները և համեմատեր դրանք ոստիկանության տվյալների հետ՝ նախապես զգուշացնելու «ույղուրների հետ առնչվող և բարձր ռիսկային» դասակարգված անձանց տեղաշարժերի մասին։ Այդ դասակարգումն այլ կերպ սահմանված չէր։ Օգտատերը մեր մոդելից խնդրել էր ոչ թե օգնել ստեղծել նման գործիք, այլ միայն ընդհանուր առաջարկ մշակել։ Ուստի մենք չենք կարող անկախ աղբյուրներով հաստատել, թե նա ինչ տեխնոլոգիա էր մտադիր օգտագործել կամ արդյոք նման գործիքն օգտագործվել է Չինաստանի որևէ պետական կառույցի կողմից։

Մենք նաև արգելափակել ենք Չինաստանի պետական կառույցների հետ առերևույթ կապ ունեցող օգտատերերի, որոնք, ըստ ամենայնի, փորձում էին ChatGPT‑ն օգտագործել ավելի անհատականացված ու թիրախային պրոֆիլավորման և առցանց հետազոտության համար։

Օրինակ՝ օգտատերերից մեկը ChatGPT‑ից խնդրել էր բացահայտել Չինաստանի կառավարությանը քննադատող X հաշվի ֆինանսավորման աղբյուրները։ Մեկ այլ օգտատեր ChatGPT‑ից խնդրել էր պարզել Մոնղոլիայում նախաձեռնված հանրագրի կազմակերպիչների ինքնությունը։ Երկու դեպքում էլ մեր մոդելները տրամադրել են միայն հանրամատչելի տեղեկություններ, որոնք չեն ներառել այնպիսի զգայուն տվյալներ, ինչպիսիք են ֆինանսավորման աղբյուրները կամ հանրագրի կազմակերպիչների ինքնությունը։

Այս գործունեության որոշ դրսևորումների ժամանակ մեր մոդելներն օգտագործվել են որպես բաց աղբյուրներով հետազոտության գործիք, ինչպես նախկինում կարող էին օգտագործվել համացանցային կամ սոցիալական մեդիայի որոնումները։ Օրինակ՝ երրորդ օգտատերը ChatGPT‑ից խնդրել էր ամեն օր գտնել և ամփոփել Չինաստանի համար կարևոր հրատապ նորությունները, այդ թվում՝ այնպիսի զգայուն թեմաների մասին, ինչպիսիք են 1989 թվականին Տյանանմեն հրապարակում տեղի ունեցած սպանդի տարելիցը և Դալայ Լամայի ծննդյան օրը։