ҚХР-мен байланысты теріс пайдалану: бақылау және ықпал ету әрекеттері

Бұл кейс алғаш рет OpenAI компаниясының 2025 жылғы қазандағы⁠(жаңа терезеде ашылады) есебінде жарияланған.

ҚХР мемлекеттік органдарымен байланысы бар адамдар ChatGPT‑ті әзірлеу, профильдеу және әкімшілік міндеттерді орындау үшін пайдаланғанға ұқсайды.

Наурызда АҚШ Ғылым және технология саясаты басқармасының АҚШ-тың ЖИ жөніндегі іс-қимыл жоспарына ұсынған пікірімізде айтқанымыздай, ЖИ барынша көп адамға пайда әкелуі үшін адамдарды нақты зияннан қорғауға бағытталған ақылға қонымды ережелер арқылы оны дамытуға мүмкіндік беріп, демократиялық ЖИ құру қажет деп санаймыз. Демократиялық ЖИ деп біз Америка әрдайым жақтап келген демократиялық қағидаттарға сай қалыптасатын ЖИ-ді айтамыз. Бұған авторитарлық режимдердің билігін күшейтіп, азаматтарын бақылау үшін ЖИ құралдарын пайдалануына жол бермеу де кіреді.

Авторитарлық режимдердің ChatGPT мүмкіндіктерін теріс пайдалану әрекеттерін анықтап, тоқтатуға салған инвестицияларымыз адамдарды қазір қорғап қана қоймай, бұл режимдердің болашақ мүмкіндіктерді қалай теріс пайдалануы ықтимал екенін түсінуге де көмектеседі. Бұл бөлімде осындай режимдермен ықтимал байланысы бар адамдарға қатысты, ҚХР-ға баса назар аударылған бірқатар тұжырым қарастырылады.

Маусымда жазғанымыздай, ҚХР ЖИ-дің өзіне тән автократиялық нұсқасын дамытуда айтарлықтай ілгеріледі. Қытай мемлекеттік органдарымен байланысы бар адамдар пайдаланған ChatGPT аккаунттарын бұғаттауымыз осы авторитарлық ортада ЖИ-дің қазіргі кезде қалай қолданылатынын біршама көрсетеді. Бұл қолданыстың кейбір тұстары онлайн немесе офлайн трафикті ауқымды бақылауға бағытталғандай көрінді. Бұл осы саладағы ықтимал авторитарлық теріс пайдалануға ұдайы назар аударудың маңызын көрсетеді. Қолданыстың басқа тұстары адамдарды егжей-тегжейлі профильдеуге бағытталғандай көрінді. Біз осы әрекетке байланысты аккаунттарды бұғаттап, анықталған жайттарды бұл есепте жариялап отырмыз.

Бұл зерттеу біз анықтап, бұғаттаған, ережелерді бұзатын әрекеттердің іріктелген бөлігіне негізделген. Бұл әрекет модельдеріміздің мекемелер ауқымында кеңінен енгізілгенін емес, ChatGPT‑ті жеке пайдаланушылар қолданғанын көрсетті. Сондықтан бұл — осы контексте әртүрлі ЖИ модельдерінің қолданылуын шектеулі түрде ғана көрсететін көрініс.

Біз бұғаттаған кейбір аккаунттар ChatGPT‑ті ауқымды бақылау құралдарын әзірлеу үшін пайдалануға әрекеттенген: олар көбіне Батыс немесе Қытай әлеуметтік медиа платформаларынан жиналған деректер жиынтығын талдаған. Ақпанда біз осындай бір жағдай туралы хабарлаған едік: операторлар Қытайдың қауіпсіздік күштеріне арналған деп мәлімдеген, ЖИ негізіндегі әлеуметтік медианы бақылау құралын жобалау көзделген. Бұл пайдаланушылар әдетте ChatGPT‑тен осындай құралдарды жобалауға немесе олардың жарнамалық материалдарын жасауға көмектесуді сұраған, бірақ бақылауды іске асыруды сұрамаған.

Мысалы, жуырда Қытайдан қызметтерімізге VPN арқылы кіруі мүмкін бір пайдаланушыны бұғаттадық. Ол ChatGPT‑тен мемлекеттік тапсырыс берушіге арналған делінген әлеуметтік медианы бақылау құралының жарнамалық материалдары мен жоба жоспарларын әзірлеуге көмектесуді сұраған. Құрал Twitter/X, Facebook, Instagram, Reddit, TikTok және YouTube платформаларынан пайдаланушы экстремистік сөздер, этностық, діни және саяси контент деп сипаттаған материалдарды іздей алатын әлеуметтік медиа «зонды» (探针) ретінде ұсынылған. Пайдаланушы әлеуметтік медианы іс жүзінде бақылау үшін біздің модельді қолданбаған. Бұл құралды Қытайдың мемлекеттік органы пайдаланғанын тәуелсіз түрде растай алмаймыз.

Сол сияқты, мемлекеттік органмен байланысы болуы ықтимал екінші пайдаланушыны бұғаттадық. Ол ChatGPT‑тен өзі «Ұйғырларға қатысы бар, қаупі жоғары адамдардың келуін алдын ала ескерту моделі» (高危涉维吾尔关注人员流入预警模型) деп сипаттаған жобаға ұсыныс жазуға көмектесуді сұраған. Ұсыныста көлікке жасалған броньдарды талдап, полиция деректерімен салыстыру арқылы «ұйғырларға қатысы бар әрі қаупі жоғары» деп саналған адамдардың сапарлары туралы алдын ала ескерту беретін құрал сипатталған. Алайда бұл санатқа анықтама берілмеген. Пайдаланушы біздің модельден мұндай құрал жасауға емес, тек жалпы ұсыныс әзірлеуге көмектесуді сұраған. Сондықтан оның қандай технологияны пайдаланбақ болғанын немесе мұндай құралды Қытайдың мемлекеттік органы қолданған-қолданбағанын тәуелсіз түрде растай алмаймыз.

Сондай-ақ Қытай мемлекеттік органдарымен байланысы бардай көрінген және ChatGPT‑ті нақты адамдарды нысаналы әрі егжей-тегжейлі профильдеу мен интернеттегі зерттеу үшін пайдалануға тырысқан қолданушыларды бұғаттадық.

Мысалы, бір пайдаланушы ChatGPT‑тен Қытай үкіметін сынаған X аккаунтының қаржыландыру көздерін анықтауды сұраған. Екінші пайдаланушы ChatGPT‑тен Моңғолиядағы петицияны ұйымдастырушыларды анықтауды сұраған. Екі жағдайда да модельдеріміз тек жалпыға қолжетімді ақпаратты ұсынды; онда қаржыландыру көздері немесе петицияны ұйымдастырушылардың жеке басы сияқты құпия мәліметтер болмады.

Бұл әрекеттердің кейбірінде модельдеріміз ашық дереккөздерді зерттеу құралы ретінде қолданылған. Бұрын пайдаланушылар интернеттен немесе әлеуметтік медиадан іздеуді қалай пайдаланса, бұл да соған ұқсайды. Мысалы, үшінші пайдаланушы ChatGPT‑тен Қытайға қатысты күнделікті шұғыл жаңалықтарды, соның ішінде 1989 жылғы Тяньаньмэнь алаңындағы қырғынның жылдығы және Далай-ламаның туған күні сияқты сезімтал тақырыптардағы жаңалықтарды анықтап, қысқаша мазмұндауды сұраған.