Алаяқтық операциялар: интернеттегі алаяқтық желілер

Бұл зерттеу алғаш рет OpenAI-дың 2025 жылғы қазан айындағы⁠(жаңа терезеде ашылады) есебінде жарияланған.

Камбоджа, Мьянма және Нигериядан шыққан болуы ықтимал желілер адамдарды интернетте алдау әрекеттерінде ChatGPT‑ті теріс пайдаланған.

Біз модельдерімізді зиянды мақсатта теріс пайдалану әрекеттерін анықтауға, болдырмауға және тоқтатуға бар күшімізді саламыз. Мұндай теріс пайдалану түрлерінің бірі — алаяқтық. Біз модельдерімізді адамдарды алдап, ақшасын иемдену үшін пайдалануға тырысатын қаскүнемдерді анықтап, бұғаттаймыз. Соңғы үш айда біз Камбоджа, Мьянма және Нигериядан шыққан болуы ықтимал алаяқтық желілердің жұмысын тоқтаттық. ЖИ алаяқтықпен күресуге де көмектесе алады: теріс пайдалану үлгілерін зерттеу барысында көптеген адамның алаяқтықты анықтау үшін модельдерімізді қолданып жүргенін көрдік. Бұл есепте осы екі қолдану жағдайы да қарастырылады.

Модельдерімізді алаяқтыққа жәрдемдесу үшін теріс пайдалану жеке тұлғалардың алдау әрекеттерінен бастап, ұйымдасқан қылмыстық топтармен байланысы болуы ықтимал ауқымды әрі тұрақты операцияларға дейін барады. Шығу тегі мен нақты тәсілдеріне қарамастан, біз тоқтатқан алаяқтық әрекеттер әдетте ортақ үлгіге сай жүреді: алғашқы байланыс (бейтаныс адамға хабарласу), еліктіру (қызығушылық не үрей тудыру) және қармау (ақша не құнды ақпарат алу).

Алаяқтар алдымен ЖИ көмегімен жасалған не басқа контентті хабар алмасу сервистері мен интернетке таратады, соның ішінде әлеуметтік желілерде жарнама береді. Содан кейін жауап берген адамды табысты мүмкіндікке қызықтыруға немесе таяуда болатын қаржылық шығынмен қорқытуға тырысып, сол сезім арқылы одан ақша не құпия ақпарат алуға ұмтылады.

Сондай-ақ модельдеріміздің адамдарды алаяқтықтан қорғауға көмектескен көптеген жағдайын байқадық. Адамдардың интернеттегі алаяқтықты анықтап, одан сақтану үшін ChatGPT‑ті ай сайын миллиондаған рет пайдаланатынын көрсететін деректер бар. Осы есептегі әрбір алаяқтық операциясында модель адамдарға алаяқтықты дұрыс анықтап, тиісті қауіпсіздік шараларын ұсынған. Қазіргі бағалауымыз бойынша, ChatGPT алаяқтық жасауға қарағанда оны анықтау үшін үш есеге дейін жиі қолданылады.

OpenAI зерттеушісінің өзіне келген алаяқтық SMS хабарламасының скриншотын ChatGPT‑ке жүктеп, модель көмегімен оның алаяқтық екенін сәтті анықтаған мысалы. Бұл жолы қаскүнемдер өздерін TikTok рекрутерлері ретінде таныстырған.

Алдыңғы есебімізден бері алаяқтықты анықтау және тоқтату мүмкіндіктерімізді күшейттік. Камбоджа, Мьянма және Нигериядан шыққан болуы ықтимал тағы бірнеше алаяқтық желінің жұмысын тоқтаттық. Бұрынғы шаралармен бірге бұл бұғаттаулар әртүрлі елдердегі бірнеше алаяқтық операцияға ортақ жаңа үрдістерді анықтауға мүмкіндік берді.

Біз тоқтатқан алаяқтық әрекеттердің көбі ЖИ негізінде жаңа тәсілдер жасауға емес, оны бұрыннан бар алаяқтық сценарийлерге қосуға бағытталған. Биыл анықтап, бұғаттаған алаяқтық операциялардың барлығы ЖИ-ді негізінен ауқымды кеңейтіп, тиімділікті арттыратын құрал ретінде пайдаланған. Әдетте олар модельдерімізді мәтін аударуға, хабарламалар жазуға және әлеуметтік желілерге контент жасауға қолданған.

Мысалы, жуырда Камбоджа мен Нигериядан шыққан болуы ықтимал, бірнеше елдегі құрбандарды алдау үшін өздерін «инвестициялық компаниялар» ретінде таныстырған алаяқтық операцияларды бұғаттадық. Алаяқтар жалған компанияларды жарнамалау үшін веб-сайттар мен интернет жарнамаларын жасап, сауда сарапшыларының атын жамылған жалған әлеуметтік желі аккаунттары арқылы адамдарды жеке хабар алмасу топтарына шақырған. Мол әрі тәуекелсіз табыс уәде еткен қаскүнемдер ықтимал құрбандарды жалған сауда платформаларына ақша салуға көндіруге тырысқан. Барлық жағдайда алаяқтар модельдерімізді негізінен хат-хабар құрастыру мен аударуға, веб-сайттары мен әлеуметтік желі аккаунттарына контент жасауға және қарапайым зерттеу жүргізуге пайдаланған.

Тағы бір жағдайда біз Мьянмада орналасқаны анық дерлік алаяқтық орталықты бұғаттадық. Ол модельдерімізді алаяқтық схемаларына контент жасауға да, күнделікті іскерлік міндеттерді орындауға да пайдаланған. Бұған кесте құру, ішкі хабарландырулар әзірлеу, жұмыс үстелдері мен жатақхана орындарын бөлу және қаржылық шоттарды басқару кірген. Кейбір операторлар интернетте алаяқтық жасап ұсталғандарға қандай қылмыстық жаза берілетінін сұраған.

Біз тоқтатқан алаяқтардың бәрі модельдерімізді бірдей тәсілмен немесе бірдей күрделілік деңгейінде пайдаланбаған. Алаяқтардың ChatGPT‑пен әрекеттесуінің көбі аударма сияқты қарапайым міндеттерге қатысты болды, алайда кейбір операциялар анағұрлым ауқымды әрі күрделі еді.

Мысалы, біз тоқтатқан, Камбоджадан шыққан болуы ықтимал бір алаяқтық операция модельдерімізді жалған инвестиция сарапшылары мен жалған сауда компаниялары қызметкерлерінің егжей-тегжейлі өмірбаяндарын жасауға пайдаланған. Содан кейін алаяқтар ChatGPT‑тен әлеуметтік желі хабарламаларын сол кейіпкерлердің атынан жазуды сұраған. Қаскүнемдер нысанаға алған адамдардан келген сияқты көрінетін хабарламаларды модельге жиі енгізіп, әңгімені жалған кейіпкер атынан жалғастыруды сұраған.

Камбоджадан шыққан болуы ықтимал тағы бір алаяқтық операция модельдеріміз арқылы АҚШ телефон нөмірлеріне жаппай жіберілетін бейтаныс адамдарға арналған SMS хабарламаларын жасаудан бастаған. Осындай хабарламалардың бірі маусымда баяндаған жағдайдағыдай OpenAI зерттеушісіне келген. Бұл SMS хабарламаларында атаулары заңды инвестициялық компанияның атауына ұқсайтын WhatsApp топтарына шақырулар болған. Кейін бұл топтар бұғатталды.

OpenAI зерттеушісіне жіберілген WhatsApp хабарламаларына сүйенсек, ықтимал құрбан осы топтардың біріне қосылғанда, инвестиция туралы сөйлескен алты шақты аккаунттың «әңгімесін» бірден көретін болған. Олардың бірі өзін «инвестиция сарапшысы», ал қалғандары тәжірибесі мен сенімділік деңгейі әртүрлі инвесторлар ретінде таныстырған. Бұл әңгіменің әр бөлігін алаяқтар жасап, оны қытай тілінен тұтас бір блок түрінде аударған. Олар осылай белсенді, ынталы әрі табысты трейдерлер тобын көрсетуге тырысқан болуы ықтимал. Ақырында «инвестиция сарапшысы» нысанаға алынған адамға инвестиция жасап көруді ұсынатын.

Бұдан бөлек, Нигериядан шыққаны анық дерлік инвестициялық алаяқтық операция модельден әлеуметтік желі жарнамалары арқылы Латын Америкасындағы ауқатты адамдарға жету, орналасқан жерін жасыру және әлеуметтік желі платформаларының шектеулерін айналып өту жөнінде қадамдық кеңес сұраған. Ол үшін модельге платформаның жалпыға қолжетімді қызмет көрсету шарттары беріліп, ұсынылған жарнама контентінің сол талаптарға сәйкестігін тексеру сұралған.

Алаяқтар, әсіресе ірі алаяқтық орталықтар, оңайлықпен берілмейді. Олар жұмысы тоқтатылғаннан кейін көбіне әрекеттерінің кейбір тұсын өзгертіп, ережені бұзатын қызметін қайта бастауға тырысады. Бұл келесі жолы анықталмау үшін жасалуы ықтимал. Сондықтан олардың өзгеріп отыратын әрекеттері туралы мәліметті бүкіл сала аясында бөлісу маңызды. Мысалы, OpenAI мен Meta қаскүнемдер туралы ақпарат алмасып, ол қосымша тергеу мен шара қолдануға көмектесті.

Бұғаттауларға немесе ЖИ қолданылғанын білдіретін белгілер туралы интернеттегі кең талқылауға жауап ретінде алаяқтар онлайн контент пен құрбандармен хат алмасуда ЖИ пайдаланғанын жасыруға тырысқанын байқадық. Соның ішінде Камбоджадан шыққан болуы ықтимал алаяқтық операциялар модельге жауаптардан ұзын сызықшаларды алып тастауды тапсырған.

Бір жағдайда алаяқтар әлеуметтік желідегі ресурстарының жаппай бұғатталуын ойдан шығарылған сылтаумен түсіндіруге тырысқан. Бұл жоғарыда сипатталған, SMS пен WhatsApp-та жұмыс істеген және Камбоджадан шыққан болуы ықтимал алаяқтық орталыққа қатысты. WhatsApp осы операциямен байланысты «инвестициялық топтарды» бұғаттағаннан кейін, операторлар топтарды бәсекелесі жалған шағым арқылы жаптырды деген хабарламалар жасай бастаған. Бұл бұғаттауды ақтау үшін айтылған болуы ықтимал.

WhatsApp бұғаттауынан кейін Камбоджамен байланысты алаяқтық операцияның OpenAI зерттеушісіне жіберген WhatsApp хабарламасының скриншоты.