Алдау арқылы жұмысқа орналасу схемасы: IT қызметкерлерінің әрекеттері

Бұл жағдайға талдау OpenAI компаниясының 2025 жылғы маусымдағы⁠(жаңа терезеде ашылады) есебінде алғаш жарияланған.

Біз алдау арқылы жұмысқа орналасуға бағытталған бірнеше күдікті науқанға қатысы бар деп пайымдалған ChatGPT аккаунттарын анықтап, бұғаттадық. Бұл қауіп төндірушілер әлемнің әр жеріндегі IT, бағдарламалық жасақтама әзірлеу және басқа да қашықтан атқарылатын жұмыстарға ықтимал алаяқтық жолмен өтінім беру үшін OpenAI модельдерімен материалдар дайындаған.

Қауіп төндірушілердің орналасқан жерін немесе азаматтығын анықтай алмасақ та, олардың әрекеттері ашық дереккөздерде Солтүстік Кореямен (КХДР) байланыстырылған IT қызметкерлерінің схемаларына⁠(жаңа терезеде ашылады) тән әрекеттерге сәйкес келді. Осы соңғы науқандарға қатысы бар кейбір тұлғаларды КХДР-мен ықтимал байланысы бар қауіп төндірушілердің негізгі тобы өтінім беру тапсырмаларын орындау және жабдықтарды басқару үшін, соның ішінде АҚШ аумағында да, мердігер ретінде жалдаған болуы мүмкін.

Біз әрекеттерін тоқтатып, ақпанда⁠(жаңа терезеде ашылады) жазған қауіп төндірушілер сияқты, соңғы науқандардың қатысушылары да жұмысқа орналасудың әр кезеңінде ЖИ қолдануға тырысқан. Бұған дейін біз олардың ЖИ көмегімен көбіне АҚШ-та тұратын, беделді компанияларда жұмыс істегені туралы жалған мәліметтері бар, шынайы көрінетін тұлғаларды бір-бірлеп ойдан құрастырғанын байқағанбыз. Бұл жолы олар түйіндеме жасауды біршама автоматтандыруға тырысқан. Кейбір белгілер Солтүстік Америкада өздері үшін ноутбуктарды іске қосып отыратын адамдарды жалдаумен қатар, Африкадағы операторлардың жұмысқа үміткер ретінде әрекет еткенін меңзейді.

Біз әрекеттің екі бөлек бағытын анықтадық. Олар операторлардың екі түріне — негізгі операторлар мен мердігерлерге — тән болуы ықтимал.

Негізгі операторлар нақты жұмыс сипаттамаларына, дағды үлгілеріне және ойдан құрастырылған тұлғалардың профильдеріне сүйеніп түйіндеме жасауды автоматтандыруға тырысқан. Сондай-ақ олар жұмысқа өтінімдерді басқару және қадағалау құралдарын жасау туралы ақпарат іздеген. Олар біздің модельдерімізді әлемнің әр өңірінде мердігерлерді жалдауға арналған жұмыс хабарландыруларына ұқсас мәтіндер жасау үшін де қолданған.

Негізгі операторлар ChatGPT арқылы қашықтан жұмыс істеуді ұйымдастыруға қажетті ақпарат жинаған. Олар модельдерімізді АҚШ-тағы нақты адамдарды компания жіберген ноутбуктарды қабылдап алуға тарту туралы мәтіндер жасауға да пайдаланған. Кейін бұл ноутбуктарға негізгі қауіп төндірушілер немесе олардың мердігерлері қашықтан қосылатын болған.

Қауіп төндірушілер өз әрекеттерінде Tailscale пирингтік VPN желісін, OBS Studio бағдарламасын, vdo.ninja арқылы тікелей бейнеағын енгізуді және HDMI бейнесигналын қармау ілмектерін қолдану жолдарын зерттеген. Бұл құралдар корпоративтік қауіпсіздік шараларын айналып өтуге пайдаланылуы мүмкін. Сәтті іске асса, олар жүйеге қашықтан қосылуды ұзақ уақыт байқатпай сақтауға, сондай-ақ тікелей бейнекездесулерге негізделген жеке басты растаудың кейбір рәсімдерін айналып өтуге тырысуға мүмкіндік берер еді.

Ал мердігер болуы ықтимал операторлар ChatGPT көмегімен жұмысқа өтінім беруге байланысты тапсырмаларды орындаған. Олар оны негізгі операторлардан төлемдер мен қашықтан жұмысқа өтінім беру үшін пайдаланылған ойдан құрастырылған тұлғалар туралы сұрайтын хабарламаларға ұқсас мәтіндер жасауға да қолданған.

Біз бұл қауіп төндірушілердің модельдерімізді алдауға бағытталған операция үшін пайдалануға тырысқанын анықтадық. Атап айтқанда, олар нақты талаптарға бейімделген, шынайы көрінетін түйіндемелерді көптеп жасау үшін егжей-тегжейлі промпттарды, нұсқауларды және автоматтандыру циклдерін қолданған.

• Технология саласындағы түрлі жұмыс сипаттамаларына, ойдан құрастырылған тұлғаларға және сала нормаларына сай егжей-тегжейлі түйіндемелер жасауды автоматтандыру: LLM (үлкен тілдік модель) көмегімен әлеуметтік инженерия.

• Жүктеп салынған түйіндемелер негізінде жұмысқа өтінімдегі сұрақтарға жауап беру, бағдарламалау тапсырмаларын орындау және сұхбат сұрақтарына нақты уақытта жауап беру: LLM (үлкен тілдік модель) көмегімен әлеуметтік инженерия.

• Компания берген ноутбуктарды ел ішінде тұрғандай етіп көрсету үшін қашықтан баптау, соның ішінде геолокацияны жасыру және құрылғы қауіпсіздігін айналып өту әдістері туралы нұсқаулық іздеу: LLM (үлкен тілдік модель) көмегімен аномалияларды анықтау жүйелерінен жалтару.

• Тінтуірді автоматты түрде қозғайтын немесе компьютердің ұйқы режиміне өтуіне қашықтан жол бермейтін құралдардың кодын жазуға көмектесу; бұл қашықтан жұмыс істеу инфрақұрылымын құруға арналуы мүмкін: LLM (үлкен тілдік модель) көмегімен әзірлеу.

Бұл операциялардың қаншалықты сәтті болғанын өз бетімізше бағалай алмаймыз, өйткені олардың әсерін бағалау үшін бірнеше мүдделі тараптан мәлімет қажет.

Қауіп төндірушілер тиімділігін арттыру үшін ЖИ-ді өз үдерісінің әр кезеңіне енгізген болуы ықтимал, бірақ бұл олардың әшкерелену қаупін де арттырды. Олардың жұмыс барысын тұтастай байқауымыз осы науқандардың әр кезеңі туралы мәліметтерді саладағы тиісті әріптестермен және құзырлы органдармен бөлісуге мүмкіндік берді. Бұл осындай қауіптерді бірлесе анықтау, олардың алдын алу және оларға қарсы әрекет ету мүмкіндігімізді арттырып, ортақ қауіпсіздігімізді нығайтты.