Сезімге негізделген алаяқтық: ЖИ көмегімен іске асатын схемалар

Бұл оқиғаның талдауы алғаш рет OpenAI ұйымының 2026 жылғы ақпанда⁠(жаңа терезеде ашылады) жарияланған ЖИ-ді зиянды мақсатта пайдалануға тосқауыл қою туралы есебінде жарық көрді.

Бір жыл бұрын⁠(жаңа терезеде ашылады) модельдерімізді теріс пайдалануға ұмтылған алаяқтық желілеріне тосқауыл қою жұмысымыз туралы есеп бере бастағалы бері әлемнің әр түкпіріндегі көптеген алаяқтық әрекеттерді тоқтаттық. Олардың арасында қарапайым тапсырмалар үшін уәде етілген, бірақ шын мәнінде жоқ табысты алу үшін ақша салуға көндіретін «тапсырма» алаяқтығы да, жоқ инвестициялық компанияларға ақша салуға итермелейтін инвестициялық алаяқтық та болды.

ЖИ пайда болғанға дейін де кең тараған түрлердің бірі — сезімге негізделген алаяқтық. Мұнда алаяқтар танысып, қарым-қатынас құрғысы келетін адам кейпіне еніп, нысанаға алған адамын өз сыңарын тапқанына сендіруге тырысады, содан кейін одан барған сайын көбірек ақша сұрайды. Алаяқтыққа тосқауыл қою туралы алғашқы жарияланымымыз Камбоджада жаңадан құрылған қылмыстық топқа арналды. Ол сезімге негізделген алаяқтық үшін ChatGPT көмегімен хабарламалар жазып, олардың бір бөлігін әлеуметтік желілерде таратқан. Содан бері сезімге негізделген алаяқтықтың түрлі әрекеттеріне тосқауыл қойдық. Маусымда⁠(жаңа терезеде ашылады) жазғанымыздай, осы және басқа алаяқтық түрлерінде ЖИ әдетте ортақ үлгі бойынша қолданылады. Біз оны үш кезеңге бөлеміз: байланыс орнату (бейтаныс адамға хабарласу), сезімге әсер ету (эмоция туғызу) және ақша алу.

Байланыс орнату (бейтаныс адамға хабарласу): алаяқ ықтимал құрбанның қызығушылықтарына сай келетін, оның назарын аударуға арналған контент жасайды. Мысалы, былтыр біз хабарлаған «шошқаны бордақылап сою» алаяқтығы көбіне жасы қырықтардағы, медицина саласында жұмыс істейтін америкалық ерлерді нысанаға алып, олардың әлеуметтік желілердегі гольф туралы жазбаларына жауап берген. Басқа топтар бейтаныс адамдарға SMS, жалған жұмысқа шақыру хабарламаларын жіберген немесе біз анықтаған ең соңғы сезімге негізделген алаяқтық оқиғасындағыдай (төменде сипатталған) әлеуметтік желілерде жарнама таратқан. Барлық жағдайда қаскөйлер ChatGPT көмегімен дәстүрлі алаяқтық хабарламаларға қарағанда тартымдырақ әрі өзге тілді адам жазғаны онша байқалмайтын мәтіндер жасауға тырысқан.

Сезімге әсер ету (эмоция туғызу): алаяқ нысанаға алған адамда күшті эмоциялар туғызып, оны өз дегеніне көндіруді жеңілдетуге арналған контент жасайды. Сезімге негізделген алаяқтықта нысанаға алынған адамның алаяққа көңілі аууына күш салынады. Басқа алаяқтық түрлерінде адамды мол пайда әкелетіндей көрінетін мәмілемен еліктіруі, мүмкіндіктен айырылып қаламын деп қорқытуы немесе заңға қатысты жалған қауіппен не төленбеген шотпен алаңдатуы мүмкін. Кейде байланыс орнататын алғашқы хабарламаның өзі сезімге де әсер етуі мүмкін.

Ақша алу: алаяқ нысанаға алған адамды ақша беруге көндіретін контент жасайды. Бұған келтірілетін себептер сан алуан болуы мүмкін. Мысалы, сезімге негізделген алаяқтықта құрбаннан сүйіктісінің бизнесіне инвестиция салу немесе қаржылық қиындықтан шығуына көмектесу үшін ақша беру сұралуы мүмкін. «Тапсырма» алаяқтығында адамдарға өздері таптым деп ойлайтын (шын мәнінде жоқ) ақшаны алу үшін алдымен ақша салу керектігі айтылады. Инвестициялық алаяқтықта нысанаға алынған адамдарға жоқ инвестициялық жобаларға ақша салу ұсынылады.

Бұл кезеңдерден көрініп тұрғандай, алаяқтықтың маңызды құрамдасы — хабарламаларды тарату желісі. Біз әшкерелеген түрлі алаяқтық топтар алғашқы хабарламаларын SMS, шифрланған мессенджерлер, әлеуметтік желідегі жазбалар, онлайн жарнамалар арқылы немесе осы арналардың бәрін қатар қолданып таратқан. Ал ЖИ-ге дейінгі дәуірдің алаяқтары электрондық хаттарды⁠(жаңа терезеде ашылады), телефон қоңырауларын⁠(жаңа терезеде ашылады), тіпті он тоғызыншы ғасырда хаттар⁠(жаңа терезеде ашылады) мен жеделхаттарды⁠(жаңа терезеде ашылады) пайдаланғанымен белгілі. Көптеген алаяқтар хабарламаларын кімге жететінін талғамай жаппай таратады, ал кейбірі нақты аудиторияны нысанаға алуға тырысатын сияқты. Мысалы, біз 2025 жылғы ақпанда хабарлаған⁠(жаңа терезеде ашылады) «шошқаны бордақылап сою» алаяқтығы гольф сияқты тақырыптарға назар аударған; тағы бір сезімге негізделген алаяқтық Индонезиядағы жас ерлерді нысанаға алу үшін әлеуметтік желідегі жарнамаларды пайдаланған; ал атақты адамдардың атын жамылған алаяқтар⁠(жаңа терезеде ашылады) әдетте өзін белгілі бір тұлға ретінде таныстырып, сол адамның жанкүйерлер топтарын нысанаға алады. Дәлелдер толық болмағандықтан, біз тосқауыл қойған түрлі алаяқтық схемаларын сенімді түрде салыстыру қиын. Дегенмен, біздің бағалауымызша, әртүрлі міндеттер үшін ЖИ қаншалықты қолданылғанына қарамастан, таңдалған тарату тәсілі (мысалы, жаппай немесе нысаналы) алаяқтардың көздеген адамдарына жетіп, оларды алдау мүмкіндігіне елеулі ықпал етеді.