დავალებების თაღლითობა: ყალბი მიმოხილვების სამუშაოები AI-ის დახმარებით
OpenAI-მ დაბლოკა ანგარიშები, რომლებიც, სავარაუდოდ, კამბოჯიდან იმართებოდა და AI-ს იყენებდა ყალბი მიმოხილვების სამუშაოებთან დაკავშირებული თაღლითური შეტყობინებების სათარგმნად, სადაც მსხვერპლებს თანხის გადახდას სთხოვდნენ.
ეს შემთხვევის კვლევა თავდაპირველად OpenAI-ის 2025 წლის თებერვლის(იხსნება ახალ ფანჯარაში) ანგარიშში გამოქვეყნდა.
მოქმედი პირი
ჩვენ დავბლოკეთ ChatGPT‑ის ანგარიშების ჯგუფი, რომელიც ურდუსა და ინგლისურს შორის თარგმნიდა მოკლე კომენტარებს, რომლებიც შეესაბამებოდა „დავალების(იხსნება ახალ ფანჯარაში)“ ტიპის თაღლითობას. ამ სქემაში მსხვერპლებს მაღალანაზღაურებად სამუშაოს სთავაზობენ, შემდეგ კი სავარაუდო „შემოსავლის“ მისაღებად სისტემაში საკუთარი თანხის შეტანას სთხოვენ. ეს საქმიანობა, როგორც ჩანს, კამბოჯიდან ხორციელდებოდა. ამგვარი თაღლითობისას მსხვერპლები, როგორც წესი, კარგავენ როგორც „შემოსავალს“, ისე საკუთარ ფულს. ამ საქმიანობის გამოძიება Meta-სგან მიღებული ინფორმაციის შემდეგ დავიწყეთ.
ქცევა
ეს ქსელი ჩვენს მოდელებს ძირითადად ურდუსა და ინგლისურს შორის მოკლე კომენტარების სათარგმნად იყენებდა. კომენტარები შეესაბამებოდა თაღლითსა და მის მსხვერპლებს შორის მიმოწერას. ჩვენ აღმოვაჩინეთ მინიშნებები Telegram-ში (როგორც ჩანს, მათ ძირითად პლატფორმაზე), WhatsApp-ში, SMS-ით და დასაქმების სხვადასხვა ფორუმსა თუ ჯგუფში მიმოწერაზე, სადაც სამუშაო შეთავაზებების გამოქვეყნება შეიძლებოდა.
როგორც ჩანს, თაღლითები ძირითადად ორი ტიპის პერსონაჟად ასაღებდნენ თავს. ერთი იყო „რეკრუტერი“: მისი შეტყობინებები ცივი კონტაქტის ფორმას წარმოადგენდა და კარგად ანაზღაურებადი დისტანციური სამუშაოს რეკლამებს შეიცავდა. მეორე, რომელიც გაცილებით მეტ აქტივობას ქმნიდა, იყო „მენტორი“. ის „რეკრუტერის“ პირველ კონტაქტს აგრძელებდა და სამიზნეს სამუშაოს შესრულებას ასწავლიდა. მენტორები ძალიან ხშირად ახსენებდნენ Telegram-ში ჩატარებულ სასწავლო სესიებს.
ზოგჯერ თაღლითები ჩვენს მოდელებს ვებსაიტების ტექსტის კორექტირებისთვისაც იყენებდნენ. როგორც ჩანს, ეს საიტები ძვირადღირებული დიზაინის, მოდისა და მოგზაურობის ბრენდების სახელებსა და ვიზუალურ იერს აყალბებდა. „მენტორის“ პერსონაჟები ამტკიცებდნენ, რომ ამ ბრენდების სახელით თანამშრომლებს ეძებდნენ, რაც მიანიშნებს, რომ ვებსაიტები თაღლითობისთვის მეტი სანდოობის მისანიჭებლად გამოიყენებოდა.
გენერირებული პასუხები
ჩვენთვის ხელმისაწვდომი შეზღუდული ინფორმაციის საფუძველზე, როგორც ჩანს, სამიზნეების დაინტერესებიდან მათ მოტყუებამდე თაღლითები გავრცელებულ სქემას მიჰყვებოდნენ:
ვაკანსიის გამოქვეყნება: მათი მოთხოვნებისა და გენერირებული პასუხების მიხედვით, თაღლითები თავდაპირველად სამუშაო შეთავაზებებს სხვადასხვა ონლაინფორუმზე აქვეყნებდნენ. შეთავაზებებში ჩვეულებრივ დისტანციური სამუშაო იყო ნახსენები, ანაზღაურება კი მცირე მოცულობის სამუშაოსთვის შედარებით მაღალი ჩანდა — მაგალითად, დღეში რამდენიმე საათის მუშაობისთვის 300 დოლარი და პრემიები. მათ, როგორც წესი, „რეკრუტერის“ პერსონაჟი აქვეყნებდა.
დაქირავება: შემდეგ თაღლითები „მენტორის“ პერსონაჟით ქმნიდნენ კომენტარებს, რათა პოტენციურ თანამშრომლებს, მათი მინიშნებით, სხვადასხვა შეტყობინებების აპის მეშვეობით დაკავშირებოდნენ და ეთქვათ, რომ „რეკრუტერთან“ მუშაობდნენ. „მენტორი“ ამტკიცებდა, რომ მუშაობდა ერთ-ერთი იმ ძვირადღირებული ბრენდისთვის, რომლის სახელითაც ამ ოპერაციას ვებსაიტი ჰქონდა შექმნილი. ისინი დავალებას აღწერდნენ, როგორც ამ ძვირადღირებული ბრენდების საიტებზე ხუთვარსკვლავიანი მიმოხილვების გამოქვეყნებას, რაც თითქოს მომხმარებელთა შეფასებების გაუმჯობესებას ემსახურებოდა.
დარწმუნება: გენერირებულ პასუხებში თაღლითები ხშირად არწმუნებდნენ სამიზნეებს, რომ სამუშაო კანონიერი იყო, რადგან დიდი ხნის წინ დაარსებული კომპანიის სახელით სრულდებოდა. თუ სამიზნე შეშფოთებას გამოხატავდა, თაღლითი ამტკიცებდა, რომ თავადაც გამხდარა ადრე თაღლითობის მსხვერპლი, თუმცა ეს შესაძლებლობა უსაფრთხო იყო.
სწავლება: თუ სამიზნე კვლავ ინტერესდებოდა, გენერირებული პასუხების მიხედვით, „მენტორი“ მას სწავლებას სთავაზობდა, ჩვეულებრივ Telegram-ში. თავდაპირველად სამიზნეს აძლევდნენ წვდომას „სასწავლო ანგარიშზე“, სადაც მისგან დღეში მიმოხილვის 25–35 დავალების შესრულებას მოელოდნენ. „სასწავლო ანგარიშზე“ სამიზნე ხედავდა, რომ მისი „შემოსავალი“ სწრაფად იზრდებოდა.
აღფრთოვანება: თუ სამიზნე სწავლებას აგრძელებდა, გენერირებული პასუხების მიხედვით, მას ხშირად სთავაზობდნენ „განსაკუთრებულ“ ან „უმაღლესი დონის“ მიმოხილვის დავალებას, რომელიც უფრო მაღალ პრემიას ითვალისწინებდა. „მენტორი“ ხაზს უსვამდა, რამდენად იშვიათი იყო ასეთი დავალება და რამდენად გაუმართლა სამიზნეს.
„აქტივაციის საფასური“: როცა სამიზნის „შემოსავალი“ გარკვეულ დონეს აღწევდა, გენერირებულ პასუხებში „მენტორი“ ეუბნებოდა, რომ „შემოსავლის“ გასატანად „აქტივაციის საფასური“ უნდა გადაეხადა. საჭიროების შემთხვევაში, თაღლითი მოუწოდებდა, ფული მეგობრებისგან ან ოჯახის წევრებისგან ესესხა.
ზეწოლა: გენერირებული პასუხები აჩვენებდა, რომ თუ სამიზნე თანხის გადახდას ერიდებოდა, თაღლითი სულ უფრო აგრესიული ხდებოდა. ის სამიზნეს სხვა, უფრო ეფექტიან თანამშრომლებს ადარებდა და ეუბნებოდა, რომ თანხის შეუტანლობის შემთხვევაში შემოსავალს დაკარგავდა.
საბაბების მოფიქრება: თუ გენერირებულ პასუხებში ჩანდა, რომ სამიზნემ თანხა გადაიხადა, თაღლითი სხვადასხვა საბაბს იგონებდა, რატომ ვერ გაიტანდა ის შემოსავალს, და ხშირად ეუბნებოდა, რომ კიდევ მეტი თანხა უნდა შეეტანა.
ზეგავლენა
ზოგი საუბარი აჩვენებდა, რომ სამიზნეები ძალიან სკეპტიკურად იყვნენ განწყობილი. თაღლითების მიერ გენერირებული ზოგი კომენტარი კი მენტორის სახელით ეკითხებოდა სამიზნეს, რატომ შეწყვიტა შეტყობინებების გაგზავნა. ეს მიანიშნებს, რომ ამ თაღლითობის წარმატების საერთო მაჩვენებელი, სავარაუდოდ, დაბალი იყო. თუმცა ზოგი საუბარი და ინტერნეტში გამოქვეყნებული ანგარიში მიანიშნებს, რომ მსხვერპლთა ნაწილმა ამ თაღლითურ სქემებში მართლაც შეიტანა ფული. ჩვენი ხელსაწყოების მიღმა განხორციელებულ საქმიანობას დამოუკიდებლად ვერ ვადასტურებთ.
OpenAI-ის წესები მკაცრად კრძალავს ჩვენი ხელსაწყოების შედეგების თაღლითობისთვის გამოყენებას. ჩვენ ვთანამშრომლობთ ინდუსტრიის სხვა წარმომადგენლებსა და შესაბამის ორგანოებთან, რათა გავიგოთ, როგორ მოქმედებს AI მავნე ქცევებზე, და აქტიურად აღვკვეთოთ ჩვენი სერვისების ბოროტად გამოყენებით ჩადენილი თაღლითობა. ამ ვალდებულების შესაბამისად, საერთო უსაფრთხოების გასაძლიერებლად ინდუსტრიის სხვა წარმომადგენლებსა და შესაბამის ორგანოებს მივაწოდეთ ინფორმაცია ჩვენ მიერ აღკვეთილი თაღლითური ქსელების შესახებ.