გადადით მთავარ შინაარსზე
OpenAI

1 ივნისი, 2025

უსაფრთხოება

ოპერაცია „არასწორი ნომერი“: AI-ით მხარდაჭერილი დავალებების თაღლითობა

OpenAI-მ დაბლოკა ანგარიშები, რომლებიც სავარაუდოდ კამბოჯიდან იმართებოდა და AI-ს გაერთიანებული სამეფოს მოსახლეობაზე გათვლილი თაღლითური პროცესების მხარდასაჭერად იყენებდა.

იტვირთება…

ეს შემთხვევის კვლევა თავდაპირველად OpenAI-ის 2025 წლის ივნისის⁠(იხსნება ახალ ფანჯარაში) ანგარიშში გამოქვეყნდა.

აქტორი

ჩვენ დავბლოკეთ ChatGPT‑ის ანგარიშები, რომლებიც ინგლისურ, ესპანურ, სუაჰილურ, კინიარუანდულ, გერმანულ და ჰაიტიურ კრეოლურ ენებზე სამსახურში აყვანის მოკლე შეტყობინებებს ქმნიდა. ამ შეტყობინებებში მიმღებებს მარტივი დავალებების, მაგალითად, სოციალურ ქსელებში პოსტების მოწონების სანაცვლოდ მაღალ ანაზღაურებას სთავაზობდნენ და სხვების მოზიდვისკენ მოუწოდებდნენ. ოპერაცია მეტად ცენტრალიზებული ჩანდა და სავარაუდოდ კამბოჯიდან იმართებოდა.

AI-ზე დაფუძნებული მთარგმნელობითი ხელსაწყოებით შევძელით, სწრაფად გამოგვეძიებინა კამპანიის მიერ OpenAI-ის სერვისების გამოყენება და ხელი შეგვეშალა მისთვის.

ქცევა

ქსელის კომენტარების უმეტესობა მთარგმნელობით დავალებებს ეხებოდა. ისინი ChatGPT‑ს იყენებდნენ სასაუბრო წინადადებების ჩინურიდან რამდენიმე სხვა ენაზე და პირიქით სათარგმნელად — უმეტესად ინგლისურ, ესპანურ, კინიარუანდულ, სუაჰილურ, გერმანულ და ჰაიტიურ კრეოლურ ენებზე. როგორც წესი, ჯერ შემოსულ შეტყობინებას თარგმნიდნენ ჩინურად, შემდეგ კი ჩინურ პასუხს — შეტყობინების თავდაპირველ ენაზე.

ამ შეტყობინებების ნაწილი ჰგავდა დაუპატიჟებელ სამუშაო შეთავაზებებს, რომლებიც მინიმალური შრომისთვის მაღალ საათობრივ ანაზღაურებას ჰპირდებოდა. ერთ-ერთი ასეთი შეტყობინება SMS-ით გაეგზავნა გაერთიანებული სამეფოს მობილური ტელეფონების, ერთი შეხედვით, შემთხვევით შერჩეულ ნომრებს, რომელთაგან ერთი OpenAI-ის მკვლევარს ეკუთვნოდა. თავდაპირველი SMS-ის პატივსაცემად ამ ოპერაციას „არასწორი ნომერი“ ვუწოდეთ.

OpenAI-ის მკვლევრისთვის გაგზავნილი SMS.

OpenAI-ის მკვლევრისთვის შემთხვევით გაგზავნილი SMS, რომელიც ChatGPT‑ის გამოყენებით შეიქმნა.

როგორც ჩანდა, საფრთხის აქტორები შეტყობინებების გასაგზავნად რამდენიმე პლატფორმას იყენებდნენ. თავდაპირველი SMS მიმღებებს WhatsApp-ში დაკავშირებას სთხოვდა, საიდანაც გამოხმაურებულ პირებს Telegram-ზე მყოფ „მენტორთან“ გზავნიდნენ. ზოგიერთ აქტივობაში ასევე იყო ნახსენები შეტყობინებების აპი BonChat. როგორც ჩანს, ამ არხებით გაგზავნილი საწყისი, გაცნობითი შეტყობინებები ჩვენი მოდელებით არ შექმნილა. ისინი სტანდარტული შეტყობინებებისგან შედგებოდა, რომლებიც, სავარაუდოდ, ყველა საუბარში გამოიყენებოდა.

ოპერაცია „არასწორი ნომრის“ შემდგომი შეტყობინება WhatsApp-ში.

SMS-ის შემდეგ WhatsApp-ით გაგზავნილი შეტყობინება. როგორც ჩანს, ეს შეტყობინება ჩვენი მოდელებით არ შექმნილა.

მთარგმნელობითი დავალებებიდან ბევრი მოიცავდა მიმოწერას, რომელიც თითქოს სავარაუდო „დამსაქმებელი“ კომპანიების წარმომადგენლებისგან მოდიოდა. ამ გამოძიების ფარგლებში შესწავლილ ChatGPT‑ის მრავალ საუბარში ერთი და იმავე კომპანიების სახელები არაერთხელ გამოჩნდა. მათ შორის იყო Hyesung Advertising⁠(იხსნება ახალ ფანჯარაში) და Lightning Shared Scooter Co (LSSC)⁠(იხსნება ახალ ფანჯარაში). საჯარო წყაროებში Hyesung და LSSC დავალებებზე დაფუძნებულ სავარაუდო თაღლითურ სქემებადაა მოხსენიებული. მართალია, ამ სუბიექტების საქმიანობის ხასიათი დამოუკიდებლად არ გადაგვიმოწმებია, მაგრამ ჩვენმა გამოძიებამ დაადგინა, რომ თითქოს მათი სახელით გაგზავნილ შეტყობინებებს ქმნიდნენ ჩინურენოვანი ChatGPT‑ის მომხმარებლები, რომლებიც სავარაუდოდ კამბოჯიდან მოქმედებდნენ.

გენერირებული პასუხები

კომპანიები, რომელთა წარმომადგენლობაზეც ეს ქსელი აცხადებდა პრეტენზიას, სხვადასხვა სფეროში საქმიანობდნენ — ფასიანი ქაღალდებით ვაჭრობიდან და სკუტერების გაქირავებიდან სოციალურ ქსელებში მოწონებების გაყიდვამდე. ერთ-ერთი აშკარა საეჭვო ნიშანი TikTok-ზე ერთი მოწონებისთვის 5 დოლარზე მეტის შეთავაზება იყო. შედარებისთვის, ონლაინ ბაზრების ხელით შემოწმებამ აჩვენა, რომ სოციალური ქსელების მოწონებების ზოგი გამყიდველი 1 000 მოწონებაში 10 დოლარზე ნაკლებს ითხოვს.

გარე პლატფორმების ნიშნებისა და შიდა დაკვირვებების შეჯერებით განმეორებადი სამუშაო პროცესის ნიმუში გამოვავლინეთ. ამ ტაქტიკის უკეთ გასაგებად და მისი კლასიფიკაციის გასამარტივებლად, ამ ნიმუშს ასე აღვწერთ: პინგი (ცივი კონტაქტი), მუხტი (ენთუზიაზმის გაღვივება) და ნესტარი (ფულის გამოძალვა):

  1. პინგი (ცივი კონტაქტი): ქსელი ქმნის შიგთავსს დაუპატიჟებელი შეთავაზებებისთვის, რომლებშიც, როგორც წესი, მინიმალური შრომისთვის უჩვეულოდ მაღალ ანაზღაურებას ან საფონდო ბირჟაზე ინვესტიციიდან დიდ მოგებას ჰპირდებიან. ეს შეთავაზებები მოიცავს მაღალ ანაზღაურებას მარტივი დავალებებისთვის, მაგალითად, სოციალურ ქსელებში პოსტების მოწონებისთვის, ან მომგებიან საინვესტიციო შესაძლებლობებს.

  2. მუხტი (ენთუზიაზმის გაღვივება): ქსელი თარგმნის საუბრებს, სავარაუდოდ, ოპერატორსა და მის „თანამშრომლებს“ შორის. მიმოწერა დავალებების საორგანიზაციო დეტალებს მოიცავს, თუმცა მასში ხშირადაა ჩართული მოტივაციური გზავნილები შემოსავლისა და შესაძლო პრემიების შესახებ.

  3. ნესტარი (ფულის გამოძალვა): ქსელი ქმნის და/ან აგზავნის შიგთავსს, რომელიც „თანამშრომელს“ ან „ინვესტორს“ აიძულებს, უფრო დიდი ჯილდოს მისაღებად თანხა შეიტანოს. ეს რამდენიმე ფორმით ხდება, მათ შორისაა საწყისი „დეპოზიტი“, კრიპტოვალუტის შეძენა და „მომსახურების საკომისიო“.

ChatGPT-ით შექმნილი და ოპერაცია „არასწორი ნომრის“ მიერ გავრცელებული დაუპატიჟებელი შეთავაზება.

ChatGPT‑ის გამოყენებით შექმნილი და ამ ქსელის მიერ გავრცელებული დაუპატიჟებელი შეთავაზების მაგალითი. შეტყობინება ერთდროულად რვა ტელეფონის ნომერზე გაიგზავნა, რომელთაგან არცერთი არ იყო გამგზავნის კონტაქტებში. ერთ-ერთმა მიმღებმა ჯგუფი დაუყოვნებლივ დატოვა.

Telegram-ის შეტყობინება, რომელიც პოტენციურ მსხვერპლს კრიპტოვალუტის შეძენას სთხოვს.

ქსელის მიერ პოტენციური მსხვერპლისთვის Telegram-ით გაგზავნილი შეტყობინება, რომელშიც მას სთხოვენ, შეიძინოს 20 გირვანქა სტერლინგის ღირებულების კრიპტოვალუტა და უსახელო მოვაჭრეს გადაურიცხოს.

საჯარო წყაროების ცნობებით⁠(იხსნება ახალ ფანჯარაში), ზოგიერთი ასეთი კომპანია ახალწვეულებს სოლიდურ საწევრო გადასახადს აკისრებდა, შემდეგ კი თანხის ნაწილს არსებულ „თანამშრომლებს“ უხდიდა — იმდენს, რომ მათ ჩართულობა შეენარჩუნებინათ. ასეთი სტრუქტურა დამახასიათებელია დავალებებზე დაფუძნებული თაღლითობისთვის⁠(იხსნება ახალ ფანჯარაში).

ზეგავლენა

ჩვენი შეზღუდული ხილვადობის გამო რთულია ამ ქსელის რეალური მასშტაბის განსაზღვრა. თუმცა, გარე პლატფორმებზე გამოქვეყნებული ცნობები⁠(იხსნება ახალ ფანჯარაში) და საუბრები, რომლებშიც „თანამშრომლები“ თანხის დაბრუნებას ითხოვდნენ, მიუთითებს, რომ სულ მცირე ზოგიერთმა ადამიანმა ამ სავარაუდო დამსაქმებლებს ფული გადაუხადა. ასევე ვნახეთ რეალური მომხმარებლები, რომლებიც სოციალურ ქსელებში ამ კომპანიებს იცავდნენ, რაც რეალურ სამყაროში გარკვეული დონის ჩართულობაზე მიუთითებს.