რომანტიკული სატყუარით თაღლითობა: AI-ის დახმარებით „ღორის დაკვლის“ სქემები
OpenAI-მ დაბლოკა ანგარიშები, რომლებიც, სავარაუდოდ, კამბოჯიდან იმართებოდა და AI-ს რომანტიკული და საინვესტიციო თაღლითობის საუბრების სათარგმნელად და შესაქმნელად იყენებდა.
ეს შემთხვევის ანალიზი თავდაპირველად OpenAI-ის 2025 წლის თებერვლის(იხსნება ახალ ფანჯარაში) ანგარიშში გამოქვეყნდა.
მოქმედი პირი
ჩვენ დავბლოკეთ ChatGPT‑ის ანგარიშების ჯგუფი, რომელიც იაპონურ, ჩინურ და ინგლისურ ენებზე მოკლე კომენტარებს თარგმნიდა და ქმნიდა. როგორც ჩანს, ეს საქმიანობა კამბოჯიდან მომდინარეობდა და შეესაბამებოდა რომანტიკულ და საინვესტიციო თაღლითობას (ასევე ცნობილს, როგორც „ღორის დაკვლა“). Meta-მ ცოტა ხნის წინ თავის პლატფორმაზე მსგავსი საქმიანობა გამოავლინა(იხსნება ახალ ფანჯარაში), რომელიც, სავარაუდოდ, კამბოჯაში ახლად შექმნილი თაღლითური ცენტრიდან იმართებოდა.
ქცევა
ეს ქსელი ჩვენს მოდელებს მოკლე კომენტარების სათარგმნელად და შესაქმნელად იყენებდა. როგორც ჩანს, მოქმედი პირების ძირითადი ენა ჩინური იყო. შედეგები სხვადასხვა ენაზე იყო, განსაკუთრებით იაპონურად და ჩინურად, თუმცა ასევე ინგლისურადაც.
მოქმედი პირები ჩვენს მოდელებს ორი ძირითადი საქმიანობისთვის იყენებდნენ. პირველ რიგში, ისინი ქმნიდნენ კომენტარებს, რომლებსაც საჯაროდ აქვეყნებდნენ სოციალურ პლატფორმებზე, მათ შორის Facebook-ზე, X-სა და Instagram-ზე. სოციალური მედიის თითოეულ ანგარიშზე, ჩვეულებრივ, ახალგაზრდა ქალის ერთი ან რამდენიმე პროფილის სურათი იყო განთავსებული. ჩვენი შეფასებით, ამ სურათებიდან ზოგიერთი მაინც რეალური მოდელებისგან ან ინფლუენსერებისგან იყო დაკოპირებული და არა AI-ის მიერ გენერირებული.
გენერირებული კომენტარების უმეტესობა რეალური ადამიანების სოციალურ პოსტებზე პასუხად ქვეყნდებოდა. ზოგიერთი პოსტი, რომელსაც ოპერატორები პასუხობდნენ, რამდენიმე თვის ან წლის წინ იყო გამოქვეყნებული. ეს ოპერაცია, ჩვეულებრივ, მიზანში იღებდა მამაკაცებს, რომელთა საჯარო პროფილებიც მიანიშნებდა, რომ ისინი 40 წელს გადაცილებული იყვნენ და ხშირად სამედიცინო სფეროში მუშაობდნენ. ოპერაციის მონაწილეები ხშირად პასუხობდნენ გოლფის შესახებ პოსტებს, რაც მიზანმიმართულ სტრატეგიაზე მიუთითებს. ზოგჯერ თაღლითები პოლიტიკურ საკითხებსა და მიმდინარე მოვლენებზეც აქვეყნებდნენ პოსტებს.
ჩვენი მოდელების გამოყენებით ამ პირის მიერ გენერირებული Facebook-კომენტარი, რომელიც გოლფის შესახებ იმ ადამიანის კომენტარის პასუხად გამოქვეყნდა, რომელსაც ამ ოპერაციასთან კავშირი არ ეტყობოდა. თაღლითური ანგარიშის პროფილის სურათი ამერიკელი მოდისა და სილამაზის ინფლუენსერისგანაა დაკოპირებული. როდესაც თაღლითურმა ანგარიშმა კომენტარი გამოაქვეყნა, თავდაპირველი პოსტი უკვე თვეზე მეტი ხნის იყო.
ჩვენი მოდელების მიერ გენერირებული კომენტარი, რომელიც X-ზე ვერიფიცირებულმა ანგარიშმა გამოაქვეყნა იმ ანგარიშის ტვიტის პასუხად, რომელსაც ამ თაღლითობასთან კავშირი არ ეტყობოდა. ანგარიშის პროფილის სურათი იმავე ამერიკელი მოდისა და სილამაზის ინფლუენსერისგანაა დაკოპირებული. თავდაპირველი ტვიტი თითქმის ექვსი თვის წინ იყო გამოქვეყნებული.
მეორე და უფრო ხშირ შემთხვევაში, ოპერატორები ქმნიდნენ მოკლე კომენტარებს, რომლებიც ონლაინ საუბრის ნაწყვეტებს ჰგავდა. ჩვეულებრივ, ეს გულისხმობდა კომენტარების ჩინურიდან სამიზნე ენაზე — იაპონურად ან ინგლისურად — თარგმნას ან სამიზნე ენიდან ჩინურად გადათარგმნას. ეს შეესაბამება მოდელის გამოყენებას ძირითადად მიმდინარე მიმოწერის სათარგმნელად.
ზოგჯერ ანგარიშები მოდელს სთხოვდნენ, პასუხი გარკვეული ტონით შეექმნა, მაგალითად, მოფლირტავე ახალგაზრდა ქალის სტილში. ზოგჯერ მოდელისთვის პასუხების შესაქმნელად აწვდიდნენ ვრცელ ბიოგრაფიულ დეტალებს, მათ შორის გამოგონილი პიროვნების სახელს, განათლებას, სამსახურს, ადგილმდებარეობასა და ჰობებს. ამ ბიოგრაფიებში, ჩვეულებრივ, აღნიშნული იყო, რომ გამოგონილი პიროვნება ონლაინინვესტირებითაც იყო დაკავებული.
როგორც ჩანს, თაღლითები სამიზნეებთან ურთიერთობისთვის მრავალ სხვადასხვა ხელსაწყოსა და პლატფორმას იყენებდნენ. ჩვენმა გამოძიებამ გამოავლინა მტკიცებულებები, რომ ისინი იყენებდნენ LINE-ს, WhatsApp-ს, X-ს, Facebook-ს, Instagram-ს, სხვა მრავალ საკომუნიკაციო სერვისს, Apple-ის ფუნქციას „ჩემი ელფოსტის დამალვა“(იხსნება ახალ ფანჯარაში), ასევე კრიპტოვალუტისა და უცხოური ვალუტის სავაჭრო პლატფორმებს.
შედეგები
ამ საქმიანობის შესახებ ჩვენთვის ხელმისაწვდომი კონკრეტული მონაცემებით, თაღლითები სამიზნეების ჩართულობიდან თაღლითურ ინვესტიციამდე მისაყვანად გავრცელებულ სამუშაო სქემას მიჰყვებოდნენ:
საჯარო ჩართულობა: თაღლითები სამიზნე პირის სოციალურ პოსტებზე კომენტარებს ტოვებდნენ. ეს კომენტარები ხშირად სრულდებოდა ისეთი კითხვით, როგორიცაა: „რას ფიქრობთ [თემაზე]?“ასეთი კითხვა, სავარაუდოდ, პასუხის მიღების შანსს ზრდიდა. რამდენიმე შემთხვევაში ისინი პოლიტიკაზე წერდნენ, თუმცა უფრო ხშირად გოლფზე საუბრობდნენ.
სავარაუდო პირადი მიმოწერა: შემდეგ თაღლითები მოკლე, სასაუბრო სტილის კომენტარებს ქმნიდნენ. მართალია, სრულად ვერ ვხედავთ, სად და როგორ გამოიყენებოდა ეს კომენტარები, მაგრამ ისინი შეესაბამებოდა ვითარებას, როდესაც თაღლითი და სამიზნე პირი პირადი შეტყობინებების გაცვლას იწყებდნენ.
დაცული მიმოწერა: ძალიან მალე, ხშირად რამდენიმე დღეში, თაღლითები ქმნიდნენ შეტყობინებებს, რომლებიც საუბრის უფრო დაცულ საკომუნიკაციო აპში გადატანას სთავაზობდა. ზოგჯერ ამას იმით ხსნიდნენ, რომ თაღლითი სოციალურ მედიას არ ენდობოდა; სხვა დროს კი ლოჯისტიკურ მიზეზს იგონებდნენ, მაგალითად, ამბობდნენ, რომ მალე ისეთ ადგილას მიდიოდნენ, სადაც სოციალურ მედიაზე წვდომა არ ექნებოდათ.
რომანტიკული ურთიერთობა: თაღლითები სულ უფრო ალერსიან და ინტიმურ შეტყობინებებს წერდნენ და თარგმნიდნენ. თუ სამიზნე პირები იმ „ქალის“ ფოტოებს ითხოვდნენ, რომელსაც ესაუბრებოდნენ, თაღლითები მიზეზებს იგონებდნენ.
ფინანსური დაინტერესება: თაღლითები წერდნენ და თარგმნიდნენ შეტყობინებებს, რომლებშიც თავს იწონებდნენ, რომ უცხოურ ვალუტაში, კრიპტოვალუტაში ან ოქროში ონლაინინვესტირებით დიდი თანხა გამოიმუშავეს. ამას ხშირად ფინანსურ სფეროში მომუშავე ნათესავის რჩევის შედეგად წარმოაჩენდნენ. თაღლითი სამიზნე პირს მოუწოდებდა, იმავე გზით დაეწყო ინვესტირება და პროცესის გავლაში დახმარებას სთავაზობდა.
თაღლითობა: თაღლითები წერდნენ და თარგმნიდნენ შეტყობინებებს, რათა მსხვერპლი სავაჭრო აპში თანხის გადარიცხვაში დაერწმუნებინათ და ამხნევებდნენ საუბრით იმაზე, თუ რამდენ მოგებას იღებდა. როდესაც მსხვერპლი თავისი „მოგების“ გატანას ცდილობდა, თაღლითი მიზეზს იგონებდა, მაგალითად, ეუბნებოდა, რომ საკომისიოს გადახდა იყო საჭირო.
საქმიანობის ეს სქემა შეესაბამება საჯაროდ ხელმისაწვდომ მასალებს(იხსნება ახალ ფანჯარაში) იმის შესახებ, თუ როგორ მოქმედებს, ჩვეულებრივ, ამგვარი თაღლითობა.
გავლენა
როგორც ჩანს, ამ საქმიანობაში ბევრი წარუმატებელი მცდელობა იყო. ზოგი საუბარი, რომელსაც თაღლითები ჩვენი მოდელებით ამუშავებდნენ, იმით დასრულდა, რომ სამიზნე პირი მათ საქმიანობას თაღლითობას უწოდებდა ან თაღლითს სთხოვდა, თავი დაენებებინა. ჩვენ ასევე გამოვავლინეთ თაღლითების სოციალური პოსტები, რომლებსაც საერთოდ არავინ გამოხმაურებია.
თუმცა ზოგიერთ საუბარში ცალკეული ტრანზაქციების ოდენობად ათასობით დოლარი ან სხვა ვალუტაში მისი ეკვივალენტი იყო ნახსენები. იმის გათვალისწინებით, თუ როგორ იყენებდნენ ეს ოპერატორები ჩვენს მოდელებს, ვერ ვხედავთ, განხორციელდა თუ არა აღნიშნული ფინანსური ტრანზაქციები. თუმცა საუბრებში არსებული მინიშნებები მიუთითებს, რომ თაღლითებმა ზოგ შემთხვევაში მაინც მოახერხეს სამიზნე პირების მოტყუება.
OpenAI-ის წესები მკაცრად კრძალავს ჩვენი ხელსაწყოების შედეგების თაღლითობისთვის გამოყენებას. ჩვენ მზად ვართ, ვითანამშრომლოთ ინდუსტრიის სხვა წარმომადგენლებთან და შესაბამის უწყებებთან, რათა გავიგოთ, როგორ გამოიყენება AI მავნე საქმიანობაში, და აქტიურად აღვკვეთოთ ჩვენი სერვისების ბოროტად გამოყენებით ჩადენილი თაღლითობა. ამ ვალდებულების შესაბამისად, ჩვენ ინდუსტრიის სხვა წარმომადგენლებსა და შესაბამის უწყებებს გავუზიარეთ ინფორმაცია თაღლითური ქსელების შესახებ, რომელთა საქმიანობაც აღვკვეთეთ.