თაღლითური ოპერაციები: ინტერნეტთაღლითობის ქსელები

ეს შემთხვევის კვლევა თავდაპირველად გამოქვეყნდა OpenAI-ის 2025 წლის ოქტომბრის⁠(იხსნება ახალ ფანჯარაში) ანგარიშში.

სავარაუდოდ კამბოჯიდან, მიანმარიდან და ნიგერიიდან მოქმედი ქსელები ChatGPT‑ს, როგორც ჩანს, ინტერნეტში ადამიანების მოტყუების მიზნით ბოროტად იყენებდნენ.

ჩვენ მიზნად ვისახავთ ჩვენი მოდელების საზიანო მიზნებისთვის ბოროტად გამოყენების მცდელობების გამოვლენას, თავიდან აცილებასა და აღკვეთას. ასეთ დარღვევებს შორისაა თაღლითობაც: ჩვენ ვავლენთ და ვბლოკავთ მავნე სუბიექტებს, რომლებიც ჩვენი მოდელების გამოყენებით ადამიანების შეცდომაში შეყვანასა და მოტყუებას ცდილობენ. ბოლო სამი თვის განმავლობაში აღვკვეთეთ თაღლითური ქსელების საქმიანობა, რომლებიც, სავარაუდოდ, კამბოჯიდან, მიანმარიდან და ნიგერიიდან მოქმედებდნენ. ეს აჩვენებს, თუ რა როლი შეიძლება შეასრულოს AI-მ თაღლითობასთან ბრძოლაში: ბოროტად გამოყენების ამ სქემების გამოძიებისას ასევე ვნახეთ მრავალი ადამიანი, რომელიც ჩვენი მოდელების დახმარებით თაღლითობის ამოცნობას ცდილობდა. ამ ანგარიშში განხილულია გამოყენების ორივე შემთხვევა.

თაღლითობის ხელშესაწყობად ჩვენი მოდელების ბოროტად გამოყენება მოიცავს როგორც ცალკეული პირების მცდელობებს, ისე ფართომასშტაბიან და ხანგრძლივ ოპერაციებს, რომლებიც, სავარაუდოდ, ორგანიზებულ დანაშაულებრივ ჯგუფებს უკავშირდება. წარმოშობისა და ზუსტი ტაქტიკის მიუხედავად, ჩვენ მიერ აღკვეთილი თაღლითური საქმიანობა, როგორც წესი, საერთო სქემას მიჰყვება, რომელსაც სამ ეტაპად განვიხილავთ: კონტაქტი (უცნობ ადამიანთან დაუკითხავად დაკავშირება), ემოციის გაღვივება (ენთუზიაზმის ან პანიკის გამოწვევა) და დარტყმა (ფულის ან ღირებული ინფორმაციის გამოძალვა).

თავდაპირველად თაღლითები სხვადასხვა საკომუნიკაციო სერვისსა და ინტერნეტში ავრცელებენ შიგთავსს — AI-ის მიერ შექმნილს ან სხვაგვარს — მათ შორის სოციალური მედიის რეკლამების მეშვეობით. შემდეგ ისინი ცდილობენ, გამოხმაურებულ ადამიანებს მომგებიანი შესაძლებლობის მიმართ ენთუზიაზმი ან მოსალოდნელი ფინანსური ზარალის შიში გაუღვივონ და ამ ემოციით სამიზნე ფულის ან კონფიდენციალური ინფორმაციის გადაცემაზე დაიყოლიონ.

ასევე დავაფიქსირეთ მრავალი შემთხვევა, როცა ჩვენი მოდელები, სავარაუდოდ, ადამიანებს თაღლითობისგან თავის დაცვაში დაეხმარა. ჩვენი მონაცემებით, ადამიანები ChatGPT‑ს ინტერნეტთაღლითობის ამოსაცნობად და თავიდან ასაცილებლად თვეში მილიონობითჯერ იყენებენ. ამ ანგარიშში განხილული ყველა თაღლითური ოპერაციის შემთხვევაში მოდელი ადამიანებს თაღლითობის სწორად ამოცნობასა და უსაფრთხოების სათანადო ზომების შერჩევაში დაეხმარა. ჩვენი ამჟამინდელი შეფასებით, ChatGPT თაღლითობის ამოსაცნობად სამჯერ უფრო ხშირად გამოიყენება, ვიდრე თაღლითობის ჩასადენად.

მაგალითი, რომელშიც OpenAI-ის მკვლევარმა მიღებული თაღლითური SMS შეტყობინების ეკრანის ანაბეჭდი ChatGPT‑ში ჩასვა და მოდელის დახმარებით წარმატებით დაადგინა, რომ ეს თაღლითობა იყო. ამ შემთხვევაში მავნე სუბიექტები თავს TikTok-ის რეკრუტერებად ასაღებდნენ.

წინა ანგარიშის გამოქვეყნების შემდეგ თაღლითობის გამოვლენისა და აღკვეთის ჩვენი შესაძლებლობები გავაძლიერეთ. ჩვენ აღვკვეთეთ დამატებითი თაღლითური ქსელების საქმიანობა, რომლებიც, სავარაუდოდ, კამბოჯიდან, მიანმარიდან და ნიგერიიდან მოქმედებდნენ. ადრინდელ ღონისძიებებთან ერთად, ეს ქმედებები სხვადასხვა ქვეყნიდან მოქმედი არაერთი თაღლითური ოპერაციის ახალი ტენდენციების გამოვლენის საშუალებას გვაძლევს.

ჩვენ მიერ აღკვეთილი თაღლითური საქმიანობის უმეტესი ნაწილი AI-ის არსებულ თაღლითურ სქემებში ჩართვას ემსახურებოდა და არა AI-ზე დაფუძნებული ახალი სქემების შექმნას. წელს გამოვლენილი და დაბლოკილი ყველა თაღლითური ოპერაცია AI-ს უმთავრესად მასშტაბისა და ეფექტიანობის გასაზრდელად იყენებდა. როგორც წესი, ისინი ჩვენს მოდელებს თარგმნისთვის, შეტყობინებების დასაწერად და სოციალური მედიის შიგთავსის შესაქმნელად იყენებდნენ.

მაგალითად, ახლახან დავბლოკეთ, სავარაუდოდ, კამბოჯიდან და ნიგერიიდან მოქმედი თაღლითური ჯგუფები, რომლებიც თავს „საინვესტიციო კომპანიებად“ ასაღებდნენ და სხვადასხვა ქვეყანაში ადამიანების მოტყუებას ცდილობდნენ. თაღლითებმა ყალბი კომპანიების რეკლამირებისთვის ვებსაიტები და ონლაინრეკლამები შექმნეს, ხოლო სავაჭრო ექსპერტების სახელით მოქმედი, სავარაუდოდ, არაავთენტური სოციალური მედიის ანგარიშებით ადამიანებს დახურულ საკომუნიკაციო ჯგუფებში იწვევდნენ. მაღალშემოსავლიანი და სრულიად ურისკო შესაძლებლობების დაპირებით, მავნე სუბიექტები პოტენციური მსხვერპლების გამოგონილ სავაჭრო პლატფორმებზე თანხის გადარიცხვაზე დაყოლიებას ცდილობდნენ. ყველა ამ სქემაში თაღლითები ჩვენს მოდელებს უმთავრესად მიმოწერის შესაქმნელად და სათარგმნელად, ვებსაიტებისა და სოციალური მედიის ანგარიშებისთვის შიგთავსის მოსამზადებლად და საბაზისო კვლევის ჩასატარებლად იყენებდნენ.

სხვა შემთხვევაში დავბლოკეთ თაღლითური ცენტრი, რომელიც დიდი ალბათობით მიანმარში მდებარეობდა და ჩვენს მოდელებს როგორც თაღლითური სქემებისთვის შიგთავსის შესაქმნელად, ისე ყოველდღიური საოპერაციო ამოცანების შესასრულებლად იყენებდა. ეს მოიცავდა განრიგების შედგენას, შიდა განცხადებების მომზადებას, სამუშაო მაგიდებისა და საერთო საცხოვრებლის ადგილების განაწილებას და ფინანსური ანგარიშების მართვას. ზოგი ოპერატორი კითხულობდა, რა სისხლისსამართლებრივი სასჯელი ემუქრებათ ინტერნეტთაღლითობაში მხილებულ პირებს.

ჩვენ მიერ გამოვლენილი ყველა თაღლითი ჩვენს მოდელებს ერთნაირად ან ერთნაირი სირთულის ამოცანებისთვის არ იყენებდა. თაღლითების ChatGPT‑სთან ურთიერთობის უმეტესობა შედარებით მარტივ ამოცანებს, მაგალითად თარგმნას, ეხებოდა, თუმცა ზოგი თაღლითური ოპერაცია უფრო ამბიციური და კომპლექსური იყო.

მაგალითად, ჩვენ მიერ აღკვეთილი ერთ-ერთი თაღლითური ოპერაცია, რომელიც სავარაუდოდ კამბოჯიდან მოქმედებდა, ჩვენს მოდელებს ყალბი საინვესტიციო ექსპერტებისა და გამოგონილი სავაჭრო კომპანიების არარსებული თანამშრომლების დეტალური ბიოგრაფიების შესაქმნელად იყენებდა. შემდეგ თაღლითები ChatGPT‑ს სთხოვდნენ, სოციალური მედიის შეტყობინებები ამ პერსონაჟების სახელით დაეწერა. მავნე სუბიექტები ხშირად ჩვენს მოდელში შეჰყავდათ შეტყობინებები, რომლებიც, როგორც ჩანს, სამიზნეებისგან მიიღეს, და მოდელს სთხოვდნენ, საუბარი ყალბი პერსონის სახელით გაეგრძელებინა.

მეორე თაღლითურმა ოპერაციამ, რომელიც ასევე სავარაუდოდ კამბოჯიდან მოქმედებდა, თავდაპირველად ჩვენი მოდელებით უცნობ ადამიანებთან დასაკავშირებელი SMS შეტყობინებები შექმნა და ისინი აშშ-ის ტელეფონის ნომრებზე მასობრივად გაგზავნა. ერთ-ერთი ასეთი შეტყობინება OpenAI-ის მკვლევარმა მიიღო, ისევე როგორც ივნისში აღწერილ შემთხვევაში. ეს SMS შეტყობინებები შეიცავდა მოწვევებს WhatsApp-ის ჯგუფებში, რომლებიც მოგვიანებით დაიბლოკა და რომელთა სახელებიც ლეგიტიმური საინვესტიციო კომპანიის სახელს ჰგავდა.

OpenAI-ის მკვლევრისთვის გაგზავნილი WhatsApp შეტყობინებების სერიიდან ჩანს, რომ თუ პოტენციური სამიზნე ერთ-ერთ ასეთ ჯგუფს შეუერთდებოდა, მალევე ნახავდა ექვსამდე სხვადასხვა ანგარიშს შორის გამართულ „საუბარს“, რომელიც მთლიანად ინვესტირებას ეხებოდა. ერთი ანგარიში თავს „საინვესტიციო ექსპერტად“ ასაღებდა, დანარჩენები კი — სხვადასხვა დონის თავდაჯერებისა და გამოცდილების მქონე ინვესტორებად. ამ საუბრის ყველა ნაწილი თაღლითებმა შექმნეს და ჩინურიდან ერთიან ბლოკად თარგმნეს — სავარაუდოდ, ენთუზიასტი და წარმატებული ტრეიდერების აქტიური ჯგუფის შთაბეჭდილების შესაქმნელად. საბოლოოდ, „საინვესტიციო ექსპერტი“ სამიზნეს თავადაც ინვესტირებას შესთავაზებდა.

ცალკე შემთხვევაში, საინვესტიციო თაღლითობის ოპერაციამ, რომელიც დიდი ალბათობით ნიგერიიდან მოქმედებდა, მოდელს სთხოვა დეტალური, ეტაპობრივი რჩევები იმის შესახებ, თუ როგორ მიეღწია სოციალური მედიის რეკლამებით ლათინურ ამერიკაში მცხოვრებ შეძლებულ ადამიანებამდე, დაემალა საკუთარი მდებარეობა და აერიდებინა სოციალური მედიის პლატფორმების შეზღუდვები. ამისთვის ოპერატორები მოდელს პლატფორმის მომსახურების საჯარო პირობებზე მიუთითებდნენ და სთხოვდნენ, შეემოწმებინა, შეესაბამებოდა თუ არა დაგეგმილი სარეკლამო შიგთავსი ამ პირობებს.

თაღლითები, განსაკუთრებით კი ფართომასშტაბიანი თაღლითური ცენტრები, დიდ შეუპოვრობას იჩენენ. აღკვეთის საპასუხოდ ისინი ხშირად ცდილობენ წესების დამრღვევი საქმიანობის განახლებას და ამავდროულად ქცევის გარკვეული ელემენტების შეცვლას, სავარაუდოდ, ხელახალი გამოვლენის თავიდან ასაცილებლად. სწორედ ამიტომ მნიშვნელოვანია, რომ ინდუსტრიის მონაწილეებმა ერთმანეთს გაუზიარონ ინფორმაცია თაღლითების ცვალებადი საქმიანობის შესახებ. მაგალითად, OpenAI-მ და Meta-მ ერთმანეთს გაუზიარეს ინფორმაცია მავნე სუბიექტებზე, რამაც შემდგომ გამოძიებასა და შესაბამისი ზომების მიღებას შეუწყო ხელი.

შესაძლოა, აღკვეთის ღონისძიებების ან ინტერნეტში გავრცელებული მსჯელობის საპასუხოდ, თუ რა ნიშნები ამხელს AI-ის გამოყენებას, თაღლითები ცდილობდნენ ონლაინშიგთავსსა და სამიზნეებთან მიმოწერაში AI-ის გამოყენების შენიღბვას. მაგალითად, სავარაუდოდ კამბოჯიდან მოქმედი თაღლითური ჯგუფები მოდელს სთხოვდნენ, პასუხებიდან გრძელი ტირეები ამოეღო.

ერთ შემთხვევაში თაღლითებმა სოციალური მედიის ანგარიშების მასობრივი დაბლოკვის ასახსნელად გამოგონილი მიზეზი მოიშველიეს. ეს ეხებოდა ზემოთ აღწერილ თაღლითურ ცენტრს, რომელიც სავარაუდოდ კამბოჯიდან მოქმედებდა და SMS-სა და WhatsApp-ს იყენებდა. მას შემდეგ, რაც WhatsApp-მა ამ ოპერაციასთან დაკავშირებული „საინვესტიციო ჯგუფები“ დაბლოკა, ოპერატორებმა დაიწყეს შეტყობინებების შექმნა, რომლებშიც ამტკიცებდნენ, რომ ჯგუფები კონკურენტმა უსაფუძვლოდ დაარეპორტა — სავარაუდოდ, დაბლოკვის გასამართლებლად.

WhatsApp შეტყობინების ეკრანის ანაბეჭდი, რომელიც კამბოჯასთან დაკავშირებულმა თაღლითურმა ოპერაციამ OpenAI-ის მკვლევარს WhatsApp-ის მიერ ანგარიშების გაუქმების შემდეგ გაუგზავნა.