ვერცხლის არშიის სცენარი: აშშ-ის პირების წინააღმდეგ მიმართული, სავარაუდოდ, ჩინეთიდან მართული აქტივობა

ამ შემთხვევის კვლევა თავდაპირველად გამოქვეყნდა OpenAI-ის 2026 წლის თებერვლის⁠(იხსნება ახალ ფანჯარაში) ანგარიშში, რომელიც ხელოვნური ინტელექტის ბოროტად გამოყენების აღკვეთას ეხება.

დავბლოკეთ ChatGPT‑ის რამდენიმე, სავარაუდოდ, ჩინეთიდან მართული ანგარიში. ისინი ჩვენს მოდელებს იყენებდნენ აშშ-ის პირების, ფორუმებისა და ფედერალური შენობების ადგილმდებარეობის შესახებ ინფორმაციისა და სახის ჩანაცვლების პროგრამებზე მითითებების მისაღებად. ასევე ქმნიდნენ ინგლისურენოვან წერილებს, რომლებიც სოციალური ინჟინერიის მცდელობებს ჰგავდა. ისინი ჩვენს მოდელებს ჩინურ ენაზე მიმართავდნენ, ძირითადად კონტინენტური ჩინეთის სამუშაო საათებში აქტიურობდნენ და ჩვენს პლატფორმაზე წვდომისთვის VPN-ებს იყენებდნენ.

ამ ანგარიშებით იქმნებოდა ელწერილების მონახაზები, რომლებიც თითქოს ჰონგ-კონგში დაფუძნებული კომპანიის, „ნიმბუს ჰაბ კონსალტინგის“, თანამშრომლებისგან იგზავნებოდა. თუმცა, ჩვენს მოდელებთან ურთიერთობისას ისინი ტრადიციული ჩინური დამწერლობის ნაცვლად, რომელიც, ჩვეულებრივ, ჰონგ-კონგში გამოიყენება, გამარტივებულ ჩინურ დამწერლობას იყენებდნენ, რომელიც კონტინენტურ ჩინეთშია გავრცელებული. ეს მიანიშნებს, რომ რეალური ოპერატორები კონტინენტურ ჩინეთში იმყოფებოდნენ. გარდა ამისა, ერთ-ერთი ანგარიშით შეიქმნა ელწერილი შანხაიში დაფუძნებული საზოგადოებასთან ურთიერთობის ორგანიზაციის სავარაუდო წარმომადგენლის სახელით. ეს ორგანიზაცია აშშ-სა და შანხაის შორის ეკონომიკურ და კულტურულ გაცვლებს უწყობს ხელს. კომპანიის სახელში გამოყენებული სიტყვის, „ნიმბუსის“, გამო, რომელიც წვიმის ღრუბელს ან შარავანდედს ნიშნავს, ამ ოპერაციას „ვერცხლის არშიის სცენარი“ ვუწოდეთ.

ამ ანგარიშებით იქმნებოდა ინგლისურენოვანი ელწერილების მონახაზები, რომელთა ადრესატები იყვნენ აშშ-ის შტატების დონის თანამდებობის პირები ან ბიზნესისა და ფინანსების სფეროში მომუშავე პოლიტიკის ანალიტიკოსები. როგორც ჩანდა, ადრესატებს ანაზღაურებად კონსულტაციებში მონაწილეობას სთავაზობდნენ, რაც, მათი აღწერით, კლიენტებისთვის პოლიტიკის განმარტებასა და სტრატეგიული რჩევების მიცემას გულისხმობდა. ისინი ითხოვდნენ, რომ ელწერილების მონახაზები ყოფილიყო მოკლე, მკაფიო და პროფესიონალური, ხოლო სათაურები გადაუდებლობის განცდას ქმნიდა და ფაქიზ ფსიქოლოგიურ მინიშნებებს შეიცავდა.

გარდა ამისა, ChatGPT‑ის ამ ანგარიშებით ჩვენს მოდელებს ზოგადი ინფორმაციის მოსაძიებლადაც იყენებდნენ. ამ მოთხოვნებს მოდელი საჯაროდ ხელმისაწვდომ წყაროებზე დაყრდნობით პასუხობდა. მოთხოვნები შემდეგ თემებს მოიცავდა:

• აშშ-ის ფედერალური სამთავრობო უწყებების ოფისების, მათ შორის მთავარი ოფისების, ადგილმდებარეობა და ფედერალური უწყებებისა და თანამდებობის პირების კონცენტრაციის მიხედვით დალაგებული შტატების სია.

• აშშ-ის ფედერალური უწყებების თანამშრომელთა განაწილება შტატების მიხედვით.

• აშშ-ის პირები, მაგალითად, „ამერიკის ხმის“ წამყვანები, მათ შორის მათი ადრინდელი ინტერვიუები და ინტერესის სფეროები.

• ონლაინფორუმები და ვებსაიტები, რომლებსაც ხშირად იყენებენ აშშ-ის ეკონომიკისა და ფინანსების სფეროს პროფესიონალები და სამუშაოს მაძიებლები.

აღსანიშნავია, რომ ერთ-ერთი ანგარიშიდან მოითხოვეს მითითებები კომპიუტერში FaceFusion-ის ჩამოტვირთვისა და დაყენების შესახებ. ეს არის სახის გამოსახულების შეცვლის პლატფორმა, რომელიც სახის ჩანაცვლებისა და მედიამასალის სხვა სახით გაუმჯობესებისთვის გამოიყენება. ChatGPT‑ში მათი აქტივობიდან ჩანდა, რომ კონკრეტულად რეალურ დროში სახის ჩანაცვლების ფუნქციის გამოყენება სურდათ. ისინი ითხოვდნენ დაყენების ნაბიჯ-ნაბიჯ ინსტრუქციას ტექნიკური ტერმინების გარეშე და აცხადებდნენ, რომ დამწყები პროგრამისტები იყვნენ, ამიტომ მითითებები მარტივი უნდა ყოფილიყო. დაყენებაში დახმარების მისაღებად მათ ატვირთეს ეკრანის ანაბეჭდი, რომელზეც კომპიუტერის აპარატურული მახასიათებლები ჩანდა. მოდელმა უპასუხა FaceFusion-ის საჯაროდ ხელმისაწვდომი ვებსაიტიდან და დოკუმენტაციიდან აღებული ინფორმაციით.

ჩვენი მოდელებით ელწერილების მონახაზების შესაქმნელად მიცემული მითითებები უფრო ჰგავდა უცხოური სადაზვერვო სამსახურის მიერ კონტაქტის დამყარებისთვის განკუთვნილ სოციალური ინჟინერიის სცენარს⁠(იხსნება ახალ ფანჯარაში), ვიდრე დასაქმების ჩვეულებრივ შეთავაზებებს. თითოეული ელწერილის მონახაზისთვის ისინი შემდეგ ნაწილებს ითხოვდნენ:

სანდოობის შექმნა: „ნიმბუს ჰაბს“ წარმოაჩენდნენ პროფესიონალურ სტრატეგიულ საკონსულტაციო ფირმად, რომელსაც გეოპოლიტიკისა და ტრანსნაციონალური პოლიტიკის სფეროში ავტორიტეტული ექსპერტული ცოდნა ჰქონდა. ისინი უთითებდნენ ნიმბუს ჰაბის ვებსაიტის ბმულს (იხილეთ ეკრანის ანაბეჭდი ქვემოთ).

სამიზნე პირზე მორგება და მაამებლობა: მოდელს სთხოვდნენ, პირდაპირ მიეთითებინა ადრესატის საჯარო სექტორში მუშაობის გამოცდილება იმის დასტურად, რომ ის ამ პოზიციას ზუსტად შეეფერებოდა. ერთ შემთხვევაში ანგარიშის მომხმარებელმა ატვირთა შანხაიში მცხოვრები აშშ-ის პირის LinkedIn-პროფილის ეკრანის ანაბეჭდები და მოდელს დაავალა, ელწერილის მონახაზი ამ პირისთვის მოერგო ანაბეჭდებში მოცემული ტექსტის საფუძველზე, რომელიც მის პირად გამოცდილებასა და წარსულ საქმიანობას აღწერდა.

მრავალი წამახალისებელი პირობის შეთავაზება: საკონსულტაციო საქმიანობას, ჩვეულებრივ, მიმზიდველ, მაღალშემოსავლიან ონლაინშესაძლებლობად წარმოაჩენდნენ, შედეგებზე დამოკიდებული ბონუსებითა და სხვების რეკომენდაციისთვის ჯილდოებით, თუმცა სამუშაოს რეალურ შინაარსს ბუნდოვანს ტოვებდნენ.

დამამშვიდებელი ფორმულირებები და რისკის განცდის შემცირება: ხშირად აცხადებდნენ, რომ სამუშაო არ იყო დაძაბული, ანაზღაურება დროულად გაიცემოდა და საქმიანობა კონფიდენციალური იყო.

კომუნიკაციის სხვა პლატფორმაზე სწრაფად გადატანა: ისინი ყოველთვის ცდილობდნენ, ელფოსტით მიმოწერის ნაცვლად ადრესატებთან პირველი ონლაინვიდეოშეხვედრა WhatsApp-ის, Zoom-ის ან Teams-ის მეშვეობით გაემართათ.

ამ შემთხვევაში ქსელების მიერ მოდელის გამოყენება ტექნიკურად დახვეწილი არ ყოფილა. მათი მოთხოვნები ზოგჯერ ჰგავდა დასაქმების შეთავაზების დამაჯერებელი ტექსტის მომზადებას ან პროგრამული უზრუნველყოფის კანონიერი მიზნით დაყენებას. თუმცა, მომხმარებლების მიერ ყალბი კორპორაციული იდენტობის უკან დამალვა და გეოპოლიტიკური თემებით დაინტერესება მიუთითებს მტრული მიზნებით გადაბირების შესაძლო განზრახვაზე.

ამ ანგარიშებით ChatGPT‑ის გამოყენების მონაცემებში არ ჩანდა მტკიცებულება, რომ მათ სამიზნე პირებისგან მიწვევებზე პასუხების მიღება შეძლეს. დამოუკიდებლად ვერ დავადგინეთ, ნამდვილად გაიგზავნა თუ არა ელფოსტით მიწვევები ან უპასუხა თუ არა მათ რომელიმე სამიზნე ადრესატმა.

რამდენიმე დემოკრატიული ქვეყნის მთავრობამ (მაგალითად, აშშ-ის⁠(იხსნება ახალ ფანჯარაში), გაერთიანებული სამეფოს⁠(იხსნება ახალ ფანჯარაში) და ავსტრალიის⁠(იხსნება ახალ ფანჯარაში)) გაავრცელა გაფრთხილება, რომ უცხოური სადაზვერვო სამსახურები სოციალური და პროფესიული ქსელების პლატფორმებზე თავს საკონსულტაციო ფირმებად და სხვა ორგანიზაციებად ასაღებენ და სახელმწიფო უწყებების მოქმედი და ყოფილი თანამშრომლების გადაბირებას ცდილობენ. დასაქმების ჩვეულებრივი შეთავაზებების გარჩევა სოციალური ინჟინერიის ამ მიზანმიმართული მცდელობებისგან შესაძლოა რთული იყოს, რადგან მათ გარკვეული საერთო ნიშნები აქვთ. თუმცა, დასაქმების ნამდვილი შეთავაზებები, როგორც წესი, კანდიდატების შერჩევის უფრო ხანგრძლივ პროცესს ითვალისწინებს და შეიცავს გადამოწმებად ინფორმაციას პოზიციის დასახელების შესახებ, დამსაქმებლის სანდო მონაცემებს, შრომის ბაზრის შესაბამის ანაზღაურების დიაპაზონსა და რეალური ვაკანსიების ბმულებს. მოკლედ, თუ შეთავაზება ზედმეტად კარგია საიმისოდ, რომ სიმართლე იყოს, დიდი ალბათობით, არც არის.