ჩინეთის სახალხო რესპუბლიკასთან დაკავშირებული ბოროტად გამოყენება: თვალთვალი და გავლენის ოპერაციები

ეს შემთხვევის შესწავლა თავდაპირველად OpenAI-ის 2025 წლის ოქტომბრის⁠(იხსნება ახალ ფანჯარაში) ანგარიშში გამოქვეყნდა.

ჩინეთის სახალხო რესპუბლიკის სახელმწიფო უწყებებთან სავარაუდოდ დაკავშირებული პირები ChatGPT‑ს იყენებდნენ პროგრამული შემუშავების, პროფილირებისა და ბიუროკრატიული საქმიანობის დასახმარებლად.

როგორც მარტში მეცნიერებისა და ტექნოლოგიების პოლიტიკის ოფისისთვის წარდგენილ მოსაზრებებში, აშშ-ის ხელოვნური ინტელექტის სამოქმედო გეგმასთან დაკავშირებით აღვნიშნეთ, მიგვაჩნია, რომ ხელოვნურმა ინტელექტმა რაც შეიძლება მეტ ადამიანს სარგებელი რომ მოუტანოს, საჭიროა მისი განვითარების ხელშეწყობა გონივრული წესებით, რომლებიც ადამიანებს რეალური ზიანისგან დაიცავს, და დემოკრატიული ხელოვნური ინტელექტის შექმნა. დემოკრატიულ ხელოვნურ ინტელექტში ვგულისხმობთ ხელოვნურ ინტელექტს, რომელიც ეფუძნება დემოკრატიულ პრინციპებს, რომლებსაც ამერიკა ყოველთვის იცავდა. ეს მოიცავს ავტორიტარული რეჟიმებისთვის ხელის შეშლას, გამოიყენონ ხელოვნური ინტელექტის ხელსაწყოები ძალაუფლების მოსაპოვებლად და მოქალაქეების გასაკონტროლებლად.

ჩვენი ინვესტიციები ავტორიტარული რეჟიმების მიერ ChatGPT‑ის შესაძლებლობების ბოროტად გამოყენების მცდელობების გამოვლენასა და აღკვეთაში არა მხოლოდ დღეს იცავს ადამიანებს, არამედ მნიშვნელოვან წარმოდგენასაც გვიქმნის, თუ როგორ შეიძლება ამ რეჟიმებმა სამომავლო შესაძლებლობები ბოროტად გამოიყენონ. ამ ნაწილში განხილულია ასეთი რეჟიმების წარმომადგენლებთან პოტენციურად დაკავშირებული პირების შესახებ მიღებული მიგნებების ერთი ჯგუფი, განსაკუთრებული ყურადღებით ჩინეთის სახალხო რესპუბლიკაზე.

როგორც ივნისში დავწერეთ, ჩინეთის სახალხო რესპუბლიკა ხელოვნური ინტელექტის საკუთარი ავტოკრატიული ვერსიის განვითარებაში რეალურ პროგრესს აღწევს. ჩინეთის სახელმწიფო უწყებებთან სავარაუდოდ დაკავშირებული პირების მიერ გამოყენებული ChatGPT‑ის ანგარიშების გაუქმება გარკვეულწილად ნათელს ჰფენს ამ ავტორიტარულ გარემოში ხელოვნური ინტელექტის გამოყენების ამჟამინდელ მდგომარეობას. ამ გამოყენების ზოგიერთი მიმართულება, როგორც ჩანს, ონლაინ ან ოფლაინ ტრაფიკის ფართომასშტაბიან მონიტორინგს ემსახურებოდა, რაც კიდევ ერთხელ უსვამს ხაზს ამ სფეროში ავტორიტარული რეჟიმების მხრიდან შესაძლო ბოროტად გამოყენებისადმი ჩვენი მუდმივი ყურადღების მნიშვნელობას. ამ გამოყენების სხვა მიმართულებები, როგორც ჩანს, უფრო სიღრმისეულ პროფილირებას ემსახურებოდა. ამ საქმიანობასთან დაკავშირებული ანგარიშები გავაუქმეთ და მიღებულ მიგნებებს ამ ანგარიშში გიზიარებთ.

ეს კვლევა ეფუძნება წესების დამრღვევი საქმიანობის რამდენიმე შემთხვევას, რომლებიც გამოვავლინეთ და აღვკვეთეთ. ეს საქმიანობა შეესაბამებოდა ცალკეული მომხმარებლების მიერ ChatGPT‑ის გამოყენებას და არა ჩვენი მოდელების ფართომასშტაბიან, ინსტიტუციურ დანერგვას. ამდენად, ეს ამ კონტექსტში სხვადასხვა ხელოვნური ინტელექტის მოდელის გამოყენების მხოლოდ შეზღუდულ სურათს გვიჩვენებს.

ზოგიერთი გაუქმებული ანგარიშის მომხმარებელი, როგორც ჩანს, ცდილობდა ChatGPT‑ის გამოყენებას ფართომასშტაბიანი მონიტორინგის ხელსაწყოების შესაქმნელად — მონაცემთა ნაკრებების გასაანალიზებლად, რომლებიც ხშირად დასავლური ან ჩინური სოციალური მედიის პლატფორმებიდან იყო შეგროვებული. თებერვალში უკვე მოგახსენეთ ერთი ასეთი შემთხვევის შესახებ, რომელიც ხელოვნური ინტელექტით აღჭურვილი სოციალური მედიის მონიტორინგის ხელსაწყოს შექმნას ეხებოდა. ოპერატორების მტკიცებით, ის ჩინეთის უსაფრთხოების ძალებისთვის იყო განკუთვნილი. ეს მომხმარებლები, როგორც წესი, ChatGPT‑ს სთხოვდნენ დახმარებას ასეთი ხელსაწყოების დიზაინში ან მათ შესახებ სარეკლამო მასალების შექმნაში, თუმცა არა უშუალოდ მონიტორინგის განხორციელებაში.

მაგალითად, ახლახან გავაუქმეთ მომხმარებლის ანგარიში, რომელიც ჩვენს სერვისებზე ჩინეთიდან წვდომისთვის შესაძლოა VPN-ს იყენებდა და ChatGPT‑ს სთხოვდა დახმარებას სოციალური მედიის მონიტორინგის ხელსაწყოს სარეკლამო მასალებისა და პროექტის გეგმების შემუშავებაში, სავარაუდოდ სახელმწიფო დამკვეთისთვის. ხელსაწყო აღწერილი იყო, როგორც სოციალური მედიის „ზონდი“ (探针), რომელსაც, სავარაუდოდ, შეეძლო Twitter/X-ის, Facebook-ის, Instagram-ის, Reddit-ის, TikTok-ისა და YouTube-ის შემოწმება იმ მასალების აღმოსაჩენად, რომლებსაც მომხმარებელი ექსტრემისტულ გამონათქვამებად და ეთნიკურ, რელიგიურ თუ პოლიტიკურ შიგთავსად აღწერდა. მომხმარებელს ჩვენი მოდელი სოციალური მედიის ფაქტობრივი მონიტორინგისთვის არ გამოუყენებია. დამოუკიდებლად ვერ ვადასტურებთ, გამოიყენა თუ არა ეს ხელსაწყო ჩინეთის რომელიმე სახელმწიფო უწყებამ.

მსგავსად ამისა, გავაუქმეთ მეორე მომხმარებლის ანგარიშიც, რომელიც სავარაუდოდ სახელმწიფო უწყებასთან იყო დაკავშირებული და ChatGPT‑ს სთხოვდა დახმარებას იმ პროექტის წინადადების შედგენაში, რომელსაც თავად „უიღურებთან დაკავშირებული მაღალი რისკის პირების შემოსვლის ადრეული გაფრთხილების მოდელი“ (高危涉维吾尔关注人员流入预警模型) უწოდა. წინადადებაში აღწერილი იყო ხელსაწყო, რომელიც სატრანსპორტო ჯავშნებს გააანალიზებდა და პოლიციის ჩანაწერებს შეადარებდა, რათა წინასწარ გაეფრთხილებინა მომხმარებელი იმ პირთა გადაადგილების შესახებ, რომლებიც უიღურებთან დაკავშირებულ და მაღალი რისკის კატეგორიას მიაკუთვნეს — კატეგორიას, რომელიც სხვაგვარად განსაზღვრული არ ყოფილა. მომხმარებელს ჩვენი მოდელისთვის ასეთი ხელსაწყოს შექმნაში დახმარება არ უთხოვია — მან მხოლოდ ზოგადი წინადადების მომზადება მოითხოვა. შესაბამისად, დამოუკიდებლად ვერ ვადასტურებთ, რომელი ტექნოლოგიის გამოყენებას აპირებდა ან გამოუყენებია თუ არა ასეთი ხელსაწყო ჩინეთის რომელიმე სახელმწიფო უწყებას.

ასევე გავაუქმეთ იმ მომხმარებლების ანგარიშები, რომლებიც, როგორც ჩანდა, ჩინეთის სახელმწიფო უწყებებთან იყვნენ დაკავშირებული და ცდილობდნენ ChatGPT‑ის გამოყენებას უფრო კონკრეტული, მიზნობრივი პროფილირებისა და ონლაინ კვლევისთვის.

მაგალითად, ერთმა მომხმარებელმა ChatGPT‑ს სთხოვა, დაედგინა ჩინეთის მთავრობისადმი კრიტიკულად განწყობილი X ანგარიშის დაფინანსების წყაროები. მეორე მომხმარებელმა ChatGPT‑ს სთხოვა, დაედგინა მონღოლეთში გავრცელებული პეტიციის ორგანიზატორები. ორივე შემთხვევაში ჩვენმა მოდელებმა მხოლოდ საჯაროდ ხელმისაწვდომი ინფორმაცია დააბრუნეს, რომელიც არ შეიცავდა ისეთ სენსიტიურ დეტალებს, როგორიცაა დაფინანსების წყაროები ან პეტიციის ორგანიზატორთა ვინაობა.

ამ საქმიანობის ზოგიერთი ნაწილი ჩვენს მოდელებს ღია წყაროების კვლევის ხელსაწყოდ იყენებდა, დაახლოებით ისე, როგორც ადრე მომხმარებლები ინტერნეტში ან სოციალურ მედიაში ძიებას გამოიყენებდნენ. მაგალითად, მესამე მომხმარებელმა ChatGPT‑ს სთხოვა, ყოველდღიურად გამოევლინა და შეეჯამებინა ჩინეთისთვის მნიშვნელოვანი უახლესი ამბები, მათ შორის ისეთი სენსიტიური თემების შესახებ, როგორიცაა 1989 წელს ტიანანმენის მოედანზე მომხდარი ხოცვა-ჟლეტის წლისთავი და დალაი-ლამას დაბადების დღე.