ირანის ფარული გავლენის ოპერაციის ჩაშლა
ჩვენ ავკრძალეთ ანგარიშები, რომლებიც დაკავშირებული იყო ირანის გავლენის ოპერაციასთან, რომელიც ChatGPT‑ს მრავალ თემაზე, მათ შორის აშშ-ის საპრეზიდენტო კამპანიაზე, კონტენტის შესაქმნელად იყენებდა. ჩვენ არ გვინახავს ნიშანი, რომ ამ კონტენტმა მნიშვნელოვან აუდიტორიამდე მიაღწია.
OpenAI ერთგულია ბოროტად გამოყენების პრევენციისა და AI-ის მიერ გენერირებული კონტენტის გამჭვირვალობის გაუმჯობესების მიმართ. ეს მოიცავს ჩვენს მუშაობას ფარული გავლენის ოპერაციების (IO) გამოვლენისა და შეჩერებისთვის, რომლებიც ცდილობენ საზოგადოებრივი აზრის მანიპულირებას ან პოლიტიკურ შედეგებზე გავლენის მოხდენას იმ პირების ნამდვილი ვინაობისა თუ განზრახვების დამალვით, რომლებიც მათ უკან დგანან. ეს განსაკუთრებით მნიშვნელოვანია 2024 წელს ჩატარებული მრავალი არჩევნების კონტექსტში. მთელი წლის განმავლობაში ამ მიმართულებით ჩვენი მუშაობა გავაფართოვეთ, მათ შორის საკუთარი AI მოდელების გამოყენებით, რათა ბოროტად გამოყენება უკეთ გამოვავლინოთ და გავიგოთ.
ამ კვირაში ჩვენ გამოვავლინეთ და წავშალეთ ChatGPT ანგარიშების კლასტერი, რომელიც კონტენტს ქმნიდა ირანის ფარული გავლენის ოპერაციისთვის, რომელიც იდენტიფიცირებულია როგორც Storm-2035(იხსნება ახალ ფანჯარაში). ჩვენ ამ ანგარიშებს ჩვენი სერვისების გამოყენება ავუკრძალეთ და ვაგრძელებთ მონიტორინგს, რათა გამოვავლინოთ ჩვენი პოლიტიკის დარღვევის ნებისმიერი შემდგომი მცდელობა. ოპერაცია ChatGPT‑ს იყენებდა რამდენიმე თემაზე კონტენტის შესაქმნელად — მათ შორის აშშ-ის საპრეზიდენტო არჩევნებში ორივე მხარის კანდიდატებზე კომენტარებისათვის — და შემდეგ მას სოციალური მედიის ანგარიშებისა და ვებსაიტების მეშვეობით ავრცელებდა.
იმ ფარული გავლენის ოპერაციების მსგავსად, რომლებიც ჩვენ მაისში აღვწერეთ, როგორც ჩანს, ამ ოპერაციასაც მნიშვნელოვანი აუდიტორიის ჩართულობისთვის არ მიუღწევია. ჩვენს მიერ გამოვლენილი სოციალური მედიის პოსტების უმრავლესობამ ცოტა ან საერთოდ არანაირი მოწონება, გაზიარება ან კომენტარი არ მიიღო. ანალოგიურად, ვერ ვიპოვეთ ნიშნები იმისა, რომ ვებსტატიები სოციალურ მედიაში ვრცელდებოდა. Brookings-ის Breakout Scale(იხსნება ახალ ფანჯარაში)-ის მიხედვით, რომელიც ფარული IO-ის გავლენას 1-დან (ყველაზე დაბალი) 6-მდე (ყველაზე მაღალი) შკალაზე აფასებს, ეს ოპერაცია მე-2 კატეგორიის ქვედა ზღვარზე იყო (აქტივობა მრავალ პლატფორმაზე, მაგრამ მტკიცებულების გარეშე, რომ რეალურმა ადამიანებმა მათი კონტენტი აიტაცეს ან ფართოდ გააზიარეს). ჩვენს გამოძიებას დაეხმარა ინფორმაცია ამ ოპერაციის შესახებ, რომელიც გასულ კვირას Microsoft-მა გამოაქვეყნა.(იხსნება ახალ ფანჯარაში)
ჩვენმა გამოძიებამ აჩვენა, რომ ეს ოპერაცია ChatGPT‑ს ორი მიზნით იყენებდა: გრძელი ფორმატის სტატიებისა და მოკლე სოციალური მედიის კომენტარების გენერირებისთვის. პირველი სამუშაო ნაკადი ქმნიდა სტატიებს აშშ-ის პოლიტიკასა და გლობალურ მოვლენებზე, რომლებიც ხუთ ვებსაიტზე ქვეყნდებოდა და თავს როგორც პროგრესულ, ისე კონსერვატიულ საინფორმაციო გამოცემებად ასაღებდა. მეორე სამუშაო ნაკადი ქმნიდა მოკლე კომენტარებს ინგლისურად და ესპანურად, რომლებიც სოციალურ მედიაში ქვეყნდებოდა. ჩვენ ამ ოპერაციაში ჩართული X-ზე თორმეტი და Instagram-ზე ერთი ანგარიში გამოვავლინეთ. X-ის ზოგი ანგარიში თავს პროგრესულად ასაღებდა, ზოგი კი კონსერვატიულად. ამ კომენტარების ნაწილს ისინი ქმნიდნენ იმით, რომ ჩვენს მოდელებს სთხოვდნენ სხვა სოციალური მედიის მომხმარებლების მიერ გამოქვეყნებული კომენტარების გადაწერას.
ოპერაცია ქმნიდა კონტენტს რამდენიმე თემაზე: ძირითადად, ღაზაში მიმდინარე კონფლიქტზე, ოლიმპიურ თამაშებზე ისრაელის მონაწილეობაზე და აშშ-ის საპრეზიდენტო არჩევნებზე — და ნაკლებად ვენესუელის პოლიტიკაზე, აშშ-ში Latinx თემების უფლებებზე (როგორც ესპანურად, ისე ინგლისურად) და შოტლანდიის დამოუკიდებლობაზე. ისინი პოლიტიკურ კონტენტს შორის მოდისა და სილამაზის შესახებ კომენტარებსაც ათავსებდნენ, შესაძლოა უფრო ავთენტურებად გამოსაჩენად ან მიმდევრების მოსაზიდად.
მიუხედავად იმისა, რომ ამ ოპერაციას მნიშვნელოვანი აუდიტორიის ჩართულობა არ მოჰყოლია, ჩვენ სერიოზულად ვუყურებთ ჩვენი სერვისების უცხოურ გავლენის ოპერაციებში გამოყენების ნებისმიერ მცდელობას. შესაბამისად, ამ აქტივობის ჩაშლის მხარდასაჭერად ფართო საზოგადოებასთან მუშაობის ფარგლებში, მას შემდეგ რაც ანგარიშები ჩვენი სერვისებიდან წავშალეთ, საფრთხის შესახებ დაზვერვის ინფორმაცია გავუზიარეთ მთავრობის, კამპანიების და ინდუსტრიის დაინტერესებულ მხარეებს. OpenAI კვლავ ერთგულია ასეთი ტიპის ბოროტად გამოყენების მასშტაბურად გამოვლენისა და შემცირების მიმართ ინდუსტრიასთან, სამოქალაქო საზოგადოებასთან და ხელისუფლებასთან პარტნიორობით, ასევე გენერაციული AI-ის ძალის გამოყენებით, როგორც ჩვენი მუშაობის გამაძლიერებლის. ჩვენ გავაგრძელებთ მსგავსი მიგნებების გამოქვეყნებას ინფორმაციის გაზიარებისა და საუკეთესო პრაქტიკის ხელშესაწყობად.
ამ ოპერაციის მიერ გენერირებული და მის ორ ვებსაიტზე გამოქვეყნებული ორი სტატიის სათაურები. ჩვენ ვერ ვნახეთ მტკიცებულება, რომ ეს სტატიები სოციალურ მედიაში ფართოდ ვრცელდებოდა.
აშშ-ის საარჩევნო კანდიდატების შესახებ პოსტები, რომლებიც ამ ოპერაციამ შექმნა და X-ზე ორ სხვადასხვა ანგარიშზე გამოქვეყნდა. ამ პოსტებმა ძალიან მცირე ან საერთოდ არანაირი ჩართულობა მიიღეს.
ინგლისურ და ესპანურ ენებზე სილამაზის შესახებ პოსტები, რომლებიც ამ ოპერაციამ შექმნა და X-ზე ორ სხვადასხვა ანგარიშზე გამოაქვეყნა. ეს სურათები გავატარეთ ჩვენს DALL·E 3 კლასიფიკატორში, რომელმაც დაადგინა, რომ ისინი ჩვენი სერვისებით არ იყო გენერირებული. ამ პოსტებმა ძალიან მცირე ან საერთოდ არანაირი ჩართულობა მიიღეს.
ამ აქტივობასთან დაკავშირებული დომენები:
- niothinker[.]com
- savannahtime[.]com
- evenpolitics[.]com
- teorator[.]com
- westlandsun[.]com