OpenAI და Hugging Face ერთობლივად მუშაობენ უსაფრთხოებასთან დაკავშირებული ინციდენტის მოგვარებაზე

განახლება 2026 წლის 28 ივლისს:

• მომავალი გამოშვებისთვის დაგეგმილი არცერთი მოდელი არ მონაწილეობდა Hugging Face-ის ექსპლუატაციაში. ჩვენს ბლოგპოსტში ნახსენები გამოშვებამდელი მოდელი მხოლოდ შიდა გამოყენებისთვის განკუთვნილი კვლევითი პროტოტიპია და იგი არასოდეს ყოფილა განკუთვნილი საჯაროდ გამოშვებისთვის. ინციდენტის შემდეგ, ჩვენ მისი დეაქტივაცია მოვახდინეთ, დავშიფრეთ და მასზე კვლევითი წვდომა შევზღუდეთ.
• ExploitGym-ის შეფასების გარემო მოდელებს არ აძლევდა ინტერნეტზე პირდაპირ წვდომის საშუალებას. ინტერნეტზე წვდომის მოსაპოვებლად, მოდელებმა აღმოაჩინეს და გამოიყენეს მანამდე უცნობი ნულოვანი დღის მოწყვლადობა Artifactory⁠(იხსნება ახალ ფანჯარაში)-ში, პაკეტების რეესტრის ქეშ-პროქსიში. ეს მოწყვლადობა, Artifactory-ის სხვა მოწყვლადობებთან ერთად, რომლებიც ჩვენმა მოდელებმა ჩვენი მიმოხილვის ფარგლებში გამოავლინეს, მიმწოდებელს გავუმჟღავნეთ. 
• ჩვენი განხილვის გაგრძელების პარალელურად, ვაგრძელებთ Hugging Face-თან თანამშრომლობას, მათ შორის, წვლილი შეგვაქვს მათ ინციდენტის შემდგომ ანალიზში⁠(იხსნება ახალ ფანჯარაში). ჩვენ მათ ასევე დავამატეთ ჩვენს „Trusted Access for Cyber“ პროგრამაში. 
• დღემდე ჩატარებული ჩვენი შესწავლის საფუძველზე, არ გამოვლენილა სხვა ისეთი აქტივობა სიმძიმითა და მასშტაბით, როგორიც იყო Hugging Face-თან დაკავშირებული შემთხვევა, რომელიც პლატფორმის დონეზე კომპრომეტირებას მოიცავდა.
• Hugging Face-ში შეჭრისა და ჩვენი მოდელების უფრო ფართო აქტივობის მიმდინარე მიმოხილვისას, გამოვავლინეთ მცირერიცხოვანი შემთხვევები, როდესაც მოდელებმა სხვა საჯაროდ ხელმისაწვდომ სერვისებზე ანგარიშის დონეზე საჯაროდ გამჟღავნებული ავტორიზაციის მონაცემების იდენტიფიცირება მოახდინეს და გამოიყენეს. ეს მოიცავს ოთხ ანგარიშს ოთხ სერვისზე Hugging Face-ის ინციდენტის ფარგლებში (და რამდენიმე ანგარიშს, რომლებზეც წვდომა განხორციელდა სხვა შეფასებების ფარგლებში). ამ ოთხი ანგარიშიდან ერთი გამოიყენებოდა როგორც გამავალი რელე და შუალედური ეტაპის გზა, ხოლო მეორე ანგარიში — მონაცემების შესანახად. დანარჩენ ორ ანგარიშზე მოდელებს წვდომა მხოლოდ წაკითხვის რეჟიმში ჰქონდათ და ისინი არ გამოუყენებიათ Hugging Face-ის კომპრომეტირების ხელშესაწყობად. ჩვენ გავაგრძელებთ სერვისების მფლობელების პირდაპირ ინფორმირებას და არ გვაქვს მტკიცებულება, რომ ამ პროვაიდერებზე ან მათ სერვისებზე არსებულ სხვა ანგარიშებზე უფრო ფართო გავლენა გავრცელდა.
• მოდელებმა დამატებით გამოიყენეს საჯაროდ ხელმისაწვდომი სერვისების სერია, მათ შორის კოდის ჩასმის ვებსაიტები, მოთხოვნების დაფიქსირების სერვისები, ეკრანის ანაბეჭდების სერვისები და სხვა ვებ-უტილიტები. ამ შემთხვევებში პლატფორმის ან ანგარიშის დონეზე კომპრომეტირება არ მომხდარა. 
• ჩვენ სერიოზულად ვეკიდებით ჩვენს პასუხისმგებლობას, გამოვავლინოთ და მოვემზადოთ მზარდი შესაძლებლობების მქონე ხელოვნური ინტელექტის სისტემებიდან მომდინარე რისკებისთვის. ჩვენი განხილვის დასრულების შემდეგ, მას განვიხილავთ უსაფრთხოებისა და დაცვის კომიტეტთან და უსაფრთხოების საკონსულტაციო ჯგუფთან ჩვენი მზადყოფნის ჩარჩოს⁠ ფარგლებში.

გასულ კვირას Hugging Face-მა გაასაჯაროვა ახალი ტიპის უსაფრთხოების ინციდენტი⁠(იხსნება ახალ ფანჯარაში) მას შემდეგ, რაც აღმოაჩინა და შეაკავა ხელოვნური ინტელექტის აგენტი, რომელმაც მათი ინფრასტრუქტურის კომპრომეტირება მოახდინა; ველით, რომ ასეთი შემთხვევები უფრო ხშირი გახდება, რადგან სულ უფრო ფართოდ ვრცელდება კიბერშესაძლებლობებით გაძლიერებული მოდელები. გამოძიების შემდეგ ახლა ვიცით, რომ ეს კონკრეტული ინციდენტი OpenAI-ს მოდელების კომბინაციამ გამოიწვია, მათ შორის იყო GPT‑5.6 Sol და კიდევ უფრო ძლიერი წინასწარი გამოშვების მოდელი, რომლებსაც კიბერთემებზე უარის შემცირებული დონე ჰქონდა, მაშინ, როცა შიდა ტესტირებას გადიოდა კიბერშესაძლებლობების ბენჩმარკზე⁠(იხსნება ახალ ფანჯარაში).

ამ ინციდენტს მივიჩნევთ უპრეცედენტო კიბერინციდენტად, რომელიც უახლესი დონის კიბერშესაძლებლობებს მოიცავს, და შესაბამისად ვრეაგირებთ. ამ ეტაპზე წინასწარ მიგნებებს გიზიარებთ, რათა დამცველებს დავეხმაროთ მომხდარის გაგებაში და იმის შეფასებაში, რისი უნარი აქვს დღეს მოდელებს. Hugging Face-თან ერთად გავაგრძელებთ საფუძვლიან გამოძიებას და მისი დასრულების შემდეგ უფრო მეტ დეტალს გავაზიარებთ მოწყვლადობების, ინციდენტისა და მიგნებების შესახებ.

ეს ინციდენტი მოხდა შიდა შეფასებისას, რომელიც მოდელებს უბიძგებს შეტევის რთული შეტევის რთული მეთოდების გამოყენებისკენ, რათა მათი კიბერშესაძლებლობები რაოდენობრივად შეფასდეს. მაქსიმალურ კიბერშესაძლებლობებს ვაფასებთ ამ შეფასების გაშვებით საექსპლუატაციო გარემოს იმ კლასიფიკატორების გარეშე, რომლებიც მოდელებს მაღალი რისკის კიბერაქტივობის განხორციელებაში უშლის ხელს. ჩვენი ბენჩმარკების გაშვება ხდება ძლიერ იზოლირებულ გარემოში, სადაც ქსელური წვდომა შეზღუდულია, მაგრამ იძლევა პაკეტების დაყენების შესაძლებლობას შიდა ჰოსტინგზე განთავსებული მესამე მხარის პროგრამული უზრუნველყოფით, რომელიც პაკეტების რეესტრებისთვის პროქსისა და ქეშის როლს ასრულებს.

მოდელებმა OpenAI-ს კვლევით გარემოსა და Hugging Face-ის საექსპლუატაციო გარემოს ინფრასტრუქტურაში მოწყვლადობები აღმოაჩინეს და ერთმანეთთან ჯაჭვურად დააკავშირეს, რათა სატესტო გადაწყვეტები პირდაპირ Hugging Face-ის საექსპლუატაციო გარემოს მონაცემთა ბაზიდან მიეღოთ. ყველა მტკიცებულება მიუთითებს, რომ მოდელები უკიდურესად კონცენტრირებული იყო ExploitGym-ისთვის გადაწყვეტის პოვნაზე და საკმაოდ ვიწრო სატესტო მიზნის მისაღწევად უკიდურეს ზომებს მიმართავდა.

შეფასების ამოცანის გადასაჭრელად იზოლირებულ სატესტო გარემოში მუშაობისას ჩვენმა მოდელებმა მნიშვნელოვანი მოცულობის ინფერენციის გამოთვლითი რესურსები დახარჯეს ღია ინტერნეტზე წვდომის მოპოვების გზის აღმოსაჩენად. წვდომის მოსაპოვებლად მოდელებმა პაკეტების რეესტრის ქეშის პროქსიში „ნულოვანი დღის“ მოწყვლადობა აღმოაჩინეს და გამოიყენეს (რაც ახლა მომწოდებელს პასუხისმგებლობით გავუმჟღავნეთ). ამ წვდომით ჩვენმა მოდელებმა ჩვენს კვლევით სატესტო გარემოში პრივილეგიების გაზრდისა და ლატერალური გადაადგილების მოქმედებების სერია შეასრულა, სანამ ინტერნეტზე წვდომის მქონე კვანძს მიაღწევდა.

ინტერნეტზე წვდომის მოპოვების შემდეგ მოდელებმა დაასკვნა, რომ Hugging Face-ზე შეიძლება განთავსებული ყოფილიყო ExploitGym-ის მოდელები, მონაცემთა ნაკრებები და გადაწყვეტები. ამის ცოდნით, მოდელმა მოძებნა და წარმატებით იპოვა წვდომის გზები საიდუმლო ინფორმაციაზე, რომლის გამოყენებაც შეფასების შედეგების არაკეთილსინდისიერად შესაცვლელად შეეძლო. ერთ მაგალითში მოდელმა ერთმანეთთან დააკავშირა რამდენიმე შეტევითი ვექტორი, მათ შორის მოპარული ავტორიზაციის მონაცემებისა და „ნულოვანი დღის“ მოწყვლადობების გამოყენებით, რათა Hugging Face-ის სერვერებზე დისტანციური კოდის გაშვების გზა ეპოვა. OpenAI-ს უსაფრთხოების გუნდმა ეს ანომალიური აქტივობა შიდა სისტემებში აღმოაჩინა.

Hugging Face-ის უსაფრთხოების გუნდმა და აგენტებმა აქტივობა მათ ინფრასტრუქტურაზე აღმოაჩინეს და შეაჩერეს; როცა ჩვენი გუნდები დაუკავშირდნენ, მათ უკვე დაწყებული ჰქონდათ შეკავება და ფორენზიკული რეკონსტრუქცია საკუთარი ღია კოდის მოდელებით. მათთან ერთად აქტიურად ვაგრძელებთ ინციდენტის გამოძიებას. მადლიერი ვართ Hugging Face-ის სწრაფი და მჭიდრო თანამშრომლობისთვის გამოძიებასა და გამოსწორებაში.

1. გამოძიების ფარგლებში მოწყვლადობების გასწორების პარალელურად ინფრასტრუქტურის კონფიგურაციაში მკაცრ კონტროლებს ვნერგავთ კვლევის სისწრაფის ხარჯზე. ამ კონტროლებისა და მათი გავლენის შესახებ რეგულარულად ვაწვდით ინფორმაციას ჩვენს უსაფრთხოებისა და დაცვის კომიტეტს.
2. Hugging Face-თან ერთად ინციდენტს კრიმინალისტიკურად ვიძიებთ.
3. შიდა ჰოსტინგზე განთავსებულ მესამე მხარის პროგრამულ უზრუნველყოფაში გამოვლენილი„ნულოვანი დღის“ (zero-day) მოწყვლადობა პასუხისმგებლობით გავამჟღავნეთ და მათთან ერთად ვმუშაობთ მის გასასწორებლად.
4. Hugging Face ჩავრთეთ სანდო წვდომის⁠ პროგრამაში და მის გუნდებს ვეხმარებით, სწრაფად გამოიყენონ ჩვენი მოდელების შესაძლებლობები საკუთარი დაცვის გასაუმჯობესებლად.
5. ვაუმჯობესებთ და ვამატებთ უფრო ძლიერ დამცავ მექანიზმებს მომავალი წვრთნისა და შეფასებების გარშემო. ამ კვირაში გამოვაქვეყნეთ ბლოგი თემაზე უსაფრთხოებისა და თანხვდომილობის გაუმჯობესება გრძელი დროითი ჰორიზონტის მოდელების ეპოქაში⁠. გაშლის ეს დაცვითი მექანიზმები ამ შეფასების დროს განზრახ არ იყო ჩართული, რადგან მისი მიზანი კიბერმოწყვლადობების ტესტირება იყო. ეს ინციდენტი აჩვენებს, რომ საჭიროა კიდევ უფრო გაძლიერდეს ჩვენი მოდელის თანხვდომილობა, შეფასების დროს მოქმედი კიბერდაცვის ზომები და მონიტორინგი შიდა ტესტირებისას.

როგორც ცოტა ხნის წინ⁠ გაგიზიარეთ, ხელოვნური ინტელექტი აჩქარებს მოწყვლადობების აღმოჩენასა და ექსპლუატაციას. ამ ინციდენტისგან მიღებული მთავარი გაკვეთილია, რომ მოდელის დაცვა და უსაფრთხოება სწრაფად განვითარებულ შესაძლებლობებს ფეხდაფეხ უნდა მიჰყვებოდეს. ვაძლიერებთ შეკავების, მონიტორინგის, წვდომის კონტროლისა და შეფასების პრაქტიკულ მეთოდებს, რომლებიც მოდელის შემუშავების დროს გამოიყენება.

UK AISI-ს შეფასება გვიჩვენებს, რომ GPT‑5.6 Sol-ის მსგავსი მოდელები სულ უფრო მეტად ახერხებს რთული, მრავალსაფეხურიანი კიბეროპერაციების შენარჩუნებას გრძელ დროით ჰორიზონტებზე. ეს ინციდენტი მიანიშნებს, რომ ეს თეორიული შესაძლებლობები რეალურ გარემოშიც მოქმედებს.

ინციდენტი ასევე ნათლად აჩვენებს, რომ მოწინავე მოდელებს შეუძლია რეალურ სისტემებში ახალი შეტევის გზების აღმოჩენა და გამოყენება წყაროს კოდზე წვდომის გარეშე. ის ხაზს უსვამს, რომ მოწინავე კიბერშესაძლებლობები უფრო ძლიერ დამცავ მექანიზმებსა და თავდაცვით ხელსაწყოებთან ერთად უნდა განვითარდეს.

მიგვაჩნია, რომ მოწინავე კიბერშესაძლებლობების მქონე მოდელები უსაფრთხოების გუნდებს უნდა დაეხმაროს სისუსტეების პოვნაში თავდამსხმელებზე ადრე, იმის გაგებაში, როგორ შეიძლება მოწყვლადობების ჯაჭვურად დაკავშირება ერთმანეთთან, და მანქანის სისწრაფით მათ გამოსწორებაში. ამ შესაძლებლობებს ვიყენებთ ინფრასტრუქტურის კონფიგურაციისა და მოდელის შეფასების გარემოების გარშემო დაცვის გასაძლიერებლად; მიღებულ მიგნებებსა და საუკეთესო პრაქტიკულ მეთოდებს სწავლის პარალელურად გაგიზიარებთ. დაცვის სპეციალისტებს მოვუწოდებთ, მოგვმართონ სანდო წვდომის მისაღებად⁠ და ამ მოდელებით ახლავე ჩაატარონ ექსპერიმენტები, რათა ეს შესაძლებლობები აქციონ უკეთეს პრევენციად, უფრო სწრაფ აღმოჩენად და ინციდენტებზე უფრო ეფექტიან რეაგირებად.