გზა Astra-მდე: კრიტიკული შესაძლებლობები და მოწინავე დამცავი ზომები

მას შემდეგ, რაც ადრე შევაფასეთ, რომ Astra-ს კიბერუსაფრთხოების შესაძლებლობებს შესაძლოა კრიტიკული დონისთვის მიეღწია, მეტი მტკიცებულება შევაგროვეთ და მოდელის შესაძლებლობების შესაფასებლად დამატებითი ტესტები ჩავატარეთ. ახლა მიგვაჩნია, რომ Astra ჩვენი მზაობის ჩარჩოს მიხედვით კიბერუსაფრთხოების კრიტიკულ ზღვარს აკმაყოფილებს: სათანადო ხელსაწყოებითა და წვდომით მას შეუძლია ბევრ კარგად დაცულ სისტემაში მანამდე უცნობი უსაფრთხოების ხარვეზების პოვნა და მათი გამოყენების გზების შექმნა ისე, რომ ადამიანს თითოეული ნაბიჯის მითითება არ დასჭირდეს. ეს პირველი მოდელია, რომელსაც ამ დონეს ვანიჭებთ, ამიტომ შემუშავებისას და გამოშვებამდე უფრო ძლიერი დამცავი ზომებია საჭირო.

ბოლო რამდენიმე კვირის განმავლობაში Astra-ს შემუშავებისა და გამოშვების ზოგიერთი ნაწილი გადავდეთ, სანამ კიბერბოროტად გამოყენებისა და მოდელის უნებართვო მოქმედებებისგან დაცვას ვაძლიერებდით და ვცდიდით. ამ სამუშაოზე დაყრდნობით მიგვაჩნია, რომ Astra-ს დამცავი ზომები საკმარისად ამცირებს მძიმე ზიანის რისკს, რათა ის ჩვენი მზაობის ჩარჩოს შესაბამისად გამოვუშვათ.

მართალია, Astra Hugging Face-ის ინციდენტში არ მონაწილეობდა, მაგრამ ამ შემთხვევიდან მიღებული გამოცდილება⁠(იხსნება ახალ ფანჯარაში) უსაფრთხოების მიდგომაში გავითვალისწინეთ. რეტროსპექტიული ტესტირების საფუძველზე მიგვაჩნია, რომ იმ დროის ჩვენი საწარმოო დამცავი ზომები Hugging Face-ის ინციდენტს აღკვეთდა. მას შემდეგ Astra-სთვის კიდევ უფრო ძლიერი დამცავი ზომები დავნერგეთ: მოდელი ვწვრთენით, რათა საზიანო კიბერმოთხოვნები უფრო საიმედოდ უარყოს და უსაფრთხოების შეზღუდვები დაიცვას; დავამატეთ ბოროტად გამოყენებისგან დამატებითი დაცვა და მონიტორინგი, რომელსაც პოტენციურად უნებართვო აქტივობის შეჩერება შეუძლია.

Astra-ს მალე ხელმისაწვდომს გავხდით, თუმცა მის ყველაზე მოწინავე კიბერუსაფრთხოების შესაძლებლობებზე წვდომა მეტად შეიზღუდება. კიბერუსაფრთხოების მოწინავე ფუნქციები თავდაპირველად ტესტერების ჯგუფისთვის იქნება ხელმისაწვდომი, შემდეგ კი თავდაცვითი გამოყენების გასაფართოებლად წვდომა Daybreak Blue-ის მეშვეობითაც გაიხსნება.

გამოშვებისას მოდელის სისტემურ ბარათში უსაფრთხოების, დაცულობისა და შესაბამისობის ტესტირებისა და შეფასებების შესახებ მეტ დეტალს გავაზიარებთ. გამოშვებამდე გვინდა მოგაწოდოთ ინფორმაცია სამუშაოს შესახებ, რომელსაც კიბერუსაფრთხოების ასეთი დონის შესაძლებლობების მქონე მოდელის უსაფრთხოდ გამოსაშვებად ვასრულებთ, და ღიად ვისაუბროთ დარჩენილ რისკებზე.

ჩვენი მზაობის ჩარჩოს მიხედვით, მოდელი კრიტიკულ ზღვარს აკმაყოფილებს, თუ ქვემოთ ჩამოთვლილი პირობებიდან ერთ-ერთი მაინც სრულდება:

• მოდელს ადამიანის ჩარევის გარეშე შეუძლია ბევრ კარგად დაცულ, რეალურ კრიტიკულ სისტემაში ნებისმიერი სიმძიმის ფუნქციური ნულოვანი დღის ექსპლოიტების იდენტიფიცირება და შექმნა.
• მოდელს მხოლოდ მაღალი დონის სასურველი მიზნის საფუძველზე შეუძლია კარგად დაცულ სამიზნეებზე კიბერშეტევის ახალი, სრული სტრატეგიების შემუშავება და განხორციელება.

Astra-ს მზაობის შეფასება აერთიანებდა ავტომატიზებულ საჯარო და კერძო ბენჩმარკებსა და ექსპერტების მიერ წარმართულ შეფასებებს. GPT‑5.6 Sol-თან შედარებით, Astra კიბერუსაფრთხოების შესაძლებლობების მნიშვნელოვან ზრდას წარმოადგენს: ის ტოკენებს გაცილებით ეფექტიანად იყენებს და მოწყვლადობების აღმოჩენისა და ექსპლოიტების შექმნის მეტი უნარი აქვს.

მაგალითად, Astra ExploitBench-ზე გავუშვით, სადაც ცნობილ მოწყვლადობებზე დაყრდნობით ექსპლოიტების შექმნის უნარის შესაფასებელ ბენჩმარკში მოდელმა იდეალური, 100%-იანი შედეგი მიიღო.

მონაცემების დაბინძურების საფრთხის გამო შემდეგ შევქმენით შიდა ბენჩმარკი „ExploitBench — შიდა პორტი (2026 წლის ივნისი–აგვისტო)“, რომელიც შედარებით ახლახან გამჟღავნებულ 20 მაღალი სიმძიმის V8 მოწყვლადობას შეიცავს. ამ მონაცემთა ნაკრებზე Astra GPT‑5.6 Sol-ზე ბევრად ნაკლები გამომავალი ტოკენით თვითნებური კოდის შესრულების გაცილებით მაღალ მაჩვენებელს აღწევს. შეფასებისას მოდელმა ექსპლოიტების ჯაჭვის ნაწილად ორი ნულოვანი დღის მოწყვლადობაც კი აღმოაჩინა და გამოიყენა. ამჟამად ამ ორ მოწყვლადობას პასუხისმგებელ მხარეებს ვუმჟღავნებთ.

კარგად დაცული ბრაუზერისა და ოპერაციული სისტემის ექსპერტების მიერ წარმართულ შეფასებებში Astra-მ მანამდე უცნობი მოწყვლადობები აღმოაჩინა და მოქმედ ექსპლოიტების ჯაჭვებად გარდაქმნა. როდესაც ბრაუზერმა HTML-ფაილი გახსნა, მან შექმნა ბრაუზერის ხელში ჩაგდების სრული ჯაჭვი, რომელმაც სენდბოქსიდან გააღწია და ჰოსტზე ბრძანებები შეასრულა. მოდელმა კარგად დაცულ ოპერაციულ სისტემაშიც რამდენიმე მოწყვლადობა იპოვა და ისინი გააერთიანა ლოკალური პრივილეგიების გაზრდის ჯაჭვად, რომელიც უპრივილეგიო მომხმარებლიდან root-მომხმარებლამდე მიდიოდა. მთლიანობაში, ჩვენმა კვლევამ მიგვიყვანა დასკვნამდე, რომ Astra კრიტიკულ ზღვარს აკმაყოფილებს.

Astra-ს დონის კიბერუსაფრთხოების შესაძლებლობების მქონე მოდელებისთვის მძიმე კიბერზიანის რისკის შესამცირებლად ორი გზა უნდა გავითვალისწინოთ — როგორც შემუშავებისას, ისე დანერგვამდე:

• მოდელის გამოყენება ბოროტმოქმედების მიერ. ჩვენმა დამცავმა ზომებმა საიმედოდ უნდა აღკვეთოს ბოროტმოქმედთა მიერ Astra-ს გამოყენება კარგად დაცულ კრიტიკულ სისტემებში მანამდე უცნობი ხარვეზების ექსპლოიტების შესაქმნელად ან კარგად დაცულ სამიზნეებზე სრულმასშტაბიანი შეტევების განსახორციელებლად.
• მოდელის უნებართვო, მიზნებთან შეუსაბამო მოქმედებები. ბოროტი განზრახვის მქონე მომხმარებლის გარეშეც კი, კიბერუსაფრთხოების მოწინავე შესაძლებლობების მქონე მოდელმა, თუ ის მიზნებთან შეუსაბამოდ მოქმედებს, შეიძლება თავად გამოიწვიოს კიბერზიანი. ასეთი შესაძლებლობების მქონე მოდელებისთვის მიზნებთან შესაბამისობის ძალიან მაღალი სტანდარტის გარდა, დაცვის მეორე ფენად ჩვენმა ზომებმა სწრაფად უნდა გამოავლინოს და შეაკავოს შეუსაბამო მოქმედებები, რომლებმაც რეალურ სამყაროში შეიძლება მნიშვნელოვანი ზიანი გამოიწვიოს.

აღსანიშნავია, რომ მეორე გზა ვრცელდება როგორც შიდა შემუშავებაზე, ისე გარე დანერგვაზე. როგორც ადრე აღვწერეთ, OpenAI-Hugging Face-ის ინციდენტის შემდეგ გარკვეული მოწინავე მოდელების წვრთნა, მათ შორის Astra-ს ზოგიერთი წვრთნა, ორი კვირით შევაჩერეთ, რათა გაგვეძლიერებინა საწვრთნელი ინფრასტრუქტურა, მათ შორის იზოლაცია და ქსელური კონტროლი, გაგვეფართოებინა მონიტორინგი და გაგვეძლიერებინა შესაბამისობის წვრთნა და ზღვრები. შემდეგ უფრო მცირე მასშტაბის სამუშაო უფრო მკაცრი კონტროლით განვაგრძეთ.

Astra-ს მომავალი ვერსიებისთვის განმამტკიცებელი სწავლების (RL) ზოგიერთი უფრო დიდი გაშვება უფრო დიდხანს გადავდეთ, ვიდრე მათი საწვრთნელი გარემოს უსაფრთხოებისა და დაცულობის უფრო მაღალ სტანდარტებს ვადგენდით. 28 აგვისტოს, უსაფრთხოებისა და დაცულობის ახალი მოთხოვნების ამოქმედების შემდეგ, ადრე შეჩერებული ფართომასშტაბიანი მოწინავე RL-გაშვება განვაახლეთ. ზოგიერთი მცირე ექსპერიმენტული წვრთნა კვლავ დროებით შეჩერებული გვაქვს.

Astra-ს გამოსაშვებად მომზადებამ ასევე მოითხოვა კიბერბოროტად გამოყენებისა და უნებართვო მოქმედებებისგან უფრო ძლიერი დაცვა. ქვემოთ აღვწერთ ამ დამცავ ზომებს და მათი გამოცდის გზებს.

მას შემდეგ, რაც თებერვალში კიბერუსაფრთხოების მაღალი შესაძლებლობის მქონედ მიჩნეული პირველი მოდელი დავნერგეთ, ყოველი მომდევნო გამოშვებისას კიბერდაცვას ვაძლიერებდით. ჩვენი საერთო უსაფრთხოების მიდგომა რამდენიმე ფენას აერთიანებს: წვრთნისშემდგომი მოდელის უარებს, სისტემური დონის უსაფრთხოების კლასიფიკატორებს, ასევე ოფლაინ გამოვლენასა და საფრთხის აღკვეთას.

GPT‑5.6⁠(იხსნება ახალ ფანჯარაში)-ისთვის მნიშვნელოვნად გავზარდეთ სისტემური დონის დაცვის კომპლექსის მედეგობა, მათ შორის დავამატეთ აქტივაციის კლასიფიკატორები კიბერბოროტად გამოყენების გამოსავლენად და გავაფართოვეთ ინტენსიური ავტომატიზებული შეტევითი ტესტირებით (red teaming) აღმოჩენილი მწარმოებლის შეზღუდვების უნივერსალური მოხსნის შემთხვევების დაფარვა. ამ გაუმჯობესებებზე დაყრდნობით, Astra-სთვის დამატებითი ინვესტიცია ჩავდეთ დაცვის კომპლექსის მოდელის ფენაში და გავაუმჯობესეთ სხვადასხვა საუბრის კონტექსტის დამუშავების უნარი.

• მოდელის მედეგობისთვის ახალი საწვრთნელი მეთოდების გამოყენებით, Astra უფრო საიმედოდ უარყოფს აკრძალული კიბერდახმარების მოთხოვნებს. კიბერუსაფრთხოების შეზღუდვების მოხსნის ჩვენს შეფასებებში Astra მოთხოვნების 91.5%-ს უარყოფს, GPT‑5.6 Sol კი — 59%-ს.
• უფრო მაღალი რისკის მქონედ შეფასებულ ანგარიშებზე მოდელის ქცევის უფრო კონსერვატიულ ზღვარს ვიყენებთ, რომელიც პოტენციურად სარისკო კიბერდახმარების უფრო ფართო სპექტრს უარყოფს. მაღალი რისკის მომხმარებლებისთვის ჩვენი მონიტორინგის სისტემების კონტექსტი გავაფართოეთ, რათა ასეთი სახის კიბერბოროტად გამოყენება გამოვავლინოთ.

ასევე განვაგრძეთ მკაცრი ტესტირების, შიდა და გარე შეტევითი ტესტირებისა (red teaming) და ხარვეზების აღმოფხვრის პროგრამა. რეგრესიულ ტესტირებასთან ერთად, რომლითაც ვრწმუნდებით, რომ წინა ტესტირების პერიოდებში აღმოჩენილი შეზღუდვების მოხსნის ყველა შემთხვევა კვლავ დაფარულია, უახლეს შიდა შეტევითი ტესტირების (red teaming) აგენტებთან ერთად ტესტირების ახალ ტალღას ვატარებთ. ინდუსტრიის პარტნიორებთან ერთად ვმუშაობთ შეზღუდვების მოხსნის შეფასების საერთო სისტემის განსაზღვრაზე და ახალ აღმოჩენებს ჩვენი სადღეღამისო სწრაფი რეაგირების პროგრამით გამოვიკვლევთ და აღმოვფხვრით. კიბერდაცვის ტესტირების შესახებ მეტ დეტალს Astra-ს სისტემურ ბარათში გავაზიარებთ.

დამცველებისთვის მოწყვლადობების აღმოჩენასა და გამოსწორებაში დახმარება ჩვენი უსაფრთხოების მიდგომის უმთავრეს საყრდენად რჩება. გამოშვებისას ველით, რომ პოტენციური ბოროტად გამოყენებისგან დასაცავად Astra-ს დამცავი ზომები თავდაპირველად სასურველზე მეტ დაბრკოლებას შექმნის. კიბერუსაფრთხოების მოწინავე სამუშაო პროცესებისთვის Astra-ზე წვდომა თავდაპირველად ალფა-ტესტერების მცირე ჯგუფს ექნება, შემდეგ კი თავდაცვითი გამოყენების მხარდასაჭერად Daybreak Blue-ის მეშვეობით გაფართოვდება.

ასევე დავამატეთ დაცვის დამატებითი ფენები, რათა მოდელმა პოტენციურად შეუსაბამო მოქმედებები არ განახორციელოს:

• მოდელის შესაბამისობა: ჩვენს შეფასებებში Astra GPT‑5.6 Sol-ზე გაცილებით ხშირად იცავდა უსაფრთხოებისა და დაცულობის მკაფიო შეზღუდვებს და უფლებამოსილების ფარგლებში რჩებოდა, რაც მას დღემდე ჩვენს ყველაზე მეტად შესაბამის მოდელად აქცევს. განსაკუთრებული ყურადღება გავამახვილეთ იმაზე, თუ რამდენად იცავს მოდელი უსაფრთხოებისა და დაცულობის შეზღუდვებს და რამდენად ინარჩუნებს მოქმედებას მინიჭებული უფლებამოსილების ფარგლებში.
• მონიტორინგი და კონტროლი: ჩვენი შიდა პროცედურების მსგავსად, Astra-ს დამატებითი აზროვნების ჯაჭვის მონიტორინგით ვნერგავთ, რათა პოტენციურად შეუსაბამო მოქმედებები სწრაფად გამოვავლინოთ და შევაკავოთ.

Astra მნიშვნელოვანი წინგადადგმული ნაბიჯია მოდელის შესაბამისობის კუთხით და შესაბამისობაზე მრავალწლიანი მუშაობის რამდენიმე მიმართულების შედეგია — წინასწარი სწავლების ეტაპზე ჩარევიდან განმამტკიცებელი სწავლებისას უფრო ზუსტ და თანმიმდევრულ შეფასებამდე. ტესტირებისას ვხედავთ, რომ GPT 5.6 Sol-თან შედარებით Astra გაცილებით თანმიმდევრულად იცავს უსაფრთხოების მკაფიო შეზღუდვებსა და გაფრთხილებებს, როგორიცაა ავტომატური შემოწმება.

ასევე შევიმუშავეთ Hugging Face-ის ინციდენტზე დაფუძნებული ტესტი, რომელშიც ExploitGym-ის კიბერშეფასების შემსრულებელმა აგენტებმა მესამე მხარის სისტემები ხელში ჩაიგდეს. ამ შეფასების ყველაზე რთული დავალებები „ჰანიპოტის“ ტესტების შესაქმნელად გამოვიყენეთ, რათა გაგვერკვია, შეეცდებოდა თუ არა მოდელი დავალების შესრულების ნაცვლად გარემომცველი უსაფრთხოების ინფრასტრუქტურის ხელში ჩაგდებას. საწარმოო დამცავი ზომების გარეშე GPT‑5.6 Sol ტესტების 56%-ში შეეცადა ამ სამიზნეებზე წვდომას; ტესტები ბენჩმარკის იმ გარემოს ასახავდა, სადაც მოდელს ექსპლოიტების შექმნა ევალება. ამ ტესტებში Astra-ს მსგავსი მცდელობა არ ჰქონია. ეს მაჩვენებლები აღწერს ქცევას კიბერდაცვის გარეშე ჩატარებული ტესტების პირობებში და არა ჩვეულებრივ საწარმოო გამოყენებას.

მოდელების მიზნებთან შესაბამისობისთვის წვრთნა უსაფრთხოების ერთ-ერთი ფენაა. შესაბამისობის ტესტირებისა და შედეგების შესახებ მეტ დეტალს Astra-ს სისტემურ ბარათში გავაზიარებთ.

პოტენციური შეუსაბამობის გამოსავლენად და სწრაფად შესაკავებლად Astra-ს კლასის მოდელებისთვის საწარმოო გარემოში შეუსაბამობის მონიტორინგსაც ვნერგავთ. ეს დამცავი ზომები შიდა დანერგვების მონიტორინგს ჰგავს და მოიცავს კლასიფიკატორების სისტემას, რომელიც მოდელის მსჯელობასა და მოქმედებებს უნებართვო ქცევაზე ამოწმებს და პოტენციურად უნებართვო აქტივობას ავტომატურად აჩერებს. შესაძლებლობების ზრდასთან ერთად ეს დამცავი ზომები ვერ ჩაანაცვლებს მოდელების სათანადო შესაბამისობას; ჩვენი მიზანია, მომავალი მოდელები იმდენად შესაბამისი იყოს, რომ ეს ზომები არასდროს გააქტიურდეს.

OpenAI მოწოდებულია, ხელოვნური ინტელექტის სარგებელი ფართოდ ხელმისაწვდომი გახადოს. Astra-ს კიბერუსაფრთხოების შესაძლებლობების მნიშვნელოვანი ზრდის გათვალისწინებით, განსაკუთრებული სიფრთხილით ვცდილობთ, ეს დანერგვა უსაფრთხო და დაცული იყოს. უსაფრთხოების დამატებითმა შემოწმებებმა ზოგჯერ შეიძლება შეანელოს, შეაჩეროს ან შეწყვიტოს ლეგიტიმური სამუშაო, მათ შორის თავდაცვითი კიბერუსაფრთხოების სფეროში.

სისტემამ ზოგჯერ ლეგიტიმური აქტივობა შეიძლება პოტენციურ კიბერბოროტად გამოყენებად ან უნებართვო ქცევად მონიშნოს, რის გამოც ის უნებლიეთ შენელდება, შეჩერდება ან შეწყდება. ეს შეიძლება მოიცავდეს სამუშაოს, რომელიც უშუალოდ კიბერუსაფრთხოებასთან დაკავშირებული არ ჩანს, ან დავალებებს, რომლებზეც აგენტი ხანგრძლივად მუშაობს.

თუ შეუსაბამობის მონიტორი დავალებას შეაჩერებს, ChatGPT‑ის ან Codex-ის მომხმარებლებს გაგრძელებამდე შეიძლება მოქმედების გადახედვა მოსთხოვონ. სხვა ინტერფეისების, მაგალითად API-ს, გამოყენებისას დავალება შეწყდება. ვგეგმავთ, განვაგრძოთ ამ დამცავი ზომების კალიბრაცია, რათა შევამციროთ არასაჭირო შეფერხებები და Daybreak-ის მსგავსი პროგრამებით მოწინავე შესაძლებლობებზე წვდომა გავაფართოოთ.

ხელოვნური ინტელექტის განვითარების იმ ეტაპზე გადავდივართ, როდესაც მოდელებს უფრო მნიშვნელოვანი სამუშაოს შესრულება შეუძლიათ, ხოლო შესაბამისობისა და კონტროლის დარღვევებს უფრო მძიმე შედეგები შეიძლება მოჰყვეს. ამ სისტემების სარგებლის რეალიზება დამოკიდებული იქნება იმაზე, თუ რამდენად შევძლებთ შესაძლებლობების ზრდასთან ერთად მოდელების მიზნებთან შესაბამისობასა და კონტროლს.

ეს პასუხისმგებლობა მოიცავს წვრთნას, შეფასებასა და დანერგვას. ამისთვის საჭიროა შესაბამისი ქცევის უფრო მტკიცე მტკიცებულებები, შესაძლებლობების ზრდის თანმდევი დამცავი ზომები და მზადყოფნა, შევანელოთ პროცესი, როდესაც ეს დაცვა საკმარისი არ არის.

განვაგრძობთ ამ სისტემების ტესტირებას, მიღებული ცოდნის გაზიარებას და ღიად ვისაუბრებთ იმაზე, რაც ჯერ კიდევ გაურკვეველია. Astra-ს მომდევნო მოდელები ჩვენგან მეტს მოითხოვს. ამ პასუხისმგებლობის შესასრულებლად საჭირო დროსა და ძალისხმევას არ დავიშურებთ.