Block-ის AI-უსაფრთხოება OpenAI-ის ტექნოლოგიით

Block-ში, კომპანიაში, რომელმაც შექმნა Square, Cash App და Afterpay, უსაფრთხოების გუნდი OpenAI Defense Factory-ს იყენებს: აქ AI მოწყვლადობების აღმოჩენას, საფრთხეების გამოვლენასა და მათზე რეაგირებას ისეთი მასშტაბით ახორციელებს, რომელსაც ადამიანების ვერცერთი გუნდი ვერ აუწყობდა ფეხს. AI-სისტემების, მათ შორის OpenAI Daybreak-ის დახმარებით, Block სულ რამდენიმე საათში ასრულებს სამუშაოს, რომელსაც ადრე კვირები სჭირდებოდა.

Block-ის უსაფრთხოების გუნდი სამუშაო პროცესებში AI-ის პასუხისმგებლობით დანერგვაზეა ორიენტირებული — იქნება ეს კოდის გენერირება თუ უსაფრთხოების ოპერაციები. „მთავარი ისაა, რომ გყავს ახალი თანაგუნდელი, რომელთან ერთადაც სამუშაოს მასშტაბის გაზრდა შეგიძლია“, — ამბობს ჯეიმს ნეტესჰაიმი, ინფორმაციული უსაფრთხოების დირექტორი. „ეს არ ჰგავს ტრადიციულ ავტომატიზაციას, რომლის დროსაც ყოველი ნაბიჯის განსაზღვრა გიწევდა. შეგიძლია საკმაოდ სპეციფიკური, ბუნდოვანი პრობლემა წარუდგინო და მის გადაჭრაზე ერთად იმუშაოთ“.

ისეთ ამოცანებს, როგორიცაა პროგრამული ხარვეზის შესწავლა ან ჟურნალის დამუშავება, დღეები ან კვირები სჭირდებოდა. ახლა გუნდი ამ სამუშაოს გაცილებით ნაკლებ დროში ასრულებს, თუმცა ყოველ შედეგს კვლავ ადამიანი ამოწმებს.

მაგალითად, საფრთხეების გამოვლენის მექანიზმის დასახვეწად, ყოველი გამოძიებისას ინახება მოთხოვნებით მიღებული პირველადი მონაცემები. ამის წყალობით გუნდს ახლა შეუძლია, გამოვლენის წესის შემოთავაზებული ცვლილება სამუშაო გარემოს შვიდი თვის ტელემეტრიულ მონაცემებზე ერთ საათზე ნაკლებ დროში გამოსცადოს. ადრე ამისთვის ასობით ძველ შემთხვევაზე მოთხოვნების ხელით ხელახლა გაშვება იყო საჭირო. ამას იმდენი დრო მიჰქონდა, რომ პრაქტიკაში იშვიათად აკეთებდნენ.

გუნდი ახლა მეტ ყურადღებას აქცევს იმასაც, თუ რომელი სამუშაოსთვის რომელ მოდელს იყენებს. „ადრე უახლეს მოდელს ვიყენებდით, მაგრამ ახლა ეს აუცილებელი აღარ არის“, — ამბობს ის. „გამოცდილებით ვისწავლეთ, როგორ შევარჩიოთ სხვადასხვა ამოცანისთვის სხვადასხვა მოდელი“. Block-ის უსაფრთხოების სარტყელი Daybreak-ზეა აგებული და ამოცანების შესაბამის მოდელთან გადამისამართებას უწყობს ხელს. მასში გათვალისწინებულია მექანიზმებიც, რომ ადამიანებმა ამოცანის მართვა გადაიბარონ ან აგენტებმა ერთმანეთის ნამუშევარი გადაამოწმონ. გუნდი ამ სისტემებს მუდმივად აფასებს შიდა ეტალონური ტესტებითა და რეალურ პირობებში მიღებული შედეგებით და საჭიროებისამებრ ცვლის მიდგომას. მათ შორის, სამუშაოს ადამიანს გადასცემს შესამოწმებლად, როცა პასუხისმგებლიანი მოქმედება ამას მოითხოვს.

პირველადი შეფასებისა და პრიორიტეტიზაციის ავტომატური სისტემის წყალობით, მეტი სამუშაო უფრო სწრაფად სრულდება. Block-ის უსაფრთხოების გუნდში პირველადი შეფასებისა და პრიორიტეტიზაციის მწარმოებლურობა 50%-ით გაიზარდა, საფრთხეებზე ინფორმაციის შეგროვებისა და გამოძიებების მოცულობამაც 50%-ით მოიმატა. ამას დაემატა სრულიად ახალი შესაძლებლობა — საფრთხეების ავტონომიური ძიება. ნეტესჰაიმი ამბობს: „სისტემა ყოველ კვარტალში ანალიტიკოსის დაახლოებით 1 100 სამუშაო საათის ეკვივალენტურ საგამოძიებო სამუშაოს ასრულებს, რადგან ახლა ყოველი გაფრთხილება სრულად და სიღრმისეულად შეისწავლება, მასთან დაკავშირებული ყველა ელემენტის გათვალისწინებით. ჩვენი სისტემა თითოეულ გაფრთხილებას ისე ამუშავებს, თითქოს იმ დღეს სხვა გაფრთხილება არც მიგვიღია“.

სკანირების ტრადიციული ხელსაწყოები ცალკეულ მოწყვლადობებს იზოლირებულად ავლენს, მაგრამ Daybreak-ის დახმარებით Block-ის უსაფრთხოების გუნდს ბევრად მეტის გაკეთება შეუძლია. მოდელი გუნდს ეხმარება შეტევის შესაძლო სქემებზე ჰიპოთეზების ჩამოყალიბებასა და შეტევების სერიის ერთიან ჯაჭვად შეკვრაში, რომელიც სისტემაში შეღწევის სრულ გზას აჩვენებს. ასე ვლინდება მოწყვლადობები, რომლებიც შესაძლოა წლების განმავლობაში არსებობდა.

ერთ შემთხვევაში, ცალკე აღებული გაფრთხილება ერთ ლეპტოპზე წესების უმნიშვნელო დარღვევას ჰგავდა. თუმცა ურთიერთგადამოწმებისას მოდელი გაჰყვა ინდიკატორს, რომელიც მტკიცებულებებში მხოლოდ შემთხვევით ჩანდა, ის Block-ის იდენტობის ჟურნალების მონაცემებს დაუკავშირა და პრობლემების გაცილებით ფართო სპექტრი გამოავლინა. „მოწყობილობის ერთმა რუტინულმა გაფრთხილებამ მთელი შეტევითი კამპანიის აღკვეთამდე მიგვიყვანა. ცალკე აღებული ვერცერთი ხელსაწყო ამ კავშირს ვერ ამყარებს. საფრთხის ნიშანი მხოლოდ ორი პროდუქტის ჟურნალების შეჯერებით ჩნდება“, — ამბობს ჯეიმსი.

Daybreak-ის დახმარების კიდევ ერთი მაგალითი ახლახან ჩატარებული შეტევითი ტესტირება (red teaming) იყო. მოდელს შიდა სისტემის შესახებ რამდენიმე მინიშნება მისცეს და მან დაახლოებით ორ საათში შეტევის სრული ჯაჭვი ააწყო: SQL-ინექცია, პრივილეგიების გაზრდა, სისტემაში პოზიციის გამყარება, წვდომის მონაცემების ჩამოთვლა და სხვა სისტემებზე გადასვლა. შეტევითი ტესტირების (red teaming) სპეციალისტს ამისთვის, როგორც წესი, რამდენიმე დღე დასჭირდებოდა. ბოლო შეტევითი ტესტირების (red teaming) სავარჯიშოებში მაღალი დონის მოწყვლადობის წარდგენიდან შესწორების ავტომატურ შეთავაზებამდე 18 წუთი გავიდა.

მოწყვლადობების აღმოჩენას იმდენად აქვს აზრი, რამდენადაც მათი აღმოფხვრაა შესაძლებელი. ნეტესჰაიმი აღწერს პროცესს, რომელსაც მისი გუნდი ყოველი აღმოჩენისას გადის: ჯერ პოულობენ კოდში პრობლემის ადგილს და ადგენენ მასზე პასუხისმგებელ პირს, შემდეგ კი მის აღმოფხვრაზე გადადიან. „სთავაზობ შესწორებას, ადასტურებ, რომ მოწყვლადობის გამოყენება შესაძლებელია, შემდეგ კი ამოწმებ, რომ ის აღმოფხვრილია. ამ პროცესში ადამიანი მონაწილეობს — ის წარმართავს სამუშაოს და კოდში ცვლილებებს ნერგავს“.

მართალია, აგენტებს ტექნიკური შესაძლებლობები აქვთ, მაგრამ ისინი არ ფლობენ ორგანიზაციის კონტექსტს და არ იციან, რა არგუმენტები იდგა წარსულში მიღებული გადაწყვეტილებების უკან. ამ კონტექსტსა და სტრატეგიას ადამიანი განსაზღვრავს. სწორედ აქ ერთვება მისი გუნდი, რათა შედეგები ადამიანმაც შეამოწმოს. ნეტესჰაიმის თქმით, როცა AI-ის გადაწყვეტილებების სანდოობა პრაქტიკაში დადასტურდება, „თანდათან გავზრდით დასაშვები რისკის დონეს, რათა ის უფრო სენსიტიურ სისტემებშიც გამოვიყენოთ“.

• ერთ საათზე ნაკლები გამოვლენის წესის შემოთავაზებული ცვლილების შვიდი თვის ტელემეტრიულ მონაცემებზე გამოსაცდელად.

• 18 წუთი მაღალი დონის მოწყვლადობის წარდგენიდან შესწორების ავტომატურ შეთავაზებამდე ბოლო შეტევითი ტესტირების (red teaming) სავარჯიშოებში.

• კვარტალში დაზოგილი ანალიტიკოსის დაახლოებით 600 სამუშაო საათი, რომელიც ცრუ გაფრთხილებების პირველად შეფასებას ხმარდებოდა.

• კვარტალში შესრულებული საგამოძიებო სამუშაო, რომელიც ანალიტიკოსის დაახლოებით 1 100 სამუშაო საათს უტოლდება.

• პირველადი შეფასებისა და პრიორიტეტიზაციის მწარმოებლურობის 50%-იანი ზრდა.

• საფრთხეებზე ინფორმაციის შეგროვებისა და გამოძიებების მოცულობის 50%-იანი ზრდა.

მხოლოდ საფრთხეების გამოვლენისა და მათზე რეაგირების სამუშაომ კვარტალში ანალიტიკოსის დაახლოებით 600 სამუშაო საათი დაზოგა, რომელიც ადრე ცრუ გაფრთხილებების პირველად შეფასებას ხმარდებოდა. დაზოგილი დროის წყალობით გუნდი ახლა მეტ დროს უთმობს სიღრმისეულ გამოძიებებსა და დამატებითი ავტომატიზაციის პასუხისმგებლობით დანერგვას.

შეტევების ტემპის ზრდისა და AI-მოდელების მუდმივი განვითარების ფონზე, ნეტესჰაიმი ხედავს შესაძლებლობას, რომ თავიდანვე ნაკლები მოწყვლადობა წარმოიქმნას. ეს უსაფრთხოების გუნდებს საშუალებას მისცემდა, ნაკლები დრო დაეთმოთ შესწორებებისთვის და მეტი — პრევენციული, სტრატეგიული სამუშაოსთვის.

„OpenAI ამ მოწინავე შესაძლებლობებს ყველასთვის ხელმისაწვდომს ხდის და ამით უპირატესობას დამცველთა მხარეს გადმოაქვს“, — ამბობს ის. „ადრე ეს შესაძლებლობები, როგორც წესი, მხოლოდ წამყვანი ტექნოლოგიური კომპანიებისა და სახელმწიფო სტრუქტურების ხელში იყო. ახლა კი ყველას, მათ შორის კრიტიკული ინფრასტრუქტურის ორგანიზაციებს, სკოლებსა და მცირე ბიზნესებს, შეუძლია ამ ტექნოლოგიის გამოყენება საკუთარი ქსელების დასაცავად“.