როგორ ქმნის Block-ი OpenAI-ს ტექნოლოგიით AI-უსაფრთხოებას

Block-ში, რომელიც ისეთი კომპანიების უკან დგას, როგორიცაა Square, Cash App და Afterpay, უსაფრთხოების გუნდი იყენებს სისტემას OpenAI Defense Factory: მასში ხელოვნური ინტელექტი მოწყვლადობების აღმოჩენას, გამოვლენასა და მათზე რეაგირებას ისეთი მასშტაბით ახორციელებს, რომელსაც ვერცერთი ადამიანური გუნდი ვერ აუწყობდა ფეხს. AI-სისტემების, მათ შორის OpenAI-ს საინიციატივო პროგრამის, სახელად Daybreak, გამოყენებით, Block-ი ახლა იმ სამუშაოს სულ რამდენიმე საათში ასრულებს, რომელსაც ადრე კვირები სჭირდებოდა.

Block-ის უსაფრთხოების გუნდი ორიენტირებულია სამუშაო პროცესებში ხელოვნური ინტელექტის პასუხისმგებლობიან დანერგვაზე — იქნება ეს კოდის გენერირება თუ უსაფრთხოების ოპერაციები. „სინამდვილეში, მთავარი ის არის, რომ გყავდეს ახალი თანაგუნდელი, რომლის შესაძლებლობებიც საჭიროებისამებრ შეიძლება გაიზარდოს“, ამბობს ჯეიმს ნეტესჰაიმი, ინფორმაციული უსაფრთხოების მთავარი ოფიცერი. „ეს არ ჰგავს უფრო ტრადიციულ ავტომატიზაციას, როცა ნაბიჯ-ნაბიჯ უნდა გემოქმედა. შეგიძლია, მას საკმაოდ სპეციფიკური, ბუნდოვანი პრობლემა მისცე და ერთად იმუშაოთ მის გადასაჭრელად“.

პროგრამული უზრუნველყოფის ხარვეზის განხილვას ან ჟურნალის გაანალიზებას მსგავსი პროექტების დასასრულებლად დღეები ან კვირები სჭირდებოდა. ახლა გუნდს შეუძლია, ეს პროექტები დროის მხოლოდ მცირე ნაწილში დაასრულოს, ხოლო ადამიანი მაინც ამოწმებს თითოეულ შედეგს.

მაგალითად, აღმოჩენის რეგულირებისთვის, ყველა გამოძიება ინახავს თავის დაუმუშავებელ მოთხოვნის მტკიცებულებებს, ამიტომ გუნდს ახლა ერთ საათზე ნაკლებ დროში შეუძლია შემოთავაზებული აღმოჩენის ცვლილების რეტროსპექციულად შემოწმება შვიდი თვის განმავლობაში საექსპლუატაციო გარემოდან მიღებული სადიაგნოზო მონაცემების მიმართ. ეს სამუშაო ადრე ასობით ძველი ინციდენტის ხელით ხელახლა გამოძახებას ნიშნავდა და პრაქტიკაში ეს იშვიათად ხდებოდა, რადგან ძალიან დიდ დროს მოითხოვდა.

გუნდი ასევე უფრო მეტ ყურადღებას აქცევს იმას, თუ რომელ მოდელს რომელი სამუშაოსთვის იყენებს. „ადრე უახლეს მოდელს ვიყენებდით, მაგრამ ახლა ამის საჭიროება აღარ არის“, — ამბობს ის. „სხვადასხვა ამოცანისთვის სხვადასხვა მოდელის არჩევა ჩვენთვის სწავლის პროცესი აღმოჩნდა“. Block-ის უსაფრთხოების სარტყელი (harness) აგებულია Daybreak-ის ბაზაზე, რომ ამოცანები შესაბამის მოდელთან გადაამისამართოს. ის ასევე მოიცავს მექანიზმებს, რომელთა მეშვეობითაც ადამიანებს შეუძლიათ, ამოცანების შესრულება გადაიბარონ, ხოლო აგენტებს — ერთმანეთის ნამუშევარი გადაამოწმონ. გუნდი მუდმივად აფასებს ამ სისტემებს შიდა ბენჩმარკებისა და რეალურ პირობებში მუშაობის შედეგების მიხედვით და საჭიროებისამებრ ცვლის მიდგომას, მათ შორის, სამუშაოს ადამიანებს გადასცემს შესამოწმებლად, როდესაც ეს პასუხისმგებლობიანი გადაწყვეტილებაა.

ავტომატიზებულმა პირველადი გადარჩევის სისტემამ სამუშაოს უფრო სწრაფად და მეტი მოცულობით შესრულება შესაძლებელი გახადა. Block-ის უსაფრთხოების გუნდმა პირველადი გადარჩევის წარმადობის 50%-იანი ზრდა, სადაზვერვო ინფორმაციის შეგროვებისა და გამოკვლევების 50%-იანი მატება და საფრთხეების ძიების სრულად ახალი, ავტონომიური შესაძლებლობა მიიღო. ნეტესჰაიმის თქმით, „ეს კვარტალში ასრულებს დაახლოებით 1100 შრომა/საათის ეკვივალენტურ ანალიტიკოსთა სამუშაოს, რომელიც გამოკვლევასთანაა დაკავშირებული, რადგან ახლა ყველა შეტყობინების საფუძვლიანად და სიღრმისეულად გამოკვლევა ხდება ყველა იმ ელემენტის გათვალისწინებით, რომლებსაც ეს გამაფრთხილებელი შეტყობინება ეხება. ჩვენი სისტემა თითოეულ გამაფრთხილებელ შეტყობინებაზე ისე მუშაობს, თითქოს იმ დღეს მხოლოდ ეს ერთი შეტყობინება გვქონდეს“.

ტრადიციული სკანირების ხელსაწყოები თითოეულ მოწყვლადობას ცალკე აფიქსირებს, თუმცა Daybreak-ის დახმარებით Block-ის უსაფრთხოების გუნდს გაცილებით მეტის გაკეთება შეუძლია. მოდელი ხელს უწყობს შეტევების კანონზომიერებების შესახებ ჰიპოთეზების ჩამოყალიბებასა და შეტევების სერიის გაერთიანებას კომპრომეტაციის სრულ გზაში. ამგვარად ვლინდება მოწყვლადობები, რომლებიც წლების განმავლობაში შეიძლება არსებობდა.

ერთ შემთხვევაში ერთ ლეპტოპზე მიღებული გაფრთხილება პოლიტიკის უმნიშვნელო დარღვევაზე მიუთითებდა, ცალკე აღებული. მიუხედავად ამისა, კოლეგების მიერ გადამოწმებისას მოდელმა მიაკვლია ინდიკატორს, რომელიც მტკიცებულებებში მხოლოდ შემთხვევით ჩანდა, დაუკავშირა ის Block-ის იდენტობის ჟურნალებს და პრობლემების გაცილებით ფართო სპექტრი გამოავლინა. „საბოლოო წერტილის ერთმა რუტინულმა გაფრთხილებამ მთელი კამპანიის აღკვეთა გამოიწვია. ვერცერთი ხელსაწყო ცალკე ვერ ამყარებს ამ კავშირს. ეს სიგნალი მხოლოდ ორი პროდუქტის ჟურნალების ერთობლიობაში არსებობს“, — ამბობს ჯეიმსი.

Daybreak-ის დახმარების კიდევ ერთი მაგალითი იყო შეტევითი ტესტირების ბოლო სავარჯიშო. მოდელს შიდა სისტემის შესახებ რამდენიმე მინიშნება მისცეს და მან დაახლოებით ორ საათში ააწყო შეტევის სრული ჯაჭვი — SQL-ინიექცია, პრივილეგიების ესკალაცია, სისტემაში პლაცდარმის მოპოვება, ავტორიზაციის მონაცემების აღნუსხვა და სხვა სისტემებზე გადასვლა. ამისთვის, ჩვეულებრივ, შეტევითი ტესტირების სპეციალისტს რამდენიმე დღე დასჭირდებოდა. შეტევითი ტესტირების ბოლო სავარჯიშოებში მაღალი დონის მოწყვლადობის წარდგენიდან ავტომატურად შემოთავაზებულ პატჩამდე 18 წუთი გავიდა.

მოწყვლადობების აღმოჩენის ღირებულება მათი გამოსწორების შესაძლებლობაზეა დამოკიდებული. ნეტესჰაიმი დეტალურად აღწერს პროცესს, რომელსაც მისი გუნდი ყოველი აღმოჩენისას იყენებს: ადგენს, კოდის რომელ ნაწილშია პრობლემა და ვინ არის მასზე პასუხისმგებელი, შემდეგ კი მის გამოსწორებაზე გადადის. „თქვენ სთავაზობთ პატჩს, ადასტურებთ, რომ მოწყვლადობის გამოყენება შესაძლებელია, შემდეგ კი ამოწმებთ, რომ ის გამოსწორებულია; ამ პროცესში ადამიანი მონაწილეობს, წარმართავს მას და კოდის ცვლილებების გაშლას უზრუნველყოფს“.

მიუხედავად იმისა, რომ აგენტებს ტექნიკური შესაძლებლობები აქვს, მათ არ გააჩნია ორგანიზაციის კონტექსტი და წინა გადაწყვეტილებების საფუძვლად არსებული მსჯელობა. ამ კონტექსტსა და სტრატეგიას ადამიანი უზრუნველყოფს, სწორედ აქ ერთვება მისი გუნდი და უზრუნველყოფს ადამიანურ შემოწმებას. ნეტესჰაიმის თქმით, როდესაც ხელოვნური ინტელექტის განსჯის უნარი პრაქტიკაში დადასტურდება, „რისკის დონეს თანდათან გავზრდით, რათა ის უფრო მგრძნობიარე სისტემებში გამოვიყენოთ“.

• ერთზე ნაკლები საათი აღმოჩენის წესების შემოთავაზებული ცვლილების რეტროსპექტიულად შესამოწმებლად შვიდი თვის განმავლობაში შეგროვებულ სადიაგნოზო მონაცემებზე

• 18 წუთი მაღალი დონის მოწყვლადობის წარდგენიდან ავტომატურად შემოთავაზებულ პატჩამდე შეტევითი ტესტირების ბოლოდროინდელ სავარჯიშოებში.

• მცდარი დადებითი სიგნალების პირველადი გადარჩევის ავტომატიზაციის მეშვეობით ყოველ კვარტალში ანალიტიკოსების დაახლოებით 600 შრომა/საათი გამოთავისუფლდება.

• ყოველ კვარტალში ანალიტიკოსთა 1100 შრომა/საათის ეკვივალენტური გამოკვლევითი სამუშაო სრულდება.

• პირველადი გადარჩევის წარმადობის 50%-იანი ზრდა

• სადაზვერვო ინფორმაციის შეგროვებისა და გამოკვლევების 50%-იანი ზრდა.

მხოლოდ აღმოჩენასა და რეაგირებასთან დაკავშირებულმა სამუშაომ ყოველ კვარტალში გამოგვითავისუფლა ანალიტიკოსთა დაახლოებით 600 შრომა/საათი, რომლებიც ადრე ცრუ დადებითი შედეგების განხილვას ხმარდებოდა. გამოთავისუფლებულ დროს ახლა გუნდი უთმობს უფრო ღრმა გამოკვლევებსა და მეტი ავტომატიზაციის უფრო პასუხისმგებლობიანად შექმნას.

თავდასხმების ტემპის ზრდისა და AI მოდელების განვითარების გაგრძელების კვალდაკვალ, ნეტესჰაიმი ხედავს შესაძლებლობას, პირველ რიგში, წარმოქმნილი მოწყვლადობების რაოდენობა შემცირდეს. ეს უსაფრთხოების გუნდებს საშუალებას მისცემდა, ნაკლები დრო დაეთმოთ მოწყვლადობების გამოსწორებისთვის და მეტი — პრევენციული, სტრატეგიული სამუშაოსთვის.

„OpenAI ყველასთვის ხელმისაწვდომს ხდის ამ მოწინავე შესაძლებლობებს და ამით უპირატესობას დამცველების მხარეს ანიჭებს“, დასძენს ის. „როგორც წესი, ეს შესაძლებლობები მხოლოდ ყველაზე ცნობილ ტექნოლოგიურ კომპანიებსა და მთავრობებს ჰქონდათ ხელთ. მაგრამ ახლა ყველას, მათ შორის კრიტიკულად მნიშვნელოვანი ინფრასტრუქტურის სფეროში მოქმედ ორგანიზაციებს, სკოლებსა და მცირე ბიზნესებს, შეუძლია ამ ტექნოლოგიის გამოყენება საკუთარი ქსელების დასაცავად“.