Как Block изгражда сигурност с ИИ с технологиите на OpenAI

В Block, компанията зад Square, Cash App и Afterpay, екипът по сигурността използва OpenAI Defense Factory: система, в която ИИ открива уязвимости, засича заплахи и реагира на тях в мащаб, непосилен за който и да е човешки екип. Със системи с ИИ, включително OpenAI Daybreak, Block върши само за часове работа, която преди е отнемала седмици.

Екипът по сигурността на Block се стреми да внедрява отговорно ИИ в работните процеси — от генерирането на код до оперативните дейности по сигурността. „В основата на всичко е новият колега, с чиято помощ можеш да разшириш обхвата на работата си“, казва Джеймс Нетесхайм, главен директор по информационната сигурност. „Не е като традиционната автоматизация, при която трябваше да задаваш всяка стъпка. Можеш да му поставиш доста специфичен, неясно формулиран проблем и да го решите заедно.“

Задачи като преглед на софтуерен дефект или анализ на системен дневник отнемаха дни или седмици. Сега екипът ги изпълнява за много по-кратко време, като всеки резултат продължава да се проверява от човек.

Например при настройването на засичането на заплахи всяко разследване запазва необработените данни от заявките. Така екипът вече може за по-малко от час да тества предложена промяна в засичането върху телеметрични данни от работната среда за седем месеца. Преди това означаваше ръчно повторно изпълнение на заявки по стотици стари случаи и на практика рядко се правеше, защото отнемаше твърде много време.

Екипът вече подбира и по-внимателно кой модел да използва за всяка задача. „Преди използвахме най-новия модел, но това вече не е необходимо“, казва той. „Постепенно се научихме да избираме различни модели за различните задачи.“ Рамката за сигурност на Block е изградена върху Daybreak и помага задачите да се насочват към подходящия модел. Тя включва и механизми, чрез които хората могат да поемат дадена задача, а агентите — да проверяват взаимно работата си. Екипът непрекъснато оценява тези системи чрез вътрешни тестове и резултатите им в реални условия и при нужда коригира подхода си, включително като насочва работата за преглед от човек, когато това е отговорното решение.

Автоматизираната система за първоначална оценка и приоритизиране позволява да се върши повече работа за по-малко време. Екипът по сигурността на Block отчита 50% ръст на производителността при първоначалната оценка на сигнали, 50% увеличение на събирането на разузнавателна информация и разследванията, както и изцяло нова възможност за автономно издирване на заплахи. Нетесхайм казва: „Системата извършва разследвания, равностойни на около 1100 часа работа на анализатор на тримесечие, защото вече всеки сигнал се проучва пълно и задълбочено във всичките му аспекти. Системата ни обработва всеки сигнал, сякаш е единственият за деня.“

Традиционните инструменти за сканиране сигнализират за отделни уязвимости, без да ги свързват помежду им, но с Daybreak екипът по сигурността на Block може да стигне много по-далеч. Моделът помага да се формулират хипотези за модели на атака и да се свърже поредица от атаки в цялостен път за компрометиране на системата, разкривайки уязвимости, които може да са съществували от години.

В един случай сигнал от един-единствен лаптоп, разгледан самостоятелно, изглеждал като незначително нарушение на правилата. Но при взаимна проверка моделът проследил индикатор, който присъствал само като страничен детайл в данните, съпоставил го с дневниците за самоличностите на Block и разкрил много повече проблеми. „Един рутинен сигнал от крайно устройство доведе до пресичането на цяла кампания. Нито един инструмент не прави тази връзка самостоятелно. Следата се открива само при съпоставяне на дневниците на два продукта“, казва Джеймс.

Друг пример за помощта на Daybreak е скорошно учение с червен отбор. Моделът получил няколко насоки за вътрешна система и за около два часа изградил цялостен път за атака — SQL инжектиране, повишаване на привилегии, установяване на траен достъп, изброяване на идентификационни данни и преминаване към други системи. Това обикновено би отнело няколко дни на специалист от червения отбор. При скорошни учения с червен отбор времето от подаването на общо описание на уязвимост до автоматично предложение за корекция е било 18 минути.

Откриването на уязвимости е полезно само доколкото те могат да бъдат отстранени. Нетесхайм описва процеса, който екипът му следва при всяка открита уязвимост: установява къде в кода е проблемът и кой отговаря за него, след което преминава към отстраняването му. „Предлагаш корекция, потвърждаваш, че уязвимостта може да бъде експлоатирана, и после проверяваш дали си я отстранил. В процеса участва човек, който го направлява и внедрява промените в кода.“

Макар агентите да имат техническите умения, те не познават контекста на организацията или мотивите зад предишни решения. Човекът осигурява този контекст и стратегията — именно тук се включва екипът му с допълнителен преглед от хора. С доказването на преценката на ИИ в практиката, казва Нетесхайм, „постепенно ще повишаваме допустимото ниво на риск, за да го използваме и за по-чувствителни системи“.

• По-малко от час за тестване на предложена промяна в засичането върху телеметрични данни за седем месеца.

• 18 минути от подаването на общо описание на уязвимост до автоматично предложение за корекция при скорошни учения с червен отбор.

• Около 600 спестени часа работа на анализатор за тримесечие от оценката на фалшиви сигнали.

• Извършени разследвания, равностойни на приблизително 1100 часа работа на анализатор за тримесечие.

• 50% ръст на производителността при първоначалната оценка на сигнали.

• 50% увеличение на събирането на разузнавателна информация и разследванията.

Само дейностите по засичане и реагиране са спестили около 600 часа работа на анализатор за тримесечие, които преди са отивали за оценка на фалшиви сигнали. Благодарение на спестеното време екипът вече отделя повече внимание на задълбочени разследвания и на отговорното разширяване на автоматизацията.

С ускоряването на атаките и непрекъснатото развитие на моделите с ИИ Нетесхайм вижда възможност да се намали броят на уязвимостите още при създаването на системите. Това би позволило на екипите по сигурността да отделят по-малко време за корекции и повече за превантивна, стратегическа работа.

„OpenAI обръща предимството в полза на защитниците, като прави тези усъвършенствани възможности достъпни за всички“, казва той. „Досега с тях обикновено разполагаха само водещи технологични компании и държавни структури. Но вече всички — включително операторите на критична инфраструктура, училищата и малките предприятия — могат да започнат да използват тази технология, за да защитават мрежите си.“