Як Block посилює безпеку завдяки ШІ-технологіям OpenAI

У Block, компанії, що стоїть за Square, Cash App і Afterpay, команда безпеки використовує OpenAI Defense Factory: ШІ шукає вразливості, виявляє загрози й реагує на них у масштабах, недосяжних для жодної команди людей. Завдяки системам ШІ, зокрема OpenAI Daybreak, Block виконує за лічені години роботу, на яку раніше йшли тижні.

Команда безпеки Block зосередилася на відповідальному впровадженні ШІ в робочі процеси — від генерування коду до операцій із безпеки. «По суті, йдеться про нового колегу, з яким можна масштабувати роботу», — каже Джеймс Неттесгайм, директор з інформаційної безпеки. «Це не традиційна автоматизація, де доводилося прописувати кожен крок. Можна дати ШІ досить нестандартну, неоднозначну задачу й разом знайти розв’язання».

На такі завдання, як аналіз програмної помилки чи журналу подій, раніше йшли дні або тижні. Тепер команда виконує їх значно швидше, і при цьому кожен результат, як і раніше, перевіряє людина.

Наприклад, для налаштування виявлення загроз у кожному розслідуванні зберігають вихідні дані запитів. Завдяки цьому команда тепер може перевірити запропоновану зміну правила виявлення на телеметрії робочих систем за сім місяців менш ніж за годину. Раніше для цього доводилося вручну повторювати запити щодо сотень минулих випадків. На практиці до цього вдавалися рідко, бо це забирало надто багато часу.

Команда також стала ретельніше добирати моделі для конкретних завдань. «Раніше ми використовували найновішу модель, але тепер у цьому немає потреби», — каже він. «Ми поступово навчилися добирати різні моделі для різних завдань». Систему harness для безпеки Block побудовано на базі Daybreak: вона допомагає спрямовувати завдання до відповідної моделі та дає змогу людям перебирати їх виконання, а агентам — перевіряти роботу одне одного. Команда постійно оцінює ці системи за внутрішніми тестами та результатами роботи в реальних умовах і за потреби коригує підхід. Зокрема, передає роботу на перевірку людині, коли саме цього вимагає відповідальний підхід.

Система автоматизованого первинного аналізу й визначення пріоритетності сповіщень дала змогу виконувати більше роботи й робити це швидше. Команда безпеки Block підвищила пропускну здатність первинного аналізу на 50%, збільшила обсяг збирання розвідданих і розслідувань на 50% та отримала цілком нову можливість автономного пошуку загроз. Неттесгайм каже: «Щокварталу система виконує розслідування в обсязі приблизно 1100 годин роботи аналітиків, адже тепер кожне сповіщення проходить повне, поглиблене розслідування всіх пов’язаних із ним елементів. Наша система опрацьовує кожне сповіщення так, ніби воно єдине за весь день».

Традиційні інструменти сканування позначають окремі вразливості ізольовано, але з Daybreak команда безпеки Block може піти значно далі. Модель допомагає висувати гіпотези про сценарії атак і поєднувати серію атак у повний шлях компрометації, виявляючи вразливості, які могли існувати роками.

В одному випадку сповіщення на окремому ноутбуці саме по собі здавалося незначним порушенням політики. Та під час перехресної перевірки модель простежила індикатор, який лише побіжно фігурував у зібраних даних, зіставила його з журналами ідентифікації Block і виявила значно ширше коло проблем. «Одне звичайне сповіщення з кінцевого пристрою привело до припинення цілої кампанії атак. Жоден окремий інструмент не встановлює такого зв’язку. Цей сигнал видно лише в поєднанні журналів двох продуктів», — каже Джеймс.

Ще одним прикладом допомоги Daybreak стали нещодавні навчання з перевірки на вразливості та ризики. Моделі дали кілька підказок про внутрішню систему, і приблизно за дві години вона вибудувала повний шлях атаки: SQL-ін’єкція, підвищення привілеїв, закріплення в системі, виявлення облікових даних і перехід до інших систем. Зазвичай фахівцю з перевірки на вразливості та ризики для цього знадобилося б кілька днів. Під час нещодавніх навчань із перевірки на вразливості та ризики від подання загального опису вразливості до автоматично запропонованого виправлення минуло 18 хвилин.

Виявлення вразливостей має цінність лише тоді, коли їх можна усунути. Неттесгайм описує процес, який його команда застосовує до кожної знахідки: визначити, де саме в коді міститься проблема та хто за нього відповідає, а тоді перейти до виправлення. «Ви пропонуєте виправлення, підтверджуєте можливість експлуатації вразливості, а потім перевіряєте, чи її усунуто. Людина при цьому скеровує процес і впроваджує зміни в коді».

Хоча агенти мають потрібні технічні можливості, їм бракує контексту організації та розуміння причин попередніх рішень. Цей контекст і стратегію надає людина — саме тут долучається його команда, забезпечуючи додаткову перевірку. У міру того як здатність ШІ ухвалювати обґрунтовані рішення підтверджуватиметься на практиці, каже Неттесгайм, «ми поступово підвищуватимемо допустимий рівень ризику, щоб використовувати його в чутливіших системах».

• Менш ніж година на перевірку запропонованої зміни правила виявлення на телеметрії за сім місяців.

• 18 хвилин від подання загального опису вразливості до автоматично запропонованого виправлення під час нещодавніх навчань із перевірки на вразливості та ризики.

• Щокварталу вивільняється близько 600 годин роботи аналітиків, які раніше йшли на аналіз хибних спрацювань.

• Щокварталу виконуються розслідування в обсязі приблизно 1100 годин роботи аналітиків.

• Пропускна здатність первинного аналізу зросла на 50%.

• Обсяг збирання розвідданих і розслідувань зріс на 50%.

Лише завдяки роботі з виявлення загроз і реагування на них щокварталу вивільняється близько 600 годин роботи аналітиків, які раніше витрачалися на аналіз хибних спрацювань. Цей час команда тепер присвячує глибшим розслідуванням і відповідальному розширенню автоматизації.

На тлі зростання інтенсивності атак і постійного вдосконалення моделей ШІ Неттесгайм бачить можливість зменшити кількість вразливостей ще на етапі їх виникнення. Це дало б командам безпеки змогу витрачати менше часу на виправлення й більше — на запобігання загрозам і стратегічну роботу.

«OpenAI змінює баланс сил на користь захисників, роблячи ці передові можливості доступними для всіх», — каже він. «Зазвичай вони були доступні лише провідним технологічним компаніям і державним структурам. Але тепер усі — зокрема об’єкти критичної інфраструктури, школи й малі підприємства — можуть почати використовувати цю технологію для захисту своїх мереж».