Како Block гради безбедност со ВИ и технологијата на OpenAI

Во Block, компанијата зад Square, Cash App и Afterpay, тимот за безбедност ја користи OpenAI Defense Factory: ВИ открива ранливости, детектира закани и реагира на нив во обем со кој ниту еден човечки тим не би можел да се справи. Со системи за ВИ, меѓу кои и OpenAI Daybreak, Block за само неколку часа завршува работа што порано траела со недели.

Тимот за безбедност на Block е посветен на одговорно воведување ВИ во работните процеси, било да се работи за генерирање код или за безбедносни операции. „Суштината е во тоа да имате нов член на тимот што може да го следи растот на вашите потреби“, вели Џејмс Нетесхајм, главен директор за информациска безбедност. „Не е како традиционалната автоматизација, каде што моравте да одите чекор по чекор. Можете да му зададете прилично специфичен, недоволно јасно дефиниран проблем и заедно да го решавате.“

За задачи како разгледување софтверска грешка или анализа на дневник беа потребни денови или недели. Сега тимот може да ги заврши тие задачи за многу пократко време, а секој резултат и понатаму го проверува човек.

На пример, за дотерување на детекцијата, при секоја истрага се зачувуваат необработените докази добиени со пребарувања. Така, тимот сега може за помалку од еден час да тестира предложена промена во детекцијата врз телеметриски податоци од седум месеци работа во продукциска средина. Порано, тоа значеше рачно повторување на пребарувањата за стотици стари случаи, па во практиката ретко се правеше бидејќи одземаше премногу време.

Тимот стана и повнимателен при изборот на модел за секоја задача. „Порано го користевме најновиот модел, но веќе нема потреба од тоа“, вели тој. „Учевме како да избираме различни модели за различни задачи.“ Безбедносната рамка на Block е изградена врз Daybreak за да помогне во насочувањето на задачите кон соодветниот модел. Таа вклучува и механизми преку кои луѓето можат да преземат задачи, а агентите меѓусебно да си ја проверуваат работата. Тимот постојано ги оценува овие системи според внатрешни мерила и резултатите во реални услови, приспособувајќи го пристапот кога е потребно. Тоа вклучува и испраќање на работата на човечка проверка кога тоа е одговорниот избор.

Системот за автоматизирана тријажа овозможи да се завршува повеќе работа за пократко време. Тимот за безбедност на Block забележа зголемување на капацитетот за тријажа за 50%, зголемување на собирањето разузнавачки податоци и истрагите за 50%, како и сосема нова способност за автономно трагање по закани. Нетесхајм вели: „Со ова секое тримесечје се вршат истраги за кои на аналитичарите би им биле потребни околу 1.100 работни часа, бидејќи сега секое предупредување добива целосна, длабинска истрага што ги опфаќа сите поврзани елементи. Нашиот систем го обработува секое предупредување како да е единственото што сме го добиле тој ден.“

Традиционалните алатки за скенирање означуваат поединечна ранливост изолирано, но со Daybreak тимот за безбедност на Block може да оди многу подалеку. Моделот помага да се постават хипотези за шемите на напади и да се поврзе низа напади во целосна патека на компромитирање, од почеток до крај, откривајќи ранливости што можеби постоеле со години.

Во еден случај, предупредување за еден лаптоп, разгледано само за себе, изгледало како помало прекршување на правилата. Но при дополнителната проверка, моделот следел показател што се појавил само попатно во доказите, го поврзал со дневниците за идентитети на Block и открил многу поширок збир проблеми. „Едно рутинско предупредување за краен уред доведе до запирање цела кампања на напади. Ниту една алатка не ја прави таа врска самостојно. Сигналот се гледа само кога ќе се поврзат дневниците на двата производа“, вели Џејмс.

Daybreak помогнал и при една неодамнешна вежба за тестирање на отпорноста. На моделот му биле дадени неколку насоки за внатрешен систем и тој за околу два часа поврзал целосна патека за напад: SQL-инјектирање, подигнување на привилегиите, воспоставување упориште, попишување на податоците за најава и преминување кон други системи. На експерт за тестирање на отпорноста обично би му биле потребни неколку дена за ова. Во неодамнешните вежби за тестирање на отпорноста, времето од поднесување општ опис на ранливост до автоматски предлог за закрпа било 18 минути.

Откривањето ранливости има вредност само ако можете и да ги отстраните. Нетесхајм го објаснува процесот што неговиот тим го применува за секој наод: утврдуваат каде во кодот е проблемот и кој е одговорен за него, а потоа преминуваат на негово отстранување. „Предлагате закрпа, потврдувате дали ранливоста може да се искористи, а потоа проверувате дали сте ја отстраниле, при што во процесот е вклучен човек што го насочува и ги пушта измените на кодот во употреба.“

Иако агентите се технички способни, тие не го познаваат контекстот на организацијата ниту причините зад претходните одлуки. Тој контекст и стратегијата ги обезбедува човек, а тука се вклучува неговиот тим за да изврши дополнителна човечка проверка. Како што способноста на ВИ за процена се докажува во практика, Нетесхајм вели: „Постепено ќе го зголемуваме нивото на ризик што го прифаќаме, за да ја користиме и за почувствителни системи.“

• Помалку од еден час за тестирање предложена промена во детекцијата врз телеметриски податоци од седум месеци.

• 18 минути од поднесување општ опис на ранливост до автоматски предлог за закрпа во неодамнешните вежби за тестирање на отпорноста.

• Околу 600 заштедени работни часови на аналитичари по тримесечје за тријажа на лажно позитивни предупредувања.

• Завршени истраги еднакви на приближно 1.100 работни часови на аналитичари по тримесечје.

• Зголемување на капацитетот за тријажа за 50%.

• Зголемување на собирањето разузнавачки податоци и истрагите за 50%.

Само со работата на детекција и реакција се заштедија околу 600 работни часови на аналитичари по тримесечје, кои порано се трошеа на тријажа на лажно позитивни предупредувања. Со заштеденото време, тимот сега посветува повеќе внимание на подлабински истраги и на одговорно проширување на автоматизацијата.

Како што се засилува темпото на нападите, а моделите за ВИ продолжуваат да напредуваат, Нетесхајм гледа можност да се намали бројот на ранливости уште при самото нивно создавање. Тоа би им овозможило на тимовите за безбедност да трошат помалку време на закрпи, а повеќе на превентивна, стратешка работа.

„OpenAI ја префрла предноста на страната на бранителите, правејќи ги овие напредни можности достапни за сите“, вели тој. „Досега тие обично беа достапни само за водечките технолошки компании и за државните институции. Но сега сите, вклучително и операторите на критична инфраструктура, училиштата и малите бизниси, можат да почнат да ја користат оваа технологија за да ги бранат своите мрежи.“