Како Block гради безбедност со ВИ преку технологијата на OpenAI

Во Block, компанијата зад Square, Cash App и Afterpay, безбедносниот тим ја користи OpenAI Defense Factory, каде што ВИ се справува со пронаоѓање ранливости, нивно откривање и реагирање на нив во обем што ниту еден човечки тим не би можел да го следи. Со системи за ВИ, меѓу кои и OpenAI Daybreak, на Block сега ѝ се потребни само неколку часа за да ја заврши работата за која порано беа потребни недели.

Безбедносниот тим на Block се фокусирал на одговорно воведување ВИ во различни работни процеси, од генерирање код до безбедносни операции. „Суштината е во тоа да имаш нов член на тимот со кој можеш да растеш“, вели Џејмс Нетесхајм, директор за информациска безбедност. „Тоа не е како потрадиционалната автоматизација, каде што мораше да одиш чекор по чекор. Можеш да му зададеш промпт за прилично специфичен, нејасно дефиниран проблем и заедно да работите на неговото решавање.“

Проекти како што е проверка на софтверска грешка или анализа на датотека со записи би одзеле повеќе денови или недели. Сега тимот може да ги заврши за дел од тоа време, а човек и понатаму го потврдува секој резултат.

На пример, при приспособување на детекцијата, секоја истрага ги чува доказите од изворните пребарувања, па тимот сега може повторно да ја провери предложената промена во детекцијата врз телеметриски податоци од продукциската средина за седум месеци за помалку од еден час. Порано, тоа значеше рачно повторно пребарување на стотици стари случаи, а во практика тоа честопати воопшто не се правеше бидејќи одземаше многу време.

Тимот станал и попромислен при изборот на модел за секоја задача. „Порано го користевме најновиот модел, но веќе нема потреба од тоа“, вели тој. „Со текот на времето научивме да избираме различни модели за различни задачи.“ Безбедносната рамка на Block е изградена врз Daybreak за да помогне задачите да се насочуваат кон соодветниот модел, а вклучува и можности луѓето да преземат задачи или агентите да си ја проверуваат меѓусебно работата. Тимот постојано ги оценува овие системи според интерни реперни тестови и перформансите во реални услови, а кога е потребно го приспособува пристапот, вклучително и со насочување на работата на проверка од човек кога тоа е одговорниот пристап.

Автоматизираниот систем за тријажа овозможи работата да се завршува побрзо и во поголем обем. Безбедносниот тим на Block забележа зголемување од 50 % на капацитетот за тријажа, зголемување од 50 % на собирањето информации и спроведувањето истраги, како и сосема нова способност за автономно откривање закани. Нетесхајм вели: „Ова овозможува истраги во обем од околу 1.100 аналитичарски часа по квартал, бидејќи секое предупредување сега се истражува целосно и темелно, опфаќајќи ги сите негови елементи. Нашиот систем го обработува секое предупредување како да е единственото што го имаме тој ден.“

Традиционалните алатки за скенирање пријавуваат поединечна ранливост изолирано, но безбедносниот тим на Block може да оди многу подалеку со Daybreak. Моделот помага да се формулираат хипотези за обрасци на напади и да се поврзат низа напади во целосна патека на компромитирање од почеток до крај, откривајќи ранливости што можеби постоеле со години.

Во еден случај, предупредување на еден лаптоп само по себе изгледаше како помал проблем со почитувањето на правилата. Но, при проверката од колегите, моделот проследи показател што се појавуваше само попатно во доказите, го поврза со дневниците за идентитети на Block и откри многу поголем збир проблеми. „Едно рутинско предупредување за крајна точка доведе до сузбивање на кампања. Ниту една алатка сама не ја прави таа врска. Сигналот постои само кога ќе се поврзат дневниците од два производа“, вели Џејмс.

Друг пример кога Daybreak помогна беше за време на неодамнешна вежба за тестирање на отпорноста. На моделот му беа дадени неколку насоки за еден внатрешен систем, а тој ги поврза сите чекори во целосна патека на напад - SQL-инјектирање, зголемување на привилегиите, воспоставување упориште, набројување на акредитиви и преминување кон други системи - за околу два часа. На човек што врши тестирање на отпорноста обично би му биле потребни неколку дена за ова. Во неодамнешните вежби за тестирање на отпорноста, времето од поднесување ранливост на високо ниво до автоматски генериран предлог за закрпа изнесуваше 18 минути.

Вредноста на откривањето на ранливостите зависи од способноста да се отстранат. Нетесхајм го објаснува процесот што неговиот тим го применува за секоја откриена ранливост: утврдуваат каде во кодот се наоѓа проблемот и кој е одговорен за него, а потоа преминуваат на негово отстранување. „Предлагаш поправка, потврдуваш дека ранливоста може да се искористи, а потоа проверуваш дали си ја отстранил, со вклучен човек што го насочува процесот и ги применува измените во кодот.“

Иако агентите се технички способни, тие не го познаваат контекстот на организацијата ниту причините за претходните одлуки. Човекот ги обезбедува тој контекст и стратегија, а тука настапува неговиот тим, кој обезбедува дополнителен човечки слој на проверка. Како што проценката на ВИ ќе се докажува во практика, вели Нетесхајм, „постепено ќе го зголемуваме нивото на ризик за да ја користиме во почувствителни системи.“

• Помалку од еден час за повторно извршување на предложена промена во детекцијата врз телеметриски податоци од седум месеци.

• 18 минути од пријавувањето ранливост од високо ниво до автоматски предложена закрпа во неодамнешни вежби за тестирање на отпорноста.

• Се враќаат приближно 600 часа аналитичарска работа по квартал, претходно потрошени на тријажа на лажно позитивни резултати

• Секој квартал се завршуваат приближно 1.100 часа аналитичарска работа на истраги.

• 50 % зголемување на капацитетот за тријажа

• Зголемување од 50 % на собирањето информации и спроведувањето истраги.

Самата работа на откривање и реагирање ослободи околу 600 работни часа за аналитичарите по квартал, кои претходно ги посветуваа на разгледување лажно позитивни наоди. Со тоа време на располагање, тимот сега посветува повеќе време на подлабоки истраги и на одговорно развивање поголема автоматизација.

Како што се забрзува темпото на нападите, а моделите на вештачка интелигенција продолжуваат да напредуваат, Нетесхајм гледа можност уште од самиот почеток да се намали бројот на воведени ранливости. Така, безбедносните тимови би можеле да трошат помалку време на поправање на пропустите, а повеќе на превентивна и стратешка работа.

„OpenAI ја пренасочува предноста во корист на бранителите, ставајќи ги овие напредни можности во рацете на сите“, вели тој. „Обично, овие можности им биле достапни само на многу истакнати технолошки компании и на владите. Но сега сите, вклучително и критичната инфраструктура, училиштата и малите бизниси, можат да почнат да ја користат оваа технологија за да ги одбранат своите мрежи.“