Како Block гради безбедност уз ВИ и технологију OpenAI

У компанији Block, која стоји иза производа Square, Cash App и Afterpay, безбедносни тим користи OpenAI Defense Factory: систем у којем вештачка интелигенција проналази рањивости, открива претње и реагује на њих у обиму који ниједан људски тим не би могао да испрати. Уз системе вештачке интелигенције, међу којима је и OpenAI Daybreak, Block за само неколико сати обавља посао за који су раније биле потребне недеље.

Безбедносни тим компаније Block усредсређен је на одговорно увођење вештачке интелигенције у радне процесе, било да је реч о генерисању кода или безбедносним операцијама. „Суштина је у томе да добијете новог члана тима уз којег можете да проширите обим рада“, каже Џејмс Нетесхајм, директор информационе безбедности. „То није као традиционална аутоматизација, где сте морали да задајете сваки корак. Можете да јој задате сасвим специфичан, недовољно јасно дефинисан проблем и да га заједно решавате.“

Задаци попут анализе софтверске грешке или рашчлањивања евиденције трајали су данима или недељама. Сада тим може да их заврши за делић тог времена, а сваки резултат и даље проверава човек.

На пример, ради подешавања детекције, у свакој истрази чувају се сирови докази добијени упитима. Тим зато сада може да тестира предложену измену детекције на телеметријским подацима из продукционог окружења за седам месеци, и то за мање од сат времена. Раније је то подразумевало ручно понављање упита за стотине старих случајева, па се у пракси ретко и радило јер је одузимало превише времена.

Тим сада пажљивије бира и који модел користи за који посао. „Раније смо користили најновији модел, али то више није неопходно“, каже он. „Учили смо како да бирамо различите моделе за различите задатке.“ Безбедносно окружење компаније Block изграђено је на систему Daybreak како би усмеравало задатке одговарајућем моделу. Оно садржи и механизме који омогућавају људима да преузму задатке, а агентима да међусобно проверавају свој рад. Тим непрекидно оцењује ове системе према интерним мерилима и учинку у стварним условима и по потреби прилагођава приступ, укључујући и упућивање рада на људску проверу када је то одговорнији избор.

Захваљујући аутоматизованом систему тријаже, посао се обавља брже и у већем обиму. Безбедносни тим компаније Block забележио је повећање пропусне моћи тријаже за 50% и обима прикупљања обавештајних података и истрага за 50%, а добио је и потпуно нову могућност аутономног трагања за претњама. Нетесхајм каже: „Овај систем сваког тромесечја обави истражни посао за који би аналитичарима требало око 1.100 сати, јер се сада свако упозорење потпуно и темељно истражује, уз обухватање свих повезаних елемената. Наш систем обрађује свако упозорење као да је једино које смо тог дана добили.“

Традиционални алати за скенирање означавају појединачне рањивости изоловано, али безбедносни тим компаније Block уз Daybreak може да оде много даље. Модел помаже у постављању хипотеза о обрасцима напада и повезује низ напада у целовит пут до компромитовања система, откривајући рањивости које су можда постојале годинама.

У једном случају, упозорење на једном лаптопу, посматрано засебно, деловало је као мање кршење безбедносне политике. Међутим, током додатне провере, модел је пратио показатељ који се само успут појавио у доказима, повезао га са евиденцијама идентитета компаније Block и открио много шири скуп проблема. „Једно рутинско упозорење са крајњег уређаја довело је до заустављања читаве кампање напада. Ниједан алат самостално не успоставља ту везу. Сигнал се уочава тек повезивањем евиденција два производа“, каже Џејмс.

Daybreak је помогао и током недавне вежбе црвене команде. Модел је добио неколико назнака о интерном систему и за око два сата повезао читав пут напада — SQL убризгавање, подизање привилегија, успостављање упоришта, пописивање акредитива и прелазак на друге системе. За то би члану црвене команде обично било потребно неколико дана. Током недавних вежби црвене команде, од подношења општег описа рањивости до аутоматски предложене закрпе прошло је 18 минута.

Проналажење рањивости вреди онолико колико и способност да се оне отклоне. Нетесхајм објашњава поступак који његов тим примењује на сваки налаз: прво утврђује где се проблем налази у коду и ко је за њега одговоран, а затим прелази на отклањање. „Предложите закрпу, потврдите да се рањивост може искористити, а затим проверите да ли сте је отклонили, уз човека који усмерава поступак и уводи измене кода у рад.“

Иако су агенти технички способни, не познају контекст организације нити разлоге иза ранијих одлука. Човек пружа тај контекст и стратегију, а ту се укључује његов тим да обезбеди и људску проверу. Како се способност процене вештачке интелигенције буде доказивала у пракси, Нетесхајм каже: „Постепено ћемо прихватати већи ниво ризика и користити је за осетљивије системе.“

• Мање од сат времена за тестирање предложене измене детекције на телеметријским подацима за седам месеци.

• 18 минута од подношења општег описа рањивости до аутоматски предложене закрпе током недавних вежби црвене команде.

• Око 600 сати рада аналитичара на тријажи лажно позитивних упозорења уштеђено сваког тромесечја.

• Сваког тромесечја обављен истражни посао који одговара приближно 1.100 сати рада аналитичара.

• Повећање пропусне моћи тријаже за 50%.

• Повећање обима прикупљања обавештајних података и истрага за 50%.

Само у области откривања претњи и реаговања на њих уштеђено је око 600 сати рада аналитичара по тромесечју, који су раније одлазили на тријажу лажно позитивних упозорења. Захваљујући тој уштеди, тим сада више времена посвећује детаљнијим истрагама и одговорном развоју додатне аутоматизације.

Како се темпо напада убрзава, а модели вештачке интелигенције настављају да напредују, Нетесхајм види прилику да се број рањивости смањи спречавањем њиховог настанка. То би безбедносним тимовима омогућило да мање времена троше на закрпе, а више на превентивни и стратешки рад.

„OpenAI преноси предност на страну одбране тако што ове напредне могућности чини доступним свима“, каже он. „Оне су углавном биле доступне само најистакнутијим технолошким компанијама и државним органима. Али сада сви, укључујући организације које управљају критичном инфраструктуром, школе и мала предузећа, могу да почну да користе ову технологију за одбрану својих мрежа.“