Инцидент OpenAI-Hugging Face(отвара се у новом прозору) био је преломан тренутак за рачунарску безбедност, јер је пружио увид у то како ће се способности типичног нападача развијати у наредним месецима. Разговарао сам са многим организацијама током протеклих неколико недеља и једна тема је јасна: знају да морају из темеља да унапреде своје праксе сајбер безбедности незапамћеном брзином. У овом тексту поделићу шта радимо да бисмо одбранили OpenAI, конкретне кораке које друге организације могу предузети већ данас и зашто је сада време за деловање.
Модели вештачке интелигенције развијени широм света све су способнији да аутоматизују одређене фазе стварних напада на рачунарске системе, што олакшава проналажење и искоришћавање дугогодишњих безбедносних слабости — од пропуста скривених дубоко у коду који је написао човек до заборављених овлашћења. Исте могућности вештачке интелигенције пружају одбрамбеним тимовима нове начине да пронађу и отклоне те слабости, али морају одмах да делују. Ако компаније делују одлучно — уз унапређивање основних елемената свог пословања и наоружавање својих тимова моћним алатима које пружа вештачка интелигенција — можемо интернет учинити безбеднијим него што је икада био.
У инциденту са компанијама OpenAI и Hugging Face, колектив агената успео је аутономно да продре не само у истраживачку инфраструктуру компаније OpenAI, већ и у производну инфраструктуру друге компаније, истовремено злоупотребљавајући различите слабости — од претходно непознатих безбедносних пропуста, до коришћења приступних података за корисничке налоге који су процурили на интернет. Све је очигледније да технолошки дуг(отвара се у новом прозору) сваке компаније крије озбиљне слабости, због чега одбрамбени тимови морају да их уоче и исправе пре него што их нападачи открију.
Како бисмо одбрамбеним снагама пружили предност у односу на нападаче, раније ове године смо наше рачунарске-капацитете почели да стављамо на располагање само поузданим одбрамбеним тимовима. Од тада су различите компаније објавиле моделе са слободно доступним параметрима који по кибернетичким могућностима заостају за водећим само неколико месеци. Најновији међу овим моделима је, како изгледа, планиран за пуштање у рад(отвара се у новом прозору) крајем августа, што ће највероватније значајно убрзати динамику претњи.
Иако ће нападачи који користе вештачку интелигенцију ускоро бити у стању да открију дугогодишње слабости у бројним постојећим системима, вештачка интелигенција ће истовремено одбрамбеним тимовима знатно олакшати проналажење, одређивање приоритета и исправљање тих истих слабости. Безбедност и даље подсећа на игру мачке и миша, али би вештачка интелигенција могла да промени њену економску страну(отвара се у новом прозору) на начин који суштински даје предност одбрамбеном тиму. На пример, почињемо посебно да обучавамо наше моделе да пишу изузетно безбедан код. Наши модели су такође изванредни у математичким доказима, који се могу употребити за формалну проверу безбедности софтвера на начин који се показао недостижним за људе.
После инцидента са компанијама OpenAI и Hugging Face, замолио сам ChatGPT Work (користећи јавно доступни GPT‑5.6 Sol) да процени безбедност сајта gregbrockman.com(отвара се у новом прозору). То је једноставан статички сајт, хостован на AWS са Cloudflare као улазном тачком, па сам претпоставио да неће бити много површине напада за рањивости.
За око 15 минута откривено је 13 проблема, од којих многи вероватно не могу да се злоупотребе саостално — али могу да замислим њихово комбиновање са другим слабостима са озбиљним последицама. Нисам подесио своје DNS записе како бих спречио нападаче да лажирају е-поруке у моје име; мој интернет-сајт је користио незаштићену jQuery верзију; Cloudflare је прослеђивао захтеве ка AWS преко нешифрованог HTTP.
Затим сам тражио од ChatGPT Work да отклони ове проблеме, што је и успео да уради током једног сата. ChatGPT Work је отворио Cloudflare контролну таблу у мом прегледачу и затим кликнуо на више различитих опција да би правилно конфигурисао DNS, TLS и напредне безбедносне поставке; потпуно је уклонио jQuery са интернет-сајта; преместио је мој систем са AWS на Cloudflare Pages и покренуо фазно пуштање у рад DMARC(отвара се у новом прозору).
И све је то урађено само за мој лични интернет-сајт. Ово је мали пример како наши постојећи модели могу да функционишу као рачунарски заштитници – да пронађу дугачак низ проблема до којих човек не би имао времена или стручности да дође (са многим од исправљених подешавања сам био површно упознат, али не бих одмах знао који је прави начин да их конфигуришем), а затим да их исправи уз одговарајући прилагођени план увођења.
Инцидент са Hugging Face показао је да смо потценили кибернетичке способности наших модела вештачке интелигенције у пракси. У складу са тим пооштравамо наше безбедносне захтеве, што додатно повећава хитност нашег постојећег безбедносног истраживања и рада на унутрашњој безбедности.
Износим део нашег приступа заштити OpenAI у овом тренутку, јер верујем да може бити од користи и другим организацијама. Како бисмо заштитили OpenAI, значајно улажемо како у основне контроле — да се основни кораци ураде како треба — као и у јачање нашег одбрамбеног тима помоћу напредних модела интелигенције. Стратегију чине четири главна стуба.
Прво, користимо сопствене моделе како бисмо допринели безбедности нашег кода. Codex, укључујући наш безбедносни програмски додатак, проверава измене кода, открива слабости и помаже програмерима да реше проблеме пре него што буду примењени. Није циљ само производити додатне безбедносне налазе које човек мора да проверава; суштина је открити стварне слабости пре пуштања у рад и убрзати процес од уочавања проблема до безбедне примене исправке. Док настављамо са обуком наших модела да праве све безбеднији код, циљ нам је да елиминишемо поједине врсте софтверских слабости код новонаписаног кода.
Друго, користимо сопствене моделе како бисмо непрестано штитили нашу инфраструктуру. Данас вештачка интелигенција анализира и разврстава готово сва наша почетна безбедносна упозорења, пре него што обавештење стигне до људи. Ово доприноси смањењу замарајућих рутинских задатака за одбрамбене тимове, побољшава време одговора и омогућава стручњацима да се посвете тамо где су њихове вештине најдрагоценије — приликом вршења процене, доношења одлука и примене стручности. Све више повезујемо ова откривања са дефинисаним аутоматизованим одговорима, док људи остају одговорни за одлуке са највећим утицајем. Циљ је да омогућимо откривање безбедносних проблема и реагујемо на њих машинском брзином.
Треће, користимо напредну вештачку интелигенцију за непрекидно мапирање, проверу и откривање могућих путања напада. Утврђивањем слабости, погрешних конфигурација, прекомерно привилегованих налога или ненамерно постављених граница поверења, можемо брзо да уочимо и отклонимо ове пропусте пре него што их нападачи злоупотребе. То нам омогућава да непрекидно вршимо процену, надзор и тестирање наших безбедносних инваријанти — односно безбедносних својстава за која сматрамо да су тачна — кроз све наше производе, инфраструктуру и системе.
Најзад, велика средства улажемо у системске основе на свим нивоима. Наставићемо са улагањем у безбедносну архитектуру и механизме контроле, усвајајући стратегије као што су дубинска одбрана и принципи минималних овлашћења, при чему пројектујемо системе тако да је за настанак катастрофалних последица неопходан истовремени отказ више независних контрола. Класичне безбедносне контроле као што су изолација мреже, ојачавање радног оптерећења, надгледање и безбедносне закрпе и њихова примена, имаће већу важност него икада у будућности са вештачком интелигенцијом.
Време је од пресудне важности, а одбрамбени тимови ће морати да спроведу доленаведене кораке муњевитом брзином. У наставку помињем OpenAI технологију, али у екосистему постоји велики број конкурената које такође вреди анализирати. Није толико битан конкретан алат, колико то да вашем одбрамбеном тиму одмах обезбедите компетентну вештачку интелигенцију.
- Обезбедите посвећеност и подршку организације. Суочавамо се са брзом променом безбедносних ризика – постарајте се да ваше организације за безбедност и инжењеринг имају подршку, сарадњу и ресурсе да се брзо суоче са овим ризицима. Спроводите вежбе симулације са својим тимовима да бисте приказали како би се ови напади манифестовали у вашим организацијама и како ћете на њих одговарати.
- Обезбедите агента свом безбедносном тиму. Почните да користите Codex, програмски додатак Codex Security(отвара се у новом прозору) или други компетентан алат за агентско програмирање и безбедност. Дајте му одобрење за приступ базама програмског кода, конфигурацијама инфраструктуре и техничкој документацији које ваш тим за безбедност треба да процени. Немојте чекати увођење на нивоу целе компаније, да бисте почели са радом на својим најважнијим системима.
- Пружите датом агенту безбедносну стручност. Пођите од вештина(отвара се у новом прозору),које подржава заједница, а које обухватају радне процесе за статичку анализу, безбедносно усмерени преглед програмског кода, анализу варијанти слабости, ризик у ланцу снабдевања софтвером и друге безбедносне радне процесе. Затим развијте сопствене вештине у складу са архитектуром, безбедносним стандардима, моделима претњи и правилницима своје организације.
- Одмах извршите процене безбедности својих система. Дајте предност процени услуга доступних преко интернета, токовима провере идентитета, програмском коду инфраструктуре, процесима имплементације и системима који први располажу осетљивим информацијама. Како ваш тим буде стицао самопоуздање, тако ширите обим прегледа.
- Прегледајте и решите претходно забележене слабости. Доставите свом агенту налазе алата за скенирање кода, упозорења о међусобној зависности, безбедносне тикете, извештаје из програма за откривање грешака и претходне процене. Тражите од њега да разврста те налазе по приоритету, одвоји слабости које се могу искористити од небитних налаза, препозна повезане слабости на другим местима у изворном коду и препоручи шта прво треба отклонити.
- Интегришите безбедносну анализу директно у сам процес развоја. Затражите од агената да прегледају измене кода пре њиховог спајања и да покрећу безбедносне провере у оквиру CI процеса. Потражите грешке у провери идентитета, заобилажења контроле приступа, изложене приступне податке, небезбедне зависности, небезбедна подразумевана подешавања, измене које проширују приступ производним системима и друге слабости.
- Нека опција за помоћ агента исправи оно што пронађе. Када су проблеми потврђени, тражите да агент генерише и провери циљну закрпу, састави регресиони тест и потврди да се слабост више не понавља. Важне измене и даље треба да контролишу људи, али елиминишите непотребна одлагања од тренутка уочавања стварног проблема до стављања безбедног решења пред инжењера.
- Постепено аутоматизујте разврставање откривања Немојте одмах на почетку покушавати да изградите аутономни центар за безбедносне операције. За почетак покрените безбедносну проверу у режиму само за читање над једним репозиторијумом или нека агент анализира претходно решена упозорења, користећи приступ постојећим дневничким записима са правом само за читање. Нека резимира доказе и предложи исход, али тако да човек доноси сваку одлуку. Са порастом поверења у систем, пређите на саветодавно прегледање захтева за спајање измена (pull-request), затим на разврставање упозорења у реалном времену, а потом и на аутоматско затварање прецизно дефинисаних лажно позитивних резултата.
- Припремите могућност форензичке истраге подржане вештачком интелигенцијом пре него што вам буде потребна.. Пријавите се за Trusted Access for Cyber(отвара се у новом прозору) и одобрите свом тиму коришћење GPT‑Daybreak‑Blue за овлашћени одбрамбени рад, укључујући реаговање на инциденте, инжењеринг откривања и анализу малвера. Вежбајте коришћење ове могућности за анализу евиденције, телеметрије и безбедносних упозорења.
- Експериментишите, организујте недеље посвећене хаковању и брзо унапређујте процесе кроз понављања Правац у којем се крећемо захтева да направимо разноврсне нове алате, изменимо начин на који радимо и унапредимо вештине свих актера. Подстакните своје запослене да спроводе експерименте, закажите недељу посвећену хаковању да бисте развили нова знања и вештине и усредсредите се на брзо понављање циклуса који аутоматизују мале делове проблема. Брз напредак кроз мале кораке доводи до кумулативних одбрамбених резултата, а аутономију можете постепено проширивати како ваш тим буде стицао самопоуздање.
Ниједна компанија не може сама да изнесе овај задатак. Наш апел је да лабораторије за вештачку интелигенцију, пружаоци безбедносних услуга, предузећа и радници одржавања деле проверена запажања, исправке и практичне приручнике како би открића једне организације могла да ојачају читав екосистем.
Прозор браниоца је сада отворен. Током наредних месеци, свака организација ће морати да почне са значајном аутоматизацијом свог програма безбедности како би остала безбедна, а заједница стручњака за безбедност мора хитно да се ангажује на дефинисању алата, поступака и приручника за поступање. Тако ће моћ бранилаца расти брже од моћи нападача, са напретком вештачке интелигенције. Ово ће захтевати огроман и досад невиђен труд, али ако удружимо снаге, можемо да изградимо безбеднији свет него што смо раније могли и да замислимо.
