Инцидентот OpenAI–Hugging Face(се отвора во нов прозорец) беше пресвртница за сајбер-безбедноста бидејќи даде увид во тоа како во наредните месеци ќе се развиваат способностите на типичните заканувачки актери. Во изминатите неколку недели разговарав со многу организации и едно е јасно: тие знаат дека мора суштински да ги унапредат своите практики за сајбер-безбедност со досега невидена брзина. Во оваа објава ќе споделам што правиме за да го заштитиме OpenAI, кои конкретни чекори можат другите организации да ги преземат уште денес и зошто мора да дејствуваме веднаш.
Моделите на ВИ развиени ширум светот можат да автоматизираат сè повеќе делови од сајбер-нападите во реалниот свет, па долгогодишните безбедносни празнини — од грешки длабоко скриени во код напишан од луѓе до заборавени дозволи — стануваат полесни за откривање и искористување. Истите способности на ВИ им нудат на бранителите нови начини да ги откријат и отстранат тие слабости, но мора да дејствуваат веднаш. Ако компаниите дејствуваат решително — меѓу другото, ако ги зајакнат темелите и ги надградат своите тимови со моќта на ВИ — можеме да го направиме интернетот побезбеден од кога било.
Во инцидентот OpenAI–Hugging Face, една колективна група агенти успеа самостојно да навлезе не само во истражувачката инфраструктура на OpenAI, туку и во продукциската инфраструктура на друга компанија, поврзувајќи ранливости што се движеа од дотогаш непознати безбедносни пропусти до употреба на акредитиви од кориснички сметки протечени на интернет. Станува сè појасно дека техничкиот долг(се отвора во нов прозорец) на секоја компанија прикрива значајни пропусти, а бранителите мора да ги откријат и отстранат пред напаѓачите.
За да им дадеме предност на бранителите пред напаѓачите, на почетокот од оваа година почнавме да ги објавуваме нашите сајбер-способности само за доверливи бранители. Оттогаш, различни компании објавија модели со отворени параметри чии сајбер-способности заостануваат само неколку месеци зад граничните модели. Најновиот од овие модели, според најавите, треба да биде објавен(се отвора во нов прозорец) кон крајот на август и веројатно значително ќе го забрза развојот на заканите.
Иако напаѓачите потпомогнати од ВИ наскоро ќе можат да откриваат долгогодишни пропусти во многу постојни системи, ВИ истовремено многу ќе им го олесни на бранителите откривањето, приоритизирањето и отстранувањето на истите пропусти. Безбедноста и понатаму е игра на мачка и глушец, но ВИ може суштински да ја промени нејзината економска логика(се отвора во нов прозорец) во корист на бранителите. На пример, почнуваме да ги обучуваме нашите модели конкретно да пишуваат код со безбедност што ги надминува човечките способности. Нашите модели се извонредни и во математички докази, што може да се примени за формална проверка на безбедноста на софтверот на начин што досега се покажал нерешлив за луѓето.
По инцидентот OpenAI–Hugging Face, побарав од ChatGPT Работа (со јавно достапниот GPT‑5.6 Sol) да ја процени безбедноста на gregbrockman.com(се отвора во нов прозорец). Тоа е едноставна статична веб-локација, хостирана на AWS со Cloudflare како влезна точка, па сметав дека нема да има голема површина за напад.
За околу 15 минути откри 13 проблеми, од кои многу веројатно не можат да се искористат самостојно — но лесно можев да замислам како би се поврзале со други ранливости и би предизвикале значителни последици. Не ги бев конфигурирал DNS-записите да спречуваат напаѓачи да испраќаат лажни е-пораки во мое име; мојата веб-локација користеше небезбедна верзија на jQuery; Cloudflare ги препраќаше барањата до AWS преку нешифриран HTTP.
Потоа побарав од ChatGPT Работа да ги отстрани овие проблеми, што го направи во текот на еден час. Го отвори контролниот панел на Cloudflare во мојот прелистувач и кликна на многу копчиња за правилно да ги конфигурира DNS, TLS и напредните безбедносни поставки; целосно го отстрани jQuery од локацијата; ме префрли од AWS на Cloudflare Pages; започна постепено воведување на DMARC(се отвора во нов прозорец).
А тоа беше само мојата лична веб-локација. Ова е мал пример за тоа како нашите постојни модели можат да дејствуваат како сајбер-чувар — да го откријат долгиот опаш од проблеми за кои човек не би имал време или стручност (многу од поставките што ги поправи ми се површно познати, но не би знаел веднаш како правилно да ги конфигурирам), а потоа и да ги отстранат со соодветно приспособен план за воведување.
Инцидентот со Hugging Face покажа дека сме ги потцениле реалните сајбер-способности на нашите модели на ВИ. Затоа ги зајакнуваме нашите барања за безбедност, што дополнително ја зголемува итноста на нашите тековни безбедносни истражувања и интерни активности за заштита.
Споделувам дел од нашиот сегашен пристап кон заштитата на OpenAI со надеж дека ќе им биде корисен и на други организации. За да го заштитиме OpenAI, значително вложуваме и во темелни контроли — правилно спроведување на основите — и во зајакнување на одбраната преку гранична интелигенција. Оваа стратегија се потпира на четири главни столба.
Прво, ги користиме нашите модели за да го заштитиме нашиот код. Codex, вклучувајќи го и нашиот безбедносен приклучок, ги проверува промените во кодот, открива ранливости и им помага на програмерите да ги отстранат проблемите пред пуштањето во продукција. Не сакаме само да создаваме повеќе безбедносни наоди што треба да ги проверуваат луѓе; целта е да ги откриеме вистинските ранливости пред испораката и да го скратиме патот од откривање на проблемот до безбедно пуштање на поправката. Додека продолжуваме да ги обучуваме нашите модели да создаваат сè побезбеден код, целта ни е да отстраниме одредени категории софтверски ранливости од новонапишаниот код.
Второ, ги ставаме нашите модели во функција на постојана одбрана на нашата инфраструктура. Денес, речиси сите наши првични безбедносни предупредувања прво ги проценува вештачка интелигенција, а дури потоа се вклучуваат луѓе. Ова ја намалува рутинската работа на бранителите, го подобрува времето на одговор и им овозможува на луѓето да се посветат на задачите каде што нивните вештини имаат најголема вредност — проникливост, расудување и практична стручност. Сè почесто ги поврзуваме овие откривања со ограничени автоматизирани одговори, додека луѓето остануваат одговорни за одлуките со најголемо влијание. Целта е да можеме да ги откриваме безбедносните проблеми и да реагираме на нив со машинска брзина.
Трето, користиме гранична интелигенција за постојано да ги мапираме, испитуваме и откриваме потенцијалните патеки за напад. Со откривање ранливости, погрешни конфигурации, идентитети со прекумерни привилегии или ненамерни граници на доверба, можеме брзо да ги утврдиме и затвориме овие празнини пред напаѓачите да ги злоупотребат. Ова ни овозможува постојано да ги проценуваме, следиме и тестираме нашите безбедносни инваријанти — безбедносните својства што ги сметаме за точни — низ нашите производи, инфраструктура и системи.
И најпосле, вложуваме многу во темелните принципи применети во голем обем. Продолжуваме да вложуваме во безбедна архитектура и контроли, применуваме стратегии како слоевита одбрана и најмали привилегии и проектираме системи во кои за да се случи нешто катастрофално, мора истовремено да откажат повеќе независни контроли. Класичните безбедносни контроли, како мрежната изолација, зајакнувањето на работните оптоварувања, следењето и безбедното инсталирање и пуштање поправки, ќе бидат поважни од кога било во иднината со ВИ.
Времето е пресудно и бранителите ќе мора молскавично да ги спроведат чекорите подолу. Подолу ќе ја споменам технологијата на OpenAI, но во екосистемот има и многу конкурентски решенија што вреди да се разгледаат. Поважно од конкретната алатка е уште сега да им обезбедите моќна ВИ на своите бранители.
- Обезбедете посветеност и поддршка од организацијата. Безбедносниот ризик брзо се менува — погрижете се вашите безбедносни и инженерски тимови да ги имаат поддршката, партнерството и ресурсите потребни за брзо справување со овие ризици. Спроведете симулациски вежби со своите тимови за да согледате како овие напади би можеле да се појават во вашата организација и како ќе одговорите.
- Дајте му агент на вашиот безбедносен тим. Почнете да користите Codex, безбедносниот приклучок за Codex(се отвора во нов прозорец) или друга способна алатка за кодирање со агент и безбедност. Дајте му одобрен пристап до кодните бази, инфраструктурните конфигурации и техничката документација што треба да ги процени вашиот безбедносен тим. Не чекајте воведување низ целата компанија за да почнете со системите со највисок приоритет.
- Опремете го тој агент со безбедносна стручност. Почнете со вештини(се отвора во нов прозорец) поддржани од заедницата, кои вклучуваат работни текови за статичка анализа, безбедносно насочен преглед на кодот, анализа на варијанти на ранливости, ризици во синџирот за снабдување со софтвер и други безбедносни процеси. Потоа изградете сопствени вештини околу архитектурата, безбедносните стандарди, моделите на закани и прирачниците на вашата организација.
- Веднаш извршете безбедносни процени на сопствените системи. Прво дадете им приоритет на процените на услугите изложени на интернет, процесите за автентикација, инфраструктурата како код, каналите за пуштање во продукција и системите што обработуваат чувствителни информации. Проширувајте го скенирањето додека тимот стекнува доверба.
- Расчистете го постојниот заостаток од ранливости. Дајте му ги на агентот наодите од скенерите на код, предупредувањата за зависности, безбедносните тикети, извештаите од програмите за награди за грешки и претходните процени. Побарајте од него да ги процени тие наоди, да ги разликува проблеми кои можат да се експлоатираат од шумот, да открие поврзани ранливости на други места во кодната база и да препорача што прво да се поправи.
- Вградете го безбедносниот преглед директно во развојниот процес. Користете агенти за преглед на промените во кодот пред спојувањето и извршувајте безбедносни проверки во CI. Барајте грешки во автентикацијата, заобиколување на контролата на пристап, изложени акредитиви, небезбедни зависности, небезбедни стандардни поставки, промени што го прошируваат пристапот до продукциските системи и други ранливости.
- Нека агентот помогне да се поправи она што ќе го открие. За потврдените проблеми, побарајте од него да создаде и провери насочена поправка, да напише регресиски тест и да потврди дека ранливоста повеќе не може да се репродуцира. Задржете го човечкиот преглед за промените со сериозни последици, но отстранете го непотребното доцнење меѓу откривањето вистински проблем и доставувањето безбедна поправка до инженер.
- Постепено автоматизирајте ја процената на откриените закани. Не почнувајте со обид да изградите автономен центар за безбедносни операции. Почнете со безбедносно скенирање само за читање на еден репозиториум или нека агент ги прегледа претходно разрешените предупредувања со пристап само за читање до вашите постојни дневници. Дозволете му да ги резимира доказите и да препорача исход, додека човек ја носи секоја одлука. Како што расте довербата, преминете на советодавно скенирање на барањата за повлекување, потоа на процена на предупредувањата во живо, па на автоматско затворање на тесно дефинирани лажни позитивни резултати.
- Подгответе капацитет за форензичка истрага со помош на ВИ пред да ви затреба. Пријавете се за Доверлив пристап за сајбер-безбедност(се отвора во нов прозорец) и добијте одобрение вашиот тим да го користи GPT‑Daybreak‑Blue за овластена одбранбена работа, вклучувајќи одговор на инциденти, инженерство за откривање и анализа на злонамерен софтвер. Вежбајте да ја користите оваа способност за анализа на дневници, телеметрија и безбедносни предупредувања.
- Експериментирајте, организирајте хакатонски недели и брзо усовршувајте. Ќе мора да изградиме најразлични нови алатки, да го смениме начинот на работа и да ги унапредиме способностите на сите за светот кон кој се движиме. Поттикнете ги вработените да експериментираат, закажете хакатонска недела за развој на нови способности и насочете се кон брзо усовршување на циклусите што автоматизираат мали делови од проблемот. Брзиот постепен напредок создава одбранбени резултати што се надградуваат, а автономијата можете постепено да ја проширувате додека вашиот тим стекнува доверба.
Ниту една компанија не може да го направи ова сама. Ги повикуваме лабораториите за ВИ, безбедносните добавувачи, претпријатијата и одржувачите да споделуваат потврдени наоди, поправки и практични прирачници, за откритието на една организација да може да го зајакне целиот екосистем.
Прозорецот за дејствување на бранителите е отворен сега. Во наредните месеци, секоја организација ќе мора значително да ја автоматизира својата безбедносна програма за да остане заштитена, а безбедносната заедница мора итно да ги дефинира алатките, практиките и прирачниците што, со напредувањето на ВИ, ќе ја зголемуваат моќта на бранителите побрзо од онаа на напаѓачите. Ова ќе бара огромен и досега невиден напор, но ако се обединиме, можеме да создадеме побезбеден свет од сè што претходно можевме да замислиме.
