Зајакнување на сајбероотпорноста со напредокот на способностите на вештачката интелигенција

Сајберспособностите на моделите со вештачка интелигенција брзо напредуваат, носејќи значајни придобивки за сајберодбраната, како и нови ризици од двојна употреба, со кои мора внимателно да се управува. На пример, способностите оценети преку предизвиците capture-the-flag (CTF) се подобрија од 27 % кај GPT‑5⁠(се отвора во нов прозорец) во август 2025 г. до 76 % кај GPT‑5.1‑Codex‑Max⁠(се отвора во нов прозорец) во ноември 2025 г.

Очекуваме дека идните модели на вештачка интелигенција ќе продолжат по оваа траекторија; како подготовка, планираме и оценуваме како секој нов модел да може да достигне „високо“ ниво на способност за сајбербезбедност, како што е измерено според нашата Рамка за подготвеност⁠(се отвора во нов прозорец). Со ова мислиме на модели што можат или да развијат функционални далечински експлоатирања на нулти ден против добро заштитени системи, или значајно да помогнат при сложени, прикриени операции на упад во претпријатија или индустриски системи насочени кон ефекти во реалниот свет. Оваа објава објаснува како размислуваме за заштитните мерки за модели што достигнуваат вакви нивоа на способност и како обезбедуваме тие значајно да им помагаат на бранителите, а истовремено да се ограничи злоупотребата.

Како што се развиваат овие способности, OpenAI вложува во зајакнување на нашите модели за задачи поврзани со одбранбената сајбербезбедност и создавање алатки што им овозможуваат на бранителите полесно да ги извршуваат работните текови, како што се ревизија на код и отстранување на ранливости. Нашата цел е нашите модели и производи да обезбедат значителни предности за бранителите, кои често се бројно надминати и имаат ограничени ресурси.

Како и кај другите области со двојна употреба, одбранбените и офанзивните сајбер-работни текови често се потпираат на истото основно знаење и техники. Инвестираме во заштитни мерки за да помогнеме да се осигури дека овие моќни способности првенствено им користат на одбранбените намени и да го ограничиме подобрувањето за злонамерни цели. Сајбербезбедноста се однесува на речиси секоја област, што значи дека не можеме да се потпреме на која било единечна категорија на заштитни мерки - како што се ограничување на знаењето или само користење проверен пристап - туку наместо тоа ни е потребен пристап на длабинска одбрана што ги балансира ризиците и ги оспособува корисниците. Во практика, ова значи обликување на начинот на кој се пристапува до способностите, како тие се насочуваат и применуваат, така што напредните модели ја зајакнуваат безбедноста наместо да ги намалуваат пречките за злоупотреба.

Оваа работа не ја гледаме како еднократен напор, туку како континуирана, долгорочна инвестиција за да им дадеме предност на бранителите и постојано да ја зајакнуваме безбедносната состојба на критичната инфраструктура низ поширокиот екосистем.

Нашите модели се дизајнирани и обучени за безбедно функционирање, поддржани од проактивни системи кои детектираат и реагираат на сајберзлоупотреба. Континуирано ги усовршуваме овие заштитни мерки како што се менуваат нашите способности и заканите. Иако ниту еден систем не може да гарантира целосно спречување на злоупотреба во сајбербезбедноста без сериозно да влијае на одбранбените употреби, нашата стратегија е да го намалиме ризикот преку повеќеслоен безбедносен систем.

Во основата на ова, применуваме пристап на длабинска одбрана, потпирајќи се на комбинација од контроли на пристап, зајакнување на инфраструктурата, контроли на излезниот сообраќај и следење. Ги надополнуваме овие мерки со системи за откривање и одговор, како и со посветени програми за разузнавање на закани и за внатрешни ризици, со што се овозможува новите закани брзо да се идентификуваат и блокираат. Овие мерки за заштита се осмислени да се развиваат заедно со променливиот пејзаж на закани. Претпоставуваме промени и создаваме за да можеме брзо и соодветно да се приспособиме.

Надоврзувајќи се на оваа основа:

• Обучување на моделот да одбива или безбедно да одговара на штетни барања, додека останува корисен за образовни и одбранбени случаи на употреба: Ги обучуваме нашите гранични модели да одбиваат или безбедно да одговараат на барања што би овозможиле очигледна компјутерска злоупотреба, додека остануваат максимално корисни за легитимни одбранбени и образовни случаи на употреба.
• Системи за откривање: Ги усовршуваме и одржуваме следење на целиот систем во производите што користат гранични модели за откривање на потенцијално злонамерна сајберактивност. Кога активноста изгледа небезбедна, можеме да го блокираме излезот, да ги пренасочиме промптите кон побезбедни или помалку способни модели или да преземеме мерки за спроведување. Нашето спроведување комбинира автоматизирана и човечка проверка, информирана од фактори како што се законските барања, сериозноста и повтореното однесување. Ние исто така тесно соработуваме со развивачите и корпоративните клиенти за да се усогласиме со безбедносните стандарди и да овозможиме одговорно користење со јасно дефинирани патеки за ескалација.
• Целосно тестирање на отпорноста: Работиме со експертски организации за тестирање на отпорноста за да ги оцениме и подобриме нашите мерки за ублажување на безбедносните ризици. Нивната задача е да се обидат да ги заобиколат сите наши одбранбени мерки, работејќи од почеток до крај, исто како што би можел решителен и добро опремен противник. Ова ни помага рано да ги идентификуваме празнините и да го зајакнеме целиот систем.

OpenAI рано инвестираше во примената на вештачката интелигенција за одбранбени случаи на употреба во сајбербезбедноста, а нашиот тим тесно соработува со глобални експерти за да ги унапреди и нашите модели и нивната примена. Ја цениме глобалната заедница на практичари во сајбербезбедноста кои неуморно работат за да го направат нашиот дигитален свет побезбеден и сме посветени на обезбедување на моќни алатки што ја поддржуваат одбранбената безбедност. Додека воведуваме нови заштитни мерки, ќе продолжиме да соработуваме со заедницата за сајбербезбедност за да разбереме каде вештачката интелигенција може значајно да ја зајакне отпорноста и каде внимателно осмислените заштитни мерки се најважни.

Покрај овие соработки, воспоставуваме збир на напори осмислени да им помогнат на бранителите да се движат побрзо, да ги темелиме нашите заштитни мерки на реалните потреби и да го забрзаме одговорното ублажување на голем обем.

Наскоро ќе воведеме програма за доверлив пристап, со која ќе истражуваме можности за обезбедување на квалификуваните корисници и клиенти што работат на сајберодбрана, повеќеслоен пристап до подобрени способности во нашите најнови модели за одбранбени случаи на употреба. Сè уште ја истражуваме границата за тоа кои можности можеме да ги направиме широко достапни и кои бараат повеќеслојни ограничувања, што може да влијае врз идниот дизајн на оваа програма. Се стремиме оваа програма за доверлив пристап да биде основен елемент кон отпорен екосистем.

Aardvark, нашиот агент-истражувач за безбедност што им помага на програмерите и на безбедносните тимови да наоѓаат и да поправаат ранливости во голем обем, сега е во приватна бета-верзија. Ток скенира кодни бази за да открие ранливости и предлага закрпи што одржувачите можат брзо да ги применат. Веќе има идентификувано нови CVE во софтвер со отворен код преку расудување за цели бази на кодови. Планираме да понудиме бесплатна покриеност за избран некомерцијален репозиториум со отворен код, за да придонесеме за безбедноста на екосистемот и синџирот на снабдување на софтверот со отворен код. Пријавете се за учество тука.

Ќе го формираме Советот за ризик од најсовремените модели, советодавна група што ќе ги вклучи искусните сајбербранители и практичари за безбедност во тесна соработка со нашите тимови. Овој совет ќе започне со фокус на сајбербезбедноста, а во иднина ќе се прошири и на други гранични домени на способности. Членовите ќе советуваат за границата меѓу корисната, одговорна способност и потенцијалната злоупотреба, а овие сознанија директно ќе ги информираат нашите проценки и заштитни мерки. Наскоро ќе споделиме повеќе за советот. 

Конечно, очекуваме сајберзлоупотребата да може да биде возможна кај кој било граничен модел во индустријата. За да се справиме со ова, работиме со други гранични лаборатории преку Форумот за гранични модели, непрофитна организација поддржана од водечки лаборатории за вештачка интелигенција и индустриски партнери, за да развиеме заедничко разбирање за моделите на закани и најдобрите практики. Во овој контекст, моделирањето на закани помага во ублажувањето на ризикот преку идентификување на тоа како способностите на вештачката интелигенција би можеле да се претворат во оружје, каде постојат критични тесни грла за различни актери на закани и како граничните модели би можеле да обезбедат значајно подобрување. Оваа соработка има цел да изгради доследно разбирање, на ниво на целиот екосистем, за актерите на закани и патеките на напад, овозможувајќи им на лабораториите, одржувачите и бранителите подобро да ги унапредат своите мерки за ублажување и да обезбедат критичните безбедносни сознанија брзо да се шират низ екосистемот. Исто така, соработуваме со надворешни тимови за да развиеме евалуации за компјутерска безбедност⁠(се отвора во нов прозорец). Се надеваме дека екосистемот на независни евалуации дополнително ќе помогне да се изгради заедничко разбирање за способностите на модел.

Заедно, овие напори ја одразуваат нашата долгорочна посветеност кон зајакнување на одбранбената страна на екосистемот. Како што моделите стануваат поспособни, нашата цел е да помогнеме да се обезбеди дека тие способности ќе се претворат во вистинска предност за бранителите - заснована на реалните потреби, обликувана од придонесот на експертите и применета со внимание. Покрај оваа работа, планираме да истражиме и други иницијативи и грантови за сајбербезбедност за да помогнеме да се откријат пробивни идеи што можеби нема да произлезат од традиционалните канали, како и колективно да прибавиме смели, креативни одбранбени решенија од академијата, индустријата и заедницата на софтвер со отворен код. Земени заедно, ова е тековна работа и очекуваме да продолжиме да ги развиваме овие програми додека учиме што најефективно ја унапредува безбедноста во реалниот свет.