Укрепване на киберустойчивостта с развитието на възможностите на изкуствения интелект

Кибервъзможностите в моделите на изкуствен интелект напредват бързо, като носят значителни ползи за киберзащитата, но и нови рискове, свързани с двойната употреба, които изискват внимателно управление. Например възможностите, оценени чрез състезанията capture-the-flag (CTF), са се подобрили от 27% при GPT‑5⁠(отваря се в нов прозорец) през август 2025 г. до 76% при GPT‑5.1‑Codex‑Max⁠(отваря се в нов прозорец) през ноември 2025 г.

Очакваме, че предстоящите модели на изкуствен интелект ще продължат да се развиват по тази траектория; в подготовката си планираме и оценяваме така, сякаш всеки нов модел може да достигне „високи“ нива на способности за киберсигурност, измерени чрез нашата Рамка за готовност⁠(отваря се в нов прозорец). Под това имаме предвид модели, които могат да разработват работещи нулеви-дневни отдалечени експлойти срещу добре защитени системи, или да оказват значителна помощ при сложни и прикрити операции по проникване в корпоративни или индустриални среди, насочени към въздействие в реалния свят. В тази публикация обясняваме как възприемаме предпазните мерки за модели, които достигат тези нива на способности, и как гарантираме, че те помагат съществено на специалистите по киберзащита, като същевременно ограничават злоупотребите.

С развитието на тези способности OpenAI инвестира в укрепването на нашите модели за защитни задачи в областта киберсигурността и в създаването на инструменти, които позволяват на специалистите по киберзащита да изпълняват по-лесно работни процеси като одит на код и отстраняване на уязвимости. Нашата цел е моделите и продуктите ни да предоставят значителни предимства за специалистите по киберзащита, които често са в числено неравенство и не разполагат с достатъчно ресурси.

Подобно на други области с възможност за двойна употреба, киберпроцесите за защита и атака често се основават на едни и същи базови знания и техники. Инвестираме в предпазни мерки, за да гарантираме, че тези мощни възможности ще се използват предимно за отбранителни цели, и да ограничим подобряването на възможностите за злонамерени цели. Киберсигурността засяга почти всяка област, което означава, че не можем да разчитаме само на една единствена категория предпазни мерки – като ограничаване на знанията или използване единствено на проверен достъп – вместо това се нуждаем от подход за задълбочена защита, който балансира риска и овластява потребителите. На практика това означава оформяне на начина, по който се осъществява достъпът, насочването и прилагането на способностите, така че усъвършенстваните модели да укрепват сигурността, а не да намаляват бариерите пред злоупотребите.

Разглеждаме тази дейност не като еднократна инициатива, а като устойчива и дългосрочна инвестиция, която дава предимство на специалистите по киберзащита и води до непрекъснато укрепване на нивото на сигурност на критичната инфраструктура в рамките на по-широката екосистема.

Нашите модели са проектирани и обучени да работят безопасно, подкрепени от проактивни системи, които откриват и реагират на киберзлоупотреби. Непрекъснато усъвършенстваме тези защити с промяната на нашите възможности и средата, свързана със заплахите. Макар че няма система, която да може да гарантира пълно предотвратяване на злоупотребите в киберсигурността, без да засегне сериозно защитните приложения, нашата стратегия е да намалим риска чрез многостепенна система за безопасност.

В нейната основа стои подходът ни за задълбочена защита, който се основава на комбинация от контроли на достъпа, укрепване на инфраструктурата, контрол на изходящия трафик и мониторинг. Допълваме тези мерки със системи за откриване и реагиране, както и със специализирани програми за разузнаване на заплахи и управление на рисковете от вътрешни лица, което позволява бързото идентифициране и блокиране на нововъзникващите заплахи. Тези предпазни мерки са проектирани така, че да се развиват успоредно с променящата се среда на заплахите. Ние приемаме промяната като даденост и изграждаме системите си така, че да можем да се адаптираме бързо и адекватно.

Стъпвайки върху тази основа:

• Обучаваме модела да отказва или да отговаря безопасно на вредни заявки, като същевременно остава полезен за образователни и защитни сценарии на употреба: Обучаваме нашите авангардни модели да отказват или да отговарят безопасно на заявки, които биха позволили явна киберзлоупотреба, като същевременно остават максимално полезни за легитимни защитни и образователни приложения.
• Системи за откриване: Усъвършенстваме и поддържаме мониторинг на цялата система за всички продукти, които използват авангардни модели за откриване на потенциално злонамерена кибердейност. Когато определена дейност изглежда опасна, може да блокираме изходните резултати, да пренасочим подканите към по-безопасни или по-ограничени модели или да ескалираме случая за предприемане на мерки. Мерките, които предприемаме, съчетават автоматизирана и ръчна проверка, като се ръководи от фактори като законовите изисквания, степента на сериозност и повтаряемостта на поведението. Също така работим в тясно сътрудничество с разработчици и корпоративни клиенти, за да се съгласуваме по отношение на стандартите за безопасност и да осигурим отговорно използване с ясно определени канали за ескалация.
• Цялостен стрес тест с „червен отбор“: Работим с експертни организации за „червен отбор“ за оценка и подобряване на нашите мерки за безопасност. Тяхната задача е да се опитат да заобиколят всички наши защити, като действат от началото до края на процеса, точно както би направил решителен и ресурсно обезпечен противник. Това ни помага да откриваме пропуските на ранен етап и да укрепваме цялата система.

OpenAI инвестира още от самото начало в прилагането на изкуствен интелект за защитни цели в областта на киберсигурността и екипът ни работи в тясно сътрудничество с международни експерти, за да развива както нашите модели, така и тяхното приложение. Ценим глобалната общност от специалисти по киберсигурност, които работят неуморно, за да направят нашия цифров свят по-безопасен, и се ангажираме да предоставяме мощни инструменти, които подкрепят защитната сигурност. С въвеждането на нови предпазни мерки ще продължим да работим с общността в областта на киберсигурността, за да разберем къде изкуственият интелект може да укрепи значително устойчивостта и къде добре обмислените предпазни мерки са най-важни.

Наред с тези сътрудничества разработваме набор от инициативи, чиято цел е да помогнат на експертите по защита да действат по-бързо, да основават предпазните ни мерки на реалните нужди и да ускоряват отговорното отстраняване на проблеми в голям мащаб.

Скоро ще въведем програма за доверен достъп, в рамките на която проучваме възможността за предоставянето на отговарящи на изискванията потребители и клиенти, които работят в областта на киберзащитата, на многостепенен достъп до разширени функции в най-новите ни модели за приложения за защита. Все още проучваме точните граници на това до кои функции можем да предоставим широк достъп и кои изискват многостепенни ограничения, което може да повлияе на бъдещия дизайн на тази програма. Целта ни е тази програма за доверен достъп да бъде градивен елемент към устойчива екосистема.

Aardvark, нашият агентен изследовател на сигурността, който помага на разработчиците и екипите по сигурността да откриват и отстраняват уязвимости в голям мащаб, вече е в частна бета-версия. Той сканира кодовите бази за уязвимости и предлага пачове, които позволяват бързото им прилагане от поддържащите екипи. Вече е идентифицирал нови CVE в софтуера с отворен код чрез структурирано анализиране на цели кодови бази. Планираме да предложим безплатно обслужване на избрани нетърговски хранилища с отворен код, за да допринесем за сигурността на екосистемата и веригата за доставки на софтуера с отворен код. Кандидатствайте за участие тук.

Ще създадем Съвет по граничните рискове – консултативна група, която ще обедини опитни специалисти в областта на киберзащитата и сигурността в тясно сътрудничество с нашите екипи. Този съвет ще започне работа с фокус върху киберсигурността и в бъдеще ще се разшири към други области на авангардните възможности. Членовете ще дават насоки относно границата между полезните, отговорни възможности и потенциалната злоупотреба, а предоставените експертни знания ще бъдат включени в нашите оценки и предпазни мерки. Скоро ще споделим повече информация за съвета. 

И накрая, предвиждаме, че злоупотребата в киберпространството може да бъде възможна при всеки авангарден модел в индустрията. За да се справим с това предизвикателство, работим с други авангардни лаборатории чрез Frontier Model Forum, организация с нестопанска цел, подкрепяна от водещи лаборатории за изкуствен интелект и партньори от индустрията, с цел да изградим общо разбиране за моделите на заплахи и най-добрите практики. В този контекст моделирането на заплахи помага за намаляване на риска, като идентифицира как възможностите на изкуствения интелект могат да бъдат използвани като оръжие, къде съществуват критични пречки за различните участници в заплахите и как авангардните модели могат да осигурят съществено повишаване на възможностите. Това сътрудничество има за цел да изгради последователно, общовалидно за цялата екосистема разбиране за участниците в заплахите и пътищата на атака, което дава възможност на лабораториите, поддържащите екипи и специалистите по киберзащита да подобряват по-ефективно мерките си за намаляване на риска и да гарантират, че критично важната информация за сигурността се разпространява бързо в цялата екосистема. Сътрудничим си и с външни екипи за разработване на оценки на киберсигурността⁠(отваря се в нов прозорец). Надяваме се, че екосистемата от независими оценки ще спомогне допълнително за изграждането на общо разбиране за възможностите на моделите.

Взети заедно, тези усилия отразяват нашия дългосрочен ангажимент към укрепването на защитната страна на екосистемата. С нарастването на възможностите на моделите нашата цел е да помогнем да се гарантира, че тези възможности се превръщат в реално преимущество за специалистите по киберзащита – основано на реалните нужди, оформени от експертното мнение и внедрени внимателно. Успоредно с тази дейност планираме да проучим и други инициативи и субсидии в областта на киберсигурността, за да помогнем за открояването на революционни идеи, които може да не възникнат по традиционните канали, и да привлечем чрез колективен принос смели, творчески решения за защита от академичните среди, индустрията и общността в областта на отворения код. Всички тези дейности са непрекъснат процес и ще продължим да развиваме тези програми, докато разширяваме знанията си за това кое допринася най-ефективно за сигурността в реалния свят.