Posilňovanie kybernetickej odolnosti s rozvojom schopností AI

Kybernetické schopnosti modelov umelej inteligencie rýchlo napredujú. Prinášajú významné prínosy pre kybernetickú obranu a zároveň nové riziká dvojakého použitia, ktoré je potrebné starostlivo riadiť. Napríklad schopnosti hodnotené prostredníctvom súťaží capture-the-flag (CTF) sa zlepšili z 27 % z augusta 2025 pre GPT‑5⁠(otvorí sa v novom okne) na 76 % z novembra 2025 pre GPT‑5.1‑Codex‑Max⁠(otvorí sa v novom okne).

Očakávame, že nadchádzajúce modely umelej inteligencie budú pokračovať v tomto smere. V rámci prípravy plánujeme a vyhodnocujeme, ako by každý nový model mohol dosiahnuť „vysokú“ úroveň kybernetickej bezpečnosti meranú naším Rámcom pripravenosti⁠(otvorí sa v novom okne). Tým máme na mysli modely, ktoré dokážu buď vyvinúť funkčné zero-day vzdialené exploity proti dobre chráneným systémom, alebo zmysluplne pomáhať pri zložitých, nenápadných operáciách prieniku do podnikových alebo priemyselných systémov zameraných na účinky v reálnom svete. Tento príspevok vysvetľuje, ako premýšľame o ochranných opatreniach pre modely, ktoré dosahujú tieto úrovne schopností, a ako zabezpečujeme, aby zmysluplne pomáhali obranným subjektom a zároveň obmedzovali zneužitie.

Keďže tieto schopnosti zlepšujú, OpenAI investuje do posilnenia našich modelov na obranné úlohy v oblasti kybernetickej bezpečnosti a do vytvárania nástrojov, ktoré obranným subjektom uľahčia postupy, ako je audit kódu a oprava zraniteľností. Naším cieľom je, aby naše modely a produkty prinášali obranným subjektom výrazné výhody, keďže ich často býva menej a majú málo zdrojov.

Podobne ako iné oblasti s dvojitým využitím, aj obranné a útočné kybernetické pracovné postupy sa často spoliehajú na rovnaké základné poznatky a techniky. Investujeme do ochranných opatrení, ktoré majú pomôcť zabezpečiť, aby tieto výkonné schopnosti slúžili predovšetkým na obranné účely a obmedzili posilňovanie možností na škodlivé účely. Kybernetická bezpečnosť zasahuje takmer do každej oblasti, čo znamená, že sa nemôžeme spoliehať na žiadnu jedinú kategóriu ochranných opatrení, napríklad na obmedzovanie znalostí alebo samotné využívanie overeného prístupu, ale namiesto toho potrebujeme prístup obrany v hĺbke, ktorý vyvažuje riziko a posilňuje postavenie používateľov. V praxi to znamená formovať spôsob, akým sa pristupuje k schopnostiam, ako sa usmerňujú a uplatňujú, aby pokročilé modely posilňovali bezpečnosť, a nie znižovali bariéry pre zneužitie.

Túto prácu nevnímame ako jednorazové úsilie, ale ako trvalú, dlhodobú investíciu do poskytovania výhody obranným subjektom a neustáleho posilňovania bezpečnostnej pozície kritickej infraštruktúry v rámci širšieho ekosystému.

Naše modely sú navrhnuté a trénované tak, aby fungovali bezpečne. Podporujú ich proaktívne systémy, ktoré odhaľujú kybernetické zneužívanie a reagujú naň. Tieto ochrany neustále zdokonaľujeme, keďže sa menia naše schopnosti a prostredie hrozieb. Hoci žiadny systém nemôže v kybernetickej bezpečnosti zaručiť úplné zabránenie zneužitiu bez výrazného ovplyvnenia obranného použitia, našou stratégiou je zmierňovať riziko prostredníctvom viacvrstvového bezpečnostného balíka.

Základom tohto prístupu je, že uplatňujeme prístup obrany do hĺbky a spoliehame sa na kombináciu riadenia prístupu, posilnenia infraštruktúry, výstupných kontrol a monitorovania. Tieto opatrenia dopĺňame o systémy detekcie a reakcie a o špecializované programy zamerané na informácie o hrozbách a interné riziká, vďaka čomu sú vznikajúce hrozby rýchlo identifikované a blokované. Tieto ochranné opatrenia sú navrhnuté tak, aby sa vyvíjali spolu s prostredím hrozieb. Počítame so zmenou a budujeme tak, aby sme sa mohli rýchlo a primerane prispôsobiť.

Nadväzujúc na tento základ:

• Trénovanie modelu, ktorý odmieta alebo bezpečne reaguje na škodlivé požiadavky a zároveň pomáha pri vzdelávacích a obranných prípadoch použitia: Naše prelomové modely trénujeme tak, aby odmietali alebo bezpečne reagovali na požiadavky umožňujúce jasné kybernetické zneužitie. Zároveň sú maximálne užitočné pri legitímnych obranných a vzdelávacích prípadoch použitia.
• Detekčné systémy: zdokonaľujeme a udržiavame monitorovanie v rámci celého systému naprieč produktmi, ktoré používajú prelomové modely na detekciu potenciálne škodlivej kybernetickej aktivity. Keď sa aktivita javí ako nebezpečná, môžeme zablokovať výstup, presmerovať príkazy na bezpečnejšie alebo menej schopné modely alebo eskalovať na vynútenie. Naše presadzovanie pravidiel kombinuje automatizovanú aj ľudskú kontrolu, pričom zohľadňuje faktory, ako sú právne požiadavky, závažnosť a opakované správanie. Úzko spolupracujeme aj s vývojármi a podnikovými zákazníkmi, aby sme dosiahli súlad v oblasti bezpečnostných štandardov a umožnili zodpovedné používanie s jasne stanovenými eskalačnými postupmi.
• Komplexné testovanie červeným tímom: Spolupracujeme s odbornými organizáciami na testovanie červeným tímom, aby sme vyhodnotili a zlepšili naše bezpečnostné opatrenia. Ich úlohou je pokúsiť sa obísť všetky naše obranné mechanizmy komplexným prístupom, presne tak, ako by to mohol robiť odhodlaný a dobre vybavený protivník. To nám pomáha včas identifikovať medzery a posilniť celý systém.

OpenAI už od začiatku investovala do využívania AI na obranné prípady kybernetickej bezpečnosti a náš tím úzko spolupracuje s globálnymi odborníkmi, aby sme ďalej rozvíjali naše modely a ich aplikácie. Vážime si globálnu komunitu odborníkov na kybernetickú bezpečnosť, ktorí neúnavne pracujú na tom, aby bol náš digitálny svet bezpečnejší, a sme odhodlaní poskytovať výkonné nástroje na podporu obrannej bezpečnosti. Keď zavádzame nové ochranné opatrenia, budeme naďalej spolupracovať s komunitou kybernetickej bezpečnosti, aby sme pochopili, kde môže AI zmysluplne posilniť odolnosť, a kde sú premyslené ochranné opatrenia najdôležitejšie.

Popri týchto spoluprácach zavádzame súbor iniciatív, ktoré pomáhajú obranným subjektom postupovať rýchlejšie, zakotvujú naše ochranné opatrenia v reálnych potrebách a urýchľujú zodpovednú nápravu vo veľkom rozsahu.

Čoskoro zavedieme program dôveryhodného prístupu, v rámci ktorého skúmame poskytovanie odstupňovaného prístupu k rozšíreným schopnostiam v našich najnovších modeloch pre obranné prípady použitia oprávneným používateľom a zákazníkom pracujúcim na kybernetickej obrane. Stále skúmame, ktoré funkcie môžeme sprístupniť širokej verejnosti a ktoré si vyžadujú viacúrovňové obmedzenia. To môže ovplyvniť budúci návrh tohto programu. Naším cieľom je, aby program dôveryhodného prístupu slúžil ako stavebný kameň pre odolný ekosystém.

Aardvark, náš agentný výskumník bezpečnosti, ktorý pomáha vývojárom a bezpečnostným tímom nachádzať a opravovať zraniteľnosti vo veľkom rozsahu, je teraz v súkromnej beta verzii. Skenuje kódové základne na zraniteľnosti a navrhuje opravy, ktoré môžu správcovia rýchlo prijať. Aardvark už identifikoval nové CVE v softvéri s otvoreným zdrojovým kódom uvažovaním nad celými kódovými základňami. Plánujeme ponúknuť bezplatné pokrytie vybraným nekomerčným open-source repozitárom, aby sme prispeli k bezpečnosti ekosystému open-source softvéru a jeho dodávateľského reťazca. Prihláste sa na účasť tu.

Zriadime Radu pre hraničné riziko, poradnú skupinu, ktorá privedie skúsené kybernetické obranné subjekty a odborníkov na bezpečnosť do úzkej spolupráce s našimi tímami. Táto rada sa spočiatku zameria na kybernetickú bezpečnosť a v budúcnosti sa rozšíri aj do ďalších oblastí prelomových spôsobilostí. Členovia budú poskytovať poradenstvo k hranici medzi užitočnými a zodpovednými spôsobilosťami a potenciálnym zneužitím a tieto poznatky budú priamo informovať naše hodnotenia a ochranné opatrenia. Čoskoro sa podelíme o ďalšie informácie o rade. 

Napokon predpokladáme, že kybernetické zneužitie môže byť možné pri akomkoľvek prelomovom modeli v odvetví. Aby sme to riešili, spolupracujeme s ďalšími prelomovými laboratóriami prostredníctvom Frontier Model Forum, neziskovej organizácie podporovanej poprednými laboratóriami v oblasti umelej inteligencie a priemyselnými partnermi. Naším cieľom je vytvoriť spoločné chápanie modelov hrozieb a osvedčených postupov. V tomto kontexte modelovanie hrozieb pomáha zmierniť riziko tým, že identifikuje, ako by sa schopnosti AI mohli zneužiť ako zbraň, kde sú kritické úzke miesta pre rôznych aktérov hrozieb a ako by prelomové modely mohli priniesť zmysluplné zlepšenie. Táto spolupráca má za cieľ vybudovať konzistentné chápanie aktérov hrozieb a vektorov útokov v rámci celého ekosystému, čo laboratóriám, správcom a obranným subjektom umožní lepšie zlepšiť svoje opatrenia a zabezpečiť, aby sa kľúčové bezpečnostné poznatky rýchlo šírili naprieč ekosystémom. Spolupracujeme aj s externými tímami na vývoji hodnotení kybernetickej bezpečnosti⁠(otvorí sa v novom okne). Dúfame, že ekosystém nezávislých hodnotení ďalej pomôže budovať spoločné porozumenie schopností modelov.

Spoločne toto úsilie odráža náš dlhodobý záväzok posilniť obrannú stránku ekosystému. Ako sa modely stávajú schopnejšími, naším cieľom je zabezpečiť, aby tieto schopnosti prinášali skutočnú výhodu pre obranné subjekty so základom v reálnych potrebách, formovanú odbornými vstupmi a nasadzovanú s náležitou starostlivosťou. Popri tejto práci plánujeme preskúmať ďalšie iniciatívy a granty v oblasti kybernetickej bezpečnosti, aby sme odhalili prelomové nápady, ktoré nemusia vzniknúť v tradičných postupoch, a získali odvážne a kreatívne obranné riešenia od akademickej sféry, priemyslu a open-source komunity. Celkovo ide o nepretržitú prácu a očakávame, že tieto programy budeme naďalej rozvíjať, keď zistíme, čo najúčinnejšie posúva bezpečnosť v reálnom svete vpred.