Důvěryhodný přístup pro další éru kybernetické obrany

Rozšiřujeme náš program Trusted Access for Cyber (TAC) na tisíce ověřených jednotlivých obránců a stovky týmů odpovědných za obranu kritického softwaru. Po léta budujeme program kybernetické obrany na principech demokratizovaného přístupu, iterativního zavádění a odolnosti ekosystému. V rámci přípravy na stále výkonnější modely od OpenAI v příštích několika měsících dolaďujeme naše modely konkrétně tak, aby umožňovaly použití v rámci kybernetické bezpečnosti. Dnes s variantou GPT‑5.4, která je vyškolena tak, aby byla kyberneticky tolerantní: GPT‑5.4‑Cyber. V tomto příspěvku se s vámi podělíme o to, jak očekáváme, že náš přístup ke škálování kybernetické obrany v souladu s rostoucími schopnostmi modelu povede testování a nasazení budoucích verzí.

Postupné využívání AI urychluje práci obranných týmů (tedy těch, kdo zajišťují bezpečnost systémů, dat a uživatelů) a umožňuje jim rychleji nacházet a řešit problémy v digitální infrastruktuře, na kterou se všichni spoléhají. Podobně je AI využívána⁠ útočníky, kteří chtějí způsobit škodu. Na tohle jsme se připravovali. Od roku 2023 podporujeme obránce prostřednictvím našeho grantového programu kybernetické bezpečnosti⁠ a posílili jsme ochranná opatření prostřednictvím našeho rámce připravenosti⁠. Ve stejném roce jsme začali vyhodnocovat kybernetické schopnosti našich modelů a v roce 2025 jsme začali zahrnovat ochranná opatření specifická pro kybernetickou bezpečnost⁠(otevře se v novém okně) do zaváděních našich modelů⁠. Začátkem letošního roku jsme dále rozšířili naši podporu obránců uvedením Codex Security⁠, který pomáhá identifikovat a opravovat zranitelná místa ve velkém měřítku. Náš přístup k tomuto neustálému zlepšování schopností se řídí třemi principy:

• Demokratizovaný přístup: Naším cílem je zpřístupnit tyto nástroje co nejširšímu okruhu lidí a zároveň zabránit jejich zneužití. Navrhujeme mechanismy, které brání svévolnému rozhodování o tom, kdo získá přístup k oprávněnému využití a kdo ne. To znamená používání jasných a objektivních kritérií a metod (například důkladný proces KYC (poznej svého zákazníka) a ověřování identity), aby bylo jasné, kdo může získat přístup⁠ k pokročilejším schopnostem, a postupná automatizace těchto procesů. Naším konečným cílem je zpřístupnit pokročilé obranné schopnosti oprávněným aktérům, velkým i malým, včetně těch, kteří chrání kritickou infrastrukturu, veřejné služby a digitální systémy, na které se lidé každý den spoléhají.
• Iterativní zavádění: Nejvíce se učíme opatrným zaváděním těchto systémů do světa⁠ a jejich postupným zlepšováním. Tím, jak lépe rozumíme jejich schopnostem i rizikům, tak i odpovídajícím způsobem aktualizujeme naše modely a bezpečnostní systémy. Patří sem porozumění odlišným přínosům a rizikům konkrétních modelů, zvyšování odolnosti vůči jailbreakům a dalším nepřátelským útokům a posilování obranných schopností (a zároveň zmírňování škod). 
• Investice do odolnosti ekosystému: Podporujeme a urychlujeme činnost komunity obránců prostřednictvím důvěryhodných způsobů přístupu, cílených grantů⁠, příspěvků do iniciativ v oblasti open source bezpečnosti⁠(otevře se v novém okně) a technologií, jako je Codex Security⁠, které obráncům pomáhají rychleji nacházet a opravovat zranitelná místa. 

Naše strategie pro zlepšení odolnosti v oblasti kybernetické bezpečnosti a urychlení bezpečnostních opatření

Po mnoho let bylo naší strategií v oblasti kybernetické bezpečnosti investovat do výzkumu, předcházet zneužití a urychlovat obranu. S rozvojem schopností modelů jsme rozšířili naše programy směrem k cílům, které jsou založeny na následujících přesvědčeních: 

• Kybernetická rizika už jsou tady a rychle přibývají, ale my můžeme jednat. Digitální infrastruktura je zranitelná už řadu let⁠(otevře se v novém okně), ještě než se vůbec objevila pokročilá AI. Už dnes mohou stávající modely pomáhat odhalovat zranitelná místa, vyvozovat závěry v rámci kódových základen a podporovat důležité části kybernetických pracovních postupů. Ti, co ohrožují bezpečnosti, experimentují s novými přístupy řízenými AI. Viděli jsme, jak sofistikované systémy vytvářejí stále silnější a silnější schopnosti tím, že využívají větší množství testovacích výpočtů se stávajícími modely. To znamená, že ochranná opatření nemohou čekat na dosažení jediné budoucí prahové hodnoty.
  
• Rozšiřte přístup podle toho, kdo tyto systémy používá a jak se používají. Kybernetické schopnosti mají ze své podstaty dvojí využití. Riziko tak není dáno samotným modelem. Záleží také na uživateli, známkách důvěryhodnosti⁠(otevře se v novém okně), které ho provázejí, a na úrovni přístupu, která je mu udělena.
  • Široký přístup k obecným modelům s ochrannými opatřeními může fungovat současně s detailnějšími kontrolami u rizikovějších schopností. A to díky důkladnějšímu ověřování, jasnějším signálům záměru a lepšímu přehledu o používání.
  • Abychom umožnili zodpovědné používání ve velkém měřítku, potřebujeme systémy, které mohou ověřovat důvěryhodné uživatele a používání automatizovanějším a objektivnějším způsobem. To nám umožňuje rozšířit přístup na základě důkazů a skutečných známek důvěry a nespoléhat se na manuální rozhodování. Nemyslíme si, že je praktické ani vhodné, aby se centrálně rozhodovalo o tom, kdo se smí bránit. Namísto toho je naším cílem umožnit co největšímu počtu legitimních obránců přístup založený na ověřování, známkách důvěry a odpovědnosti.
    
• Obranná opatření by měla být průběžně posilována úměrně rostoucím schopnostem. S tím, jak se schopnosti modelů zvyšují, musí se souběžně s nimi rozšiřovat i obranné schopnosti. Zaznamenali jsme stabilní zlepšování v agentním programování, které má přímé dopady na kybernetickou bezpečnost. Tomu jsme průběžně přizpůsobovali i náš přístup.
  • Začali jsme bezpečnostním školením zaměřeným konkrétně na kybernetickou oblast u GPT‑5.2 a poté jsme ho rozšířili o další ochranná opatření prostřednictvím GPT‑5.3‑Codex a GPT‑5.4. kde jsme také model v rámci našeho rámce připravenosti klasifikovali jako model s „vysokou“ úrovní kybernetických schopností. Souběžně jsme také zvýšili podporu pro obránce: spuštěním grantového programu pro kybernetickou bezpečnost v hodnotě 10 milionů dolarů⁠, oslovením více než 1 000 open source projektů prostřednictvím programu Codex pro open source⁠(otevře se v novém okně), který poskytuje bezplatné bezpečnostní skenování, a stálým zlepšováním Codex Security.
  • Codex Security, který byl spuštěn v privátní beta verzi před šesti měsíci a jako náhled pro výzkumné účely začátkem tohoto roku⁠, automaticky monitoruje kódové základny, ověřuje problémy a navrhuje opravy. Současně se zlepšováním modelů se zlepšovala i přesnost a užitečnost systému. Od nedávného spuštění přispěl Codex Security v celém ekosystému k opravě více než 3 000 zranitelných míst s kritickou a vysokou závažností, spolu s mnoha dalšími opravenými zjištěními s nižší závažností.
  • V průběhu těchto vydání jsme také zdokonalili způsob, jakým modely zpracovávají citlivé žádosti, kalibrovali jsme hranice odmítání a zároveň rozšiřili důvěryhodný přístup prostřednictvím programů, jako je Trusted Access Control (TAC).
    
• Samotný vývoj softwaru je třeba lépe zabezpečit. Nejsilnější ekosystém je ten, který během vývoje softwaru průběžně identifikuje, ověřuje a řeší problémy se zabezpečením. Integrací pokročilých programovacích modelů a agentských schopností do vývojových pracovních postupů můžeme vývojářům poskytovat okamžitou zpětnou vazbu, na jejímž základě mohou hned během vývoje jednat a posunout zabezpečení od občasných auditů a statických seznamů chyb k průběžnému a hmatatelnému snižování rizik.
  

Chceme posílit obránce tím, že jim poskytneme široký přístup k průkopnickým schopnostem, včetně modelů speciálně navržených pro kybernetickou bezpečnost. V únoru jsme představili program Trusted Access for Cyber⁠ (TAC) s automatizovaným ověřováním identity jednotlivců. Cílem bylo snížit překážky spojené s ochrannými opatřeními u úkolů souvisejících s kybernetickou bezpečností, a navázat spolupráci s omezeným okruhem organizací na vývoji modelů s benevolentnějším přístupem ke kybernetické oblasti.

Dnes rozšiřujeme tento program zavedením dalších úrovní přístupu pro uživatele, kteří jsou ochotni spolupracovat s OpenAI a vystupovat jako obránci kybernetické bezpečnosti. Zákazníci v nejvyšších úrovních získají přístup k modelu GPT‑5.4‑Cyber, který je speciálně doladěný pro dodatečné kybernetické schopnosti a má méně omezení. Jedná se o verzi GPT‑5.4, která snižuje hranici odmítání pro legitimní práci v oblasti kybernetické bezpečnosti a přináší nové možnosti pro pokročilé obranné pracovní postupy, včetně schopností reverzního inženýrství binárních souborů. Tyto schopnosti umožňují bezpečnostním odborníkům analyzovat kompilovaný software z hlediska potenciálu malwaru, zranitelností a robustnosti zabezpečení, aniž by měli přístup k jeho zdrojovému kódu.

Protože je tento model benevolentnější, začínáme s omezeným, iterativním nasazením pro prověřené dodavatele bezpečnostních řešení, organizace a výzkumníky. Přístup k tolerantním modelům a modelům s kybernetickými schopnostmi může být spojen s omezeními, zejména v případě použití bez transparentnosti, jako je nulové uchovávání dat⁠(otevře se v novém okně) (ZDR). To platí zejména pro vývojáře a organizace, které přistupují k našim modelům prostřednictvím platforem třetích stran, kde může mít OpenAI méně přímý přehled o uživateli, prostředí nebo účelu požadavku. 

Získání přístupu k TAC je snadné:

• Jednotliví uživatelé mohou ověřit svou identitu na adrese chatgpt.com/cyber⁠(otevře se v novém okně). 
• Podniky mohou prostřednictvím svého zástupce OpenAI požádat o důvěryhodný přístup⁠ pro svůj tým. 

Všichni zákazníci schválení tímto procesem získají přístup k verzím stávajících modelů s menšími omezeními bezpečnostních opatření, která by se mohla aktivovat při kybernetických aktivitách dvojího užití. To jim umožní nadále podporovat vzdělávání v oblasti bezpečnosti, obranné programování a odpovědný výzkum zranitelností. Zákazníci, kteří již jsou součástí programu TAC a chtějí se dále projevit jako legitimní obránci kybernetické bezpečnosti, mohou projevit zájem⁠(otevře se v novém okně) o další úrovně přístupu, včetně žádosti o přístup ke GPT‑5.4‑Cyber.

Naše obranná opatření v oblasti kybernetické bezpečnosti jsou výsledkem mnoha měsíců postupného zlepšování. Domníváme se, že třída ochranných opatření, která se dnes používá, snižuje kybernetická rizika natolik, aby podpořila široké nasazení současných modelů. Očekáváme, že verze těchto ochranných opatření budou pro nadcházející výkonnější modely dostačující, zatímco modely výslovně trénované a nastavené s více povoleními pro práci v oblasti kybernetické bezpečnosti vyžadují přísněji omezené nasazení a odpovídající kontrolní opatření.

Z dlouhodobého hlediska očekáváme potřebu rozsáhlejších obranných opatření pro budoucí modely, jejichž schopnosti rychle překonají i nejlepší dnešní účelově navržené modely, aby byla zajištěna trvalá dostatečnost bezpečnosti AI v oblasti kybernetické bezpečnosti.