A kiberreziliencia erősítése az AI képességeinek fejlődésével

Az AI-modellek kiberképességei gyorsan fejlődnek, ami jelentős előnyöket hoz a kibervédelemben, ugyanakkor új, kettős felhasználású kockázatokat is teremt, amelyeket körültekintően kell kezelni. Például a capture-the-flag (CTF) kihívások alapján mért képességek GPT‑5⁠(új ablakban nyílik meg) esetében a 2025 augusztusi 27%-ról GPT‑5.1‑Codex‑Max⁠(új ablakban nyílik meg) esetében 2025 novemberére 76%-ra javultak.

Arra számítunk, hogy a következő AI-modellek ezt a pályát folytatják tovább; ennek előkészítésére úgy tervezünk és értékelünk, mintha minden új modell elérné a „magas” szintű kiberbiztonsági képességet, a Felkészültségi keretrendszerünk⁠(új ablakban nyílik meg) mérése szerint. Ez alatt olyan modelleket értünk, melyek vagy képesek lehetnek működő zero-day, távoli exploitok fejlesztésére jól védett rendszerek ellen, vagy érdemben segíthetnek összetett, rejtett vállalati vagy ipari behatolási műveletekben, amelyek valós hatásokkal járnak. Ez a poszt elmagyarázza, hogyan vélekedünk azokról a védelmi intézkedésekről, amelyek az ilyen szintű képességekkel rendelkező modellek esetében szükségesek, és hogyan biztosítható, hogy ezek a modellek érdemben segítsék a védelmet, miközben korlátozzuk a visszaélések lehetőségét.

Ezeknek a képességeknek a fejlődésével az OpenAI befektet modelljeink megerősítésébe a védelmi kiberbiztonsági feladatok terén, valamint olyan eszközök létrehozásába, amelyek lehetővé teszik a biztonsági szakemberek számára az olyan munkafolyamatok könnyebb elvégzését, mint a kód auditálása és a sebezhetőségek javítása. Célunk, hogy modelljeink és termékeink jelentős előnyöket biztosítsanak a védelmet ellátó szereplők számára, akik gyakran számbeli hátrányban vannak, és erőforrásaik is korlátozottak.

Más, kettős felhasználású területekhez hasonlóan a védekező és támadó kiberfolyamatok sokszor ugyanazokra az alapvető ismeretekre és technikákra támaszkodnak. Védelmi intézkedésekbe fektetünk be annak érdekében, hogy ezek az erőteljes képességek elsősorban a védekezési célokat szolgálják, és korlátozzák a rosszindulatú célú felhasználás lehetőségét. A kiberbiztonság szinte minden területet érint, ezért nem támaszkodhatunk kizárólag egyetlen típusú védelemre—például az ismeretek korlátozására vagy az ellenőrzött hozzáférésre—, hanem egy olyan többrétegű védekezési megközelítésre van szükség, amely egyensúlyt teremt a kockázatok kezelése és a felhasználók képessé tétele között. A gyakorlatban ez annyit jelent, hogy a képességek elérését, irányítását és alkalmazását úgy kell irányítani, hogy a fejlett modellek inkább erősítsék a biztonságot, semmint a visszaélések lehetőségét növeljék.

Ezt a munkát nem egyszeri erőfeszítésnek, hanem folyamatos, hosszú távú befektetésnek tekintjük, amely a védelmező szereplőket előnyhöz juttatja, és folyamatosan erősíti a tágabb ökoszisztéma kritikus infrastruktúrájának biztonsági helyzetét.

Modelljeinket úgy terveztük és tanítottuk be, hogy biztonságosan működjenek, proaktív rendszerek támogatásával, amelyek a kiber-visszaéléseket észlelik és kezelik. Ezeket a védelmi intézkedéseket folyamatosan fejlesztjük, ahogy képességeink és a fenyegetések környezete változik. Bár egyetlen rendszer sem garantálhatja a visszaélések teljes megelőzését a kiberbiztonság területén anélkül, hogy jelentősen korlátozná a védelmi célú felhasználásokat, stratégiánk a kockázatok csökkentésére többrétegű biztonsági csomagot alkalmaz.

Az alapot mindehhez az képezi, hogy többrétegű védekezési megközelítést alkalmazunk, amely a hozzáférés-szabályozásra, az infrastruktúra megerősítésére, a kimenő forgalom ellenőrzésére és a monitorozásra támaszkodik. Ezeket az intézkedéseket észlelési és reagálási rendszerekkel, valamint dedikált fenyegetési intelligencia- és bennfentes kockázatkezelési programokkal egészítjük ki, hogy az újonnan felbukkanó fenyegetések gyorsan azonosíthatók és blokkolhatók legyenek. Ezeket a védintézkedéseket úgy terveztük, hogy alkalmazkodjanak a fenyegetési környezet változásaihoz. A változást adottnak vesszük, és úgy tervezzük a folyamatainkat, hogy gyorsan és megfelelően tudjunk alkalmazkodni.

Erre az alapra építve:

• A modellt betanítása arra, hogy visszautasítsa vagy biztonságosan kezelje a káros kéréseket, miközben továbbra is segítőkész marad az oktatási és védelmi felhasználási esetekben: Élvonalbeli modelljeinket arra tanítjuk, hogy visszautasítsák vagy biztonságosan reagáljanak az olyan kérésekre, amelyek egyértelmű kiberbiztonsági visszaélést tennének lehetővé, miközben maximálisan segítőkészek maradnak a legitim védelmi és oktatási felhasználási esetekben.
• Észlelési rendszerek: Finomítjuk és fenntartjuk a rendszerszintű monitorozást azokban a termékekben, amelyek élvonalbeli modelleket használnak a potenciálisan rosszindulatú kibertevékenység észlelésére. Ha a tevékenység veszélyesnek tűnik, blokkolhatjuk a kimenetet, az utasításokat biztonságosabb vagy kevésbé fejlett modellekhez irányíthatjuk, vagy továbbíthatjuk intézkedésre. Az intézkedéseink automatizált és emberi ellenőrzést is tartalmaznak, figyelembe véve olyan tényezőket, mint a jogi követelmények, a súlyosság és az ismétlődő viselkedés. Szorosan együttműködünk a fejlesztőkkel és a vállalati ügyfelekkel, hogy összehangoljuk a biztonsági szabványokat, és egyértelmű eszkalációs útvonalakkal támogassuk a felelősségteljes használatot.
• Végponttól végpontig tartó piros csapatos tesztelés: Szakértő piros csapatos tesztelő szervezetekkel dolgozunk együtt biztonsági kockázatcsökkentő intézkedéseink értékelése és fejlesztése érdekében. Feladatuk, hogy végponttól végpontig haladva megpróbálják kijátszani az összes védelmünket, ugyanúgy, ahogyan azt egy eltökélt és jelentős erőforrásokkal rendelkező ellenfél tenné. Ez segít időben azonosítani a hiányosságokat, és megerősíteni a teljes rendszert.

Az OpenAI korán elkezdte az AI alkalmazását a védelmi kiberbiztonsági felhasználási esetekben, és csapatunk globális szakértőkkel szoros együttműködésbe fejleszti tovább modelljeinket és azok alkalmazását. Nagyra értékeljük a kiberbiztonsági szakemberek globális közösségét, akik azon dolgoznak, hogy biztonságosabbá tegyék digitális világunkat, és elköteleztük magunkat a védelmi biztonságot támogató, hatékony eszközök biztosítása mellett. Miközben új védelmi intézkedéseket vezetünk be, továbbra is együttműködünk a kiberbiztonsági közösséggel, hogy megértsük, hol növelheti az AI érdemben az ellenálló képességet, és hol van a legnagyobb szükség körültekintően kialakított védelmi intézkedésekre.

A fenti együttműködésekkel párhuzamosan olyan kezdeményezéseket indítunk útjára, amelyek célja, hogy segítsék a védelmi szerepet betöltőket a gyorsabb reagálásban, a valós igényekre alapozzák a védelmi intézkedéseket, és felgyorsítsák a felelős korrekció széles körű megvalósítását.

Hamarosan sor kerül egy megbízható hozzáférési program bevezetésére, amely lehetővé teszi a jogosult felhasználók és a kibervédelemmel foglalkozó ügyfelek számára, hogy védelmi célokra többszintű hozzáférést kapjanak legújabb modelljeink kibővített képességeihez. Még vizsgáljuk annak határait, hogy mely képességeket tehetünk széles körben elérhetővé, és melyek igényelnek többszintű korlátozást, ami befolyásolhatja a program jövőbeli alakítását. Célunk, hogy ez a megbízható hozzáférési program rugalmas ökoszisztéma alapköve legyen.

Az Aardvark, az OpenAI biztonsági kutatóügynöke (amely a fejlesztőknek és a biztonsági csapatoknak a sebezhetőségek nagy léptékű felderítésében és kijavításában segít), most privát bétában érhető el. Átvizsgálja a kódbázisokat sebezhetőségek után kutatva, és olyan javításokat javasol, amelyeket a karbantartók gyorsan alkalmazhatnak. Már új CVE-ket azonosított nyílt forráskódú szoftverekben a teljes kódbázisok érvelése révén. A tervünk az, hogy ingyenes lefedettséget kínálunk kiválasztott nem kereskedelmi nyílt forráskódú adattáraknak, hogy hozzájáruljunk a nyílt forráskódú szoftverek ökoszisztémájának és ellátási láncának biztonságához. A részvételhez itt jelentkezhetsz.

Megalapítjuk a Határkockázati Tanácsot, egy olyan tanácsadó testületet, amely szoros együttműködésbe vonja csapatainkat, a tapasztalt kibervédelmi szakembereket és biztonsági szakértőket. A tanács kezdetben a kiberbiztonságra összpontosít, a jövőben pedig más élvonalbeli képességterületekre is kiterjeszti a munkáját. A tagok tanácsokkal szolgálnak majd a hasznos, felelősségteljes képességek és a lehetséges visszaélések közötti határ meghúzásához, és az így szerzett tanulságok közvetlenül alakítják majd értékeléseinket és védelmi intézkedéseinket. A tanácsról hamarosan további információkat osztunk meg. 

Legvégül pedig arra számítunk, hogy az iparág bármely élvonalbeli modellje alkalmas lehet kiberjellegű visszaélésekre. Ennek érdekében más élvonalbeli laborokkal dolgozunk együtt a Frontier Model Fórumon keresztül, amely vezető AI-laborok és iparági partnerek támogatását élvezi, hogy közös megértést alakítsunk ki a fenyegetési modellekről és a bevált gyakorlatokról. Ebben az összefüggésben a fenyegetésmodellezés segít csökkenteni a kockázatot azáltal, hogy azonosítja, hogyan lehet az AI-képességeket fegyverként használni, hol találhatóak kritikus szűk keresztmetszetek a különböző fenyegető szereplők számára, és hogyan nyújthatnak az élvonalbeli modellek érdemi előnyt. Az együttműködés célja, hogy az egész ökoszisztémára kiterjedő, egységes megértést alakítson ki a fenyegető szereplőkről és a támadási útvonalakról, lehetővé téve a laborok, karbantartók és védelmi szakemberek számára, hogy hatékonyabban fejlesszék kockázatcsökkentő intézkedéseiket, biztosítva, hogy a kritikus biztonsági felismerések gyorsan elterjedjenek az ökoszisztémában. A kiberbiztonsági értékelések⁠(új ablakban nyílik meg) kidolgozásán külső csapatokkal is együttműködünk. Reméljük, hogy a független értékelések ökoszisztémája még tovább segít a modellképességekről alkotott közös megértés kialakításában.

Ezeknek az erőfeszítéseknek az együttese tükrözi hosszú távú elkötelezettségünket az ökoszisztéma védelmi oldalának megerősítése mellett. Ahogy a modellek egyre fejlettebbé válnak, célunk biztosítani, hogy ezek a képességek valódi előnyt jelentsenek a védők számára—a valós igényekre épülve, szakértői hozzájárulással formálva, körültekintő bevezetés mellett. Ezzel a munkával párhuzamosan tervezzük más kezdeményezések és kiberbiztonsági támogatások körbejárását is, hogy felszínre hozzuk az áttörést jelentő ötleteket, amelyek a hagyományos csatornákon nem jelennek meg, valamint hogy közösségi alapon gyűjtsünk merész, kreatív védelmi megoldásokat az akadémiai szférából, az iparból és a nyílt forráskódú közösségből. Mindent egybevetve, ez folyamatos munkát jelent; számításaink szerint a programokat tovább fejlesztjük, ahogy egyre többet tanulunk arról, mi mozdítja elő leghatékonyabban a tényleges biztonságot.