Az OpenAI–Hugging Face-incidens(új ablakban nyílik meg) fordulópontot jelentett a kiberbiztonságban, mert ízelítőt adott abból, hogyan fejlődnek majd egy átlagos fenyegetési szereplő képességei a következő hónapokban. Az elmúlt hetekben számos szervezettel beszéltem, és egy dolog világossá vált: tudják, hogy korábban nem látott gyorsasággal, alapjaiban kell magasabb szintre emelniük kiberbiztonsági gyakorlatukat. Ebben a bejegyzésben bemutatom, mit teszünk az OpenAI védelméért, milyen konkrét lépéseket tehetnek már ma más szervezetek, és miért éppen most kell cselekedni.
A világszerte fejlesztett AI-modellek egyre inkább képesek automatizálni a valós kibertámadások egyes részeit, így könnyebbé válik a régóta fennálló biztonsági rések – az ember által írt szoftverek mélyén rejtőző hibáktól az elfeledett jogosultságokig – felderítése és kihasználása. Ugyanezek az AI-képességek új módszereket adnak a védőknek e gyengeségek feltárására és kijavítására, de ehhez most kell lépniük. Ha a vállalatok határozottan cselekednek – többek között megerősítik az alapokat, és AI-jal sokszorosára növelik csapataik képességeit –, minden eddiginél biztonságosabbá tehetjük az internetet.
Az OpenAI–Hugging Face-incidens során egy ügynökalapú kollektíva önállóan be tudott hatolni nemcsak az OpenAI kutatási infrastruktúrájába, hanem egy másik vállalat éles infrastruktúrájába is. Ehhez több sebezhetőséget fűzött össze, a korábban ismeretlen biztonsági hibáktól az internetre kiszivárgott felhasználói fiókok hitelesítő adatainak felhasználásáig. Egyre világosabb, hogy minden vállalat technikai adóssága(új ablakban nyílik meg) jelentős hibákat rejt, amelyeket a védőknek kell megtalálniuk és kijavítaniuk, mielőtt a támadók teszik meg.
Hogy előnyhöz juttassuk a védőket a támadókkal szemben, az év elején kiberbiztonsági képességeinket kizárólag megbízható védők számára kezdtük hozzáférhetővé tenni. Azóta több vállalat is kiadott olyan kiberbiztonsági képességekkel rendelkező nyílt súlyú modelleket, amelyek csupán néhány hónappal maradnak el az élvonaltól. E modellek közül a legújabbat a jelek szerint augusztus végén fogják kiadni(új ablakban nyílik meg), és várhatóan jelentősen felgyorsítja majd a fenyegetési környezet változását.
Bár az AI-t használó támadók hamarosan számos meglévő rendszer régóta fennálló hibáit képesek lesznek megtalálni, az AI a védőknek is jóval egyszerűbbé teszi ugyanezen hibák feltárását, rangsorolását és kijavítását. A biztonság továbbra is macska-egér játék, az AI azonban olyan módon változtathatja meg ennek gazdasági viszonyait(új ablakban nyílik meg), amely alapvető előnyhöz juttatja a védőket. Modelljeinket például már kifejezetten arra kezdjük tanítani, hogy emberfeletti biztonságú kódot írjanak. Modelljeink a matematikai bizonyításokban is rendkívül jók. E képességgel formálisan ellenőrizhető a szoftverek biztonsága, ami az emberek számára mindeddig megoldhatatlan feladatnak bizonyult.
Az OpenAI–Hugging Face-incidens után megkértem a ChatGPT Worköt – a nyilvánosan elérhető GPT‑5.6 Sol használatával –, hogy mérje fel a gregbrockman.com(új ablakban nyílik meg) biztonságát. Ez egy egyszerű statikus webhely, amelyet az AWS-en üzemeltetek, belépési pontként pedig a Cloudflare-t használom, ezért úgy gondoltam, nem sok támadási felületet kínálhat.
Körülbelül 15 perc alatt 13 problémát tárt fel. Ezek közül sok valószínűleg önmagában nem használható ki, de más sebezhetőségekkel összekapcsolva komoly hatásuk lehetett volna. Nem úgy állítottam be a DNS-rekordjaimat, hogy megakadályozzák a nevemben küldött hamis e-maileket; a webhelyem a jQuery egy nem biztonságos verzióját használta; a Cloudflare pedig titkosítatlan HTTP-kapcsolaton továbbította a kéréseket az AWS-nek.
Ezután megkértem a ChatGPT Worköt, hogy javítsa ki ezeket a problémákat, amit egy óra alatt meg is tett. Megnyitotta a böngészőmben a Cloudflare vezérlőpultját, majd számos gombra kattintva helyesen beállította a DNS-t, a TLS-t és a speciális biztonsági funkciókat; teljesen eltávolította a jQueryt a webhelyről; áttelepítette a webhelyet az AWS-ről a Cloudflare Pagesre; és megkezdte a DMARC(új ablakban nyílik meg) fokozatos bevezetését.
És ez csak a személyes webhelyem volt. Ez csupán egy kis példa arra, hogyan működhetnek meglévő modelljeink kibervédelmi őrként: feltárják azokat a ritkábban előforduló problémákat, amelyekre egy embernek nem jutna ideje, vagy amelyekhez nem lenne meg a szakértelme – az általa kijavított beállítások közül sokról nekem is volt némi fogalmam, de fejből nem tudtam volna, hogyan kell őket helyesen konfigurálni –, majd megfelelően ütemezett bevezetési tervvel ki is javítják őket.
A Hugging Face-incidens megmutatta, hogy alábecsültük AI-modelljeink valós környezetben használható kiberbiztonsági képességeit. Ennek megfelelően szigorítjuk biztonsági követelményeinket, ami még sürgetőbbé teszi a már folyamatban lévő biztonságkutatási és belső védelmi munkánkat.
Szeretnék most betekintést nyújtani abba, hogyan gondoskodunk az OpenAI biztonságáról, abban a reményben, hogy megközelítésünk más szervezetek számára is hasznos lehet. Az OpenAI védelme érdekében jelentős összegeket fordítunk az alapvető kontrollokra – vagyis arra, hogy az alapokat jól valósítsuk meg –, valamint arra, hogy élvonalbeli intelligenciával erősítsük védelmi képességeinket. Ez a stratégia négy fő pillérre épül.
Először is modelljeinkkel segítjük kódunk biztonságossá tételét. A Codex – többek között biztonsági beépülő modulunkkal – ellenőrzi a kódmódosításokat, azonosítja a sebezhetőségeket, és segít a fejlesztőknek kijavítani a problémákat az élesítés előtt. Nem célunk pusztán még több, emberi ellenőrzést igénylő biztonsági észrevételt előállítani; valódi sebezhetőségeket szeretnénk kiszűrni még az élesítés előtt, és lerövidíteni a probléma felfedezésétől a javítás biztonságos telepítéséig vezető utat. Miközben modelljeinket egyre biztonságosabb kód írására tanítjuk, célunk, hogy az újonnan írt kódokból teljesen kiküszöböljük a szoftveres sebezhetőségek bizonyos típusait.
Másodszor, modelljeinket infrastruktúránk folyamatos védelmére is használjuk. Ma már szinte minden kezdeti biztonsági riasztásunkat mesterséges intelligencia osztályozza, mielőtt emberhez kerülne. Ez csökkenti a védők rutinfeladatait, gyorsítja a reagálást, és lehetővé teszi, hogy az emberek ott kamatoztassák tudásukat, ahol arra a legnagyobb szükség van: a helyzetfelismerésben, a mérlegelésben és a gyakorlati szakértelem alkalmazásában. Ezeket az észleléseket egyre gyakrabban kapcsoljuk korlátozott hatókörű automatizált válaszlépésekhez, miközben a legnagyobb hatású döntésekért továbbra is emberek felelnek. Célunk, hogy gépi sebességgel tudjuk észlelni és kezelni a biztonsági problémákat.
Harmadszor, élvonalbeli intelligenciával folyamatosan feltérképezzük, teszteljük és azonosítjuk a lehetséges támadási útvonalakat. A sebezhetőségek, hibás konfigurációk, túlzott jogosultságú identitások és nem szándékos bizalmi határok feltárásával gyorsan azonosíthatjuk és megszüntethetjük ezeket a réseket, mielőtt a támadók kihasználnák őket. Így termékeink, infrastruktúránk és rendszereink egészében folyamatosan értékelhetjük, felügyelhetjük és tesztelhetjük biztonsági invariánsainkat – vagyis azokat a biztonsági tulajdonságokat, amelyeket igaznak feltételezünk.
Végül pedig nagy erőforrásokat fordítunk az alapok széles körű megerősítésére. Továbbra is beruházunk a biztonságos architektúrába és kontrollokba, olyan stratégiákat alkalmazunk, mint a többrétegű védelem és a legkisebb jogosultság elve, rendszereinket pedig úgy tervezzük, hogy katasztrofális esemény csak több független kontroll egyidejű meghibásodásakor következhessen be. Az AI korában minden eddiginél fontosabbak lesznek az olyan klasszikus biztonsági kontrollok, mint a hálózati elkülönítés, a munkaterhelések megerősítése, a felügyelet, valamint a biztonságos javítás és telepítés.
Minden perc számít, ezért a védőknek rendkívüli gyorsasággal kell végrehajtaniuk az alábbi lépéseket. Az alábbiakban OpenAI-technológiákat is említek, de az ökoszisztémában számos versenytárs megoldását is érdemes megvizsgálni. Nem annyira az adott eszköz számít, hanem az, hogy a védők már most hozzáférjenek egy megfelelő képességű AI-hoz.
- Szerezze meg a szervezet elköteleződését és támogatását. A biztonsági kockázatok gyorsan változnak – gondoskodjon arról, hogy biztonsági és mérnöki csapatai megkapják a kockázatok gyors kezeléséhez szükséges támogatást, együttműködést és erőforrásokat. Tartson csapataival szimulációs gyakorlatokat annak modellezésére, hogyan jelenhetnek meg ezek a támadások a szervezetnél, és miként reagálnának rájuk.
- Adjon egy ügynököt biztonsági csapatának. Kezdje el használni a Codexet, a Codex Security beépülő modult(új ablakban nyílik meg) vagy más, megfelelő képességű ügynökalapú programozási és biztonsági eszközt. Adjon neki engedélyezett hozzáférést azokhoz a kódbázisokhoz, infrastruktúra-konfigurációkhoz és műszaki dokumentációkhoz, amelyeket a biztonsági csapatnak értékelnie kell. A legfontosabb rendszereknél ne várjon a vállalati szintű bevezetésre.
- Ruházza fel az ügynököt biztonsági szakértelemmel. Induljon ki a közösség által támogatott készségekből(új ablakban nyílik meg), amelyek munkafolyamatokat kínálnak többek között statikus elemzéshez, biztonságközpontú kódellenőrzéshez, sebezhetőségváltozatok elemzéséhez és a szoftver-ellátási lánc kockázatainak vizsgálatához. Ezután hozzon létre saját készségeket szervezete architektúrájához, biztonsági szabványaihoz, fenyegetési modelljeihez és eljárásrendjeihez igazítva.
- Azonnal végezzen biztonsági felméréseket saját rendszerein. Elsőként az internet felől elérhető szolgáltatások, a hitelesítési folyamatok, a kódként kezelt infrastruktúra, a telepítési folyamatok és az érzékeny adatokat kezelő rendszerek felmérését helyezze előtérbe. Ahogy nő a csapat magabiztossága, terjessze ki a vizsgálatok körét.
- Dolgozza fel a sebezhetőségek meglévő hátralékát. Adja át ügynökének a kódellenőrzők észrevételeit, a függőségi riasztásokat, a biztonsági hibajegyeket, a hibavadászati programok jelentéseit és a korábbi felmérések eredményeit. Kérje meg, hogy osztályozza ezeket, különítse el a kihasználható problémákat a zajtól, azonosítsa a kapcsolódó sebezhetőségeket a kódbázis más részein, és javasoljon javítási sorrendet.
- Építse be a biztonsági ellenőrzést közvetlenül a fejlesztési folyamatba. Ügynökökkel ellenőriztesse a kódmódosításokat az egyesítés előtt, a CI-folyamatban pedig futtasson biztonsági vizsgálatokat. Keresse a hitelesítési hibákat, a hozzáférés-vezérlés megkerülésének lehetőségeit, a felfedett hitelesítő adatokat, a nem biztonságos függőségeket és alapbeállításokat, az éles rendszerekhez való hozzáférést bővítő módosításokat, valamint más sebezhetőségeket.
- Az ügynök segítsen kijavítani, amit talál. Az ellenőrzött problémáknál kérje meg, hogy készítsen és ellenőrizzen célzott javítást, írjon regressziós tesztet, és erősítse meg, hogy a sebezhetőség már nem reprodukálható. A jelentős következményekkel járó módosításokat továbbra is ember ellenőrizze, de szüntesse meg a valódi probléma azonosítása és a biztonságos javítás mérnök elé kerülése közötti felesleges késedelmet.
- Fokozatosan automatizálja az észlelések osztályozását. Ne egy önállóan működő biztonsági műveleti központ felépítésével kezdje. Először futtasson csak olvasási jogosultságú biztonsági vizsgálatot egy adattáron, vagy egy ügynökkel ellenőriztesse a korábban lezárt riasztásokat, csak olvasási hozzáférést adva a meglévő naplókhoz. Hagyja, hogy összefoglalja a bizonyítékokat és javaslatot tegyen a teendőkre, miközben minden döntést ember hoz meg. A bizalom növekedésével térjen át a pull requestek tanácsadó jellegű vizsgálatára, majd az élő riasztások osztályozására, végül pedig a szűken meghatározott téves riasztások automatikus lezárására.
- Még azelőtt alakítsa ki az AI-val támogatott forenzikus vizsgálati képességet, hogy szüksége lenne rá. Igényelje a Trusted Access for Cyber(új ablakban nyílik meg) hozzáférést, és szerezzen engedélyt csapatának a GPT‑Daybreak‑Blue használatára olyan jóváhagyott védelmi munkákhoz, mint az incidenskezelés, az észlelési megoldások fejlesztése és a kártevőelemzés. Gyakorolják e képesség használatát naplók, telemetriai adatok és biztonsági riasztások elemzésére.
- Kísérletezzen, rendezzen hack heteket, és fejlesszen gyors ütemben. Az előttünk álló világban sokféle új eszközt kell létrehoznunk, át kell alakítanunk munkamódszereinket, és mindenkit magasabb szintre kell emelnünk. Ösztönözze munkatársait a kísérletezésre, szervezzen hack hetet új képességek létrehozására, és összpontosítson a probléma kisebb részeit automatizáló megoldások gyors, ismételt továbbfejlesztésére. A gyors, fokozatos előrelépés egymást erősítő védelmi eredményekhez vezet, az önállóság mértéke pedig a csapat magabiztosságának növekedésével fokozatosan bővíthető.
Egyetlen vállalat sem képes erre egyedül. Arra kérjük az AI-laboratóriumokat, a biztonsági szolgáltatókat, a vállalatokat és a karbantartókat, hogy osszák meg az ellenőrzött eredményeket, javításokat és gyakorlati eljárásrendeket, hogy egy szervezet felfedezése az egész ökoszisztémát erősíthesse.
A védők előtt most nyitva áll a lehetőség. A következő hónapokban minden szervezetnek jelentős mértékben automatizálnia kell biztonsági programját ahhoz, hogy megőrizze biztonságát. A biztonsági közösségnek pedig sürgősen meg kell határoznia azokat az eszközöket, gyakorlatokat és eljárásrendeket, amelyek az AI fejlődésével párhuzamosan gyorsabban növelik a védők, mint a támadók erejét. Ehhez hatalmas és példa nélküli erőfeszítésre lesz szükség, de ha összefogunk, a korábban elképzelhetőnél biztonságosabb világot teremthetünk.
