Het OpenAI-Hugging Face-incident(opent in een nieuw venster) was een keerpunt voor cyberbeveiliging, omdat het een voorproefje gaf van hoe de mogelijkheden van een doorsnee dreigingsactor zich de komende maanden zullen ontwikkelen. De afgelopen weken heb ik met veel organisaties gesproken. Eén thema springt eruit: ze weten dat ze hun cyberbeveiliging in ongekend tempo fundamenteel naar een hoger niveau moeten tillen. In dit artikel vertel ik wat we doen om OpenAI te verdedigen, welke concrete stappen andere organisaties vandaag kunnen zetten en waarom dit het moment is om in actie te komen.
AI-modellen die wereldwijd worden ontwikkeld, kunnen steeds meer onderdelen van echte cyberaanvallen automatiseren. Daardoor zijn al langer bestaande beveiligingslekken, van diep in door mensen geschreven software verborgen bugs tot vergeten machtigingen, gemakkelijker te vinden en te misbruiken. Diezelfde AI-mogelijkheden bieden verdedigers nieuwe manieren om deze zwakke plekken te vinden en te verhelpen, maar ze moeten nu in actie komen. Als bedrijven doortastend optreden, onder meer door hun basis op orde te brengen en hun teams met AI extra slagkracht te geven, kunnen we het internet veiliger maken dan ooit.
Bij het OpenAI-Hugging Face-incident wist een agentisch collectief autonoom binnen te dringen in zowel de onderzoeksinfrastructuur van OpenAI als de productie-infrastructuur van een ander bedrijf. Daarbij combineerde het uiteenlopende kwetsbaarheden, van voorheen onbekende beveiligingslekken tot inloggegevens van gebruikersaccounts die op internet waren uitgelekt. Het wordt steeds duidelijker dat de technische schuld(opent in een nieuw venster) van elk bedrijf ernstige tekortkomingen verhult. Verdedigers moeten die vinden en verhelpen voordat aanvallers dat doen.
Om verdedigers een voorsprong op aanvallers te geven, zijn we eerder dit jaar begonnen onze cybercapaciteiten uitsluitend beschikbaar te stellen aan vertrouwde verdedigers. Sindsdien hebben verschillende bedrijven open-weightmodellen uitgebracht met cybercapaciteiten die slechts enkele maanden achterlopen op de grensverleggende modellen. Het recentste van deze modellen lijkt eind augustus te worden uitgebracht(opent in een nieuw venster) en zal het dreigingslandschap waarschijnlijk aanzienlijk versnellen.
Aanvallers met AI zullen binnenkort al langer bestaande gebreken in veel huidige systemen kunnen vinden, maar AI maakt het voor verdedigers eveneens veel eenvoudiger om diezelfde gebreken te vinden, prioriteren en verhelpen. Beveiliging blijft een kat-en-muisspel, maar AI kan de economische verhoudingen(opent in een nieuw venster) veranderen op manieren die verdedigers een fundamenteel voordeel geven. We beginnen onze modellen bijvoorbeeld specifiek te trainen om bovenmenselijk veilige code te schrijven. Onze modellen zijn ook uitzonderlijk goed in wiskundige bewijzen. Die kunnen worden gebruikt om de beveiliging van software formeel te verifiëren, iets wat voor mensen onhaalbaar is gebleken.
Na het OpenAI-Hugging Face-incident vroeg ik ChatGPT Work (met het publiek beschikbare GPT‑5.6 Sol) om de beveiliging van gregbrockman.com(opent in een nieuw venster) te beoordelen. Het is een eenvoudige statische site, gehost op AWS met Cloudflare als toegangspoort. Daarom dacht ik dat het aanvalsoppervlak beperkt zou zijn.
In ongeveer vijftien minuten ontdekte het dertien problemen. Veel daarvan zijn op zichzelf waarschijnlijk niet misbruikbaar, maar ik kon me voorstellen dat ze in combinatie met andere kwetsbaarheden aanzienlijke gevolgen konden hebben. Ik had mijn DNS-records niet zo ingesteld dat aanvallers geen e-mails uit mijn naam konden vervalsen; mijn site gebruikte een onveilige versie van jQuery; Cloudflare stuurde verzoeken via onbeveiligd HTTP door naar AWS.
Vervolgens vroeg ik ChatGPT Work om deze problemen op te lossen, wat het binnen een uur deed. Het opende het Cloudflare-beheerpaneel in mijn browser en klikte vervolgens op allerlei knoppen om DNS, TLS en geavanceerde beveiligingsinstellingen correct te configureren; het verwijderde jQuery volledig van de site; het migreerde mijn site van AWS naar Cloudflare Pages; en het begon met een gefaseerde invoering van DMARC(opent in een nieuw venster).
En dit was nog maar mijn persoonlijke website. Dit is een klein voorbeeld van hoe onze huidige modellen als cyberbewaker kunnen optreden: ze vinden de vele minder voor de hand liggende problemen waarvoor een mens geen tijd of expertise heeft (veel van de aangepaste instellingen ken ik enigszins, maar ik zou niet direct weten hoe ik ze correct moet configureren) en lossen die vervolgens op met een passend afgestemd implementatieplan.
Het Hugging Face-incident liet zien dat we de praktische cybercapaciteiten van onze AI-modellen hadden onderschat. Daarom scherpen we onze veiligheidseisen aan, wat ons bestaande veiligheidsonderzoek en interne beveiligingswerk nog urgenter maakt.
Ik deel iets over de manier waarop we OpenAI momenteel beveiligen, in de hoop dat andere organisaties er hun voordeel mee kunnen doen. Om OpenAI te beschermen, investeren we fors in fundamentele beheersmaatregelen (de basis goed uitvoeren) en in het versterken van onze verdediging met grensverleggende intelligentie. Deze strategie rust op vier belangrijke pijlers.
Ten eerste gebruiken we onze modellen om onze code beter te beveiligen. Codex, inclusief onze beveiligingsplug-in, valideert codewijzigingen, spoort kwetsbaarheden op en helpt ontwikkelaars problemen te verhelpen voordat de code wordt geïmplementeerd. Het is nadrukkelijk niet de bedoeling om simpelweg meer beveiligingsbevindingen te produceren die mensen moeten valideren. Het doel is echte kwetsbaarheden te onderscheppen vóór de release en sneller van de ontdekking van een probleem naar de veilige implementatie van een oplossing te gaan. Terwijl we onze modellen blijven trainen om steeds veiligere code te produceren, willen we bepaalde categorieën softwarekwetsbaarheden uit nieuw geschreven code bannen.
Ten tweede zetten we onze modellen in om onze infrastructuur continu te verdedigen. Tegenwoordig worden vrijwel al onze eerste beveiligingsmeldingen door intelligentie getrieerd voordat er mensen bij worden betrokken. Dit vermindert het routinewerk voor verdedigers, versnelt de respons en laat mensen hun tijd besteden waar hun vaardigheden het meeste opleveren: onderscheidingsvermogen, oordeelsvorming en toegepaste expertise. We koppelen deze detecties steeds vaker aan afgebakende geautomatiseerde reacties, terwijl mensen verantwoordelijk blijven voor de beslissingen met de grootste impact. Het doel is beveiligingsproblemen op machinesnelheid te kunnen detecteren en aanpakken.
Ten derde gebruiken we grensverleggende intelligentie om continu potentiële aanvalspaden in kaart te brengen, te onderzoeken en te identificeren. Door kwetsbaarheden, verkeerde configuraties, identiteiten met te ruime rechten en onbedoelde vertrouwensgrenzen op te sporen, kunnen we deze gaten snel vinden en dichten voordat aanvallers er misbruik van maken. Zo kunnen we onze beveiligingsinvarianten, de beveiligingseigenschappen waarvan we aannemen dat ze gelden, continu beoordelen, bewaken en testen in al onze producten, infrastructuur en systemen.
Tot slot investeren we op grote schaal in de basis. We blijven investeren in veilige architectuur en beheersmaatregelen, omarmen strategieën als gelaagde beveiliging en minimale bevoegdheden en ontwerpen systemen waarbij meerdere onafhankelijke beheersmaatregelen tegelijkertijd moeten falen voordat er iets rampzaligs kan gebeuren. Klassieke beveiligingsmaatregelen zoals netwerkisolatie, het versterken van workloads, monitoring en het veilig patchen en implementeren worden in de AI-toekomst belangrijker dan ooit.
Elke seconde telt en verdedigers zullen de onderstaande stappen in hoog tempo moeten uitvoeren. Hieronder noem ik technologie van OpenAI, maar het ecosysteem telt ook genoeg concurrerende oplossingen die het beoordelen waard zijn. Het specifieke hulpmiddel is minder belangrijk dan ervoor te zorgen dat je verdedigers nu al over krachtige AI beschikken.
- Zorg voor betrokkenheid en draagvlak binnen de organisatie. De beveiligingsrisico's veranderen snel. Zorg dat je beveiligings- en engineeringteams de steun, samenwerking en middelen krijgen om deze risico's snel aan te pakken. Voer met je teams simulatieoefeningen uit om na te bootsen hoe deze aanvallen zich binnen je organisatie kunnen voordoen en hoe je erop zult reageren.
- Geef je beveiligingsteam een agent. Ga aan de slag met Codex, de Codex Security-plug-in(opent in een nieuw venster) of een ander krachtig hulpmiddel voor agentic programmeren en beveiliging. Geef de agent goedgekeurde toegang tot de codebases, infrastructuurconfiguraties en technische documentatie die je beveiligingsteam moet beoordelen. Wacht niet op een bedrijfsbrede uitrol voordat je met je belangrijkste systemen begint.
- Rust die agent uit met beveiligingsexpertise. Begin met door de community ondersteunde vaardigheden(opent in een nieuw venster), waaronder workflows voor statische analyse, beveiligingsgerichte codebeoordeling, analyse van kwetsbaarheidsvarianten, risico's in de softwaretoeleveringsketen en andere beveiligingsworkflows. Bouw daarna je eigen vaardigheden rond de architectuur, beveiligingsnormen, dreigingsmodellen en draaiboeken van je organisatie.
- Voer onmiddellijk beveiligingsbeoordelingen uit op je eigen systemen. Geef eerst prioriteit aan beoordelingen van internetgerichte diensten, authenticatiestromen, infrastructure as code, implementatiepijplijnen en systemen die gevoelige informatie verwerken. Breid de scans uit naarmate je team meer vertrouwen opbouwt.
- Werk je bestaande achterstand aan kwetsbaarheden weg. Geef je agent de bevindingen van codescanners, afhankelijkheidswaarschuwingen, beveiligingstickets, bugbountyrapporten en eerdere beoordelingen. Vraag de agent die bevindingen te triëren, misbruikbare problemen van ruis te onderscheiden, gerelateerde kwetsbaarheden elders in de codebase te vinden en aan te bevelen wat eerst moet worden verholpen.
- Neem beveiligingsbeoordelingen rechtstreeks op in je ontwikkelproces. Gebruik agents om codewijzigingen vóór het samenvoegen te beoordelen en voer beveiligingscontroles uit in CI. Let op authenticatiefouten, omzeilingen van toegangscontroles, blootgestelde inloggegevens, onveilige afhankelijkheden en standaardinstellingen, wijzigingen die de toegang tot productiesystemen verruimen en andere kwetsbaarheden.
- Laat de agent helpen gevonden problemen te verhelpen. Vraag de agent voor gevalideerde problemen een gerichte patch te genereren en te verifiëren, een regressietest te schrijven en te bevestigen dat de kwetsbaarheid niet meer kan worden gereproduceerd. Behoud menselijke beoordeling voor ingrijpende wijzigingen, maar voorkom onnodige vertraging tussen het vaststellen van een echt probleem en het voorleggen van een veilige oplossing aan een engineer.
- Automatiseer de triage van detecties stapsgewijs. Begin niet met het bouwen van een autonoom beveiligingscentrum. Begin met een beveiligingsscan met alleen-leestoegang tot één repository, of laat een agent eerder afgehandelde meldingen beoordelen met alleen-leestoegang tot je bestaande logboeken. Laat de agent het bewijs samenvatten en een afhandeling aanbevelen, terwijl een mens elke beslissing neemt. Ga naarmate het vertrouwen groeit over op adviserende scans van pull requests, vervolgens op live triage van meldingen en daarna op het automatisch sluiten van nauwkeurig afgebakende foutpositieve meldingen.
- Zorg dat je al vóór het nodig is beschikt over AI-ondersteunde forensische onderzoekscapaciteit. Vraag Trusted Access for Cyber(opent in een nieuw venster) aan en laat je team goedkeuren om GPT‑Daybreak‑Blue te gebruiken voor toegestaan defensief werk, waaronder incidentrespons, detectie-engineering en malwareanalyse. Oefen met deze capaciteit om logboeken, telemetrie en beveiligingsmeldingen te analyseren.
- Experimenteer, organiseer hackweken en verbeter snel. We zullen allerlei nieuwe hulpmiddelen moeten bouwen, onze werkwijze moeten aanpassen en iedereen moeten voorbereiden op de wereld die voor ons ligt. Moedig je medewerkers aan te experimenteren, plan een hackweek om nieuwe mogelijkheden te ontwikkelen en richt je op het snel verbeteren van cycli die kleine onderdelen van het probleem automatiseren. Snelle, stapsgewijze vooruitgang zorgt voor een steeds groter verdedigingseffect. Naarmate je team meer vertrouwen opbouwt, kun je de autonomie geleidelijk uitbreiden.
Geen enkel bedrijf kan dit alleen. We vragen AI-labs, beveiligingsleveranciers, ondernemingen en beheerders om gevalideerde bevindingen, oplossingen en praktische draaiboeken te delen, zodat een ontdekking van één organisatie het hele ecosysteem kan versterken.
Het venster voor verdedigers staat nu open. De komende maanden zal elke organisatie haar beveiligingsprogramma aanzienlijk moeten automatiseren om veilig te blijven. Tegelijk moet de beveiligingscommunity dringend de hulpmiddelen, werkwijzen en draaiboeken ontwikkelen die de slagkracht van verdedigers sneller vergroten dan die van aanvallers terwijl AI zich verder ontwikkelt. Dit vergt een enorme, ongekende inspanning. Maar als we onze krachten bundelen, kunnen we een veiligere wereld realiseren dan we eerder voor mogelijk hielden.
