Hændelsen med OpenAI og Hugging Face(åbner i et nyt vindue) blev et vendepunkt for cybersikkerhed, fordi den gav et indblik i, hvordan en typisk trusselsaktørs evner vil udvikle sig i de kommende måneder. Jeg har talt med mange organisationer i løbet af de seneste uger, og ét tema står klart: De ved, at de med hidtil uset hastighed er nødt til grundlæggende at løfte deres cybersikkerhed. I dette indlæg fortæller jeg, hvad vi gør for at beskytte OpenAI, hvilke konkrete skridt andre organisationer kan tage i dag, og hvorfor tiden er inde til at handle.
AI-modeller udviklet verden over kan i stigende grad automatisere dele af virkelige cyberangreb. Det gør det lettere at finde og udnytte mangeårige sikkerhedshuller – fra fejl dybt begravet i menneskeskrevet software til glemte tilladelser. De samme AI-egenskaber giver sikkerhedsteams nye muligheder for at finde og rette svaghederne, men de skal handle nu. Hvis virksomheder handler beslutsomt – blandt andet ved at styrke det grundlæggende og give deres teams superkræfter med AI – kan vi gøre internettet sikrere end nogensinde før.
Under hændelsen med OpenAI og Hugging Face lykkedes det et agentisk kollektiv autonomt at trænge ind i både OpenAI's forskningsinfrastruktur og en anden virksomheds produktionsinfrastruktur ved at kombinere sårbarheder, der spændte fra hidtil ukendte sikkerhedsfejl til loginoplysninger fra brugerkonti, som var blevet lækket på internettet. Det står stadig tydeligere, at alle virksomheders tekniske gæld(åbner i et nyt vindue) skjuler væsentlige fejl, som sikkerhedsteams skal finde og rette, før angribere gør det.
For at give sikkerhedsteams en fordel i forhold til angribere begyndte vi tidligere på året kun at stille vores cyberkapaciteter til rådighed for betroede sikkerhedsteams. Siden da har forskellige virksomheder udgivet åbne vægtmodeller med cyberkapaciteter, der kun er få måneder bagefter de banebrydende modeller. Den seneste af disse modeller ser ud til at blive udgivet(åbner i et nyt vindue) i slutningen af august og vil sandsynligvis fremskynde udviklingen i trusselsbilledet markant.
AI-drevne angribere vil snart kunne finde mangeårige fejl i mange eksisterende systemer, men AI vil også gøre det langt lettere for sikkerhedsteams at finde, prioritere og rette de samme fejl. Sikkerhed er stadig en katten-efter-musen-leg, men AI kan ændre dens økonomiske dynamik(åbner i et nyt vindue) på måder, der grundlæggende gavner sikkerhedsteams. Vi er eksempelvis begyndt at træne vores modeller specifikt til at skrive kode med et overmenneskeligt sikkerhedsniveau. Vores modeller er også utroligt dygtige til matematiske beviser, som kan bruges til formelt at verificere softwares sikkerhed på en måde, der har vist sig uoverkommelig for mennesker.
Efter hændelsen med OpenAI og Hugging Face bad jeg ChatGPT Work (med den offentligt tilgængelige GPT‑5.6 Sol) om at vurdere sikkerheden på gregbrockman.com(åbner i et nyt vindue). Det er et enkelt statisk website, der hostes på AWS med Cloudflare som indgang, så jeg regnede ikke med, at angrebsfladen ville være særlig stor.
På omkring 15 minutter fandt det 13 problemer. Mange af dem kan sandsynligvis ikke udnyttes alene, men jeg kunne forestille mig, at de kombineret med andre sårbarheder kunne få betydelige konsekvenser. Jeg havde ikke konfigureret mine DNS-poster til at forhindre angribere i at forfalske mails fra mig. Mit website brugte en usikker version af jQuery, og Cloudflare videresendte forespørgsler til AWS via ukrypteret HTTP.
Derefter bad jeg ChatGPT Work om at løse problemerne, hvilket det gjorde i løbet af en time. Det åbnede Cloudflares kontrolpanel i min browser og klikkede sig igennem en lang række indstillinger for at konfigurere DNS, TLS og avancerede sikkerhedsindstillinger korrekt. Det fjernede jQuery helt fra websitet, flyttede det fra AWS til Cloudflare Pages og indledte en gradvis udrulning af DMARC(åbner i et nyt vindue).
Og det var blot mit personlige website. Det er et lille eksempel på, hvordan vores eksisterende modeller kan fungere som cybervagter: De finder de mange sjældne problemer, som et menneske hverken ville have tid eller ekspertise til at håndtere – mange af de indstillinger, modellen rettede, kender jeg overfladisk, men jeg ville ikke umiddelbart vide, hvordan de skulle konfigureres korrekt – og løser dem derefter med en passende tilrettelagt udrulningsplan.
Hændelsen med Hugging Face viste, at vi havde undervurderet vores AI-modellers reelle cyberkapaciteter. Derfor skærper vi vores sikkerhedskrav, hvilket gør vores eksisterende sikkerhedsforskning og interne sikkerhedsarbejde endnu mere presserende.
Jeg fortæller her lidt om vores aktuelle tilgang til at beskytte OpenAI i håb om, at andre organisationer kan få gavn af den. For at beskytte OpenAI investerer vi betydeligt i både grundlæggende kontrolforanstaltninger – at gøre det basale korrekt – og i at styrke vores forsvar med banebrydende intelligens. Strategien bygger på fire hovedsøjler.
For det første bruger vi vores modeller til at beskytte vores kode. Codex, herunder vores sikkerhedsplugin, validerer kodeændringer, identificerer sårbarheder og hjælper udviklere med at løse problemer, før ændringerne implementeres. Målet er ikke blot at finde flere sikkerhedsproblemer, som mennesker skal validere, men at opdage reelle sårbarheder inden lancering og forkorte vejen fra opdagelse til sikker implementering af en rettelse. I takt med at vi fortsat træner vores modeller til at skrive stadig mere sikker kode, er vores mål at eliminere visse typer softwaresårbarheder i ny kode.
For det andet sætter vi vores modeller til løbende at forsvare vores infrastruktur. I dag bliver næsten alle vores indledende sikkerhedsadvarsler triageret af intelligens, før mennesker inddrages. Det mindsker sikkerhedsteamenes rutinearbejde, forbedrer responstiden og lader mennesker bruge tiden dér, hvor deres kompetencer skaber størst værdi – på skelneevne, dømmekraft og anvendt ekspertise. Vi kobler i stigende grad disse registreringer til afgrænsede, automatiserede reaktioner, mens mennesker fortsat er ansvarlige for beslutningerne med størst konsekvens. Målet er at sikre, at vi kan opdage og reagere på sikkerhedsproblemer med maskinhastighed.
For det tredje bruger vi banebrydende intelligens til løbende at kortlægge, afprøve og identificere mulige angrebsveje. Ved at identificere sårbarheder, fejlkonfigurationer, identiteter med for omfattende rettigheder eller utilsigtede tillidsgrænser kan vi hurtigt finde og lukke hullerne, før angribere kan udnytte dem. Det giver os mulighed for løbende at vurdere, overvåge og teste vores sikkerhedsinvarianter – de sikkerhedsegenskaber, vi mener er gældende – på tværs af vores produkter, infrastruktur og systemer.
Endelig investerer vi massivt i at få det grundlæggende på plads i stor skala. Vi fortsætter med at investere i sikker arkitektur og kontrolforanstaltninger, følger strategier som lagdelt forsvar og færrest mulige rettigheder og designer systemer, hvor flere uafhængige kontroller skal svigte samtidigt, før noget katastrofalt kan ske. Klassiske sikkerhedsforanstaltninger som netværksisolering, hærdning af workloads, overvågning samt sikker opdatering og implementering bliver vigtigere end nogensinde i en fremtid med AI.
Tiden er afgørende, og sikkerhedsteams skal gennemføre nedenstående tiltag i højeste gear. Nedenfor nævner jeg teknologi fra OpenAI, men økosystemet rummer også mange konkurrerende løsninger, som er værd at vurdere. Det afgørende er ikke så meget det konkrete værktøj, men at jeres sikkerhedsteams får effektiv AI i hænderne nu.
- Sørg for opbakning og engagement i hele organisationen. Sikkerhedsrisiciene ændrer sig hurtigt. Sørg for, at jeres sikkerheds- og udviklingsorganisationer har den nødvendige støtte, opbakning og de nødvendige ressourcer til hurtigt at håndtere dem. Gennemfør beredskabsøvelser med jeres teams for at simulere, hvordan angrebene kan ramme jeres organisationer, og hvordan I vil reagere.
- Giv jeres sikkerhedsteam en agent. Begynd at bruge Codex, Codex Security-pluginet(åbner i et nyt vindue) eller et andet effektivt værktøj til agentisk kodning og sikkerhed. Giv agenten godkendt adgang til de kodebaser, infrastrukturkonfigurationer og den tekniske dokumentation, som jeres sikkerhedsteam skal vurdere. Vent ikke på en udrulning i hele virksomheden, før I går i gang med jeres højest prioriterede systemer.
- Udstyr agenten med sikkerhedsekspertise. Tag udgangspunkt i fællesskabsunderstøttede færdigheder(åbner i et nyt vindue), som omfatter arbejdsgange til statisk analyse, sikkerhedsorienteret kodegennemgang, analyse af sårbarhedsvarianter, risici i softwareforsyningskæden og andre sikkerhedsopgaver. Byg derefter jeres egne færdigheder op omkring organisationens arkitektur, sikkerhedsstandarder, trusselsmodeller og handlingsplaner.
- Gennemfør straks sikkerhedsvurderinger af jeres egne systemer. Prioritér først vurderinger af internetvendte tjenester, godkendelsesforløb, infrastruktur som kode, implementeringspipelines og systemer, der håndterer følsomme oplysninger. Udvid jeres scanninger, efterhånden som teamet opbygger tillid til processen.
- Arbejd jer igennem jeres eksisterende efterslæb af sårbarheder. Giv jeres agent resultater fra kodescannere, afhængighedsadvarsler, sikkerhedssager, bug bounty-rapporter og tidligere vurderinger. Bed agenten om at triagere resultaterne, skelne problemer, der kan udnyttes, fra støj, finde relaterede sårbarheder andre steder i kodebasen og anbefale, hvad der bør løses først.
- Integrér sikkerhedsgennemgang direkte i udviklingsprocessen. Brug agenter til at gennemgå kodeændringer, før de flettes, og kør sikkerhedskontroller i CI. Se efter godkendelsesfejl, omgåelse af adgangskontrol, eksponerede loginoplysninger, usikre afhængigheder, usikre standardindstillinger, ændringer, der udvider adgangen til produktionssystemer, og andre sårbarheder.
- Lad agenten hjælpe med at rette det, den finder. Ved validerede problemer skal I bede agenten om at generere og verificere en målrettet rettelse, skrive en regressionstest og bekræfte, at sårbarheden ikke længere kan genskabes. Bevar menneskelig gennemgang af ændringer med væsentlige konsekvenser, men fjern unødig ventetid mellem identifikationen af et reelt problem og forelæggelsen af en sikker rettelse for en udvikler.
- Automatisér gradvist triageringen af registreringer. Begynd ikke med at forsøge at opbygge et autonomt sikkerhedsoperationscenter. Start med at køre en skrivebeskyttet sikkerhedsscanning af ét lager, eller lad en agent gennemgå tidligere løste advarsler med skrivebeskyttet adgang til jeres eksisterende logfiler. Lad agenten opsummere dokumentationen og anbefale en afgørelse, mens et menneske træffer alle beslutninger. Efterhånden som tilliden vokser, kan I gå videre til vejledende scanning af pull requests, derefter triagering af advarsler i realtid og til sidst automatisk lukning af snævert definerede falske positiver.
- Hav kapacitet til AI-assisteret retsmedicinsk efterforskning klar, før I får brug for den. Ansøg om Trusted Access for Cyber(åbner i et nyt vindue), og få jeres team godkendt til at bruge GPT‑Daybreak‑Blue til autoriseret forsvarsarbejde, herunder hændelseshåndtering, udvikling af registreringsmekanismer og malwareanalyse. Øv jer i at bruge denne kapacitet til at analysere logfiler, telemetri og sikkerhedsadvarsler.
- Eksperimentér, afhold hack-uger, og gentag hurtigt. Vi bliver nødt til at udvikle alle mulige nye værktøjer, ændre vores arbejdsmetoder og løfte alles kompetencer til den verden, vi bevæger os ind i. Tilskynd medarbejderne til at eksperimentere, planlæg en hack-uge for at udvikle nye kapaciteter, og fokusér på hurtigt at forbedre processer, der automatiserer små dele af problemet. Hurtige, trinvise fremskridt giver en selvforstærkende effekt på forsvaret, og I kan gradvist udvide autonomien, efterhånden som teamets tillid vokser.
Ingen virksomhed kan gøre det alene. Vi opfordrer AI-laboratorier, sikkerhedsleverandører, virksomheder og vedligeholdere til at dele validerede resultater, rettelser og praktiske handlingsplaner, så én organisations opdagelse kan styrke hele økosystemet.
Forsvarernes mulighedsvindue er åbent nu. I de kommende måneder skal alle organisationer begynde at automatisere deres sikkerhedsprogram markant for fortsat at være sikre, og sikkerhedsfællesskabet skal hurtigst muligt definere de værktøjer, metoder og handlingsplaner, der i takt med AI's udvikling øger sikkerhedsteamenes styrke hurtigere end angribernes. Det vil kræve en enorm og hidtil uset indsats, men hvis vi står sammen, kan vi skabe en sikrere verden, end vi hidtil har kunnet forestille os.
