Vores svar på næste bølge af kritiske cyberkapaciteter

Cybersikkerhed forandrer sig hurtigt, efterhånden som modeller bliver mere avancerede på måder, der både kan styrke cyberforsvaret og muliggøre angreb med hidtil uset hastighed og i hidtil uset omfang.

Vores seneste interne evalueringer af Astra, en af vores kommende modeller, gennem de seneste dage viser markante fremskridt inden for agentisk kodning og cybersikkerhed. Disse resultater og ekspertvurderinger fik os i aftes til at konkludere, at vi ikke kan udelukke kritiske cyberkapaciteter i henhold til vores Preparedness Framework⁠(åbner i et nyt vindue).

Vi deler dette, fordi vi mener, at det er vigtigt at være åbne over for offentligheden og miljøerne for sikkerhed og cybersikkerhed om denne mulige ændring i kapaciteter.

Vi offentliggjorde vores Preparedness Framework første gang i december 2023, længe før modeller nærmede sig kapaciteter på dette niveau inden for biologi, kemi, cybersikkerhed og AI-selvforbedring. Vi udarbejdede det som en vejledning til at identificere fremskridt i kapaciteterne og derefter planlægge, hvad vores virksomhed skulle gøre, efterhånden som de opstår. Tidligere modeller, herunder GPT‑5.6‑Sol, er blevet evalueret for banebrydende cyberkapaciteter og vurderet til tærsklen Høj (frem for Kritisk).

I henhold til vores Preparedness Framework når en model den kritiske tærskel for cybersikkerhed, hvis den uden menneskelig indgriben kan identificere og udvikle fungerende zero-day-udnyttelser på alle alvorlighedsniveauer i mange sikrede, kritiske systemer fra den virkelige verden, eller hvis den kan udtænke og gennemføre helt nye, sammenhængende strategier for cyberangreb mod sikrede mål alene ud fra et overordnet ønsket mål. 

Mens vi fortsat benchmarker og vurderer denne model, viser vores foreløbige evalueringer en så stærk præstation, at vi på nuværende tidspunkt ikke kan udelukke et kritisk kapacitetsniveau. Astra er en kommende model og var ikke involveret i udnyttelsen af sårbarheder hos Hugging Face. 

Derfor har vi opskaleret robusthedstesten af vores sikkerhedsforanstaltninger og -kontroller, så de er egnede til implementering af disse kapaciteter. Internt har vi også taget følgende skridt for at sikre, at den videre udvikling af denne model sker forsvarligt og sikkert: 

• Vi indfører strengere sikkerhedskontroller for modeller med større kapacitet og tilknyttede aktiviteter, herunder isolerede testmiljøer, begrænset netværks- og værktøjsadgang, forbedret beskyttelse og kryptering af modelvægte, yderligere overvågnings- og detektionsfunktioner samt kørsel i sandkassemiljøer.
• Vi sætter interne aktiviteter med Astra på pause, hvis de endnu ikke opfylder disse skærpede krav til sikkerhedskontrol.
• Vi har indført generel overvågning af risikable handlinger og manglende tilpasning i alle agentiske anvendelser af Astra, herunder træning og evaluering. Overvågningssystemer vurderer modellens ræsonnementskæde og udløser en sikkerhedsreaktion, så højrisikoaktiviteter kan gennemgås og afbrydes.
• Vi vil samarbejde med relevante myndigheder og udvalgte organisationer for AI-sikkerhed om at teste denne models kapaciteter.
• Vi vil give eksterne testpartnere anbefalinger til sikkerhedskontroller, så evalueringer og arbejdsbelastninger med højere risiko kan gennemføres sikkert. 

Rammeværket har allerede hjulpet os gennem andre overgange til nye kapacitetsniveauer. Da vores modeller i juni 2025 nærmede sig den høje kapacitetstærskel for biologi i henhold til Preparedness Framework, beskrev vi de tiltag, vi iværksatte for at styrke sikkerhedsforanstaltningerne, udvide testningen, samarbejde med eksterne eksperter og indføre yderligere sikkerhedskontroller. Vi følger det samme princip her.

Vi mener, at avancerede modeller med cyberkapaciteter bør hjælpe forsvarere med at identificere og afhjælpe sårbarheder, før angribere udnytter dem. Vi er fast besluttede på at samarbejde med regeringer, sikkerhedsinstitutter og civilsamfundet for at sikre, at de banebrydende kapaciteter i modeller som Astra og efterfølgende modeller implementeres ansvarligt og bredt til gavn for hele menneskeheden.