OpenAI un Hugging Face sadarbojas, lai risinātu drošības incidentu modeļa izvērtēšanas laikā

Atjauninājums 2026. gada 28. jūlijā:

• Neviens no modeļiem, kuru izlaišana plānota tuvākajā laikā, nebija iesaistīts Hugging Face sistēmu uzlaušanā. Mūsu bloga ierakstā minētais pirmsizlaides modelis ir tikai iekšējai pētniecībai paredzēts prototips un nekad nav bijis paredzēts publiskai izlaišanai. Pēc incidenta modeli deaktivizējām un šifrējām, kā arī liedzām pētniekiem tam piekļūt.
• ExploitGym novērtēšanas vide nesniedza modeļiem tiešu piekļuvi Internetam. Lai iegūtu piekļuvi Internetam, modeļi identificēja un izmantoja iepriekš nezināmu nulles dienas ievainojamību sistēmā Artifactory⁠(atveras jaunā logā), pakotņu reģistra kešatmiņas starpniekserverī. Mēs informējām piegādātāju par šo ievainojamību, kā arī par citām Artifactory ievainojamībām, ko mūsu modeļi atklāja izvērtēšanas gaitā. 
• Izvērtēšanas gaitā turpinām sadarboties ar Hugging Face, tostarp iesaistāmies incidenta pēcanalīzes⁠(atveras jaunā logā) sagatavošanā. Esam arī iekļāvuši Hugging Face savā programmā Trusted Access for Cyber. 
• Balstoties uz līdzšinējo izvērtējumu, neesam konstatējuši nevienu citu darbību, kas smaguma vai mēroga ziņā līdzinātos mūsu aprakstītajam Hugging Face incidentam, kurā notika platformas līmeņa drošības pārkāpums.
• Turpinot izvērtēt Hugging Face ielaušanās incidentu un savu modeļu darbību plašākā mērogā, esam konstatējuši dažus gadījumus, kuros modeļi citos publiski pieejamos pakalpojumos atrada un izmantoja publiski pieejamus konta līmeņa akreditācijas datus. Hugging Face incidentā bija iesaistīti četri konti četros pakalpojumos (un vēl dažiem kontiem tika piekļūts citu izvērtējumu laikā). Viens no šiem četriem kontiem tika izmantots izejošās datplūsmas pārsūtīšanai un kā starpposma maršruts, bet vēl viens – datu glabāšanai. Pārējiem diviem kontiem modeļi piekļuva tikai lasīšanas režīmā, un tie netika izmantoti, lai apdraudētu Hugging Face. Mēs turpināsim tieši informēt pakalpojumu īpašniekus, un nekas neliecina par plašāku ietekmi uz šiem pakalpojumu sniedzējiem vai citiem kontiem to pakalpojumos.
• Modeļi izmantoja arī virkni publiski pieejamu pakalpojumu, tostarp koda fragmentu kopīgošanas vietnes, pieprasījumu tveršanas un ekrānuzņēmumu pakalpojumus, kā arī citus tīmekļa rīkus. Šajos gadījumos platformas vai konta līmeņa drošības pārkāpšana nenotika. 
• Mēs nopietni uztveram savu atbildību identificēt riskus, ko rada arvien spējīgākas mākslīgā intelekta sistēmas, un tiem sagatavoties. Kad būsim pabeiguši izvērtēšanu, tās rezultātus atbilstoši savam Sagatavotības satvaram⁠ izskatīsim kopā ar Drošuma un drošības komiteju un Drošuma konsultatīvo grupu.

Pagājušajā nēdēļā Hugging Face atklāja jauna veida drošības incidentu⁠(atveras jaunā logā) pēc tam, kad konstatēja un ierobežoja MI aģentu, kas kompromitēja viņu infrastruktūru. Mēs paredzam, ka, izplatoties modeļiem ar arvien lielākām kiberspējām, šādi gadījumi kļūs ierastāki. Pēc izmeklēšanas zinām, ka šo konkrēto incidentu izraisīja OpenAI modeļu kombinācija — tostarp GPT‑5.6 Sol un vēl spējīgāks pirmsizlaides modelis, kuriem izvērtēšanas nolūkos bija samazināts atteikumu skaits kiberjautājumos — kad tie tika iekšēji testēti ar kiberspēju etalonuzdevumu⁠(atveras jaunā logā).

Mēs uzskatām šo par bezprecedenta kiberincidentu, kurā iesaistītas vismodernākās kiberspējas, un attiecīgi reaģējam. Šajā posmā dalāmies ar sākotnējiem secinājumiem, lai palīdzētu aizstāvjiem saprast notikušo un kalibrēt priekšstatu par to, ko modeļi tagad spēj. Mēs turpināsim rūpīgu izmeklēšanu kopā ar Hugging Face un dalīsimies plašākā informācijā par ievainojamībām, incidentu un secinājumiem, kad izmeklēšana būs pabeigta.

Šis incidents notika iekšējas izvērtēšanas laikā, kurā modeļiem lika īstenot progresīvu ekspluatāciju, izmantojot sarežģītus uzbrukuma ceļus, lai kvantitatīvi novērtētu to kiberspējas. Mēs aplēšam maksimālās kiberspējas, veicot šo izvērtēšanu bez ražošanas vidē izmantotajiem klasifikatoriem, ko izmanto, lai nepieļautu, ka modeļi īsteno augsta riska kiberaktivitātes. Mūsu etalonuzdevumi darbojas ļoti izolētā vidē, kur piekļuve tīklam ir ierobežota līdz iespējai instalēt pakotnes caur iekšēji mitinātu trešās puses programmatūru, kas darbojas kā pakotņu reģistru starpniekserveris un kešatmiņa.

Modeļi identificēja un savienoja ķēdē ievainojamības OpenAI pētniecības vidē un Hugging Face produkcijas infrastruktūrā, lai iegūtu testa risinājumus tieši no Hugging Face produkcijas datubāzes. Visi pierādījumi liecina, ka modeļi bija ārkārtīgi koncentrējušies uz ExploitGym risinājuma atrašanu un bija gatavi spert galējus soļus, lai sasniegtu diezgan šauru testēšanas mērķi.

Strādājot mūsu smilškastes testēšanas vidē, mūsu modeļi iztērēja ievērojamu inferenču skaitļošanas apjomu, meklējot veidu, kā iegūt atvērtu piekļuvi internetam, lai atrisinātu izvērtēšanas uzdevumu. Lai iegūtu piekļuvi, modeļi identificēja un izmantoja sākotnējās dienas ievainojamību (ko tagad esam atbildīgi atklājuši piegādātājam) pakotņu reģistra kešatmiņas starpniekserverī. Izmantojot šo piekļuvi, mūsu modeļi mūsu pētniecības testēšanas vidē veica virkni privilēģiju paaugstināšanas un laterālās pārvietošanās darbību, līdz sasniedza mezglu ar piekļuvi internetam.

Pēc piekļuves internetam, iegūšanas modeļi secināja, ka Hugging Face, iespējams, mitina modeļus, datu kopas un ExploitGym risinājumus. To ņemot vērā, modelis meklēja un veiksmīgi atrada veidus, kā piekļūt slepenai informācijai, ko tas varētu izmantot, lai krāptos izvērtēšanā. Vienā piemērā modelis savienoja vairākus uzbrukuma vektorus, tostarp izmantoja nozagtus akreditācijas datus un nulles dienas ievainojamības, lai atrastu attālinātas koda izpildes ceļu Hugging Face serveros. OpenAI drošības komanda šo anomālo aktivitāti atklāja iekšēji.

Hugging Face drošības komanda un aģenti konstatēja un apturēja aktivitāti savā infrastruktūrā un, kad mūsu komandas sazinājās, jau bija sākuši ierobežošanu un kriminālistisko rekonstrukciju ar saviem atvērtā pirmkoda modeļiem. Mēs ar tiem aktīvi sadarbojamies, lai turpinātu incidenta izmeklēšanu. Esam pateicīgi Hugging Face par ātro un ciešo sadarbību izmeklēšanā un novēršanā.

1. Izmeklēšanas ietvaros mēs ieviešam ļoti stingras kontroles infrastruktūras konfigurācijā, palēninot pētniecības tempu, kamēr ievainojamības tiek novērstas. Mēs regulāri informējam mūsu Drošuma un drošības komiteju par šīm kontrolēm un to ietekmi.
2. Mēs sadarbojamies ar Hugging Face, lai veiktu incidenta kriminālistisko izmeklēšanu.
3. Mēs esam atbildīgi atklājuši identificēto sākotnējās dienas ievainojamību iekšēji mitinātajā trešās puses programmatūrā un sadarbojamies ar viņiem, lai to novērstu.
4. Esam iekļāvuši Hugging Face uzticamās piekļuves⁠ programmā un atbalstām tā komandas, lai tās ātri izmantotu mūsu modeļu spējas savas aizsardzības uzlabošanai.
5. Mēs uzlabojam un ieviešam spēcīgākus aizsardzības pasākumus turpmākajai apmācībai un izvērtēšanai. Šonedēļ publicējām bloga ierakstu par drošuma un salāgošanas uzlabošanu ilga laika horizonta modeļu laikmetā⁠. Šie izvietošanas aizsargpasākumi šajā izvērtēšanā apzināti netika iespējoti, jo tās mērķis bija pārbaudīt kiberievainojamības. Šis incidents norāda, ka vēl vairāk jāstiprina mūsu modeļa salāgošana, kiberaizsardzība izvērtēšanas laikā un uzraudzība iekšējās testēšanas laikā.

Kā nesen⁠ ziņojām, MI paātrina ievainojamību atklāšanu un izmantošanu. Galvenā mācība no šī incidenta ir tā, ka modeļu drošībai un drošumam jāattīstās līdzi strauji augošajām spējām. Mēs stiprinām ierobežošanas, uzraudzības, piekļuves kontroles un izvērtēšanas prakses, ko izmanto modeļu izstrādes laikā.

UK AISI izvērtējums rāda, ka tādi modeļi kā GPT‑5.6 Sol arvien labāk spēj ilgstoši uzturēt sarežģītas, daudzsoļu kiberoperācijas ilgos laika horizontos. Šis incidents liecina, ka šīs teorētiskās spējas ir piemērojamas arī reālās situācijās.

Incidents arī skaidri parāda, ka progresīvi modeļi var atklāt un izmantot jaunus uzbrukuma ceļus reālās sistēmās bez piekļuves pirmkodam. Tas uzsver, ka progresīvas kiberspējas jāattīsta kopā ar spēcīgākiem aizsargpasākumiem un aizsardzības rīkiem.

Mēs uzskatām, ka modeļiem ar progresīvām kiberspējām jāpalīdz drošības komandām atrast vājās vietas pirms uzbrucējiem, saprast, kā ievainojamības var savienot ķēdē, un novērst tās mašīnas ātrumā. Mēs izmantojam šīs spējas, lai turpinātu stiprināt aizsardzību ap infrastruktūras konfigurāciju un modeļu izvērtēšanas vidēm; mācoties dalīsimies ar secinājumiem un labāko praksi. Aicinām arī citus aizstāvjus pieteikties uzticamajai piekļuvei⁠ un jau tagad eksperimentēt ar šiem modeļiem, lai pārvērstu šīs spējas labākā novēršanā, ātrākā atklāšanā un efektīvākā reaģēšanā uz incidentiem.