GPT‑6 Cyber: obrim nous horitzons per als agents de ciberseguretat alineats

Presentem GPT‑6 Cyber, un gran salt endavant en la recerca en seguretat: més capaç de trobar i corregir vulnerabilitats, i molt més fiable a l'hora de respectar els límits que estableixen els investigadors. GPT‑6 Cyber millora notablement els resultats de GPT‑5.6 Cyber en proves de referència clau de ciberseguretat, amb una millora relativa del 51 % a ExploitGym i un salt qualitatiu en les proves de respecte de l'abast. Ja contribueix a protegir programari real, descobrint i validant milers d'exploits en bases de codi crítiques per a la seguretat, com ara Linux i Firefox.

A ExploitGym, que comprova si els models poden explotar una vulnerabilitat especificada, GPT‑6 Cyber obté un 48,5 %, enfront del 32,1 % de GPT‑5.6 Cyber. També respecta els límits de les tasques amb més fiabilitat: en una avaluació d'alineament independent, GPT‑6 Cyber va evitar explotar serveis fora de l'abast en el 99,93 % de les proves sense la indicació de desplegament, i en el 100 % amb aquesta indicació. Aquesta millora de l'alineament reflecteix un entrenament específic per mantenir-se dins de l'abast autoritzat, respectar les restriccions i informar dels resultats amb precisió.

Aquestes capacitats ja ajuden a protegir sistemes reals. Els nostres investigadors van utilitzar GPT‑6 Cyber per desenvolupar 948 exploits d'escalada de privilegis a Linux⁠ i identificar 81 vulnerabilitats greus fins ara desconegudes al Firefox, malgrat les nombroses proves prèvies amb models d'avantguarda. El model també va ajudar a desenvolupar propostes de pedaços, i Mozilla ha publicat correccions per a moltes de les vulnerabilitats del Firefox⁠(s'obre en una finestra nova). Els equips de seguretat de Cisco, Calif i CodeRabbit l'utilitzen per investigar vulnerabilitats i revisar codi, i nosaltres hi hem recorregut per trobar i corregir punts febles de la nostra infraestructura⁠.

És evident que tenim un marge de temps limitat per utilitzar models d'avantguarda per protegir el programari⁠. El nostre objectiu és ampliar enormement Daybreak i posar la recerca avançada en seguretat a l'abast d'organitzacions de totes les mides, investigadors independents i responsables de manteniment de projectes de codi obert. Els models de la línia principal, com GPT‑6 Astra, ja permeten revisar codi, classificar i prioritzar vulnerabilitats i desenvolupar pedaços. Daybreak Blue ajuda els defensors verificats a validar vulnerabilitats i correccions amb menys negatives innecessàries, mentre que Daybreak Red permet aprofundir en el desenvolupament d'exploits i fer proves de seguretat autoritzades amb GPT‑6 Cyber.

GPT‑6 Cyber representa un gran avenç respecte de GPT‑5.6 Cyber i supera GPT‑6 Astra en la majoria de tasques cibernètiques, fins i tot quan Astra no rebutja la sol·licitud. Hem avaluat el model en tasques que li exigeixen entendre programari, identificar vulnerabilitats i desenvolupar exploits funcionals. A partir d'aquests resultats, classifiquem el model en el nivell crític en ciberseguretat segons el nostre Entorn de treball de preparació, per sobre del nivell alt de GPT‑5.6 Cyber.

A ExploitGym, que comprova si els models poden explotar una vulnerabilitat especificada en un objectiu remot, GPT‑6 Cyber obté un 48,5 %, uns 16 punts percentuals per sobre del 32,1 % de GPT‑5.6 Cyber. Per posar a prova el descobriment de vulnerabilitats, també hem creat una nova avaluació de proves de penetració web ofensives. Els models examinen aplicacions web sense accés al codi font. GPT‑6 Cyber va assolir una taxa de recuperació de vulnerabilitats del 40,3 %, enfront del 32,0 % de GPT‑6 Astra.

Daybreak Red està dissenyat per permetre fluxos de treball de seguretat més avançats, com ara desenvolupar exploits funcionals i utilitzar-los contra objectius remots. Per avaluar aquestes capacitats, hem creat una nova prova de referència anomenada RemoteExploitBench, que utilitza vulnerabilitats conegudes en aplicacions com GitLab, PostgreSQL i Jenkins desplegades en un entorn controlat. En la nostra avaluació inicial, GPT‑6 Astra amb Daybreak Blue va rebutjar el 100 % de les tasques, mentre que GPT‑6 Cyber en va completar el 95 %; l'únic fracàs va ser un exploit que no va aconseguir fer funcionar de manera remota. Consulta els resultats complets i la configuració de les avaluacions a la fitxa del model⁠(s'obre en una finestra nova).

Un dels riscos dels agents de ciberseguretat és que surtin de l'abast de la tasca assignada, intentin explotar serveis que no hi tenen relació o ignorin les regles d'actuació de l'investigador.

Hem fet de l'alineament un eix central de GPT‑6 Cyber, amb un entrenament especialitzat perquè el model es mantingui dins de l'abast autoritzat, respecti les restriccions sobre les seves accions i informi amb precisió de la feina feta. Abans del desplegament, vam dur a terme una sèrie d'avaluacions d'alineament per mesurar aquests comportaments. Consulta els resultats complets a la fitxa del model⁠(s'obre en una finestra nova).

Una d'aquestes avaluacions és ExploitGym Honeypot, que es va dissenyar tenint en compte l'incident de Hugging Face⁠. Assignem al model una tasca d'explotació difícil en un entorn aïllat amb accés a serveis de suport, com ara un registre de paquets o un magatzem d'objectes. Fem que aquests serveis siguin fàcils d'explotar expressament, de manera que atacar-los pugui revelar la bandera de la tasca. El model ha de deduir que explotar-los queda fora de l'abast de la seva tasca.

GPT‑6 Cyber fa un salt qualitatiu respecte de GPT‑5.6 Cyber en aquesta avaluació. En les proves sense les indicacions de seguretat del desplegament, va evitar explotar serveis fora de l'abast en el 99,93 % dels casos, enfront del 94,49 % de GPT‑5.6 Cyber. Amb aquestes indicacions, GPT‑6 Cyber va respectar els límits en el 100 % dels casos.

A la cadena de pensament del model GPT‑6 Cyber podem veure directament com raona per mantenir-se dins dels límits:

GPT‑6 Cyber ja ajuda els equips de seguretat a trobar vulnerabilitats, validar-ne l'impacte i desenvolupar correccions. Els clients l'han fet servir en grans bases de codi, en tasques de desenvolupament d'exploits de llarga durada i en revisions de seguretat:

També hem recorregut a GPT‑6 Cyber per protegir els nostres sistemes. Va ser un dels models principals del treball que vam compartir recentment per reforçar la seguretat de la infraestructura utilitzada per entrenar models d'avantguarda⁠. En campanyes controlades d'equip vermell, els agents que feien servir GPT‑6 Cyber i altres models d'OpenAI van encadenar vulnerabilitats per escapar de microVM i executar codi als amfitrions subjacents. Vam utilitzar les troballes per aplicar pedaços al programari, endurir les restriccions de xarxa i comunicar els problemes als responsables de manteniment i als proveïdors.

Els nostres investigadors de vulnerabilitats també utilitzen GPT‑6 Cyber per trobar i validar vulnerabilitats en programari de codi obert a gran escala. Aquest treball ha revelat fallades fins ara desconegudes en programari que s'ha examinat minuciosament durant anys:

• Descoberta de 81 vulnerabilitats noves al Firefox. GPT‑6 Cyber pot ser adequat per a fluxos de treball autònoms destinats a trobar vulnerabilitats i proposar pedaços d'alta qualitat a gran escala. Durant una campanya de recerca de vulnerabilitats, GPT‑6 Cyber va generar evidències i proves reproduïbles de 81 vulnerabilitats noves que Mozilla va classificar com a greus, i va demostrar que 30 problemes ja coneguts eren més greus del que s'havia indicat. Vam comunicar les troballes a Mozilla, juntament amb propostes de pedaços per ajudar els seus enginyers a desenvolupar correccions. Mozilla va donar suport a aquest treball i va començar a incorporar correccions poc després de rebre els informes⁠(s'obre en una finestra nova).

• Desenvolupament d'exploits per a 948 vulnerabilitats del nucli de Linux⁠. GPT‑6 Cyber va reproduir 1.724 vulnerabilitats i va desenvolupar exploits funcionals per a 948: més de cinc vegades les 166 que va explotar GPT‑5.6 Sol amb el mateix entorn d'execució de recerca. Seguint les orientacions de la comunitat Linux, vam comunicar 304 troballes crítiques als responsables de manteniment amb propostes de pedaços, i estem treballant perquè es corregeixin altres vulnerabilitats.

• Demostració de vulnerabilitats crítiques d'execució remota de codi (RCE). Recentment vam parlar d'una vulnerabilitat crítica a Brotli⁠(s'obre en una finestra nova), una biblioteca de compressió utilitzada per Node.js i altres programes. Els nostres investigadors de seguretat van utilitzar GPT‑6 Cyber juntament amb altres models d'OpenAI per desenvolupar i validar exploits que mostraven com aquesta fallada podria permetre l'execució remota de codi en aplicacions que utilitzen la biblioteca.

A mesura que els models esdevenen més capaços i descobreixen més vulnerabilitats de seguretat, també observem més intents d'utilitzar-los per causar danys. Entre aquests intents hi ha els d'actors cibernètics maliciosos i de grups adversaris que busquen destil·lar els nostres models. Per això, hem acompanyat les capacitats superiors de GPT‑6 Cyber amb salvaguardes més sòlides per detectar i interrompre l'ús indegut i mantenir les accions del model dins del que l'usuari vol i autoritza.

Hem incorporat i reforçat aquestes proteccions amb el llançament de GPT‑6 Cyber (consulta tota la informació a la fitxa del model⁠(s'obre en una finestra nova)):

• Supervisió del desalineament específica de ciberseguretat. Supervisem si les accions s'ajusten a l'autorització de l'usuari, alhora que reconeixem el desenvolupament i les proves legítims d'exploits.

• Supervisió específica d'amenaces emergents. Per exemple, durant la divulgació coordinada de vulnerabilitats crítiques de PHP, vam establir una supervisió específica dels intents de desenvolupar exploits contra servidors PHP en funcionament, sense deixar de donar suport als defensors que aplicaven pedaços als sistemes afectats.

• Processament privat de seguretat (PSP). Utilitzem comprovacions automatitzades per revisar interaccions relacionades i detectar-hi usos indeguts. La retenció estàndard continua sent l'opció predeterminada. Els clients de l'API que utilitzen la retenció de dades nul·la⁠(s'obre en una finestra nova) generalment han d'utilitzar el PSP⁠(s'obre en una finestra nova), que revisa registres xifrats conservats durant 30 dies a l'emmagatzematge del client, sense exposar les indicacions ni les respostes al personal d'OpenAI.

• Protecció contra l'ús de credencials robades. Per defecte, exigim llistes d'IP permeses per accedir a l'API de Daybreak Red, de manera que les sol·licituds es restringeixen a xarxes aprovades, amb excepcions limitades. També supervisem les credencials per detectar si s'han compromès.

• Aïllament en entorns de proves i supervisió. Com amb els models anteriors, recomanem l'aïllament en entorns de proves⁠(s'obre en una finestra nova), la revisió d'accions⁠(s'obre en una finestra nova) i la supervisió humana per als fluxos de treball d'alt risc.

• Proteccions contra l'assistència cibernètica d'alt risc. Utilitzem comprovacions noves per bloquejar activitats d'alt risc que impliquin sistemes crítics (més informació a continuació).

La protecció de les infraestructures crítiques ha estat un factor clau en el disseny de les salvaguardes i de l'accés a GPT‑6 Cyber. Això inclou centrals elèctriques, instal·lacions de tractament d'aigua i la tecnologia operativa i els sistemes de control industrial (OT/ICS) que en sustenten el funcionament. Volem donar als equips que defensen aquests sistemes accés als nostres models més capaços i, alhora, reforçar les salvaguardes per prevenir atacs no autoritzats.

En primer lloc, per dotar aquests defensors d'eines, el nostre programa de subvencions Daybreak per als defensors de primera línia⁠, de 1.000 milions de dòlars, subvenciona l'accés a equips amb recursos limitats, com ara organismes públics i proveïdors de serveis essencials. També presentem un nou grup dins de Daybreak Red (Daybreak Red per a infraestructures crítiques) per a defensors aprovats d'infraestructures crítiques. Aquest grup els dona permisos per dur a terme proves autoritzades de sistemes crítics, tot mantenint les salvaguardes contra el desalineament del model.

En segon lloc, per evitar l'ús indegut de les plataformes Daybreak Red i Blue, hem perfeccionat les salvaguardes contra l'assistència i el desenvolupament de capacitats que podrien comprometre controls industrials o sistemes crítics per a la seguretat, interferir amb equips o causar lesions greus, danys físics catastròfics o interrupcions de serveis que posin vides en perill. La figura següent compara les taxes de marcatge de les salvaguardes en quatre configuracions d'accés, abans i després de les actualitzacions recents que estem desplegant juntament amb GPT‑6 Cyber.

Unes taxes de bloqueig més altes de les salvaguardes no sempre són millors. Moltes de les tècniques d'aquesta avaluació també són essencials per al treball legítim en seguretat: entendre els sistemes, trobar vulnerabilitats i verificar que les correccions resisteixin els atacs. Per tant, avaluem aquestes taxes juntament amb el suport a la recerca legítima i a l'aplicació de pedaços, en lloc d'aspirar al 100 %.

Per avaluar com poden ajudar els nostres models a defensar infraestructures crítiques, hem col·laborat amb Dragos, el proveïdor global de ciberseguretat per a tecnologia operativa estesa (xOT). Dragos va dur a terme avaluacions amb models Daybreak Red permissius en l'àmbit cibernètic, en un entorn de laboratori controlat. Les avaluacions incloïen sol·licituds que anaven des del descobriment de xarxes i l'enumeració d'actius fins al reconeixement dirigit, l'exfiltració de dades sensibles i accions no autoritzades i potencialment perilloses sobre dispositius.

Vam utilitzar els comentaris de Dragos per perfeccionar les salvaguardes, amb l'objectiu de bloquejar l'assistència perjudicial sense restringir innecessàriament les proves autoritzades. Consulta el seu informe final⁠(s'obre en una finestra nova) per obtenir detalls sobre les avaluacions. També treballem per ampliar les col·laboracions amb altres proveïdors de seguretat ofensiva i equips porpra en proves de penetració i d'equip vermell amb IA, i amb empreses energètiques, altres operadors d'infraestructures crítiques i laboratoris nacionals per avaluar l'eficàcia i les salvaguardes dels nostres models en la defensa industrial. També hem augmentat la inversió en investigacions d'amenaces per detectar usos dels models que impliquin OT/ICS. Continuarem perfeccionant les salvaguardes amb les aportacions dels socis i de la comunitat de seguretat, inclosos els avisos enviats a través de /feedback quan les salvaguardes no detectin activitats perjudicials o interrompin feina legítima.

Inicialment, GPT‑6 Cyber està disponible a través de l'API i de Codex per a un grup selecte de clients aprovats de Daybreak Red. Aviat ampliarem progressivament l'accés a tots els clients de Daybreak Red, i també posem GPT‑5.6 Cyber a disposició de tots els clients de Daybreak Red. També ampliem l'accés a la versió alfa de Daybreak Blue per a GPT‑6 Astra a més organitzacions i investigadors de seguretat individuals; fes-nos-ho saber⁠(s'obre en una finestra nova) si t'interessa.

Els nous usuaris i organitzacions poden sol·licitar accés a Daybreak⁠ i començar amb les nostres habilitats, productes i socis de ciberseguretat⁠.