L'incidente OpenAI-Hugging Face(si apre in una nuova finestra) ha segnato una svolta per la cybersicurezza, perché ha offerto un'anticipazione di come si evolveranno nei prossimi mesi le capacità di un tipico autore di minacce. Nelle ultime settimane ho parlato con molte organizzazioni ed è emerso un tema chiaro: sanno di dover migliorare radicalmente le proprie pratiche di cybersicurezza a una velocità senza precedenti. In questo articolo illustrerò cosa stiamo facendo per difendere OpenAI, quali misure concrete possono adottare oggi le altre organizzazioni e perché è arrivato il momento di agire.
I modelli di IA sviluppati in tutto il mondo sono sempre più capaci di automatizzare parti di attacchi informatici reali, rendendo più facile individuare e sfruttare lacune di sicurezza di vecchia data, dai bug nascosti in profondità nel software scritto da persone alle autorizzazioni dimenticate. Le stesse capacità dell'IA offrono a chi difende nuovi modi per individuare e correggere queste debolezze, ma occorre agire subito. Se le aziende agiranno con decisione, anche rafforzando i fondamentali e potenziando i propri team con l'IA, potremo rendere Internet più sicuro che mai.
Nell'incidente OpenAI-Hugging Face, un collettivo di agenti è riuscito a penetrare autonomamente non solo nell'infrastruttura di ricerca di OpenAI, ma anche nell'infrastruttura di produzione di un'altra azienda, concatenando vulnerabilità che spaziavano da falle di sicurezza fino ad allora sconosciute all'uso delle credenziali di account utente trapelate su Internet. È sempre più evidente che il debito tecnico(si apre in una nuova finestra) di ogni azienda nasconde falle significative, che chi difende deve trovare e correggere prima degli aggressori.
Per favorire chi difende rispetto agli aggressori, all'inizio di quest'anno abbiamo iniziato a rendere disponibili le nostre capacità informatiche soltanto a difensori fidati. Da allora, diverse aziende hanno rilasciato modelli open weight con capacità informatiche distanti solo pochi mesi dalla frontiera. Il più recente di questi modelli sembra destinato a essere rilasciato(si apre in una nuova finestra) alla fine di agosto e probabilmente accelererà in modo significativo l'evoluzione del panorama delle minacce.
Se presto gli aggressori potenziati dall'IA riusciranno a trovare falle di vecchia data in molti sistemi esistenti, l'IA renderà anche molto più facile per chi difende individuare, stabilire le priorità e correggere quelle stesse falle. La sicurezza è ancora un gioco del gatto col topo, ma l'IA potrebbe cambiarne gli equilibri economici(si apre in una nuova finestra) in modi che favoriscono radicalmente chi difende. Per esempio, stiamo iniziando ad addestrare i nostri modelli specificamente per scrivere codice con un livello di sicurezza sovrumano. I nostri modelli sono straordinari anche nelle dimostrazioni matematiche, che possono essere applicate per verificare formalmente la sicurezza del software in un modo che si è dimostrato impraticabile per gli esseri umani.
Dopo l'incidente OpenAI-Hugging Face, ho chiesto a ChatGPT Work, usando GPT‑5.6 Sol disponibile pubblicamente, di valutare la sicurezza di gregbrockman.com(si apre in una nuova finestra). È un semplice sito statico, ospitato su AWS con Cloudflare come punto di accesso, quindi pensavo che la superficie esposta alle vulnerabilità fosse ridotta.
In circa 15 minuti ha scoperto 13 problemi, molti dei quali probabilmente non sono sfruttabili da soli, ma che avrebbero potuto avere effetti significativi se concatenati con altre vulnerabilità. Non avevo configurato i record DNS in modo da impedire agli aggressori di falsificare email a mio nome; il mio sito usava una versione non sicura di jQuery; Cloudflare inoltrava le richieste ad AWS tramite HTTP non crittografato.
Ho quindi chiesto a ChatGPT Work di correggere questi problemi, cosa che ha fatto nel giro di un'ora. Ha aperto nel browser il pannello di controllo di Cloudflare e ha fatto clic su numerosi pulsanti per configurare correttamente DNS, TLS e le impostazioni di sicurezza avanzate; ha eliminato completamente jQuery dal sito; ha trasferito il sito da AWS a Cloudflare Pages; ha avviato un'implementazione graduale di DMARC(si apre in una nuova finestra).
E si trattava soltanto del mio sito personale. È un piccolo esempio di come i nostri modelli attuali possano fungere da custodi della sicurezza informatica: individuano la lunga coda di problemi che una persona non avrebbe il tempo o le competenze per affrontare (conosco vagamente molte delle impostazioni corrette, ma non saprei configurarle nel modo giusto senza fare ricerche) e poi li risolvono con un piano di implementazione opportunamente calibrato.
L'incidente Hugging Face ha dimostrato che avevamo sottovalutato le capacità informatiche dei nostri modelli di IA nel mondo reale. Stiamo quindi rafforzando i nostri requisiti di sicurezza, il che rende ancora più urgenti le attività già in corso nella ricerca sulla sicurezza e nella protezione interna.
Condivido alcuni aspetti del nostro attuale approccio alla protezione di OpenAI, nella speranza che possano essere utili ad altre organizzazioni. Per proteggere OpenAI, stiamo investendo molto sia nei controlli fondamentali, facendo bene le cose essenziali, sia nel potenziamento delle nostre difese tramite l'IA di frontiera. Questa strategia si basa su quattro pilastri principali.
Innanzitutto, usiamo i nostri modelli per contribuire a proteggere il nostro codice. Codex, incluso il nostro plugin di sicurezza, convalida le modifiche al codice, individua le vulnerabilità e aiuta gli sviluppatori a risolvere i problemi prima della distribuzione. Produrre semplicemente più segnalazioni di sicurezza da sottoporre alla convalida umana sarebbe controproducente; l'obiettivo è individuare le vulnerabilità reali prima del rilascio e abbreviare il percorso dalla scoperta di un problema alla distribuzione sicura della correzione. Mentre continuiamo ad addestrare i nostri modelli affinché producano codice sempre più sicuro, puntiamo a eliminare alcune categorie di vulnerabilità dal software scritto ex novo.
In secondo luogo, mettiamo costantemente i nostri modelli al lavoro per difendere la nostra infrastruttura. Oggi, quasi tutti i nostri avvisi di sicurezza iniziali vengono valutati dall'IA prima di coinvolgere le persone. Questo riduce il lavoro ripetitivo per chi si occupa della difesa, migliora i tempi di risposta e permette alle persone di dedicarsi alle attività in cui le loro competenze hanno il massimo valore: discernimento, giudizio ed esperienza applicata. Stiamo collegando sempre più spesso questi rilevamenti a risposte automatizzate e circoscritte, lasciando alle persone la responsabilità delle decisioni con l'impatto maggiore. L'obiettivo è riuscire a rilevare e affrontare i problemi di sicurezza alla velocità delle macchine.
In terzo luogo, usiamo l'IA di frontiera per individuare, sondare e analizzare costantemente i potenziali percorsi di attacco. Individuando vulnerabilità, configurazioni errate, identità con privilegi eccessivi o confini di attendibilità involontari, possiamo identificare e colmare rapidamente queste lacune prima che vengano sfruttate dagli aggressori. Questo ci consente di valutare, monitorare e verificare costantemente le nostre invarianti di sicurezza, ossia le proprietà di sicurezza che riteniamo valide, in tutti i nostri prodotti, infrastrutture e sistemi.
Infine, stiamo investendo molto nei fondamentali su larga scala. Continuiamo a investire in architetture e controlli sicuri, ad adottare strategie come la difesa in profondità e il principio del privilegio minimo e a progettare sistemi nei quali, perché si verifichi un evento catastrofico, devono fallire simultaneamente più controlli indipendenti. I tradizionali controlli di sicurezza, come l'isolamento della rete, l'irrobustimento dei carichi di lavoro, il monitoraggio e l'applicazione e distribuzione sicura delle patch, saranno più importanti che mai nel futuro dell'IA.
Il tempo è essenziale e chi si occupa della difesa dovrà attuare a tutta velocità i passaggi indicati di seguito. Di seguito citerò tecnologie OpenAI, ma nell'ecosistema esistono anche molti concorrenti da valutare. Più dello strumento specifico, conta mettere subito un'IA capace nelle mani di chi difende la vostra organizzazione.
- Ottenete l'impegno e il sostegno dell'organizzazione. Stiamo assistendo a un rapido cambiamento dei rischi per la sicurezza: assicuratevi che i reparti di sicurezza e ingegneria dispongano del sostegno, della collaborazione e delle risorse necessari per affrontarli rapidamente. Organizzate esercitazioni da tavolo con i vostri team per simulare come potrebbero manifestarsi questi attacchi nella vostra organizzazione e come rispondereste.
- Fornite un agente al vostro team di sicurezza. Iniziate a usare Codex, il plugin Codex Security(si apre in una nuova finestra) o un altro strumento efficace per la sicurezza e il coding agentico. Concedetegli l'accesso autorizzato alle basi di codice, alle configurazioni dell'infrastruttura e alla documentazione tecnica che il team di sicurezza deve valutare. Non aspettate un'implementazione a livello aziendale per iniziare dai sistemi con la priorità più alta.
- Dotate l'agente di competenze in materia di sicurezza. Partite dalle skill(si apre in una nuova finestra) supportate dalla comunità, che includono flussi di lavoro per l'analisi statica, la revisione del codice incentrata sulla sicurezza, l'analisi delle varianti delle vulnerabilità, i rischi della filiera del software e altre attività di sicurezza. Create quindi competenze specifiche basate sull'architettura, sugli standard di sicurezza, sui modelli di minaccia e sui playbook della vostra organizzazione.
- Eseguite subito valutazioni della sicurezza sui vostri sistemi. Date inizialmente la priorità alle valutazioni dei servizi esposti a Internet, dei flussi di autenticazione, dell'infrastruttura come codice, delle pipeline di distribuzione e dei sistemi che gestiscono informazioni sensibili. Ampliate le scansioni man mano che il team acquisisce fiducia.
- Smaltite l'arretrato delle vulnerabilità esistenti. Fornite all'agente i risultati degli scanner del codice, gli avvisi sulle dipendenze, i ticket di sicurezza, le segnalazioni dei programmi bug bounty e le valutazioni precedenti. Chiedetegli di classificare questi risultati, distinguere i problemi sfruttabili dal rumore, individuare vulnerabilità correlate in altre parti della base di codice e indicare cosa correggere per primo.
- Integrate la revisione della sicurezza direttamente nel processo di sviluppo. Usate gli agenti per esaminare le modifiche al codice prima del merge ed eseguite controlli di sicurezza nella CI. Cercate errori di autenticazione, elusioni dei controlli di accesso, credenziali esposte, dipendenze non sicure, impostazioni predefinite vulnerabili, modifiche che ampliano l'accesso ai sistemi di produzione e altre vulnerabilità.
- Fatevi aiutare dall'agente a correggere ciò che trova. Per i problemi convalidati, chiedetegli di generare e verificare una patch mirata, scrivere un test di regressione e confermare che la vulnerabilità non sia più riproducibile. Mantenete la revisione umana per le modifiche importanti, ma eliminate i ritardi inutili tra l'individuazione di un problema reale e la presentazione di una correzione sicura a un ingegnere.
- Automatizzate gradualmente la valutazione dei rilevamenti. Non iniziate cercando di creare un centro operativo di sicurezza autonomo. Iniziate eseguendo una scansione di sicurezza in sola lettura su una repository, oppure fate esaminare a un agente gli avvisi già risolti, concedendogli accesso in sola lettura ai log esistenti. Lasciate che riassuma le evidenze e consigli una classificazione, mentre ogni decisione resta affidata a una persona. Man mano che cresce la fiducia, passate alla scansione consultiva delle pull request, poi alla valutazione degli avvisi in tempo reale e infine alla chiusura automatica di falsi positivi definiti in modo rigoroso.
- Preparate in anticipo una capacità di indagine forense assistita dall'IA. Richiedete Trusted Access for Cyber(si apre in una nuova finestra) e fate autorizzare il vostro team a usare GPT‑Daybreak‑Blue per attività difensive autorizzate, tra cui la risposta agli incidenti, l'ingegneria del rilevamento e l'analisi del malware. Esercitatevi a usare questa capacità per analizzare log, telemetria e avvisi di sicurezza.
- Sperimentate, organizzate hack week e iterate rapidamente. Dovremo creare ogni sorta di nuovo strumento, cambiare il nostro modo di lavorare e migliorare le competenze di tutti per prepararci al mondo verso cui ci stiamo dirigendo. Incoraggiate il personale a condurre esperimenti, programmate una hack week per creare nuove capacità e concentratevi su cicli di iterazione rapidi che automatizzino piccole parti del problema. I rapidi progressi incrementali producono risultati difensivi che si accumulano nel tempo e potrete ampliare gradualmente l'autonomia man mano che il team acquisisce fiducia.
Nessuna azienda può farcela da sola. Chiediamo ai laboratori di IA, ai fornitori di sicurezza, alle aziende e ai manutentori di condividere risultati convalidati, correzioni e playbook pratici, affinché la scoperta di un'organizzazione possa rafforzare l'intero ecosistema.
La finestra dei difensori è aperta adesso. Nei prossimi mesi ogni organizzazione dovrà iniziare ad automatizzare in misura significativa il proprio programma di sicurezza per restare protetta, mentre la comunità della sicurezza dovrà definire con urgenza gli strumenti, le pratiche e i playbook capaci di accrescere la forza di chi difende più rapidamente di quella degli aggressori, mentre l'IA continua a progredire. Sarà necessario uno sforzo enorme e senza precedenti, ma se faremo fronte comune potremo realizzare un mondo più sicuro di quanto avessimo mai immaginato.
