Comment Block renforce sa sécurité grâce à l’IA d’OpenAI

Chez Block, l’entreprise à l’origine de Square, Cash App et Afterpay, l’équipe de sécurité s’appuie sur l’OpenAI Defense Factory : l’IA y assure la découverte des vulnérabilités, la détection et la réponse à une échelle qu’aucune équipe humaine ne pourrait suivre. Grâce à des systèmes d’IA comme OpenAI Daybreak, Block réalise en quelques heures un travail qui prenait auparavant des semaines.

L’équipe de sécurité de Block s’attache à adopter l’IA de manière responsable dans ses processus, qu’il s’agisse de génération de code ou d’opérations de sécurité. « L’essentiel, c’est d’avoir un nouveau coéquipier capable d’accompagner notre montée en charge », explique James Nettesheim, responsable de la sécurité des systèmes d’information. « Ce n’est pas comme l’automatisation traditionnelle, où il fallait procéder étape par étape. On peut lui soumettre un problème assez spécifique et ambigu, puis le résoudre ensemble. »

Des projets comme l’examen d’un bug logiciel ou l’analyse d’un journal demandaient des jours, voire des semaines. L’équipe peut désormais mener ces projets à bien en une fraction du temps, avec toujours une validation humaine de chaque résultat.

Par exemple, pour ajuster la détection, chaque investigation conserve les données brutes issues des requêtes. L’équipe peut ainsi tester une modification proposée de la détection sur sept mois de télémétrie de production en moins d’une heure. Ce travail imposait auparavant de relancer manuellement des requêtes sur des centaines d’anciens cas. En pratique, il était rarement effectué tant il prenait du temps.

L’équipe choisit aussi plus précisément le modèle à utiliser pour chaque tâche. « Nous utilisions toujours le dernier modèle, mais ce n’est plus nécessaire », explique-t-il. « Nous avons appris à choisir différents modèles selon les tâches. » Le harnais de sécurité de Block repose sur Daybreak pour orienter les tâches vers le bon modèle. Il comprend des points d’intervention permettant aux humains de reprendre la main ou aux agents de vérifier mutuellement leur travail. L’équipe évalue en continu ces systèmes à l’aide de tests de référence internes et de leurs performances en conditions réelles. Elle ajuste son approche au besoin, notamment en soumettant le travail à une vérification humaine lorsque c’est la voie responsable.

Le système de triage automatisé permet d’accomplir davantage de travail, plus rapidement. L’équipe de sécurité de Block a constaté une hausse de 50 % du débit de triage, une augmentation de 50 % de la collecte de renseignements et des investigations, ainsi qu’une toute nouvelle capacité de chasse autonome aux menaces. Nettesheim explique : « Cela représente environ 1 100 heures d’investigation d’analyste par trimestre, car chaque alerte fait désormais l’objet d’une investigation complète et approfondie portant sur tous les éléments concernés. Notre système traite chaque alerte comme si c’était la seule de la journée. »

Les outils d’analyse traditionnels signalent une vulnérabilité isolée, mais l’équipe de sécurité de Block peut aller bien plus loin avec Daybreak. Le modèle aide à formuler des hypothèses sur les schémas d’attaque et à enchaîner plusieurs attaques pour reconstituer un chemin de compromission de bout en bout, révélant des vulnérabilités parfois présentes depuis des années.

Dans un cas, une alerte sur un seul ordinateur portable semblait, prise isolément, relever d’un problème mineur de conformité aux règles de sécurité. Mais lors d’une revue par les pairs, le modèle a suivi un indicateur qui n’apparaissait qu’incidemment dans les éléments recueillis, l’a recoupé avec les journaux d’identité de Block et a mis au jour un ensemble de problèmes bien plus vaste. « Une alerte de routine sur un terminal a permis de démanteler une campagne d’attaque. Aucun outil ne fait ce rapprochement à lui seul. Le signal n’apparaît qu’en croisant les journaux de deux produits », explique James.

Daybreak s’est aussi révélé utile lors d’un récent exercice de red teaming. À partir de quelques indices sur un système interne, le modèle a construit en environ deux heures un chemin d’attaque complet : injection SQL, élévation de privilèges, établissement d’un point d’appui, énumération des identifiants et pivot vers d’autres systèmes. Un spécialiste humain du red teaming aurait généralement besoin de plusieurs jours. Lors de récents exercices de red teaming, 18 minutes se sont écoulées entre le signalement d’une vulnérabilité de haut niveau et une proposition automatique de correctif.

Détecter les vulnérabilités n’est utile que si l’on peut les corriger. Nettesheim décrit le processus suivi par son équipe pour chaque découverte : localiser le problème dans le code et identifier qui en est responsable, puis passer à la correction. « On propose un correctif, on confirme que la vulnérabilité est exploitable, puis on vérifie qu’elle est bien corrigée, avec un humain dans la boucle pour guider le processus et déployer les modifications du code. »

Même si les agents sont techniquement compétents, ils ne connaissent ni le contexte de l’organisation ni les raisons des décisions antérieures. Un humain apporte ce contexte et cette stratégie, et c’est là que son équipe intervient pour assurer une vérification humaine. À mesure que le jugement de l’IA fait ses preuves en pratique, Nettesheim explique : « Nous augmenterons progressivement le niveau de risque pour l’utiliser sur des systèmes plus sensibles. »

• Moins d’une heure pour tester une modification proposée de la détection sur sept mois de télémétrie.

• 18 minutes entre le signalement d’une vulnérabilité de haut niveau et une proposition automatique de correctif lors de récents exercices de red teaming.

• Environ 600 heures d’analyste par trimestre libérées du triage des faux positifs.

• Environ 1 100 heures d’investigation d’analyste réalisées par trimestre.

• Hausse de 50 % du débit de triage.

• Augmentation de 50 % de la collecte de renseignements et des investigations.

Le seul travail de détection et de réponse a libéré environ 600 heures d’analyste par trimestre, auparavant consacrées au triage des faux positifs. Grâce à ce temps gagné, l’équipe se consacre davantage à des investigations approfondies et au développement responsable de nouvelles automatisations.

Alors que le rythme des attaques s’accélère et que les modèles d’IA progressent, Nettesheim y voit une occasion de réduire à la source le nombre de vulnérabilités introduites. Les équipes de sécurité pourraient ainsi passer moins de temps à appliquer des correctifs et davantage à des tâches préventives et stratégiques.

« OpenAI donne l’avantage aux défenseurs en mettant ces capacités avancées entre les mains de tous », explique-t-il. « Jusqu’ici, elles étaient généralement réservées aux grandes entreprises technologiques et aux pouvoirs publics. Mais tout le monde, y compris les infrastructures critiques, les écoles et les petites entreprises, peut désormais commencer à utiliser cette technologie pour défendre ses réseaux. »