Un partenariat avec Hacktron pour détecter les vulnérabilités des systèmes d’OpenAI

Nous annonçons aujourd’hui un partenariat avec Hacktron pour détecter les vulnérabilités des systèmes d’OpenAI. Nos ingénieurs et les chercheurs en sécurité de Hacktron choisiront ensemble les domaines prioritaires à tester, en se concentrant sur les interactions de nos systèmes avec les services tiers. Dans le cadre de ce partenariat, nous élargissons l’accès de Hacktron à nos modèles de pointe via Daybreak Red.

Alors que nous travaillons à accélérer la cyberdéfense grâce à l’IA de pointe, nous accordons la même urgence à la détection et à la correction des vulnérabilités de nos propres systèmes. Plus tôt cette semaine, nous avons annoncé que les chercheurs de Cathedral travailleront aux côtés de nos équipes lors de notre prochain sprint de sécurité. Nous avons également augmenté nos primes de détection de bugs pour encourager davantage les chercheurs indépendants à rechercher les vulnérabilités qui auraient pu échapper à nos propres tests.

Nous avons découvert Hacktron grâce à notre programme de primes de détection de failles de sécurité et avons été impressionnés par l’impact des vulnérabilités que ses chercheurs ont découvertes et nous ont signalées. L’équipe développe des agents d’IA pour la revue de code, les tests d’intrusion et le red teaming. Ses recherches⁠(ouverture dans une nouvelle fenêtre) ont révélé des vulnérabilités dans les interactions entre les applications, les infrastructures cloud et les systèmes de gestion des identités. Ses travaux montrent ce qui devient possible lorsque les ingénieurs en sécurité placent l’IA au cœur de leur démarche pour avancer plus vite et mener des recherches plus ambitieuses.

À mesure que les agents d’IA relient les services de nouvelles façons, cette combinaison de compétences devient encore plus précieuse. Travailler aux côtés de Hacktron nous aidera à tester ces connexions de manière plus approfondie et à tirer parti des enseignements obtenus pour renforcer nos défenses.

Nous remercions Hacktron et les autres chercheurs indépendants qui consacrent du temps à détecter et à signaler des failles pour contribuer à renforcer la sécurité de l’ensemble de nos utilisateurs. Pour connaître les systèmes concernés ou signaler une découverte, consultez notre programme de primes de détection de failles de sécurité⁠(ouverture dans une nouvelle fenêtre).