Samarbete med Hacktron för att hitta sårbarheter i OpenAI:s system
I dag presenterar vi ett samarbete med Hacktron för att hitta sårbarheter i OpenAI:s system. Våra ingenjörer och Hacktrons säkerhetsforskare kommer att välja ut högprioriterade områden att testa tillsammans, med fokus på hur våra system samverkar med tredjepartstjänster. Som en del av samarbetet utökar vi Hacktrons tillgång till våra banbrytande modeller genom Daybreak Red.
Samtidigt som vi arbetar för att påskynda utvecklingen av cyberförsvaret med banbrytande AI lägger vi lika stor vikt vid att snabbt hitta och åtgärda sårbarheter i våra egna system. Tidigare i veckan meddelade vi att Cathedrals forskare ska arbeta tillsammans med våra team under vår nästa säkerhetssprint. Vi har också höjt våra bug bounty-belöningar för att ge oberoende forskare starkare incitament att söka efter sårbarheter som våra egna tester kan ha missat.
Vi lärde känna Hacktron genom vårt Security Bug Bounty-program och imponerades av hur betydelsefulla sårbarheter deras forskare har upptäckt och rapporterat till oss. Teamet utvecklar AI-agenter för kodgranskning, penetrationstestning och red teaming. Deras forskning(öppnas i ett nytt fönster) har avslöjat sårbarheter i samspelet mellan applikationer, molninfrastruktur och identitetssystem. Deras arbete visar vad som är möjligt när säkerhetsingenjörer bygger lösningar med AI som grund för att arbeta snabbare och ta sig an mer ambitiös forskning.
När AI-agenter kopplar samman tjänster på nya sätt blir den kombinationen av kompetenser ännu mer värdefull. Samarbetet med Hacktron hjälper oss att testa dessa kopplingar mer ingående och använda lärdomarna för att stärka vårt försvar.
Vi är tacksamma för att Hacktron och andra oberoende forskare lägger tid på att hitta och rapportera svagheter och därmed bidrar till att stärka säkerheten som skyddar alla våra användare. Besök vårt Security Bug Bounty-program(öppnas i ett nytt fönster) för att se vilka system som omfattas eller rapportera en upptäckt.
