Gemeinsam mit Hacktron Schwachstellen in den Systemen von OpenAI finden
Heute geben wir eine Partnerschaft mit Hacktron bekannt, um Schwachstellen in den Systemen von OpenAI zu finden. Unser Entwicklungsteam und das Sicherheitsforschungsteam von Hacktron werden besonders wichtige Bereiche für gemeinsame Tests auswählen. Im Fokus steht dabei das Zusammenspiel unserer Systeme mit Diensten von Drittanbietern. Im Rahmen der Partnerschaft erweitern wir über Daybreak Red den Zugang von Hacktron zu unseren Frontier-Modellen.
Wir arbeiten daran, die Cyberabwehr mit Frontier-KI zu beschleunigen. Mit derselben Dringlichkeit suchen und beheben wir Schwachstellen in unseren eigenen Systemen. Anfang dieser Woche haben wir angekündigt, dass Forschende von Cathedral bei unserem nächsten Sicherheitssprint mit unseren Teams zusammenarbeiten werden. Außerdem haben wir unsere Bug-Bounty-Prämien erhöht. Damit schaffen wir für unabhängige Forschende mehr Anreize, nach Schwachstellen zu suchen, die unsere eigenen Tests möglicherweise übersehen haben.
Wir haben Hacktron über unser Programm Security Bug Bounty kennengelernt. Uns hat beeindruckt, wie weitreichend die Schwachstellen waren, die das Forschungsteam von Hacktron entdeckt und uns gemeldet hat. Das Team entwickelt KI-Agenten für Code-Reviews, Penetrationstests und Red Teaming. Seine Forschung(wird in einem neuen Fenster geöffnet) hat Schwachstellen im Zusammenspiel von Anwendungen, Cloud-Infrastruktur und Identitätssystemen aufgedeckt. Die Arbeit des Teams zeigt, was möglich ist, wenn Sicherheitsfachleute ihre Lösungen auf KI aufbauen, um schneller voranzukommen und anspruchsvollere Forschungsvorhaben anzugehen.
Da KI-Agenten Dienste auf neue Weise miteinander verbinden, wird diese Kombination von Fähigkeiten noch wertvoller. Die Zusammenarbeit mit Hacktron wird uns helfen, diese Verbindungen gründlicher zu prüfen und mit den gewonnenen Erkenntnissen unsere Schutzmaßnahmen zu stärken.
Wir danken Hacktron und anderen unabhängigen Forschenden, die Zeit investieren, um Schwachstellen zu finden und zu melden. Damit tragen sie dazu bei, die Sicherheit für alle Menschen zu erhöhen, die unsere Dienste nutzen. Auf der Seite zu unserem Programm Security Bug Bounty(wird in einem neuen Fenster geöffnet) erfährst du, welche Systeme das Programm umfasst, und kannst Schwachstellen melden.
