Oggi OpenAI lancia il programma pubblico Safety Bug Bounty(si apre in una nuova finestra) per individuare abusi dell’IA e rischi per la sicurezza nei propri prodotti. Con la rapida evoluzione dell’IA aumentano anche i modi in cui può essere usata impropriamente. Il nostro obiettivo è garantire sistemi sicuri e protetti da usi impropri o abusi che possono causare danni concreti.
Questo nuovo programma integrerà il Security Bug Bounty(si apre in una nuova finestra) di OpenAI e accetta segnalazioni di rischi reali legati ad abusi e sicurezza, anche se non rientrano nelle vulnerabilità classiche. Con questo programma vogliamo continuare a collaborare con ricercatori di sicurezza per individuare e risolvere problemi che non sono vulnerabilità tradizionali ma comportano comunque rischi reali. Le segnalazioni vengono analizzate dai team Safety e Security di OpenAI e possono essere riassegnate tra i programmi in base all’ambito e alla responsabilità.
Il nuovo programma Safety Bug Bounty(si apre in una nuova finestra) si concentra sugli scenari di sicurezza specifici dell’IA elencati di seguito:
Rischi agentici, incluso MCP
- Iniezione di prompt di terze parti ed esfiltrazione di dati: quando il testo di un attaccante riesce a compromettere l’agente di una vittima, inclusi browser, ChatGPT Agent e prodotti simili, inducendolo a compiere azioni dannose o a divulgare informazioni sensibili. Il comportamento deve essere riproducibile almeno nel 50% dei casi.
- Un prodotto agentico di OpenAI esegue su larga scala un’azione non consentita sul sito OpenAI.
- Un prodotto agentico di OpenAI compie un'azione potenzialmente dannosa non elencata sopra. Le segnalazioni valide devono dimostrare un danno plausibile e concreto.
- Qualsiasi test relativo al rischio MCP deve rispettare i termini di servizio delle terze parti coinvolte.
Informazioni proprietarie di OpenAI
- Generazioni del modello che restituiscono informazioni proprietarie legate al ragionamento.
- Vulnerabilità che espongono altre informazioni proprietarie di OpenAI.
Integrità degli account e della piattaforma
- Vulnerabilità nei segnali di integrità degli account e della piattaforma, come aggirare controlli anti-automazione, manipolare segnali di fiducia, eludere restrizioni, sospensioni o ban e problemi simili.
- I problemi che permettono di accedere a funzionalità, dati o contenuti oltre le autorizzazioni previste vanno segnalati al Security Bug Bounty(si apre in una nuova finestra).
I jailbreak non rientrano in questo programma. Periodicamente però organizziamo campagne private focalizzate su specifici tipi di rischio, come contenuti a rischio biologico in ChatGPT Agent e GPT‑5. Invitiamo i ricercatori interessati a candidarsi a questi programmi quando saranno disponibili.
Se individui difetti che creano percorsi diretti verso danni per gli utenti e includono azioni correttive concrete, possono essere valutati caso per caso per una ricompensa. Gli aggiramenti generici delle policy senza un impatto reale su sicurezza o abusi non rientrano nel programma. Ad esempio i jailbreak che portano a linguaggio offensivo o a informazioni facilmente reperibili online non sono inclusi.
I ricercatori interessati possono candidarsi tramite il programma Safety Bug Bounty(si apre in una nuova finestra). Vogliamo collaborare con ricercatori, hacker etici e la comunità della sicurezza per costruire un ecosistema IA più sicuro.
