Bio Bug Bounty su agente

Nell’ambito dei nostri continui sforzi per rafforzare le misure di sicurezza relative alle funzionalità avanzate dell’IA in biologia, il nostro Bio Bug Bounty è ora aperto alle iscrizioni. Abbiamo implementato l’agente ChatGPT e stiamo lavorando attivamente per rafforzare ulteriormente le sue protezioni di sicurezza, insieme a quelle di altri modelli. Invitiamo i ricercatori con esperienza in red teaming, sicurezza o rischio chimico e biologico in ambito IA a cercare di trovare un jailbreak universale in grado di sconfiggere la nostra sfida biochimica a dieci livelli.

• Modello nell'ambito di applicazione: solo agente ChatGPT.
• Sfida: identificare un prompt universale di jailbreaking per rispondere correttamente a tutte e dieci le domande di sicurezza biochimica da una chat pulita.
• Ricompense:
  • 25.000 dollari al primo vero jailbreak universale che riuscirà a superare tutte le dieci domande.
  • 10.000 dollari al primo team che risponde a tutte e dieci le domande con più prompt di jailbreak.
  • A nostra discrezione, possono essere concessi premi minori per vittorie parziali.
• Tempistica: le iscrizioni si aprono il 17 luglio 2025 con accettazione a rotazione. I test iniziano il 29 luglio 2025.
• Accesso: solo su invito e previa richiesta. Estenderemo gli inviti a una lista vagliata di red-teamer bio fidati ed esamineremo le nuove candidature. I candidati selezionati saranno inseriti nella piattaforma di Bio Bug Bounty.
• Divulgazione: tutti i prompt, i completamenti, i risultati e le comunicazioni sono coperti da accordo di riservatezza.

Presenta qui⁠(si apre in una nuova finestra) una breve candidatura (nome, affiliazione, breve curriculum e un progetto di 150 parole) entro il 29 luglio 2025. I candidati e i collaboratori accettati devono avere un account ChatGPT esistente per candidarsi e firmeranno un accordo di riservatezza.

Candidati ora e aiutaci a rendere più sicura l’IA di frontiera.