Îți prezentăm programul OpenAI Safety Bug Bounty

Astăzi, OpenAI lansează un program public Safety Bug Bounty⁠(se deschide într-o fereastră nouă), axat pe identificarea abuzurilor legate de AI și a riscurilor de siguranță din cadrul produselor noastre. Pe măsură ce tehnologia AI evoluează rapid, evoluează și modalitățile potențiale în care poate fi utilizată în mod abuziv. Scopul nostru este să ne asigurăm că sistemele noastre rămân sigure și protejate împotriva utilizării necorespunzătoare sau a abuzului care ar putea duce la prejudicii concrete. 

Acest nou program va completa Security Bug Bounty⁠(se deschide într-o fereastră nouă) al OpenAI prin acceptarea problemelor care prezintă riscuri semnificative de abuz și siguranță, chiar dacă nu îndeplinesc criteriile pentru a fi considerate vulnerabilități de securitate. Prin intermediul acestui program, așteptăm cu nerăbdare să continuăm să colaborăm cu cercetătorii în domeniul siguranței și securității, pentru a ne ajuta să identificăm și să abordăm problemele care nu se încadrează în categoria vulnerabilităților de securitate convenționale, dar care prezintă totuși riscuri reale. Trimiterile vor fi triate de echipele Safety și Security Bug Bounty ale OpenAI și pot fi redirecționate între cele două programe în funcție de domeniul de aplicare și responsabilitate.

Noul program Safety Bug Bounty⁠(se deschide într-o fereastră nouă) se concentrează pe scenariile de siguranță specifice AI enumerate mai jos:

Riscuri de tip agentiv, inclusiv MCP

• Injectarea solicitărilor de către terți și exfiltrarea datelor: atunci când textul unui atacator poate compromite în mod fiabil controlul asupra agentului unei victime (inclusiv browser, agent ChatGPT și produse agentive similare) pentru a-l păcăli să efectueze o acțiune dăunătoare sau să divulge informațiile sensibile ale utilizatorului, într-un mod prietenos și accesibil. Comportamentul trebuie să poată fi reprodus în cel puțin 50% din cazuri. 
• Un produs OpenAI agentiv efectuează la scară largă o acțiune interzisă pe site-ul OpenAI.
• Un produs OpenAI agentiv realizează o acțiune potențial dăunătoare care nu este specificată mai sus. Rapoartele valide de aici trebuie să indice prejudicii plauzibile și semnificative.
• Orice testare privind riscul MCP trebuie să respecte termenii și condițiile de utilizare ale oricăror terți, conform regulilor stabilite.

Informații confidențiale OpenAI

• Generări ale modelului care returnează informații confidențiale legate de raţionament.
• Vulnerabilități care pot dezvălui alte informații confidențiale ale OpenAI.

Integritatea contului și a platformei

• Vulnerabilități legate de integritatea conturilor și de semnalele de integritate ale platformei, cum ar fi ocolirea controalelor anti-automatizare, manipularea semnalelor de încredere ale contului, eludarea restricțiilor/suspendărilor/interdicțiilor aplicate contului și probleme similare.
• Problemele care permit utilizatorilor să acceseze funcții sau date peste nivelul de autorizare permis trebuie raportate la Security Bug Bounty⁠(se deschide într-o fereastră nouă).

Deși jailbreakurile nu intră în domeniul de aplicare al acestui program, derulăm periodic campanii private de recompense pentru buguri axate pe anumite tipuri de prejudicii, cum ar fi probleme legate de conținutul cu risc biologic în ChatGPT Agent⁠ și GPT‑5⁠. Invităm cercetătorii interesați să candideze la aceste programe atunci când devin disponibile. 

În afara categoriilor enumerate mai sus, dacă cercetătorii identifică deficiențe care facilitează căi directe către prejudicierea utilizatorilor și măsuri de remediere concrete și distincte, acestea pot fi considerate eligibile pentru recompense, de la caz la caz. Ocolirile generale ale politicilor privind conținutul, fără un impact demonstrabil asupra siguranței sau abuzului, nu intră în domeniul de aplicare al acestui program. De exemplu, „jailbreakuri” care au ca rezultat faptul că modelul folosește un limbaj nepoliticos sau returnează informații care pot fi găsite cu ușurință prin intermediul motoarelor de căutare nu intră în domeniul de aplicare.

Cercetătorii interesați să participe pot aplica prin programul nostru Safety Bug Bounty⁠(se deschide într-o fereastră nouă). Așteptăm cu nerăbdare să lucrăm alături de cercetători, hackeri etici și comunitatea din domeniul siguranței și securității, în efortul de a construi un ecosistem AI sigur.