Šiandien „OpenAI“ pristato viešą saugos programą „Bug Bounty“(atsidaro naujame lange), skirtą nustatyti DI piktnaudžiavimo ir saugos riziką visuose mūsų produktuose. Sparčiai tobulėjant DI technologijoms, daugėja ir galimų piktnaudžiavimo jomis būdų. Mūsų tikslas – užtikrinti, kad mūsų sistemos išliktų saugios ir apsaugotos nuo netinkamo naudojimo ar piktnaudžiavimo, galinčio padaryti apčiuopiamos žalos.
Ši nauja programa papildys „OpenAI“ saugumo programą „Bug Bounty“(atsidaro naujame lange): bus priimamos problemos, keliančios reikšmingą piktnaudžiavimo ir saugos riziką, net jei jos neatitinka saugumo pažeidžiamumo kriterijų. Vykdydami šią programą, tikimės ir toliau bendradarbiauti su saugos ir saugumo tyrėjais, kad jie padėtų mums nustatyti ir išspręsti problemas, kurios nepriskiriamos įprastiems saugumo pažeidžiamumams, bet vis tiek kelia realią riziką. Pateiktus pranešimus rūšiuos „OpenAI“ saugos ir saugumo programų „Bug Bounty“ komandos, o atsižvelgiant į apimtį ir priklausomybę, pranešimai galės būti nukreipiami iš vienos programos į kitą.
Naujoji saugos programa „Bug Bounty“(atsidaro naujame lange) skirta toliau nurodytiems specifiniams DI saugos scenarijams:
Agentų rizika, įskaitant MCP
- Trečiųjų šalių užklausos įterpimas ir neteisėtas duomenų išgavimas: kai užpuoliko tekstas gali patikimai perimti aukos agento (įskaitant naršyklę, „ChatGPT“ agentą ir panašius su agentais susijusius produktus) valdymą, siekiant apgaule priversti jį atlikti žalingą veiksmą arba atskleisti neskelbtiną naudotojo informaciją. Šią elgseną turi būti įmanoma atkurti mažiausiai 50 proc. atvejų.
- Agento pagrindu veikiantis „OpenAI“ produktas masiškai atlieka neleistiną veiksmą „OpenAI“ interneto svetainėje.
- Agento pagrindu veikiantis „OpenAI“ produktas atlieka kokį nors potencialiai žalingą veiksmą, nenurodytą pirmiau. Tinkamuose pranešimuose turi būti nurodyta tikėtina ir turtinė žala.
- Bet koks MCP rizikos testavimas turi atitikti trečiųjų šalių paslaugų teikimo sąlygas.
„OpenAI“ nuosavybės teise priklausanti informacija
- Modelio sugeneruotas turinys, pateikiantis su protavimu susijusią nuosavybės teise priklausančią informaciją.
- Pažeidžiamumai, atskleidžiantys kitą „OpenAI“ nuosavybės teise priklausančią informaciją.
Paskyros ir platformos vientisumas
- Paskyros ir platformos vientisumo signalų pažeidžiamumai, pavyzdžiui, apsaugos nuo automatizavimo valdiklių apėjimas, manipuliavimas paskyros patikimumo signalais, paskyros apribojimų, sustabdymų ar draudimų vengimas ir panašios problemos.
- Apie problemas, leidžiančias naudotojams pasiekti funkcijas, duomenis ar galimybes, viršijančias suteiktus leidimus, reikėtų pranešti saugumo programai „Bug Bounty“(atsidaro naujame lange).
Nors apsaugos apėjimai nepatenka į šios programos taikymo sritį, mes periodiškai vykdome privačias „Bug Bounty“ kampanijas, skirtas tam tikroms žalos rūšims, pavyzdžiui, biologinės rizikos turinio problemoms „ChatGPT“ agente ir GPT‑5. Kviečiame susidomėjusius tyrėjus teikti paraiškas dalyvauti šiose programose, kai jos bus paskelbtos.
Jei tyrėjai nustato trūkumų, nepatenkančių į pirmiau nurodytas kategorijas, kurie atveria tiesioginius kelius žalai naudotojams ir reikalauja konkrečių, aiškių ištaisymo veiksmų, jie gali būti priskirti atlygio sričiai, vertinant kiekvieną atvejį atskirai. Bendri turinio politikos apėjimai be įrodomo poveikio saugai ar piktnaudžiavimui nepatenka į šios programos taikymo sritį. Pavyzdžiui, „apsaugos apėjimai“, dėl kurių modelis pradeda vartoti nemandagią kalbą arba pateikia per paieškos sistemas lengvai randamą informaciją, nepatenka į taikymo sritį.
Dalyvauti norintys tyrėjai gali teikti paraiškas per mūsų saugos programą „Bug Bounty“(atsidaro naujame lange). Tikimės bendradarbiauti su tyrėjais, etiškais įsilaužėliais bei saugos ir saugumo bendruomene, siekdami kurti saugią DI ekosistemą.
