Ngenalake program OpenAI Safety Bug Bounty

Dina iki, OpenAI ngluncurake program publik Safety Bug Bounty⁠(mbukak ing jendhela anyar) sing fokus kanggo ngenali penyalahgunaan AI lan risiko keamanan ing produk-produk kita. Nalika teknologi AI berkembang kanthi cepet, cara potensial kanggo nyalahgunakake uga saya akeh. Tujuan kita yaiku mesthekake sistem kita tetep aman lan terlindhungi saka salah guna utawa penyalahgunaan sing bisa nyebabake cilaka nyata.

Program anyar iki bakal nglengkapi Security Bug Bounty⁠(mbukak ing jendhela anyar) saka OpenAI kanthi nampa masalah sing nduweni risiko penyalahgunaan lan keamanan sing wigati, sanajan ora nyukupi kritéria kerentanan keamanan. Liwat program iki, kita ngarep bisa terus kerja bareng karo peneliti safety lan keamanan kanggo mbantu ngenali lan ngatasi masalah sing ana ing njaba kerentanan keamanan konvensional nanging isih nduweni risiko nyata. Kiriman bakal ditriase dening tim Safety lan Security Bug Bounty OpenAI, lan bisa dialihaké antarane loro program kasebut gumantung ruang lingkup lan kepemilikan.

Program Safety Bug Bounty⁠(mbukak ing jendhela anyar) anyar iki fokus marang skenario keamanan khusus AI ing ngisor iki:

Risiko Agen kalebu MCP

• Injeksi prompt pihak katelu lan eksfiltrasi data: nalika teks penyerang bisa kanthi andal mbajak agen korban (kalebu Browser, ChatGPT Agent, lan produk agen sing padha) kanggo ngapusi supaya nindakake tumindak mbebayani utawa mbocorake informasi sensitif pangguna. Prilaku iki kudu bisa direproduksi paling ora 50% saka wektu.
• Produk agen OpenAI nindakake tumindak sing ora diidinake ing situs web OpenAI kanthi skala gedhe.
• Produk agen OpenAI nindakake tumindak sing bisa mbebayani liyane sing ora kadhaptar ing ndhuwur. Laporan sing sah ing kéné kudu nuduhake cilaka sing masuk akal lan material.
• Saben pengujian kanggo risiko MCP kudu netepi syarat layanan pihak katelu apa wae.

Informasi Proprietari OpenAI

• Generasi model sing ngasilake informasi proprietari sing gegayutan karo nalar.
• Kerentanan sing mbukak informasi proprietari OpenAI liyane.

Integritas Akun lan Platform

• Kerentanan ing integritas akun lan sinyal integritas platform, kayata ngliwati kontrol anti-otomatisasi, ngapusi sinyal kapercayan akun, nyingkiri watesan/suspensi/pelarangan akun, lan masalah liyane sing padha.
• Masalah sing ngidini pangguna ngakses fitur, data, utawa fungsi ngluwihi wewenang sing diwenehake kudu dilaporake menyang Security Bug Bounty⁠(mbukak ing jendhela anyar).

Sanajan jailbreak ora kalebu cakupan program iki, kita sok-sok nganakake kampanye bug bounty privat sing fokus marang jinis cilaka tartamtu, kayata masalah konten Biorisk ing ChatGPT Agent⁠ lan GPT‑5⁠. Kita ngajak para peneliti sing kasengsem kanggo ndhaptar ing program kasebut nalika dibukak.

Ing njaba kategori sing kasebut ing ndhuwur, yen peneliti ngenali cacat sing nggampangake dalan langsung menyang cilaka pangguna lan langkah remediasi sing bisa ditindaklanjuti lan cetha, iki bisa dianggep kalebu cakupan kanggo ganjaran adhedhasar saben kasus. Bypass kabijakan konten umum tanpa dampak keamanan utawa penyalahgunaan sing bisa dibuktekake ora kalebu cakupan program iki. Contone, “jailbreak” sing nyebabake model nggunakake basa kasar utawa mbalekake informasi sing gampang ditemokake liwat mesin telusur ora kalebu cakupan.

Peneliti sing kepengin melu bisa ndhaptar liwat program Safety Bug Bounty⁠(mbukak ing jendhela anyar) kita. Kita ngarep bisa kerja bareng karo peneliti, peretas etis, lan komunitas safety lan keamanan kanggo ngupaya ekosistem AI sing aman.