Prezantojmë programin OpenAI Safety Bug Bounty

Sot, OpenAI po nis një program publik Safety Bug Bounty⁠(hapet në një dritare të re), të fokusuar në identifikimin e abuzimit me AI dhe rreziqet e sigurisë në të gjitha produktet tona. Ndërsa teknologjia e inteligjencës artificiale evoluon me shpejtësi, po ashtu evoluojnë edhe mënyrat e mundshme të keqpërdorimit të saj. Qëllimi ynë është të sigurojmë që sistemet tona të jenë të sigurta dhe të mbrojtura nga keqpërdorimi ose abuzimi që mund të shkaktojë dëm të prekshëm. 

Ky program i ri do ta plotësojë Security Bug Bounty⁠(hapet në një dritare të re) nga OpenAI duke pranuar çështje që paraqesin rreziqe domethënëse abuzimi dhe sigurie, edhe nëse nuk i përmbushin kriteret për një dobësi sigurie. Përmes këtij programi, ne presim me padurim të vazhdojmë të bashkëpunojmë me studiuesit e kujdesit dhe të sigurisë për të na ndihmuar të identifikojmë dhe të trajtojmë çështje që bien jashtë kategorisë së dobësive konvencionale të sigurisë, por që paraqesin ende rreziqe reale. Dorëzimet do të trajtohen fillimisht nga ekipet Safety and Security Bug Bounty të OpenAI dhe mund të ridrejtohen midis dy programeve në varësi të fushëveprimit dhe përgjegjësisë.

Programi i ri Safety Bug Bounty⁠(hapet në një dritare të re) fokusohet në skenarët e sigurisë specifikë për AI të renditur më poshtë:

Rreziqet agjentike duke përfshirë MCP

• Injektimi i kërkesave dhe eksfiltrimi i të dhënave nga palë të treta: kur teksti i një sulmuesi mund të marrë në mënyrë të besueshme kontrollin e agjentit të një viktime (duke përfshirë shfletuesin, agjentin e ChatGPT dhe produkte të ngjashme agjentike) për ta mashtruar që të kryejë një veprim të dëmshëm ose të zbulojë informacionin delikat të përdoruesit. Sjellja duhet të jetë e riprodhueshme të paktën 50% të rasteve. 
• Një produkt agjentik i OpenAI kryen një veprim të palejuar në faqen e internetit të OpenAI në shkallë të gjerë.
• Një produkt i OpenAI që vepron si agjent kryen një veprim potencialisht të dëmshëm që nuk është përmendur më sipër. Raportet e vlefshme këtu duhet të tregojnë dëm të besueshëm dhe material.
• Çdo testim për rrezikun MCP duhet të përputhet me kushtet e shërbimit të çdo pale të tretë.

Informacioni në pronësi të OpenAI

• Gjenerimet e modeleve që kthejnë informacion të rezervuar të lidhur me arsyetimin.
• Dobësitë që zbulojnë informacione të tjera në pronësi të OpenAI.

Integriteti i llogarisë dhe i platformës

• Dobësi në integritetin e llogarisë dhe sinjalet e integritetit të platformës, si shmangia e kontrolleve kundër automatizimit, manipulimi i sinjaleve të besimit të llogarisë, shmangia e kufizimeve, pezullimeve ose ndalimeve të llogarisë dhe çështje të ngjashme.
• Probleme që u lejojnë përdoruesve të kenë akses në veçori, të dhëna ose funksionalitete përtej lejeve të autorizuara duhet të raportohen te Security Bug Bounty⁠(hapet në një dritare të re).

Ndërsa jailbreak-et nuk përfshihen në fushëveprimin e këtij programi, ne zhvillojmë periodikisht fushata private për shpërblime për gjetjen e gabimeve, të përqendruara në lloje të caktuara dëmesh, si çështjet e përmbajtjes me rrezik biologjik në ChatGPT Agent⁠ dhe GPT‑5⁠. Ne ftojmë studiuesit e interesuar që të aplikojnë për këto programe kur të hapen. 

Jashtë kategorive të renditura më sipër, nëse studiuesit identifikojnë të meta që lehtësojnë rrugë të drejtpërdrejta drejt dëmtimit të përdoruesit dhe hapa të zbatueshëm, të veçantë dhe korrigjues, këto mund të konsiderohen brenda fushës për shpërblime, rast pas rasti. Anashkalimet e përgjithshme të politikave të përmbajtjes, pa ndikim të demonstrueshëm në siguri ose abuzim, nuk përfshihen në fushëveprimin e këtij programi. Për shembull, "jailbreaks" që rezultojnë në përdorimin nga modeli i gjuhës së pasjellshme ose në kthimin e informacionit që mund të gjendet lehtësisht përmes motorëve të kërkimit janë jashtë fushëveprimit.

Studiuesit e interesuar për të marrë pjesë mund të aplikojnë përmes programit tonë Safety Bug Bounty⁠(hapet në një dritare të re). Ne mirëpresim punojmë së bashku me studiuesit, hakerët etikë dhe komunitetin e sigurisë dhe mbrojtjes në përpjekje për një ekosistem të sigurt të AI.