OpenAI सेफ्टी बग बाउंटी प्रोग्रॅम सादर करत आहोत

आज, OpenAI आमच्या उत्पादनांमध्ये AI चा गैरवापर आणि सुरक्षा जोखमी ओळखण्यासाठी सार्वजनिक सुरक्षा बग बक्षीस⁠(नवीन विंडोमध्ये उघडेल) कार्यक्रम सुरू करत आहे. AI तंत्रज्ञान वेगाने विकसित होत असताना, त्याचा गैरवापर होण्याच्या शक्यता देखील वाढत आहेत. आमचे उद्दिष्ट आहे की गैरवापर किंवा दुरुपयोगामुळे प्रत्यक्ष हानी होऊ शकते अशा प्रकारच्या वापरापासून आमच्या प्रणाली सुरक्षित राहतील याची खात्री करणे. 

हा नवीन कार्यक्रम OpenAI च्या Security Bug Bounty⁠(नवीन विंडोमध्ये उघडेल) ला पूरक ठरेल. तो लक्षणीय गैरवापर आणि सुरक्षिततेचे धोके निर्माण करणाऱ्या समस्या स्वीकारेल, जरी त्या सुरक्षा असुरक्षेच्या निकषांमध्ये बसत नसल्या तरीही. या कार्यक्रमाद्वारे, पारंपरिक सुरक्षा भेद्यतांच्या चौकटीबाहेर असलेल्या, परंतु तरीही वास्तविक जोखीम निर्माण करणाऱ्या समस्या ओळखण्यात आणि त्यांचे निराकरण करण्यात मदत करण्यासाठी सुरक्षा आणि संरक्षा संशोधकांसोबत भागीदारी सुरू ठेवण्यास आम्ही उत्सुक आहोत. सबमिशन्सची OpenAI च्या Safety आणि Security Bug Bounty संघांकडून प्राथमिक छाननी केली जाईल आणि व्याप्ती व मालकीनुसार ती दोन कार्यक्रमांमध्ये पुनर्निर्देशित केली जाऊ शकतात.

नवीन सेफ्टी बग बाउंटी⁠(नवीन विंडोमध्ये उघडेल) प्रोग्रॅम खाली सूचीबद्ध AI-विशिष्ट सुरक्षा परिस्थितींवर लक्ष केंद्रित करतो:

MCP यासह एजंटिक जोखमी

• तृतीय पक्षाकडून होणारे प्रॉम्प्ट इंजेक्शन आणि डेटा एक्सफिल्ट्रेशन: जेव्हा हल्लेखोराचा मजकूर पीडिताच्या एजंटवर (Browser, ChatGPT Agent, आणि तत्सम एजंटिक उत्पादनांसह) विश्वासार्हपणे ताबा मिळवू शकतो, तेव्हा तो त्याला हानिकारक कृती करण्यास किंवा वापरकर्त्याची संवेदनशील माहिती उघड करण्यास फसवू शकतो. हे वर्तन किमान 50% वेळा पुनरुत्पादित होणे आवश्यक आहे. 
• एजंटसारखे OpenAI उत्पादन OpenAI च्या वेबसाइटवर मोठ्या प्रमाणावर प्रतिबंधित कृती करते.
• एखादे एजेंटिक OpenAI उत्पादन वरील यादीत नसलेली संभाव्यतः हानिकारक कृती करते. येथील वैध अहवालांनी संभाव्य आणि महत्त्वाची हानी दर्शवणे आवश्यक आहे.
• MCP जोखमीसाठी कोणतीही चाचणी केली जात असताना कोणत्याही तृतीय पक्षांच्या सेवा अटींचे पालन करणे आवश्यक आहे.

OpenAI मालकीची माहिती

• रीझनिंगशी संबंधित मालकीची माहिती परत करणारी मॉडेल निर्मिती.
• इतर OpenAI ची मालकीची माहिती प्रकट करणाऱ्या दुर्बलता.

खाते आणि प्लॅटफॉर्म अखंडता

• खाते अखंडता आणि प्लॅटफॉर्म अखंडतेच्या संकेतांमधील असुरक्षा, जसे की स्वयंचलन-विरोधी नियंत्रणांना बायपास करणे, खात्याच्या विश्वास संकेतांमध्ये फेरफार करणे, खात्यावरील निर्बंध, निलंबन किंवा बंदी टाळणे, आणि तत्सम समस्या.
• त्या समस्या ज्या वापरकर्त्यांना अधिकृत परवानग्यांच्या पलीकडील वैशिष्ट्ये, डेटा किंवा कार्यक्षमतेमध्ये प्रवेश देतात, त्यांचा अहवाल Security Bug Bounty⁠(नवीन विंडोमध्ये उघडेल) कडे द्यावा.

जेलब्रेक्स या प्रोग्रॅमच्या कक्षेबाहेर आहेत, परंतु आम्ही वेळोवेळी ChatGPT Agent⁠ आणि GPT‑5⁠ मधील बायोरिस्क कंटेंटशी संबंधित समस्यांवर लक्ष केंद्रित करणाऱ्या खाजगी बग बाउंटी मोहिमा आयोजित करतो. हे कार्यक्रम उपलब्ध झाल्यावर आम्ही स्वारस्य असलेल्या संशोधकांना अर्ज करण्याचे आमंत्रण देतो. 

वर सूचीबद्ध केलेल्या श्रेणींव्यतिरिक्त, जर संशोधकांना वापरकर्त्यांना थेट हानी पोहोचविणारे मार्ग सुलभ करणारे दोष आणि अमलात आणता येण्याजोग्या, स्वतंत्र निराकरणात्मक पायऱ्या आढळल्या, तर त्यांना प्रकरणनिहाय आधारावर बक्षिसांसाठी व्याप्तीत मानले जाऊ शकते. सुरक्षा किंवा गैरवापरावर सिद्ध होणारा परिणाम नसलेले सर्वसाधारण कंटेंट-पॉलिसी बायपास या कार्यक्रमाच्या कक्षेबाहेर आहेत. उदाहरणार्थ, मॉडेलकडून असभ्य भाषा वापरली जाणे किंवा सर्च इंजिन्सद्वारे सहज सापडू शकणारी माहिती परत केली जाणे यास कारणीभूत ठरणारे “जेलब्रेक्स” व्याप्तीबाहेर आहेत.

सहभागी होण्यास इच्छुक संशोधक आमच्या सेफ्टी बग बाउंटी⁠(नवीन विंडोमध्ये उघडेल) प्रोग्रॅमद्वारे अर्ज करू शकतात. आम्ही सुरक्षित AI परिसंस्थेच्या ध्येयासाठी संशोधक, नैतिक हॅकर्स आणि सुरक्षा व सुरक्षितता समुदायासोबत काम करण्यास उत्सुक आहोत.