આજે, OpenAI અમારા પ્રોડક્ટ્સમાં AIના દુરુપયોગ અને સુરક્ષા જોખમોને ઓળખવા પર કેન્દ્રિત જાહેર Safety Bug Bounty(નવી વિન્ડોમાં ખૂલે છે) પ્રોગ્રામ શરૂ કરી રહ્યું છે. AI ટેક્નોલોજી ઝડપથી વિકસતી જાય છે તેમ તેના દુરુપયોગના સંભવિત રસ્તાઓ પણ વિકસે છે. અમારો હેતુ એ સુનિશ્ચિત કરવાનો છે કે અમારી સિસ્ટમ્સ દુરુપયોગ અથવા ગેરવપરાશ સામે સલામત અને સુરક્ષિત રહે, જે વાસ્તવિક નુકસાન તરફ દોરી શકે.
આ નવો પ્રોગ્રામ OpenAIના Security Bug Bounty(નવી વિન્ડોમાં ખૂલે છે)ને પૂરક બનશે, કારણ કે તે એવા મુદ્દાઓ સ્વીકારશે જે અર્થપૂર્ણ દુરુપયોગ અને સુરક્ષા જોખમો ઊભા કરે છે, ભલે તે સુરક્ષા નબળાઈના માપદંડોને પૂર્ણ ન કરતાં હોય. આ પ્રોગ્રામ દ્વારા, અમે સુરક્ષા અને સિક્યુરિટી સંશોધકો સાથે ભાગીદારી ચાલુ રાખવાની આશા રાખીએ છીએ જેથી પરંપરાગત સુરક્ષા નબળાઈઓની બહાર આવતા પરંતુ હજી પણ વાસ્તવિક જોખમો ઊભા કરતા મુદ્દાઓને ઓળખી અને ઉકેલી શકીએ. સબમિશનોનું ટ્રાયેજ OpenAIની Safety અને Security Bug Bounty ટીમો દ્વારા કરવામાં આવશે, અને વ્યાપ તથા માલિકીના આધારે તેને બે પ્રોગ્રામ વચ્ચે ફરી મોકલી શકાય છે.
નવો Safety Bug Bounty(નવી વિન્ડોમાં ખૂલે છે) પ્રોગ્રામ નીચે સૂચિબદ્ધ AI-વિશિષ્ટ સુરક્ષા પરિસ્થિતિઓ પર કેન્દ્રિત છે.
MCP સહિતના એજન્ટિક જોખમો
- તૃતીય પક્ષ પ્રોમ્પ્ટ ઇન્જેક્શન અને ડેટા એક્સફિલ્ટ્રેશન: જ્યારે હુમલાખોરનો ટેક્સ્ટ વિશ્વસનીય રીતે પીડિતના એજન્ટને હાઇજેક કરી શકે છે, જેમાં Browser, ChatGPT Agent અને સમાન એજન્ટિક પ્રોડક્ટ્સનો સમાવેશ થાય છે, અને તેને હાનિકારક ક્રિયા કરવા અથવા વપરાશકર્તાની સંવેદનશીલ માહિતી લીક કરવા માટે છેતરાવે છે. આ વર્તન ઓછામાં ઓછા 50% વખત પુનરુત્પાદિત કરી શકાય તેવું હોવું જોઈએ.
- OpenAIનું કોઈ એજન્ટિક પ્રોડક્ટ OpenAIની વેબસાઇટ પર મોટા પાયે મનાઈ કરેલી ક્રિયા કરે છે.
- OpenAIનું કોઈ એજન્ટિક પ્રોડક્ટ ઉપર સૂચિબદ્ધ ન હોય તેવી સંભવિત રીતે હાનિકારક ક્રિયા કરે છે. અહીં માન્ય રિપોર્ટોમાં સંભવિત અને મહત્વપૂર્ણ નુકસાન દર્શાવેલું હોવું જોઈએ.
- MCP જોખમ માટેનું કોઈપણ પરીક્ષણ કોઈપણ તૃતીય પક્ષોની સેવા શરતોનું પાલન કરતું હોવું જોઈએ.
OpenAIની માલિકીની માહિતી
- મોડલ જનરેશન્સ જે રિઝનિંગ સંબંધિત માલિકીની માહિતી પરત આપે છે.
- અન્ય OpenAIની માલિકીની માહિતી બહાર પાડતી નબળાઈઓ.
એકાઉન્ટ અને પ્લેટફોર્મ અખંડિતતા
- એકાઉન્ટ અખંડિતતા અને પ્લેટફોર્મ અખંડિતતા સંકેતોમાં નબળાઈઓ, જેમ કે એન્ટી-ઓટોમેશન નિયંત્રણોને બાયપાસ કરવું, એકાઉન્ટ વિશ્વાસ સંકેતોમાં હેરફેર કરવી, એકાઉન્ટ પ્રતિબંધો/સસ્પેન્શન/બેન્સને ટાળવા, અને સમાન મુદ્દાઓ.
- વપરાશકર્તાઓને અધિકૃત પરવાનગીઓથી આગળ ફીચર્સ, ડેટા અથવા કાર્યક્ષમતાઓનો ઍક્સેસ આપતા મુદ્દાઓની જાણ Security Bug Bounty(નવી વિન્ડોમાં ખૂલે છે)ને કરવી જોઈએ.
જોકે જેલબ્રેક્સ આ પ્રોગ્રામની વ્યાપ્તિ બહાર છે, અમે સમયાંતરે ચોક્કસ પ્રકારના નુકસાન પર કેન્દ્રિત ખાનગી bug bounty કેમ્પેઇન ચલાવીએ છીએ, જેમ કે ChatGPT Agent અને GPT‑5માં બાયોરિસ્ક કન્ટેન્ટ સંબંધિત મુદ્દાઓ. રસ ધરાવતા સંશોધકોને અમે આ પ્રોગ્રામો શરૂ થાય ત્યારે અરજી કરવા આમંત્રિત કરીએ છીએ.
ઉપર સૂચિબદ્ધ શ્રેણીઓની બહાર, જો સંશોધકો વપરાશકર્તાને સીધું નુકસાન પહોંચાડતા રસ્તાઓને સરળ બનાવતી ખામીઓ અને સુધારણા માટે અમલમાં મૂકી શકાય તેવા ચોક્કસ પગલાં ઓળખે, તો ઇનામ માટે તે મુદ્દાઓને કેસ-દર-કેસ ધોરણે વ્યાપ્તિમાં ગણવામાં આવી શકે છે. સાબિત કરી શકાય તેવી સુરક્ષા અથવા દુરુપયોગ અસર વિના સામાન્ય કન્ટેન્ટ-પોલિસી બાયપાસિસ આ પ્રોગ્રામની વ્યાપ્તિ બહાર છે. ઉદાહરણ તરીકે, એવા “જેલબ્રેક્સ” જેના પરિણામે મોડલ અસભ્ય ભાષાનો ઉપયોગ કરે અથવા સર્ચ એન્જિન દ્વારા સરળતાથી મળી શકે તેવી માહિતી પરત આપે, તે આ પ્રોગ્રામની વ્યાપ્તિ બહાર છે.
ભાગ લેવા ઇચ્છુક સંશોધકો અમારા Safety Bug Bounty(નવી વિન્ડોમાં ખૂલે છે) પ્રોગ્રામ દ્વારા અરજી કરી શકે છે. સુરક્ષિત AI ઇકોસિસ્ટમના હેતુ માટે અમે સંશોધકો, નૈતિક હેકરો અને સુરક્ષા તથા સિક્યુરિટી સમુદાય સાથે કામ કરવાની આતુરતા રાખીએ છીએ.
