फ़्रंटियर मॉडल्स के लिए ज़ीरो डेटा रिटेंशन की सुविधा

ज़ीरो डेटा रिटेंशन योग्य API कस्टमर्स से एक साफ़ वादा करता है: रिक्वेस्ट प्रोसेस होने के बाद OpenAI उनके प्रॉम्प्ट्स या मॉडल रिस्पॉन्स को अपने पास नहीं रखता. कस्टमर का कंटेंट OpenAI के कर्मचारियों को रिव्यू के लिए नहीं मिलता¹, और एंटरप्राइज़ कस्टमर्स का डेटा हमारे मॉडल्स को ट्रेन करने के लिए इस्तेमाल नहीं किया जाता, जब तक कि कस्टमर खुद इसके लिए सहमति न दें.

जैसे-जैसे मॉडल लंबे और ज़्यादा मुश्किल काम करने लगे हैं, कुछ गंभीर जोखिम कई इंटरैक्शंस के दौरान ही सामने आ सकते हैं. ZDR के साथ काम करने वाले मौजूदा सेफ़्टी सिस्टम हर इंटरैक्शन को अलग-अलग देखते हैं. आज हम प्राइवेट सेफ़्टी प्रोसेसिंग का प्रीव्यू दे रहे हैं, जिसे संबंधित इंटरैक्शंस के बीच पैटर्न पहचानने के लिए बनाया गया है, वह भी OpenAI के कर्मचारियों को असली कंटेंट का एक्सेस दिए बिना.

ZDR डिप्लॉयमेंट में कस्टमर का कंटेंट उसी इंफ़्रास्ट्रक्चर पर रहता है, जिसे कस्टमर कंट्रोल करते हैं. हम एक ऐसे ऑप्शन पर भी काम कर रहे हैं, जिसमें कंटेंट OpenAI के इंफ़्रास्ट्रक्चर पर स्टोर हो और कस्टमर के कंट्रोल वाली कीज़ से एन्क्रिप्ट किया जाए. दोनों मामलों में ऑटोमेटेड सिस्टम किसी भी गलत इस्तेमाल की पहचान कर सकते हैं और सीमित सेफ़्टी सिग्नल दे सकते हैं, बिना असली प्रॉम्प्ट्स या रिस्पॉन्स को OpenAI के कर्मचारियों के सामने लाए.

AI से जुड़े सबसे गंभीर सेफ़्टी रिस्क हमेशा एक ही इंटरैक्शन में दिखाई नहीं देते. कई बार होने वाले नुकसान का इरादा तभी साफ़ होता है, जब कई इंटरैक्शंस को साथ में देखा जाए. ऐसे ही रिस्क तब भी सामने आ सकते हैं, जब गलत इरादे वाला कोई इंसान बार-बार सेफ़्टी उपायों को परखता है, अलग-अलग अकाउंट्स के बीच मिलकर काम करता है या खतरों को सामान्य रिसर्च जैसा दिखाता है. एजेंटिक टास्क के दौरान भी रिस्क बढ़ सकते हैं—उदाहरण के लिए, जब किसी सिस्टम को रुकने के लिए कहने के बाद भी वह काम करता रहता है और यूज़र के इरादे से अलग दिशा में चला जाता है.

जैसे-जैसे AI सिस्टम लंबे और ज़्यादा मुश्किल काम करने लगते हैं, सही कॉन्टेक्स्ट यह समझने के लिए और ज़रूरी हो जाता है कि कोई काम सही तरीके से किया जा रहा है या गलत इस्तेमाल हो रहा है. इससे यह भी पक्का करने में मदद मिलती है कि AI एजेंट्स को जितने अधिकार दिए गए हैं, वे उसी दायरे में काम करें.

हाल के कुछ फ़्रंटियर-मॉडल डिप्लॉयमेंट में कस्टमर्स को अपने AI प्रोवाइडर को सेफ़्टी मॉनिटरिंग के लिए संवेदनशील कंटेंट रखने की इजाज़त देनी पड़ी है. कई ऑर्गेनाइज़ेशंस के लिए ऐसी शर्तें उनकी सिक्योरिटी ज़िम्मेदारियों या उन लोगों के लिए उनकी ज़िम्मेदारियों से मेल नहीं खातीं, जिनकी वे सेवा करते हैं.

प्राइवेट सेफ़्टी प्रोसेसिंग को इस तरह बनाया गया है कि हम ZDR जारी रख सकें.

प्राइवेट सेफ़्टी प्रोसेसिंग, ZDR और दूसरे डिप्लॉयमेंट में पहले से इस्तेमाल हो रहे ऑटोमेटेड सेफ़्टी उपायों पर काम करती है. मौजूदा ZDR-कम्पैटिबल सेफ़्टी सिस्टम हर इंटरैक्शन को अलग-अलग देखते हैं. प्राइवेट सेफ़्टी प्रोसेसिंग इन उपायों को संबंधित इंटरैक्शंस तक बढ़ाती है, जिससे ऑटोमेटेड सिस्टम पैटर्न पहचान सकते हैं, बिना OpenAI के कर्मचारियों को कस्टमर के रखे गए कंटेंट का एक्सेस दिए.

प्राइवेट सेफ़्टी प्रोसेसिंग कस्टमर कंटेंट का इस्तेमाल करती है, चाहे वह कहीं भी स्टोर हो - कस्टमर के कंट्रोल वाले इंफ़्रास्ट्रक्चर में (ZDR डिप्लॉयमेंट्स), या OpenAI की दी हुई स्टोरेज में. OpenAI की दी हुई स्टोरेज में कस्टमर कंटेंट कस्टमर के कंट्रोल वाली कीज़ से एन्क्रिप्ट किया जाता है. OpenAI के कर्मचारियों के पास इन कीज़ की कॉपी नहीं होती, इसलिए वे असल कंटेंट को एक्सेस नहीं कर सकते.

जब कोई रिस्क पहचाना जाता है, तो OpenAI को एक सीमित सिग्नल मिलता है, जो बताता है कि किस तरह की गतिविधि हुई है. यह हमारे मौजूदा सेफ़्टी सिस्टम्स की तरह ही है. इस सिग्नल की मदद से तय किया जा सकता है कि कोई कार्रवाई ज़रूरी है या नहीं. कंटेंट फ़्लैग होने पर भी OpenAI के कर्मचारियों को कस्टमर के कंटेंट का एक्सेस नहीं मिलता.

कस्टमर्स अपने सिस्टम में मौजूद जानकारी के आधार पर अलर्ट और लिए गए फ़ैसलों की जाँच कर सकते हैं. अगर वे किसी फ़ैसले पर अपील करना चाहते हैं, किसी सही इस्तेमाल के बारे में जानकारी देना चाहते हैं या पक्के तौर पर हुए गलत इस्तेमाल की जाँच में मदद करना चाहते हैं, तो वे संबंधित जानकारी OpenAI के साथ शेयर कर सकते हैं.

प्राइवेट सेफ़्टी प्रोसेसिंग का अभी नए कस्टमर्स के साथ टेस्ट किया जा रहा है. हम अभी यह प्रीव्यू इसलिए शेयर कर रहे हैं क्योंकि हमारे कस्टमर्स ने साफ़ तौर पर बताया है कि AI सिस्टम्स के ज़्यादा सक्षम होने के साथ वे यह पहले से जानना चाहते हैं कि उनके कंटेंट की सुरक्षा किस तरह की जाएगी.

हमारा मिशन यह पक्का करना है कि आर्टिफ़िशियल जेनरल इंटेलिजेंस से पूरी मानवता को फ़ायदा मिले. असरदार सेफ़गार्ड्स बनाने के हमारे तरीके में कस्टमर्स और पार्टनर्स के साथ मिलकर काम करना बेहद ज़रूरी है. जैसा कि हमारे सिद्धांतों में साफ़ है, कोई भी AI लैब उभरते रिस्क को अकेले नहीं संभाल सकती. प्राइवेट सेफ़्टी प्रोसेसिंग इसी सोच को दिखाती है और इसे अलग-अलग इंडस्ट्री, क्षेत्रों और अलग-अलग साइज़ की कंपनियों के कस्टमर्स के साथ मिलकर तैयार किया जा रहा है.

हम जिन ऑर्गेनाइज़ेशंस के साथ काम करते हैं, वे अपने सेक्टर की बेहद संवेदनशील जानकारी संभालते हैं, जैसे फ़ाइनेंशियल रिकॉर्ड्स, हेल्थ डेटा, गोपनीय बिज़नेस प्लान और अपनी रिसर्च. इस जानकारी को सुरक्षित रखना रेग्युलेटरी ज़रूरतें पूरी करने, कस्टमर्स का भरोसा बनाए रखने और अपने बिज़नेस की बढ़त बनाए रखने के लिए ज़रूरी है.

उनके फ़ीडबैक से हमें बेहतर सेफ़गार्ड्स बनाने में मदद मिल रही है, साथ ही उनकी जानकारी पर उनका कंट्रोल बना हुआ है.

हम अपने कस्टमर्स के साथ मिलकर अपने इस तरीके के टेक्निकल और ऑपरेशनल पहलुओं पर काम करते रहेंगे. सितंबर में हम प्राइवेट सेफ़्टी प्रोसेसिंग को रोल आउट करना शुरू करने और एक टेक्निकल वाइट पेपर शेयर करने की योजना बना रहे हैं. हम हर कदम पर कस्टमर्स को जानकारी देते रहेंगे, बदलावों की जानकारी पहले से साझा करेंगे, बताएँगे कि उनका मौजूदा कमिटमेंट पर क्या असर होगा और आगे की तैयारी के लिए उन्हें समय और सपोर्ट देंगे.