जून में, इंटरनल ट्रेनिंग और मूल्यांकन के दौरान हमारे मॉडल्स ने ऑस्ट्रेलियाई सरकार की वेबसाइट्स को ऐसे तरीकों से एक्सेस किया, जिनके लिए उन्हें अनुमति नहीं थी. हमें इस स्थिति में अपनी प्रतिक्रिया को बेहतर ढंग से संभालना चाहिए था. हम माफ़ी चाहते हैं, और हम भविष्य में बेहतर करने के लिए काम कर रहे हैं.
इस पोस्ट में, हम बता रहे हैं कि हमें क्या पता है, हमने क्या बदलाव किए हैं और ऑस्ट्रेलियाई लोगों का भरोसा फिर से जीतने के लिए हम क्या करेंगे. यह एक नए तरह की साइबर घटना है जो एक उभरती हुई वैश्विक चुनौती है. इस स्थिति के लिए ज़िम्मेदारी लेने के हमारे तरीकों में से एक है ऑस्ट्रेलिया के साथ मिलकर काम करना, ताकि ऐसे प्रैक्टिकल तरीके बनाए जा सकें जिनसे AI डेवलपर्स और सरकारें AI के साइबर व्यवहार (चाहे वह बुरे हों या अनजाने में हुए हों) की पहचान कर सकें, उसकी जानकारी दे सकें और उनसे निपट सकें.
जुलाई में Hugging Face की घटना के बाद, हमने दूसरे प्रभावित ऑर्गनाइज़ेशन की पहचान करने के लिए पिछली ट्रेनिंग और मूल्यांकन एक्टिविटी को रिव्यू करना शुरू कर दिया. अगस्त के बीच में, उस रिव्यू में ऐसी एक्टिविटी की पहचान हुई जिनसे नीचे दी गई ऑस्ट्रेलियाई सरकारी वेबसाइट्स पर असर हुआ था.
सबूतों के आधार पर हम यह जानते हैं:
Services Australia: OpenAI के एक मॉडल ने इस सर्विस के नॉन-पब्लिक हिस्से को एक्सेस करने का तरीका खोज निकाला और कमांड चलाए, इंटरनल फ़ाइलें, क्रेडेंशियल और कुल आँकड़े हासिल किए, और फ़ाइलें लिखीं. हालाँकि, किसी भी मरीज़ या क्लाइंट के व्यक्तिगत रिकॉर्ड एक्सेस नहीं किए गए. हम इस घटना के बारे में नीचे ज़्यादा जानकारी दी है.
NSW Bureau of Crime Statistics and Research (BOCSAR): एक OpenAI मॉडल ने अपराध के सार्वजनिक आँकड़ों पर रिसर्च करने के लिए BOCSAR के पब्लिक क्राइम मैपिंग टूल का इस्तेमाल किया (हम नीचे विस्तार से बताएँगे कि मॉडल अलग-अलग तरह की जानकारी खोजने का टास्क क्यों करते हैं). मॉडल ने पब्लिक BOCSAR टूल के ज़रिए API और वेबसाइट मेटाडेटा के लिए अनुरोध भेजे; यह टूल ब्राउज़र API रिक्वेस्ट के लिए क्रेडेंशियल देता है. BOCSAR सिस्टम ने ऐप्लिकेशन कॉन्फ़िगरेशन, ऑपरेशनल जॉब्स और लॉग्स, और वेबसाइट मेटाडेटा की जानकारी दी. इसमें किसी व्यक्ति के अपराध रिकॉर्ड को एक्सेस नहीं किया गया.
Victorian Department of Health: OpenAI एजेंट्स को असुरक्षित तौर से उपलब्ध एक ऐसी एक्सेस की मिली, जिससे Victorian Agency for Health Information के रिपोर्टिंग सिस्टम से जानकारी मांगी जा सकती थी और रिपोर्टिंग कॉन्फ़िगरेशन और सर्वे के कुल आँकड़े हासिल किए जा सकते थे. यह जानकारी किस हद तक एक्सेस करने योग्य होनी चाहिए थी, यह स्पष्ट नहीं है, और यह VAHI की एक्सेस पॉलिसी पर निर्भर करता है. व्यक्तिगत मेडिकल रिकॉर्ड या पहचाने जा सकने वाले सर्वे जवाबों को एक्सेस नहीं किया गया था.
Australian Institute of Health and Welfare: OpenAI एजेंट्स ने थर्ड-पार्टी ब्राउज़िंग और डाउनलोड सेवाओं का इस्तेमाल करके कुल आंकड़े हासिल किए, जिसमें AIHW की वेबसाइट से मिली जानकारी भी शामिल है, और सीधे चार्ट डेटा की जानकारी मांगी. एक्सेस कंट्रोल को बायपास करने की अलग-अलग कोशिशें नाकाम रहीं. डाउनलोड किया गया मटीरियल सार्वजनिक तौर से उपलब्ध लग रहा है. सिस्टम से कोई छेड़छाड़ नहीं हुई. व्यक्तिगत मेडिकल रिकॉर्ड को एक्सेस नहीं किया गया था.
अगस्त के बीच में इन एक्टिविटी के बारे में पता चलते ही हमने इनकी जाँच शुरू कर दी. हमने 10 सितंबर को 'Services Australia' और 'Victorian Department of Health' को, और 18 सितंबर को 'NSW Bureau of Crime Statistics and Research' को इसकी सूचना दी. 'Australian Institute of Health and Welfare' से जुड़ी एक्टिविटी हमारी जानकारी सार्वजनिक करने की शर्तों को पूरा नहीं करती थी, क्योंकि जिस तरह से इसे एक्सेस किया गया था, वह आम लोगों के एक्सेस जैसा ही लग रहा था; फिर भी, हमने अपने नतीजों की जानकारी शेयर करने और ब्रीफ़िंग देने के लिए 24 सितंबर को इसकी सूचना दी.
हमारा मकसद था कि जाँच पूरी होने के बाद प्रभावित एजेंसियों को पूरी जानकारी दी जाए. हालांकि, हमें शुरुआती नतीजे पहले ही शेयर कर देने चाहिए थे और जैसे-जैसे और तथ्य सामने आते, ऑस्ट्रेलियाई एजेंसियों को अपडेट करते रहना चाहिए था.
तब से, हमने अब तक जो कुछ भी सीखा है, उसे शेयर करने के लिए ऑस्ट्रेलियाई सरकारी एजेंसियों के साथ मिलकर काम किया है. अगर हमें किसी और प्रभावित एजेंसी का पता चलता है, तो हम उपलब्ध जानकारी के साथ उन्हें तुरंत और सीधे सूचित करेंगे और जैसे-जैसे और तथ्य सामने आएँगे, उन्हें अपडेट देते रहेंगे.
जून में इंटरनल ट्रेनिंग और मूल्यांकन के दौरान, हम OpenAI का एक एक्सपेरिमेंटल, सिर्फ़ इंटरनल इस्तेमाल वाला मॉडल चला रहे थे. इसे पब्लिक के लिए रिलीज़ करने का इरादा नहीं था और इसमें हमारे पब्लिक प्रोडक्ट्स में इस्तेमाल होने वाले सभी सुरक्षा उपाय शामिल नहीं थे. इस ट्रेनिंग और मूल्यांकन के दौरान, इसने Services Australia की मेडिकेयर स्टैटिस्टिक्स रिपोर्टिंग सर्विस को एक्सेस किया. अब तक की हमारी जाँच में ऐसा कोई सबूत नहीं मिला है कि किसी के मेडिकल रिकॉर्ड को एक्सेस किया गया हो.
जब हम अपने मॉडल की इंटरनल ट्रेनिंग और मूल्यांकन करते हैं, तो हम उन्हें कई विषयों से जुड़े रिसर्च सवालों के एक बड़े कलेक्शन से टास्क देते हैं. ये सवाल उस तरह के विस्तृत सवालों को दिखाते हैं जो यूज़र पूछ सकते हैं. इससे मॉडल को सार्वजनिक तौर से उपलब्ध जानकारी खोजने, समझने और उसका विश्लेषण करने की ट्रेनिंग मिलती है, ताकि मॉडल लोगों के लिए ज़्यादा उपयोगी बन सके. हमारे मॉडल से उम्मीद की जाती है कि वे सार्वजनिक तौर से पब्लिश किए गए आंकड़ों का इस्तेमाल करके इन सवालों के जवाब दें.
इस मामले में, मॉडल को जो टास्क सौंपे गए थे, उनमें से एक था विक्टोरियन समुदायों में त्वचा की समस्याओं की दवाओं पर प्रति व्यक्ति सरकारी ख़र्च के बारे में रिसर्च करना. मॉडल को यह जानकारी हासिल करने में मुश्किल हुई और उसने ऐसे कदम उठाए जिनके लिए हमने उसे ऑथोराइज़ नहीं किया था. Services Australia की मेडिकेयर स्टैटिस्टिक्स रिपोर्टिंग सर्विस में यह जानकारी खोजते समय, उसे उस सर्विस तक ऐसा एक्सेस मिल गया जो आम लोगों के लिए नहीं था. फिर उसने इस एक्सेस का इस्तेमाल सर्विस से जुड़ी तकनीकी सिस्टम की जानकारी और सोर्स कोड को रिव्यू करने के लिए किया—और यह सब उसने उसी जानकारी को खोजने के मकसद से किया जिसकी उसे शुरू से तलाश थी. हमारा मकसद यह एक्टिविटी करवाना नहीं था, और सर्विस तक एक्सेस मिलना या उसके बाद की एक्टिविटी नहीं होनी चाहिए थीं.
Hugging Face वाली घटना के बाद, हमने अपने रिसर्च से जुड़े सुरक्षा उपायों को और मज़बूत किया, जिसमें नेटवर्क पर अतिरिक्त पाबंदियाँ और ज़्यादा निगरानी शामिल है. हमने इन रिसर्च एनवायरनमेंट में लाइव इंटरनेट एक्सेस को रोकने के लिए कंट्रोल लागू किए, ताकि वेब एक्सेस कैश्ड कंटेंट के ज़रिए मिल सके. सुरक्षा की एक अतिरिक्त परत के तौर पर, हमारे मौजूदा मॉनिटरिंग सिस्टम इस एक्टिविटी का पता लगा लेते और तुरंत इंसानी रिव्यू के लिए हमारी टीम को सूचित कर देते. उदाहरण के लिए, जब हाल ही में हुए ट्रेनिंग रन(एक नई विंडो में खुलेगा) के दौरान किसी मॉडल को लाइव इंटरनेट एक्सेस मिला, तो हमारे मॉनिटरिंग सिस्टम ने इस एक्टिविटी का पता लगाया और एक इंसानी रिव्यूअर को सूचित किया, जिसके बाद हमने उस रन को रोक दिया. हम इन सुरक्षा उपायों की जाँच करना और कमियों को दूर करना जारी रखे हुए हैं. अब तक हमने जिसका सामना किया है, उसमें Hugging Face वाली घटना अब तक की सबसे गंभीर घटना रही है.
लोग यह जानना चाहते हैं कि AI को सुरक्षित तरीके से डेवलप किया जा रहा है, और इसकी शुरुआत हमारी जैसी कंपनियों के अपने काम से होती है. हमने हाल ही में शेयर किया(एक नई विंडो में खुलेगा) था कि हमने अपने सबसे काबिल मॉडल के लिए टूल के इस्तेमाल से जुड़ी ट्रेनिंग और मूल्यांकन को रोक दिया है. हम इनकी ट्रेनिंग तभी फिर से शुरू करेंगे जब हमें भरोसा हो जाएगा कि हमारे पास अतिरिक्त सुरक्षा उपाय मौजूद हैं; हम अभी इन्हीं पर काम कर रहे हैं.
जैसे-जैसे AI सिस्टम ज़्यादा काबिल होते जा रहे हैं, ऑर्गनाइज़ेशन के लिए कमज़ोरियों को खोजने और उन्हें ठीक करने का समय भी कम होता जा रहा है. इसके लिए दुनिया भर में सुरक्षा करने वालों के साथ मिलकर सामूहिक तौर से काम करने की ज़रूरत है.
हमने टेक्नोलॉजी, साइबर सिक्योरिटी और ज़रूरी इंफ़्रास्ट्रक्चर से जुड़े ऑर्गनाइज़ेशन के साथ मिलकर साइबर सुरक्षा के लिए मिलकर कदम उठाने की अपील की है. इस अपील की शुरुआत हमारी अपनी ज़िम्मेदारियों से होती है, जिसमें मज़बूत सुरक्षा उपाय, समय पर जानकारी देना और प्रभावित संस्थाओं को व्यावहारिक सहायता देना शामिल है. इसमें ज़रूरी सेवाओं की सुरक्षा करने वाली टीम में निवेश करने की भी बात कही गई है, ताकि वे कमियों का पता लगा सकें, सुधारों को वेरिफ़ाई कर सकें और कारगर तरीकों को शेयर कर सकें.
ऑस्ट्रेलिया में हम प्रभावित एजेंसियों की सहायता और साइबर सुरक्षा रक्षकों को इन सिद्धांतों को अमल में लाने में मदद देने के लिए रिसोर्स और विशेषज्ञता उपलब्ध कराने के लिए प्रतिबद्ध हैं, जिनमें शामिल हैं:
प्रभावित एजेंसियों के लिए ख़ास सहायता. हम प्रभावित एजेंसियों को यह समझने और असर का आकलन करने में मदद करने के लिए ज़रूरी रिसोर्स उपलब्ध कराएँगे. इसमें ज़रूरी तकनीकी जानकारी शेयर करना और सही जानकारी की शेयरिंग की व्यवस्थाओं के ज़रिए हमारी रिस्पॉन्स टीम के साथ बातचीत की व्यवस्था करना शामिल है.
साइबर सुरक्षा को मज़बूत करने के लिए फ़ंडिंग और सहायता. हम अपने $1 बिलियन के Daybreak for Frontline Defenders फ़ंड से मिलने वाले क्रेडिट और तकनीकी सहायता के ज़रिए ऑस्ट्रेलियाई सरकारों और इंडस्ट्री की मदद करेंगे, ताकि ज़रूरी इंफ़्रास्ट्रक्चर और दूसरे संवेदनशील एनवायरनमेंट में साइबर सुरक्षा को मज़बूत किया जा सके. सरकारों और ज़रूरी इंफ़्रास्ट्रक्चर operators के साथ मिलकर किए जा रहे इस काम से ऑर्गनाइज़ेशन को ज़्यादा काबिल AI एजेंट से होने वाले रिस्क को बेहतर ढंग से समझने, उनका पता लगाने और उनसे निपटने में मदद मिलेगी.
ऑस्ट्रेलियाई टास्कफ़ोर्स. हम ज़्यादा काबिल AI एजेंट्स से जुड़े रिस्क को मैनेज करने के लिए प्रैक्टिकल पॉलिसी सुझाव तैयार करने के मकसद से, व्यक्तिगत ऑस्ट्रेलियाई विशेषज्ञता वाली एक टास्कफ़ोर्स बनाएँगे. इन घटनाओं से मिले सबक के आधार पर, यह टास्कफ़ोर्स नोटिफ़िकेशन प्रोसेस को बेहतर बनाने, AI डेवलपर्स और सरकार के बीच तालमेल मज़बूत करने और सरकारी सिस्टम को बेहतर ढंग से सुरक्षित रखने के उपाय खोजने पर ध्यान देगी. टास्कफ़ोर्स के सुझाव OpenAI के नज़रिए को दिशा देंगे और AI सुरक्षा और साइबर सुरक्षा पर ऑस्ट्रेलियाई सरकार के काम में सहायता करेंगे. उम्मीद है कि यह टास्कफ़ोर्स साल के आख़िर तक अपना काम पूरा कर लेगी. साथ ही, यह ऐसे प्रैक्टिकल कदम भी सुझाएगी जिन्हें अपनाकर AI कंपनियाँ ऐसी घटनाओं के रिस्क को कम कर सकती हैं.
ऑस्ट्रेलिया की सरकारें, इंडस्ट्री और नागरिक OpenAI के लिए बहुत अहम पार्टनर रहे हैं और अभी भी हैं. हम इस रिश्ते को हल्के में नहीं लेते और स्थिति सुधारने का इरादा रखते हैं.
OpenAI के चीफ़ स्ट्रैटेजी ऑफ़िसर, जेसन क्वोन, मंगलवार 6 अक्टूबर को सिडनी में आर्टिफ़िशियल इंटेलिजेंस पर बनी जॉइंट सेलेक्ट कमिटी के सामने पेश होने के लिए OpenAI के US हेडक्वार्टर से आएँगे. वह इन सवालों के जवाब देंगे कि हमें क्या पता है, हमने कैसे प्रतिक्रिया दी, हमने क्या कदम उठाए हैं और आगे हम और बेहतर कैसे करेंगे.
हम प्रभावित एजेंसियों और संबंधित सरकारों के साथ वेरिफ़ाई की गई जानकारी शेयर करना जारी रखेंगे. हम अपने जारी रिव्यू और इन वादों को पूरा करने की दिशा में हुई प्रगति के बारे में अपडेट पब्लिश करेंगे. हम जानते हैं कि भरोसा फिर से कायम करने के लिए हमें अभी बहुत काम करना है, और हमारी यह ज़िम्मेदारी है कि हम ऑस्ट्रेलिया के लोगों को दिखाएँ कि हम सार्थक बदलाव कर रहे हैं और अपने वादों को पूरा कर रहे हैं.
