ऑस्ट्रेलियासाठी आम्ही अधिक चांगले काम कसे करू

जूनमध्ये अंतर्गत प्रशिक्षण आणि मूल्यमापनादरम्यान आमच्या मॉडेलनी ऑस्ट्रेलियन सरकारी संकेतस्थळांवर परवानगी नसलेल्या मार्गांनी प्रवेश केला. या घटनांना प्रतिसाद देतानाही आम्ही अधिक चांगल्या प्रकारे परिस्थिती हाताळायला हवी होती. आम्ही दिलगीर आहोत आणि भविष्यात अधिक चांगले काम करण्यासाठी प्रयत्न करत आहोत.

आम्हाला काय माहिती आहे, आम्ही कोणते बदल केले आहेत आणि ऑस्ट्रेलियन जनतेचा विश्वास पुन्हा मिळवण्यासाठी काय करणार आहोत, हे आम्ही या लेखात मांडत आहोत. ही एका नव्या प्रकारची सायबर घटना असून ती उदयाला येत असलेल्या जागतिक आव्हानाचे निदर्शक आहे. या परिस्थितीची जबाबदारी स्वीकारण्याचा एक मार्ग म्हणून आम्ही ऑस्ट्रेलियासोबत उद्देशपूर्वक काम करू इच्छितो. कृत्रिम बुद्धिमत्तेचे सायबर वर्तन दुर्भावनापूर्ण असो वा अनवधानाने घडलेले असो, विकासकांनी आणि सरकारांनी ते कसे ओळखावे, त्याची माहिती कशी द्यावी आणि त्याला कसा प्रतिसाद द्यावा यासाठी व्यावहारिक पद्धती विकसित करण्यात आम्ही मदत करू.

जुलैमधील हगिंग फेसच्या घटनेनंतर, इतर बाधित संस्था शोधण्यासाठी आम्ही आधीच्या प्रशिक्षण आणि मूल्यमापनातील कृतींचा आढावा घेण्यास सुरुवात केली. ऑगस्टच्या मध्यात या आढाव्यातून खालील ऑस्ट्रेलियन सरकारी संकेतस्थळांवर परिणाम करणाऱ्या कृती आढळल्या.

पुराव्यांच्या आधारे आम्हाला पुढील माहिती मिळाली आहे:

• सर्व्हिसेस ऑस्ट्रेलिया: OpenAI च्या एका मॉडेलला सेवेच्या सार्वजनिक प्रवेशासाठी खुल्या नसलेल्या भागात प्रवेश करण्याचा मार्ग सापडला. त्याने आज्ञा चालवल्या, अंतर्गत फायली, प्रवेश प्रमाणके आणि एकत्रित आकडेवारी मिळवली, तसेच फायली लिहिल्या. मात्र, कोणत्याही वैयक्तिक रुग्णाच्या किंवा सेवाग्राहकाच्या नोंदी पाहिल्या गेल्या नाहीत. या घटनेची अधिक सविस्तर माहिती आम्ही खाली दिली आहे.

• न्यू साउथ वेल्स गुन्हे सांख्यिकी आणि संशोधन कार्यालय (बीओसीएसएआर): OpenAI च्या एका मॉडेलने सार्वजनिक गुन्हे आकडेवारीचा अभ्यास करण्यासाठी बीओसीएसएआरचे सार्वजनिक गुन्हे नकाशांकन साधन वापरले. (मॉडेल माहिती शोधण्याची विविध कामे का करतात हे आम्ही खाली अधिक स्पष्ट केले आहे.) मॉडेलने बीओसीएसएआरच्या सार्वजनिक साधनाद्वारे एपीआय आणि संकेतस्थळाच्या मेटाडेटासाठी विनंत्या केल्या. हे साधन ब्राउझरमधील एपीआय विनंत्यांसाठी प्रवेश प्रमाणके पुरवते. बीओसीएसएआर प्रणालीने अनुप्रयोगाची संरचना, कार्यचालनाची कामे व नोंदी आणि संकेतस्थळाचा मेटाडेटा पुरवला. व्यक्तींच्या गुन्हेगारी नोंदी पाहिल्या गेल्या नाहीत.

• व्हिक्टोरियाचा आरोग्य विभाग: OpenAI एजंटना उघडी पडलेली एक प्रवेश कळ सापडली. तिच्या साहाय्याने त्यांनी व्हिक्टोरियाच्या आरोग्य माहिती संस्थेच्या अहवाल प्रणालीकडे माहिती मागवली आणि अहवालाची संरचना व सर्वेक्षणाची एकत्रित आकडेवारी मिळवली. यातील किती माहिती उपलब्ध असायला हवी होती हे स्पष्ट नाही. ते व्हीएएचआयच्या प्रवेश धोरणांवर अवलंबून आहे. वैयक्तिक वैद्यकीय नोंदी किंवा व्यक्तींची ओळख पटवता येईल अशी सर्वेक्षणातील उत्तरे पाहिली गेली नाहीत.

• ऑस्ट्रेलियन आरोग्य आणि कल्याण संस्था: OpenAI एजंटनी तृतीय-पक्ष ब्राउझिंग आणि डाउनलोड सेवांचा वापर करून एआयएचडब्ल्यूच्या संकेतस्थळासह विविध स्रोतांतून एकत्रित आकडेवारी मिळवली. त्यांनी आलेखांतील माहितीसाठी थेट विनंत्याही केल्या. प्रवेश नियंत्रणे टाळण्यासाठी केलेले स्वतंत्र प्रयत्न अयशस्वी झाले. डाउनलोड केलेली सामग्री सार्वजनिकरीत्या उपलब्ध होती असे दिसते. प्रणालीच्या सुरक्षेचा भंग झाला नाही. वैयक्तिक वैद्यकीय नोंदी पाहिल्या गेल्या नाहीत.

ऑगस्टच्या मध्यात आम्हाला या कृतींची माहिती मिळताच आम्ही त्यांचा तपास सुरू केला. आम्ही १० सप्टेंबरला सर्व्हिसेस ऑस्ट्रेलिया आणि व्हिक्टोरियाच्या आरोग्य विभागाला, तर १८ सप्टेंबरला न्यू साउथ वेल्स गुन्हे सांख्यिकी आणि संशोधन कार्यालयाला माहिती दिली. ऑस्ट्रेलियन आरोग्य आणि कल्याण संस्थेशी संबंधित कृती आमच्या माहिती देण्याच्या निकषांत बसत नव्हत्या, कारण वापरलेला प्रवेशमार्ग सार्वजनिक प्रवेशाशी सुसंगत वाटत होता. तरीही, आमचे निष्कर्ष सांगण्यासाठी आणि सविस्तर माहिती देऊ करण्यासाठी आम्ही २४ सप्टेंबरला संस्थेला कळवले.

तपास पूर्ण झाल्यावर बाधित यंत्रणांना सविस्तर माहिती देणे हा आमचा उद्देश होता. मात्र, आम्ही प्राथमिक निष्कर्ष लवकर सांगायला हवे होते आणि अधिक तथ्ये समोर येत गेली तशी ऑस्ट्रेलियन यंत्रणांना अद्ययावत माहिती द्यायला हवी होती.

तेव्हापासून आम्ही आतापर्यंत मिळालेली माहिती सामायिक करण्यासाठी ऑस्ट्रेलियन सरकारी यंत्रणांसोबत जवळून काम केले आहे. आणखी कोणत्याही बाधित यंत्रणा आढळल्यास, आम्ही उपलब्ध माहिती त्यांना तातडीने आणि थेट कळवू. पुढील तथ्ये समोर येतील तशी अद्ययावत माहितीही देऊ.

जूनमधील अंतर्गत प्रशिक्षण आणि मूल्यमापनादरम्यान आम्ही OpenAI चे एक प्रायोगिक मॉडेल चालवत होतो. ते केवळ अंतर्गत वापरासाठी होते, सार्वजनिकरीत्या उपलब्ध करून देण्यासाठी नव्हते. आमच्या सार्वजनिक उत्पादनांमध्ये असलेले सर्व सुरक्षा उपायही त्यात लागू नव्हते. या प्रशिक्षण आणि मूल्यमापनादरम्यान त्याने सर्व्हिसेस ऑस्ट्रेलियाच्या मेडिकेअर सांख्यिकी अहवाल सेवेत प्रवेश केला. कोणाच्याही वैद्यकीय नोंदी पाहिल्या गेल्याचा पुरावा आमच्या आतापर्यंतच्या आढाव्यात आढळलेला नाही.

आमच्या मॉडेलचे अंतर्गत प्रशिक्षण आणि मूल्यमापन करताना, आम्ही त्यांना अनेक विषयांवरील संशोधन प्रश्नांच्या विस्तृत संग्रहातून निवडलेली कामे देतो. हे प्रश्न वापरकर्ते विचारू शकतील अशा सविस्तर प्रश्नांचे प्रतिनिधित्व करतात. यातून मॉडेलला सार्वजनिकरीत्या उपलब्ध माहिती शोधण्याचे, तिचा अर्थ समजून घेण्याचे आणि विश्लेषण करण्याचे प्रशिक्षण मिळते, जेणेकरून ते लोकांसाठी अधिक उपयुक्त ठरू शकेल. आमच्या मॉडेलनी सार्वजनिकरीत्या प्रसिद्ध केलेली आकडेवारी वापरून या प्रश्नांची उत्तरे देणे अपेक्षित आहे.

या प्रकरणात, व्हिक्टोरियातील समुदायांमध्ये त्वचारोगांच्या औषधांवर सरकार दरडोई किती खर्च करते याचा शोध घेणे हे मॉडेलला दिलेल्या कामांपैकी एक होते. ही माहिती मिळवताना मॉडेलला अडचणी आल्या आणि त्याने अशा कृती केल्या ज्यांची परवानगी आम्ही दिलेली नव्हती. सर्व्हिसेस ऑस्ट्रेलियाच्या मेडिकेअर सांख्यिकी अहवाल सेवेत ही माहिती शोधताना, त्याला सेवेच्या सार्वजनिक प्रवेशासाठी खुल्या नसलेल्या भागात प्रवेश करण्याचा मार्ग सापडला. त्यानंतर या प्रवेशाचा वापर करून त्याने सेवेशी संबंधित प्रणालीची तांत्रिक माहिती आणि स्रोत कोड तपासला. हे सर्व करतानाही त्याचा उद्देश मूळतः हवी असलेली माहिती शोधणे हाच होता. या कृती घडाव्यात असा आमचा हेतू नव्हता. सेवेत असा प्रवेश आणि त्यानंतरच्या कृती घडायला नको होत्या.

हगिंग फेसच्या घटनेनंतर आम्ही संशोधनातील सुरक्षा उपाय अधिक कडक केले. यात नेटवर्कवरील अतिरिक्त निर्बंध आणि अधिक व्यापक देखरेख यांचा समावेश आहे. या संशोधन वातावरणांमध्ये इंटरनेटचा थेट वापर रोखणारी नियंत्रणे आम्ही लागू केली असून, वेबवरील माहिती तात्पुरत्या साठ्यात जतन केलेल्या आशयातून पुरवली जाते. सुरक्षेचा अतिरिक्त स्तर म्हणून असलेल्या आमच्या सध्याच्या देखरेख प्रणालींनी या कृती ओळखल्या असत्या आणि तातडीने मानवी तपासणी करण्यासाठी आमच्या पथकाला सूचना पाठवली असती. उदाहरणार्थ, अलीकडील एका प्रशिक्षण सत्रात⁠(नवीन विंडोमध्ये उघडेल) एका मॉडेलला थेट इंटरनेट प्रवेश मिळाला तेव्हा आमच्या देखरेख प्रणालीने ही कृती ओळखून मानवी परीक्षकाला सूचना पाठवली आणि आम्ही ते सत्र थांबवले. आम्ही या सुरक्षा उपायांची चाचणी घेत राहून त्यांतील त्रुटी दूर करत आहोत. आतापर्यंत आमच्या निदर्शनास आलेल्या घटनांपैकी हगिंग फेसची घटना सर्वात गंभीर आहे.

कृत्रिम बुद्धिमत्ता सुरक्षितपणे विकसित केली जात आहे याची लोकांना खात्री हवी आहे. त्याची सुरुवात आमच्यासारख्या कंपन्या स्वतः काय करतात यापासून होते. आम्ही अलीकडेच सांगितले⁠(नवीन विंडोमध्ये उघडेल) की, आमच्या सर्वाधिक सक्षम मॉडेलचे साधनांचा वापर करणारे प्रशिक्षण आणि मूल्यमापन आम्ही स्थगित केले आहे. अतिरिक्त सुरक्षा उपाय लागू असल्याची खात्री झाल्यावरच आम्ही त्यांचे प्रशिक्षण पुन्हा सुरू करू. सध्या आम्ही हे उपाय तयार करण्यावर काम करत आहोत.

कृत्रिम बुद्धिमत्ता प्रणाली एकूणच अधिक सक्षम होत असल्याने, संस्थांना सुरक्षेतील त्रुटी शोधून दूर करण्यात मदत करण्यासाठी उपलब्ध वेळही कमी होत असल्याचे आम्हाला दिसते. यासाठी जगभरातील सायबर सुरक्षारक्षकांसोबत मिळून सामूहिक कृती करणे आवश्यक आहे.

तंत्रज्ञान, सायबर सुरक्षा आणि अत्यावश्यक पायाभूत सुविधा क्षेत्रांतील संस्थांसोबत आम्ही सायबर संरक्षणासाठी सामूहिक कृतीच्या आवाहनात सहभागी झालो आहोत. या आवाहनाची सुरुवात आमच्या स्वतःच्या जबाबदाऱ्यांपासून होते. यात अधिक कडक सुरक्षा उपाय, वेळेवर माहिती देणे आणि बाधित संस्थांना प्रत्यक्ष मदत करणे यांचा समावेश आहे. अत्यावश्यक सेवांचे संरक्षण करणाऱ्या पथकांमध्ये गुंतवणूक करण्याचेही हे आवाहन आहे, जेणेकरून त्यांना सुरक्षेतील त्रुटी शोधता येतील, केलेल्या दुरुस्त्या पडताळता येतील आणि यशस्वी उपायांची माहिती इतरांना देता येईल.

ऑस्ट्रेलियामध्ये बाधित यंत्रणांना मदत करण्यासाठी आणि सुरक्षारक्षकांना ही तत्त्वे प्रत्यक्षात आणता यावीत यासाठी आम्ही संसाधने आणि तज्ज्ञ साहाय्य देण्यास कटिबद्ध आहोत. यात पुढील बाबींचा समावेश आहे:

• बाधित यंत्रणांसाठी विशेष साहाय्य. नेमके काय घडले हे समजून घेण्यासाठी आणि त्याच्या परिणामांचे मूल्यमापन करण्यासाठी बाधित यंत्रणांना आवश्यक संसाधने आम्ही पुरवू. यात संबंधित तांत्रिक निष्कर्ष सामायिक करणे आणि माहितीच्या देवाणघेवाणीसाठी योग्य व्यवस्था करून आमच्या प्रतिसाद पथकांशी संवाद घडवून आणणे यांचा समावेश आहे.

• सायबर संरक्षण बळकट करण्यासाठी निधी आणि साहाय्य. अत्यावश्यक पायाभूत सुविधा आणि इतर संवेदनशील प्रणालींचे सायबर संरक्षण बळकट करण्यासाठी आम्ही ऑस्ट्रेलियातील सरकारांना आणि उद्योगांना तांत्रिक साहाय्य तसेच आमच्या १ अब्ज डॉलरच्या आघाडीवरील सुरक्षारक्षकांसाठी डेब्रेक निधीतून क्रेडिट्स देऊ. सरकारे आणि अत्यावश्यक पायाभूत सुविधा चालवणाऱ्या संस्थांसोबतच्या आमच्या सहकार्याला पुढे नेत, हे काम संस्थांना अधिकाधिक सक्षम होत असलेल्या कृत्रिम बुद्धिमत्ता एजंटकडून उद्भवणारे धोके अधिक चांगल्या प्रकारे समजून घेण्यास, शोधण्यास आणि त्यांना प्रतिसाद देण्यास मदत करेल.

• ऑस्ट्रेलियन कृती दल. अधिकाधिक सक्षम होत असलेल्या कृत्रिम बुद्धिमत्ता एजंटकडून उद्भवणाऱ्या धोक्यांचे व्यवस्थापन करण्यासाठी व्यावहारिक धोरणात्मक शिफारसी तयार करणारे कृती दल आम्ही स्थापन करू. त्यात ऑस्ट्रेलियातील स्वतंत्र तज्ज्ञांचा सहभाग असेल. या घटनांमधून मिळालेल्या धड्यांच्या आधारे, हे दल सूचना देण्याच्या प्रक्रिया सुधारणे, कृत्रिम बुद्धिमत्ता विकासक आणि सरकार यांच्यातील समन्वय बळकट करणे आणि सरकारी प्रणालींचे अधिक चांगले संरक्षण करणारे उपाय शोधणे यांवर लक्ष केंद्रित करेल. कृती दलाच्या शिफारसी OpenAI चा दृष्टिकोन ठरवण्यास मार्गदर्शक ठरतील आणि कृत्रिम बुद्धिमत्तेची सुरक्षितता व सायबर सुरक्षा यांबाबत ऑस्ट्रेलियातील सरकारांच्या कामाला हातभार लावतील. या कृती दलाचे काम वर्षअखेरीस पूर्ण होणे अपेक्षित आहे. अशा घटनांचा धोका कमी करण्यासाठी कृत्रिम बुद्धिमत्ता कंपन्या कोणती व्यावहारिक पावले उचलू शकतात, याबाबतही ते शिफारसी करेल.

ऑस्ट्रेलियातील सरकारे, उद्योग आणि नागरिक हे पूर्वीपासून OpenAI चे अमूल्य भागीदार आहेत. ही भागीदारी आम्ही गृहीत धरत नाही आणि झालेल्या चुका दुरुस्त करण्याचा आमचा निर्धार आहे.

OpenAI चे मुख्य धोरण अधिकारी जेसन क्वॉन मंगळवार, ६ ऑक्टोबर रोजी सिडनीत कृत्रिम बुद्धिमत्तेविषयीच्या संयुक्त निवड समितीसमोर हजर राहण्यासाठी OpenAI च्या अमेरिकेतील मुख्यालयातून येतील. आम्हाला काय माहिती आहे, आम्ही कसा प्रतिसाद दिला, कोणती पावले उचलली आणि पुढे आम्ही कशी सुधारणा करू, या प्रश्नांची ते उत्तरे देतील.

आम्ही बाधित यंत्रणा आणि संबंधित सरकारांना पडताळलेले निष्कर्ष देत राहू. आमच्या सुरू असलेल्या आढाव्याबाबत आणि या वचनांच्या पूर्ततेतील प्रगतीबाबत आम्ही अद्यतने प्रसिद्ध करू. विश्वास पुन्हा मिळवण्यासाठी आम्हाला अजून खूप काम करायचे आहे, याची आम्हाला जाणीव आहे. आम्ही अर्थपूर्ण बदल करत आहोत आणि दिलेली वचने पाळत आहोत हे ऑस्ट्रेलियन जनतेला दाखवून देण्याची जबाबदारी आमची आहे.