प्रगत AI साठी सामायिक मानके तयार करण्यास मदत करणे

अधिकाधिक सक्षम मॉडेल्स सायबर संरक्षण मजबूत करू शकतात, वैज्ञानिक शोधांना गती देऊ शकतात आणि तज्ञतेची उपलब्धता वाढवू शकतात. परंतु, जर त्यांच्या क्षमतांबद्दल गैरसमज झाला, त्यांची सुरक्षा व्यवस्था अपुरी असेल किंवा प्रतिसाद देण्यासाठी सरकारकडे आवश्यक माहितीचा अभाव असेल, तर ते सुरक्षिततेचे धोके देखील निर्माण करू शकतात. हे फायदे सुरक्षितपणे आणि आत्मविश्वासाने मिळवण्यासाठी, समाजाला अशा संस्थांची आवश्यकता असेल, ज्यांच्याकडे अधिकाधिक सक्षम प्रणालींचे मूल्यांकन, सुरक्षा आणि व्यवस्थापन करण्याची तांत्रिक आणि प्रशासकीय क्षमता असेल.

हे एक कारण आहे की OpenAI ने Linux फाउंडेशनद्वारे संचालित Appia फाउंडेशनची⁠(नवीन विंडोमध्ये उघडेल) स्थापना करण्यास मदत केली. Appia आंतरराष्ट्रीय मानके आणि प्रस्थापित फ्रेमवर्कचे AI मूल्य साखळीतील व्यावहारिक मूल्यांकन निकषांमध्ये रूपांतर करण्याच्या उद्देशाने खुली, मॉड्यूलर वैशिष्ट्ये विकसित करेल. त्याचे कार्य एक महत्त्वाचा, गहाळ असलेला विश्वासाचा स्तर विकसित करण्यास मदत करू शकते, ज्याद्वारे तृतीय पक्ष मानकांशी अनुरूपता तपासू शकतील, आणि जेव्हा मॉडेल्स, पायाभूत सुविधा आणि ॲप्लिकेशन्स वेगवेगळ्या संस्थांद्वारे विकसित केले जातात तेव्हा अधिक स्पष्ट आणि पुन्हा वापरता येण्याजोगे पुरावे निर्माण होतील. हे कार्य करताना, Appia एक सामायिक तांत्रिक भाषा तयार करण्यास मदत करेल, जी राष्ट्रीय आणि आंतरराष्ट्रीय संस्थांना एकमेकांच्या कार्यावर विश्वास ठेवण्यास मुभा देईल.

प्रगत AI प्रणालींसाठी आवश्यक संस्था, मानके आणि मूल्यमापन पद्धती अधिक सक्षम करण्याच्या व्यापक कामातील हा प्रयत्न महत्त्वाचे पुढचे पाऊल आहे, असे आम्हाला वाटते.

अत्याधुनिक AI च्या लोकशाही शासनासाठीचा आमचा अलीकडील आराखडा त्या कामासाठी एक दिशादर्शक ठरतो. तो एका टिकाऊ अमेरिकी चौकटीची, एका अधिक सशक्त सेंटर फॉर AI स्टँडर्ड्स अँड इनोव्हेशन (CAISI) ची, आणि संपूर्ण शासनामध्ये एका व्यापक लवचिकता धोरणाची मागणी करतो. तो हे देखील मान्य करतो की फ्रंटियर रिस्क आंतरराष्ट्रीय स्वरूपाचे आहेत. राष्ट्रांनी एकत्र येऊन सुसंगत सुरक्षा चौकट, धोक्यांविषयीचे निष्कर्ष सामायिक करण्यासाठी विश्वसनीय माध्यमे, आणि घटनांना समन्वित प्रतिसाद विकसित केला पाहिजे.

राष्ट्रीय क्षमता आणि आंतरराष्ट्रीय सहकार्य यांनी एकमेकांना बळ द्यावे. CAISI सारख्या सक्षम संस्था तांत्रिक तज्ज्ञता विकसित करू शकतात, अत्याधुनिक प्रणालींचे मूल्यमापन करू शकतात आणि स्वतंत्र मूल्यमापन परिसंस्थेला पाठबळ देऊ शकतात. सक्षम राष्ट्रीय संस्थांचे जाळे मग सामायिक पद्धती निश्चित करू शकते, विश्वसनीय पुरावे मान्य करू शकते आणि एकत्र कृती करण्यासाठी सरकारला आवश्यक असलेली समान तांत्रिक समज देऊ शकते.

त्या प्रयत्नांमध्ये मानके केंद्रस्थानी आहेत, आणि ती विश्वसनीय मूल्यांकन पद्धती व तांत्रिक कठोरतेवर आधारित असली पाहिजेत. विश्वासार्ह तृतीय-पक्ष मूल्यांकनांसाठीच्या आमच्या सामायिक मार्गदर्शक पुस्तिकेत, आम्ही हे स्पष्ट केले आहे की अत्याधुनिक मूल्यांकनांनी अधिकाधिक काय उघड करणे आवश्यक आहे: चाचणी केलेली प्रणाली, तिच्या टूल्सची उपलब्धता आणि मूल्यांकन हार्नेस, क्षमता जाणून घेण्यासाठी वापरलेल्या पद्धती, उपलब्ध संसाधने, आणि निकालांची पडताळणी करण्यासाठी केलेल्या तपासण्या. आम्ही US CAISI आणि UK AISI यांच्यासोबत चाचणी भागीदारीद्वारे ही तत्त्वे प्रत्यक्षात आणली आहेत, ज्यांच्या अत्याधुनिक क्षमता मूल्यांकन आणि जैविक-गैरवापर सुरक्षा उपायांवरील कार्यामुळे आमच्या प्रणालींमध्ये ठोस सुधारणा झाल्या आहेत. हे कार्य अशा पद्धतींचा पाया तयार करण्याचे एक महत्त्वाचे कार्य करते, ज्यांचे मानकीकरण करून कामगिरीची तुलनात्मक पद्धतीने तपासणी करता येईल.

या पद्धती OpenAI च्या व्यापक सुरक्षा पायाभूत संरचनेला पूरक आहेत. आमची प्रिपेयर्डनेस फ्रेमवर्क ही, आमच्या अंतर्गत पद्धतींसह, प्रगत AI प्रणालींमधील सर्वात गंभीर धोके व्यवस्थापित करण्याच्या आमच्या दृष्टिकोनाची व्याख्या आणि अंमलबजावणी कशी करायची याचा पाया आहे. आमची अत्याधुनिक गव्हर्नन्स फ्रेमवर्क त्या दृष्टिकोनाचे संबंधित भाग एका सार्वजनिक प्रशासकीय दस्तऐवजात लागू करते, जो विशिष्ट नियामक जबाबदाऱ्यांवर लक्ष केंद्रित करतो, ज्यात जोखीम मूल्यांकन, मॉडेल रिपोर्टिंग, सुरक्षा नियंत्रणे, घटना प्रतिसाद आणि बाह्य तज्ञांच्या मतांचा समावेश आहे. एकत्रितपणे, हे घटक व्यापक वचनबद्धतांना अशा कार्यप्रणालींमध्ये रूपांतरित करण्यास मदत करतात ज्यांची पडताळणी आणि सुधारणा केली जाऊ शकते.

Appia च्या कामाचे उद्दिष्ट पुढील आव्हान आहे: त्या कार्यपद्धतींना संस्था, अधिकारक्षेत्रे आणि पुरवठा साखळी यांच्यामध्ये आंतरकार्यक्षम बनवणे.

OpenAI आधीच मानके आणि मानकीकरणपूर्व उपक्रमांच्या व्यापक परिसंस्थेत योगदान देत आहे. आम्ही आंतरराष्ट्रीय मानकीकरण संस्था आणि आंतरराष्ट्रीय विद्युत-तांत्रिक आयोग संयुक्त तांत्रिक समिती 1, कृत्रिम बुद्धिमत्तेवरील उपसमिती 42⁠(नवीन विंडोमध्ये उघडेल) आणि राष्ट्रीय मानके आणि तंत्रज्ञान संस्था-नेतृत्वाखालील कृत्रिम बुद्धिमत्ता कन्सोर्टियम⁠(नवीन विंडोमध्ये उघडेल) मध्ये सहभागी आहोत; फ्रंटियर मॉडेल फोरम आणि Linux फाउंडेशनच्या एजंटिक कृत्रिम बुद्धिमत्ता फाउंडेशन⁠(नवीन विंडोमध्ये उघडेल) ची स्थापना करण्यात मदत केली आहे; सुरक्षित कृत्रिम बुद्धिमत्तेसाठी आघाडीमध्ये⁠(नवीन विंडोमध्ये उघडेल) सहभागी आहोत; सामग्रीच्या उगम आणि प्रामाणिकतेसाठी आघाडीच्या⁠(नवीन विंडोमध्ये उघडेल) संचालन समितीवर काम करतो; आणि परस्परसुसंगत तांत्रिक मानके पुढे नेण्यासाठी इंटरनेट अभियांत्रिकी कार्यबल⁠(नवीन विंडोमध्ये उघडेल) व फास्ट आयडेंटिटी ऑनलाइन अलायन्स⁠(नवीन विंडोमध्ये उघडेल) प्रक्रियांमध्ये सहभागी होतो.

या सर्व मंचांवर, आणि आता Appia च्या माध्यमातूनही, आमचे ध्येय आहे की अत्याधुनिक विकासातून मिळालेले धडे अशा खुल्या, तांत्रिकदृष्ट्या भक्कम पद्धतींमध्ये रूपांतरित करणे, ज्यांचा उपयोग सरकार, कंपन्या आणि स्वतंत्र मूल्यमापनकर्ते विविध अधिकारक्षेत्रांमध्ये करू शकतील.