उन्नत AI के साझा मानक बनाने में मदद

लगातार अधिक सक्षम होते मॉडल साइबर रक्षा को मजबूत कर सकते हैं, वैज्ञानिक खोज को तेज कर सकते हैं और विशेषज्ञता तक पहुँच बढ़ा सकते हैं. लेकिन यदि उनकी क्षमताओं को गलत समझा जाए, उनके सुरक्षा उपाय पर्याप्त न हों, या सरकारों के पास प्रतिक्रिया देने के लिए जरूरी जानकारी न हो, तो वे सुरक्षा और संरक्षा संबंधी जोखिम भी पैदा कर सकते हैं. इन लाभों को सुरक्षित और भरोसेमंद तरीके से पाने के लिए समाजों को ऐसी संस्थाओं की जरूरत होगी जिनमें लगातार अधिक सक्षम होती प्रणालियों का मूल्यांकन करने, उन्हें सुरक्षित रखने और उनका शासन करने की तकनीकी व गवर्नेंस क्षमता हो.

इसी कारण OpenAI ने Linux Foundation द्वारा होस्ट किए गए Appia Foundation⁠(एक नई विंडो में खुलेगा) की स्थापना में मदद की. Appia खुले, मॉड्यूलर विनिर्देश विकसित करेगा, जिनका उद्देश्य अंतरराष्ट्रीय मानकों और स्थापित फ़्रेमवर्क को AI मूल्य शृंखला में व्यावहारिक आकलन मानदंडों में बदलना है. इसका काम भरोसे की उस महत्वपूर्ण, अब तक अनुपस्थित परत को विकसित करने में मदद कर सकता है, जिसके जरिए तीसरे पक्ष मानकों के अनुरूपता की जाँच करते हैं और जब मॉडल, अवसंरचना व ऐप्लिकेशन अलग-अलग संगठन विकसित करते हैं, तो अधिक स्पष्ट और पुनः उपयोग योग्य साक्ष्य तैयार होते हैं. यह काम करते हुए Appia एक साझा तकनीकी भाषा बनाने में मदद करेगा, जिससे राष्ट्रीय और अंतरराष्ट्रीय संस्थाएँ एक-दूसरे के काम पर भरोसा कर सकेंगी.

हम इस प्रयास को उन्नत AI प्रणालियों के लिए जरूरी संस्थाओं, मानकों और आकलन प्रथाओं को मजबूत करने के व्यापक काम में एक महत्वपूर्ण अगला कदम मानते हैं.

फ्रंटियर AI के लोकतांत्रिक शासन के लिए हमारा हालिया ब्लूप्रिंट इस काम के लिए एक रूपरेखा देता है. यह एक टिकाऊ अमेरिकी फ़्रेमवर्क, AI मानक और नवाचार केंद्र (CAISI) को मजबूत करने, और सरकार भर में व्यापक लचीलापन रणनीति का आह्वान करता है. यह भी स्वीकार करता है कि फ्रंटियर रिस्क का दायरा अंतरराष्ट्रीय है. देशों को संगत सुरक्षा फ़्रेमवर्क, जोखिम निष्कर्ष साझा करने के भरोसेमंद चैनल और घटनाओं पर समन्वित प्रतिक्रियाएँ विकसित करने के लिए मिलकर काम करना चाहिए.

राष्ट्रीय क्षमता और अंतरराष्ट्रीय सहयोग को एक-दूसरे को मजबूत करना चाहिए. CAISI जैसी मजबूत संस्थाएँ तकनीकी विशेषज्ञता विकसित कर सकती हैं, फ्रंटियर प्रणालियों का मूल्यांकन कर सकती हैं और स्वतंत्र आकलन इकोसिस्टम को समर्थन दे सकती हैं. सक्षम राष्ट्रीय संस्थाओं का नेटवर्क फिर साझा तरीके स्थापित कर सकता है, भरोसेमंद साक्ष्य को मान्यता दे सकता है और सरकारों को साथ मिलकर कार्रवाई करने के लिए जरूरी साझा तकनीकी समझ दे सकता है.

इस प्रयास में मानक केंद्रीय भूमिका निभाते हैं, और उनका आधार विश्वसनीय मूल्यांकन पद्धति और तकनीकी कठोरता होना चाहिए. भरोसेमंद तृतीय-पक्ष मूल्यांकन के लिए हमारी साझा प्लेबुक में हमने बताया है कि फ्रंटियर आकलनों को बढ़ती मात्रा में क्या खुलासा करना होगा: जाँची गई प्रणाली, उसकी टूल पहुँच और मूल्यांकन हार्नेस, क्षमताओं को सामने लाने के लिए इस्तेमाल किए गए तरीके, उपलब्ध संसाधन, और परिणामों को सत्यापित करने के लिए किए गए जाँच-कार्य. हमने इन सिद्धांतों को US CAISI और UK AISI के साथ परीक्षण साझेदारियों के जरिए व्यवहार में भी लागू किया है, जिनके फ्रंटियर क्षमता आकलनों और जैविक-दुरुपयोग सुरक्षा उपायों पर काम से हमारी प्रणालियों में ठोस सुधार हुए. यह काम ऐसी प्रथाओं की नींव बनाने का महत्वपूर्ण कार्य करता है जिन्हें तुलनीय तरीके से प्रदर्शन की जाँच के लिए मानकीकृत किया जा सके.

ये प्रथाएँ OpenAI के व्यापक सुरक्षा ढाँचे को पूरक बनाती हैं. हमारा Preparedness Framework इस बात की बुनियाद है कि उन्नत AI प्रणालियों से जुड़े सबसे गंभीर जोखिमों के प्रबंधन के लिए हम अपना दृष्टिकोण कैसे परिभाषित करते हैं और उसे व्यवहार में कैसे लागू करते हैं, जिसमें हमारी आंतरिक प्रथाएँ भी शामिल हैं. हमारा फ्रंटियर गवर्नेंस फ़्रेमवर्क उस दृष्टिकोण के प्रासंगिक हिस्सों को एक सार्वजनिक शासन दस्तावेज़ में लागू करता है, जो जोखिम आकलन, मॉडल रिपोर्टिंग, सुरक्षा नियंत्रणों, घटना प्रतिक्रिया और बाहरी विशेषज्ञों की राय शामिल करने जैसी विशिष्ट नियामकीय बाध्यताओं पर केंद्रित है. साथ मिलकर, ये दस्तावेज़ व्यापक प्रतिबद्धताओं को ऐसी परिचालन प्रथाओं में बदलने में मदद करते हैं जिन्हें सत्यापित और बेहतर किया जा सके.

Appia का काम अगली चुनौती पर केंद्रित है: इन प्रथाओं को संगठनों, अधिकार-क्षेत्रों और आपूर्ति शृंखला में अंतर-संचालनीय बनाना.

OpenAI पहले से ही मानकों और मानकीकरण-पूर्व प्रयासों के व्यापक इकोसिस्टम में योगदान देता है. हम मानकीकरण के लिए अंतरराष्ट्रीय संगठन और अंतरराष्ट्रीय इलेक्ट्रोटेक्निकल आयोग की संयुक्त तकनीकी समिति 1, कृत्रिम बुद्धिमत्ता पर उपसमिति 42⁠(एक नई विंडो में खुलेगा) और नेशनल इंस्टिट्यूट ऑफ़ स्टैंडर्ड्स एंड टेक्नोलॉजी के नेतृत्व वाले कृत्रिम बुद्धिमत्ता कंसोर्टियम⁠(एक नई विंडो में खुलेगा) में भाग लेते हैं; फ्रंटियर मॉडल फ़ोरम और Linux Foundation के एजेंटिक कृत्रिम बुद्धिमत्ता फ़ाउंडेशन⁠(एक नई विंडो में खुलेगा) की स्थापना में मदद की; सुरक्षित कृत्रिम बुद्धिमत्ता के लिए गठबंधन⁠(एक नई विंडो में खुलेगा) में भाग लेते हैं; कंटेंट प्रोवेनेंस और ऑथेंटिसिटी के लिए गठबंधन⁠(एक नई विंडो में खुलेगा) की संचालन समिति में काम करते हैं; और अंतर-संचालनीय तकनीकी मानकों को आगे बढ़ाने के लिए इंटरनेट इंजीनियरिंग टास्क फ़ोर्स⁠(एक नई विंडो में खुलेगा) तथा फ़ास्ट आइडेंटिटी ऑनलाइन अलायंस⁠(एक नई विंडो में खुलेगा) की प्रक्रियाओं में शामिल होते हैं.

इन मंचों पर, और अब Appia के माध्यम से भी, हमारा लक्ष्य सबसे उन्नत विकास से मिले सबकों को खुली, तकनीकी रूप से ठोस प्रथाओं में बदलना है, जिनका उपयोग सरकारें, कंपनियाँ और स्वतंत्र आकलनकर्ता अलग-अलग अधिकार-क्षेत्रों में कर सकें.