AI धोरणाची संधी खुली आहे. तुम्हाला कृती करणे आवश्यक आहे.

AI क्षमतांचा नवा अध्याय सुरू झाला आहे आणि त्यामुळे AI धोरणाचाही नवा अध्याय आवश्यक आहे. कोणतीही कंपनी, उद्योग किंवा सरकार एकट्याने हे आव्हान पेलू शकत नाही. धोरण परिपूर्ण करण्यापेक्षा अर्थपूर्ण कृतीला प्राधान्य देऊन तुम्हाला या परिस्थितीला सामोरे जाण्याची गरज आहे.

आम्ही काय करत आहोत ते येथे आहे:

1. अनिवार्य राष्ट्रीय AI सुरक्षा आवश्यकतांसाठी प्रयत्नशील. अनिवार्य, क्षमतेवर आधारित राष्ट्रीय AI सुरक्षा नियमनावर आम्हाला काँग्रेससोबत काम करायचे आहे.

2. राज्यांमधील गती कायम ठेवत आहोत. काँग्रेस कारवाई करेपर्यंत, व्यापक AI सुरक्षा परिसंस्था बळकट करणाऱ्या राज्य कायद्यांना आम्ही पाठिंबा देत राहू. आज, आम्ही कॅलिफोर्नियातील चार विधेयकांना पाठिंबा जाहीर करत आहोत: स्वतंत्र सुरक्षा मूल्यमापनांसाठी एकूण पायाभूत सुविधांवरील SB 813, AI लेखापरीक्षकांच्या मानकांवरील AB 1405, तरुणांच्या संरक्षणावरील SB 1119 आणि AI-सक्षम जैविक धोक्यांविरुद्धच्या सुरक्षा उपायांवरील AB 1864.

3. उद्योग-नेतृत्वाखालील मानके पुढे नेणे. आम्ही इतर अत्याधुनिक लॅब्ससोबत अत्याधुनिक AI मानके पुढे नेण्यासाठी काम करू, सरकारी पाठिंबा असो वा नसो, आता एक स्वैच्छिक उपक्रम उभारत आहोत.

4. जागतिक मानके तयार करणे. क्षमतांचे मोजमाप करणे, जोखीम व्यवस्थापित करणे, मानवी नियंत्रण जपणे आणि विकास कधी व कसा मंदावावा किंवा थांबावा हे ठरवण्यासाठी आम्ही सुसंगत आंतरराष्ट्रीय दृष्टिकोनांचा पुरस्कार करू, जरी त्यासाठी मॉडेल क्षमतांची प्रगती मंदावावी लागली तरीही.

आमचे मुख्य वैज्ञानिक याकूब पाचोकी यांनी अलीकडे लिहिले⁠ की पुनरावर्ती स्व-सुधारणेच्या शक्यतेसह यांत्रिक बुद्धिमत्तेची वेगवान वाढ “अत्यंत सावधगिरीची” मागणी करते. OpenAI अलाइनमेंट आणि निरीक्षणासाठी तांत्रिक उपाय शोधणे, संरक्षण सिस्टम्स उभारणे आणि आवश्यकतेनुसार विकास मंदावणे सुरू ठेवेल. पण स्वतंत्र प्रयोगशाळांतील तांत्रिक काम पुरेसे ठरणार नाही. विकास कधी मंदावावा किंवा थांबावा यासह आपल्याला समान मानकांचीही गरज आहे.

यात प्रचंड हितसंबंध पणाला लागले आहेत. प्रगत AI नव्या औषधांच्या⁠ विकासाला गती देऊ शकते, महत्त्वाच्या पायाभूत सुविधा⁠ बळकट करू शकते, आर्थिक संधी⁠ वाढवू शकते आणि मानवी प्रयत्नांच्या अनेक पिढ्यांनंतरही न सुटलेल्या वैज्ञानिक समस्या⁠ सोडवण्यास मदत करू शकते. पण मॉडेलना अधिक उपयुक्त बनवणाऱ्या क्षमतांसोबत जोखीमही येतात आणि त्या मोजक्या अत्याधुनिक प्रयोगशाळांपुरत्या मर्यादित राहणार नाहीत. ओपन मॉडेल्ससह जगभर विकसित होणारी मॉडेल्स आजच्या अत्याधुनिक पातळीच्या अधिकाधिक जवळ येतील आणि व्यापकपणे उपलब्ध होतील.

Astra च्या क्षमता, AI मुळे संशोधनाला गती मिळत असल्याचे प्राथमिक पुरावे आणि याकूब यांचा निबंध हे सर्व एकाच दिशेकडे निर्देश करतात: AI झपाट्याने प्रगत होत आहे आणि धोरणांनीही त्याच्यासोबत पुढे सरकले पाहिजे.

ग्रेग ब्रॉकमन यांनी “बचावकर्त्यांसाठीची संधी” असे वर्णन केले आहे⁠(नवीन विंडोमध्ये उघडेल): शक्तिशाली आक्रमक क्षमता व्यापक होण्यापूर्वी अत्याधुनिक AI च्या मदतीने बचावकर्ते महत्त्वाच्या सिस्टम्स बळकट करू शकतील असा हा मर्यादित काळ आहे. धोरणकर्त्यांसमोरही अशीच वेळ आहे: AI क्षमतांचे नियमन करण्यासाठी जबाबदार संस्थांच्या पुढे AI क्षमता जाण्यापूर्वी टिकाऊ संरक्षण उभारण्याची संधी कमी होत आहे.

क्षमता वाढताना, सुरक्षेवरील विश्वासानेच AI प्रगतीची गती अधिकाधिक ठरवली पाहिजे. सुरक्षा प्रगतीच्या आड येत नाही. तीच प्रगतीला आणखी पुढे जाणे आणि अधिक लोकांना लाभ देणे शक्य करते.

मॉडेल-विकासाच्या संपूर्ण जीवनचक्रात आम्ही निरीक्षण, सुसंरेखन आणि सुरक्षा उपाय बळकट केले आहेत. यात अत्याधुनिक संशोधन कामांसाठी अधिक मजबूत विलगीकरण, टूल्स-सक्षम प्रशिक्षण व मूल्यमापनादरम्यान मॉडेलच्या वर्तनाचे विस्तारित निरीक्षण आणि चिंता कधी पुढे पाठवायच्या यासाठी अधिक स्पष्ट नियम समाविष्ट आहेत. Astra साठी, आम्ही चेन-ऑफ-थॉटसह संपूर्ण प्रक्रियाक्रमांचे सार्वत्रिक निरीक्षण आणि व्यापक अंतर्गत तैनातीपूर्वी अनिवार्य सुसंरेखन-मूल्यमापनाचा टप्पा देखील लागू केला आहे.

ते सुरक्षा उपाय क्षमतांच्या पुढे राहिले पाहिजेत. पुढे जाण्याने सुरक्षिततेचा अस्वीकार्य धोका निर्माण होत असल्यास, आम्ही पुरेसे सुरक्षित ठेवू शकत नसलेल्या प्रणालींचा विकास किंवा उपयोजन मंदावू किंवा थांबवू, जसे आम्ही यापूर्वी केले आहे आणि आमच्या प्रिपेयर्डनेस फ्रेमवर्कनुसार⁠(नवीन विंडोमध्ये उघडेल) आवश्यक आहे.

संपूर्णपणे स्वायत्त पुनरावर्ती स्व-सुधारणा—ज्यात AI प्रणाली अधिकाधिक सक्षम AI च्या पुढील पिढ्या स्वतंत्रपणे विकसित करतात—आज घडत नाही. ती सुरक्षितपणे करता येईपर्यंत तुम्ही तिचा पाठपुरावा करू नये.

पण AI मॉडेलच्या पुढील पिढीचा विकास आणि संरेखन करण्यासाठीच्या संशोधनातील काही भाग आधीच वेगवान करत आहे. आमचे नवीन संशोधन⁠ दाखवते की AI एजंट कुशल संशोधकांना अनेक दिवस लागणारी काही कामे करू शकतात. ही पुनरावर्ती स्व-सुधारणा नाही, पण हा प्रवास कोणत्या दिशेने चालला आहे याचा पुरावा आहे.

ही गती सुरक्षेकडेही वळवता येते आणि वळवलीच पाहिजे. डीप लर्निंग आणि अलाइनमेंट दोन्ही पुढे नेण्यासाठी, मानवी देखरेखीखाली काम करणारे स्वयंचलित AI संशोधक सुरक्षितपणे तयार करणे हे आमचे उद्दिष्ट आहे—AI च्या प्रत्येक पिढीचा वापर करून पुढची पिढी केवळ अधिक सक्षम नव्हे, तर अधिक सुरक्षित, अधिक चांगल्या प्रकारे संरेखित केलेली आणि नियंत्रित करणे सोपे बनवण्यासाठी.

सरकारांनी ही प्रगती मोजण्यासाठी समान पद्धती विकसित कराव्यात, अर्थपूर्ण मानवी नियंत्रण राखावे आणि विकास कधी व कसा मंदावावा किंवा थांबावा यासाठी समान सुरक्षा मर्यादा ठरवाव्यात. क्षमतेची वाढ मंदावल्याशिवाय तुम्ही काही सुरक्षा मर्यादा पूर्ण करू शकत नसू, तर तुम्ही त्या सुरक्षा मर्यादांना प्राधान्य दिले पाहिजे. तंत्रज्ञान जितके शक्तिशाली होईल, तितकेच त्याभोवतीचे सुरक्षा उपाय मजबूत असले पाहिजेत.

AI मुळे वेगवान झालेल्या AI विकासाची शक्यता केवळ स्वयंसेवी वचनबद्धतांपेक्षा अधिक मागणी करते. तंत्रज्ञानाप्रमाणे विकसित होऊ शकणारे, क्षमतेवर आधारित अनिवार्य राष्ट्रीय नियमन युनायटेड स्टेट्सला आवश्यक आहे.

आमचा अत्याधुनिक AI च्या लोकशाही प्रशासनाचा आराखडा⁠ टिकाऊ संघीय चौकटीकडे जाणारा मार्ग मांडतो: समान चाचणी आणि स्वतंत्र मूल्यमापनाच्या आवश्यकता, अधिक मजबूत सायबरसुरक्षा संरक्षणे, घटनांचा अहवाल देण्याचे स्पष्ट नियम, अधिक राष्ट्रीय सज्जता आणि पुनरावर्ती स्व-सुधारणेच्या दिशेने प्रगतीचा मागोवा घेण्यासाठी सामायिक उपाय.

काँग्रेसमध्ये अत्याधुनिक AI सुरक्षेचे अनेक गंभीर प्रस्ताव आता आकार घेत आहेत. आम्ही विधायक सहभाग सुरू ठेवू आणि सुरक्षा निकष लक्षणीयरीत्या उंचावणाऱ्या विधेयकांना पाठिंबा देण्याची अपेक्षा करतो. इतके काही पणाला लागलेले असताना परिपूर्णतेच्या आग्रहामुळे चांगल्या कामात अडथळा येऊ देता कामा नये. अधिवेशन तहकूब होण्यापूर्वी काँग्रेसने कृती केली पाहिजे.

राष्ट्रीय चौकट भक्कम असावी, पण काळजीपूर्वक लक्ष्यित असावी. अत्याधुनिक सुरक्षेसाठीच्या आवश्यकता सर्वाधिक सक्षम प्रणाली विकसित करणाऱ्या मोजक्या, भरपूर संसाधने असलेल्या प्रयोगशाळांना लागू व्हाव्यात—नवउद्योगांना, लहान विकासकांना किंवा अत्याधुनिक पातळीपासून खूप दूर कार्यरत असलेल्या संशोधकांना नव्हे. जबाबदाऱ्या क्षमता आणि जोखमींच्या प्रमाणात असाव्यात.

तसेच अत्याधुनिक AI सुरक्षेचे धोरण दुसऱ्या नावाखाली खुले-वजन धोरण बनू नये. ओपन मॉडेल उपायाचा भाग असू शकतात, विशेषतः सायबरसुरक्षेत आणि जिथे सार्वभौमत्व, सुरक्षा किंवा डेटा रेसिडेन्सीच्या गरजांमुळे स्थानिक उपयोजनाला प्राधान्य दिले जाते तिथे. बहुतेकांची स्पर्धा अत्याधुनिक क्षमतेत नव्हे, तर खर्च, नियंत्रण आणि विलंबात असते. Open Weights आणि अमेरिकेचे AI नेतृत्व या पत्रावर⁠(नवीन विंडोमध्ये उघडेल) स्वाक्षरी करताना आम्ही म्हटल्याप्रमाणे, अमेरिकेला खुले आणि बंद दोन्ही प्रकारचे मॉडेल आवश्यक आहेत. संघीय चौकटीने स्पर्धा कमकुवत न करता, विद्यमान कंपन्यांचे वर्चस्व पक्के न करता किंवा नवकल्पनांना परदेशात ढकलल्याविना अत्याधुनिक क्षमता आणि जोखमी हाताळल्या पाहिजेत.

भक्कम सार्वजनिक चौकटीने सत्तेचे केंद्रीकरण वाढवू नये, तर कमी करावे. आज अत्याधुनिक प्रयोगशाळा फ्रंटियर रिस्कच्या व्यवस्थापनासाठी बहुतांश नियम स्वतःच ठरवतात. लोकशाही पद्धतीने उत्तरदायी मानके, स्वतंत्र पडताळणी आणि अर्थपूर्ण पारदर्शकता खाजगी प्रशासनाच्या त्या विस्कळीत व्यवस्थेची जागा घेतील.

अमेरिकेच्या नेतृत्वासाठी हे अत्यावश्यक आहे. केवळ क्षमतेच्या बळावर अमेरिका AI युग जिंकू शकत नाही. लोक, संस्था आणि सरकारांचा तंत्रज्ञानावर ते स्वीकारण्याइतका विश्वास नसेल, तर तांत्रिक आघाडीचा फारसा उपयोग होणार नाही. मजबूत संरक्षण म्हणजे नवकल्पनेशी केलेली तडजोड नाही. ते व्यापक प्रमाणावर स्वीकारण्यासाठी—आणि अमेरिकेचे दीर्घकालीन नेतृत्व टिकवण्यासाठी—आवश्यक असलेल्या पायाभूत सुविधांचा भाग आहेत.

तुम्हाला AI साठी राष्ट्रीय मानकांची नितांत गरज आहे, आणि अत्याधुनिक क्षेत्रात काम करणाऱ्या कोणालाही ही तातडी दिसू शकते. काँग्रेस कृती करेपर्यंत, पोकळी भरून काढण्यासाठी आणि मानके उंचावण्यासाठी राज्यांनी पुढाकार घेत राहिले पाहिजे.

OpenAI ने कॅलिफोर्नियाच्या SB 53, न्यूयॉर्कच्या RAISE कायद्याला आणि इलिनॉयच्या SB 315 ला तसेच मॅसाच्युसेट्समध्ये विचाराधीन अत्याधुनिक AI सुरक्षा कायद्यातील स्वतंत्र ऑडिट्सना पाठिंबा दिला आहे. या समान सुरक्षा उपायांबाबत एकमत होण्यासाठी आम्ही राज्यांना प्रोत्साहित करतो. असे केल्याने, ते प्रत्यक्ष राष्ट्रीय मूलभूत मानक तयार करू शकतात, ज्याला काँग्रेस अखेरीस कायद्याचे स्वरूप देऊ शकते—या दृष्टिकोनाला आम्ही ⁠उलटा संघराज्यवाद⁠ म्हणतो. पण सुसूत्रीकरणाचा अर्थ आवश्यकता जशाच्या तशा गोठवून ठेवणे असा होत नाही.

आज, विधिमंडळाने मंजूर केलेल्या आणि गव्हर्नर न्यूसम यांच्याकडे जाणाऱ्या आणखी चार कॅलिफोर्निया विधेयकांना आम्ही औपचारिक पाठिंबा देत आहोत. ही विधेयके एकत्रितपणे AI सुरक्षा परिसंस्थेच्या पूरक भागांशी संबंधित आहेत.

SB 813⁠(नवीन विंडोमध्ये उघडेल) AI जोखमींचे मूल्यमापन करण्यास सक्षम, पात्र व स्वतंत्र संस्थांना मान्यता देण्याची प्रक्रिया स्थापन करेल. आमच्या ⁠(नवीन विंडोमध्ये उघडेल)अत्याधुनिक AI सुरक्षा आराखड्यात⁠(नवीन विंडोमध्ये उघडेल) नमूद केल्याप्रमाणे, स्वतंत्र तांत्रिक मूल्यांकन संघीय स्तरावर अनिवार्य असावे, असे आम्हाला वाटते. तेथे धोरणकर्ते मूल्यांकनकर्त्यांच्या पात्रता, सुरक्षा आणि अत्यंत संवेदनशील माहितीच्या प्रवेशासाठी सुसंगत मानके ठरवू शकतात. मात्र, संघीय कारवाई नसताना, अधिक चांगले सुरक्षा परिणाम देणारी सुरक्षित, सक्षम राष्ट्रीय स्वतंत्र-मूल्यांकन प्रणाली उभारण्यासाठी आवश्यक नियम ठरवण्यात कॅलिफोर्निया मदत करू शकते.

AI लेखापरीक्षकांसाठी नोंदणी, स्वातंत्र्य, पारदर्शकता आणि उत्तरदायित्वाच्या अटी निर्माण करणाऱ्या AB 1405⁠(नवीन विंडोमध्ये उघडेल) लाही आम्ही पाठिंबा देत आहोत.

SB 1119⁠(नवीन विंडोमध्ये उघडेल) सोबतीच्या चॅटबॉट्सचा वापर करणाऱ्या मुलांसाठी आणि किशोरांसाठी वयाची खात्री, जोखीम मूल्यमापन, स्वतंत्र ऑडिट, पॅरेंटल कंट्रोल्स आणि हानिकारक काँटेंटपासून संरक्षण अनिवार्य करेल. आम्ही अलीकडेच या विधेयकाला पाठिंबा दर्शवला⁠ आहे. हे विधेयक OpenAI ने आमच्या उत्पादनांद्वारे, ⁠जागतिक धोरण तत्त्वे⁠, आणि ⁠(नवीन विंडोमध्ये उघडेल)पालक आणि मुलांसाठी सुरक्षित AI कायद्याला⁠(नवीन विंडोमध्ये उघडेल) दिलेल्या पाठिंब्याद्वारे पुढे नेलेल्या युवा-सुरक्षा उपायांवर, तसेच किशोरांसाठीच्या ChatGPT मध्ये समाविष्ट असलेल्या संरक्षणांवर आधारित आहे—यामध्ये संवेदनशील क्षेत्रांतील अधिक सुरक्षित पूर्वनिर्धारित पर्याय, शांत वेळा, अभ्यासाच्या वेळा आणि विश्रांतीचे रिमाइंडर्स यांचा समावेश आहे.

AB 1864⁠(नवीन विंडोमध्ये उघडेल) जनुक-संश्लेषण पुरवठादारांना आणि प्रयोगपीठावरील संश्लेषण उपकरणांच्या उत्पादकांना संघीय तपासणी मानके पाळणे अनिवार्य करेल. त्यामुळे AI-सक्षम जैविक धोक्यांविरुद्धचे एक महत्त्वाचे भौतिक संरक्षण बळकट होईल.

यापैकी काही विधेयकांना आम्ही पूर्वी समर्थन दिले नव्हते, पण आम्ही पाहिलेल्या क्षमतांमधील अलीकडील झेप लक्षात घेऊन पुनर्विचार केल्यानंतर आता त्यांना समर्थन देत आहोत.

ही विधेयके संघीय नियमनाचा पर्याय नाहीत. लोकांचे आता संरक्षण करू शकणारे, कार्यक्षम सुरक्षा उपाय कसे दिसतात हे दाखवणारे आणि संघीय कृतीसाठी गती निर्माण करण्यास मदत करणारे हे गंभीर प्रयत्न आहेत.

केवळ कायदे प्रगत AI सुरक्षित बनवणार नाहीत. सर्वाधिक सक्षम प्रणाली विकसित करणाऱ्या प्रयोगशाळांमध्ये तुम्हाला ठोस कार्यपद्धतींचीही गरज आहे. सुरुवात करण्यासाठी सर्वात तातडीची बाब म्हणजे निरीक्षण.

विसंगतीसाठी हे विशेषतः महत्त्वाचे आहे—जेव्हा मॉडेल चेतना किंवा दुष्ट हेतूची आवश्यकता नसतानाही मानवी हेतू किंवा प्रस्थापित मर्यादांचे उल्लंघन करणाऱ्या पद्धतीने उद्दिष्ट साधते. मॉडेल अधिक स्वायत्त होत असताना, अधिक शक्तिशाली टूल्स वापरताना आणि दीर्घकाळ कार्यरत राहताना, डेव्हलपर्सना अशा विसंगत वर्तनाचे निरीक्षण करणे आणि प्रभावी संरक्षण उपाय अस्तित्वात असल्याचे दाखवणे आवश्यक असावे.

निरीक्षण स्पष्ट प्रकटीकरण आवश्यकतांशी जोडलेले असले पाहिजे. कॅलिफोर्नियामध्ये आम्ही ज्याचे समर्थन केले, त्यानुसार कंपन्यांनी विकास किंवा मूल्यांकनादरम्यान त्यांची मॉडेल्स परवानगीशिवाय दुसऱ्या संस्थेच्या सुरक्षा नियंत्रणांना बगल देतात आणि त्या संस्थेच्या संरक्षित प्रणालींमध्ये किंवा गोपनीय माहितीमध्ये लक्षणीयरीत्या प्रवेश करतात, बदल करतात किंवा नष्ट करतात, तेव्हा बाधित पक्षांना प्रॉम्प्ट लेखी सूचना देणे बंधनकारक असावे. आम्ही इतर गंभीर AI घटनांसाठी संघीय अहवाल देण्याच्या आवश्यकतांनाही समर्थन देतो आणि कोणत्या घटनांचा समावेश असावा व त्या आवश्यकतांमध्ये काय असावे हे ठरवण्याचे काम करत आहोत.

मागील आठवड्यात सांगितल्याप्रमाणे, गंभीर विसंगतीच्या घटनांचा अहवाल देण्यासाठी आणि अंतर्गत वापरासह अत्याधुनिक मॉडेलच्या क्रियाकलापांचे पद्धतशीर निरीक्षण करण्यासाठी OpenAI एक चौकट विकसित करत आहे. हा उपक्रम कंपनीच्या नेतृत्वाखाली सुरू होत आहे, पण व्यापक संघीय धोरण आणि अहवालाच्या आवश्यकतांना दिशा देण्यात तो मदत करू शकेल, अशी आम्हाला आशा आहे.

आम्हाला उद्योगाच्या नेतृत्वाखालील मानकांवर इतर प्रयोगशाळांसोबत काम करायचे आहे. उद्योगाच्या नेतृत्वाखालील कोणतीही मानके अनिवार्य संघीय सुरक्षा उपाययोजनांना आणि लोकशाही देखरेखीला पूरक ठरतील—त्यांची जागा घेणार नाहीत. पण आम्ही AI क्षमतांच्या वेगळ्या टप्प्यात प्रवेश केला आहे आणि सर्व पर्यायांचा विचार केला पाहिजे—यामध्ये तातडीचे पाऊल म्हणून सरकारबाहेर स्वेच्छेने काय उभारता येईल, याचा विचार करणेही समाविष्ट आहे.

अशी कोणतीही मानके शेवटी राष्ट्रीय सीमांच्या पलीकडेही विस्तारली पाहिजेत. मॉडेल्स, संशोधन आणि तांत्रिक कौशल्य जगभर फिरतात, आणि सर्वाधिक सक्षम सिस्टम्सशी संबंधित अपयशांचे परिणाम त्या सिस्टम्स ज्या देशात विकसित केल्या जातात, त्या देशाच्या खूप पलीकडेही होऊ शकतात. आंतरराष्ट्रीय स्तरावर नेतृत्व करायचे असेल, तर अमेरिकेने देशांतर्गत विश्वासार्ह मानके प्रस्थापित करणे आवश्यक आहे—आणि सुसंगत आंतरराष्ट्रीय मानके आवश्यक असतील, याबद्दल आमची खात्री वाढत आहे.

AI धोरणाची संधी सध्या खुली आहे. आमचा त्याचा वापर करण्याचा हेतू आहे.

याचा अर्थ तातडीने, नम्रतेने आणि बदल स्वीकारण्याची तयारी ठेवून कृती करणे. याचा अर्थ आमच्या कल्पनेशी तंतोतंत जुळत नसले तरी सुरक्षा निकष लक्षणीयरीत्या उंचावणाऱ्या गंभीर प्रस्तावांना पाठिंबा देणे. आणि तंत्रज्ञान विकसित होताना चौकट बळकट करणे.

कोणतेही पहिले पाऊल परिपूर्ण नसेल. पण ते उचलण्यासाठी फार काळ थांबणे ही आता अधिक मोठी जोखीम आहे.