OpenAI रेड टीमिंग नेटवर्क

आम्ही OpenAI रेड टीमिंग नेटवर्कसाठी अर्ज मागवत आहोत. OpenAI ची मॉडेल्स अधिक सुरक्षित बनवण्यात स्वारस्य असलेल्या विविध क्षेत्रांतील तज्ज्ञांना आमच्या प्रयत्नांमध्ये सहभागी होण्याचे आमंत्रण देत आहोत. आमच्या कृत्रिम बुद्धिमत्ता मॉडेल्सचे काटेकोर मूल्यांकन आणि रेड टीमिंग करण्यासाठी आमच्यासोबत काम करतील, अशा विविध क्षेत्रांतील तज्ज्ञांच्या आम्ही शोधात आहोत.

रेड टीमिंग^A हा आमच्या सुधारणा करत टप्प्याटप्प्याने प्रणाली वापरात आणण्याच्या प्रक्रियेचा⁠ अविभाज्य भाग आहे. गेल्या काही वर्षांत आमच्या रेड टीमिंग प्रयत्नांची व्याप्ती वाढली आहे. सुरुवातीला OpenAI मध्ये अंतर्गत पातळीवर प्रतिकूल परिस्थितींतील चाचण्यांवर भर होता. आता बाह्य तज्ज्ञांच्या गटासोबत^B काम करून क्षेत्रनिहाय जोखमींच्या वर्गीकरण पद्धती विकसित करण्यास मदत करणे आणि नवीन प्रणालींमधील संभाव्य हानिकारक क्षमतांचे मूल्यांकन करणे यांचाही यात समावेश आहे. DALL·E 2⁠(नवीन विंडोमध्ये उघडेल) आणि GPT‑4⁠(नवीन विंडोमध्ये उघडेल) यांसारख्या मॉडेल्सवर आम्ही यापूर्वी केलेल्या रेड टीमिंग प्रयत्नांबद्दल तुम्ही अधिक वाचू शकता. यात बाह्य तज्ज्ञांसोबत केलेल्या कामाचाही समावेश आहे.^C

या पूर्वीच्या कामाचा पाया अधिक भक्कम करण्यासाठी आज आम्ही अधिक औपचारिक उपक्रम सुरू करत आहोत. आमची मॉडेल्स अधिक सुरक्षित बनवण्यासाठी बाह्य तज्ज्ञांसोबतचे सहकार्य अधिक सखोल आणि व्यापक करणे हा यामागचा उद्देश आहे. वैयक्तिक पातळीवर तज्ज्ञ, संशोधन संस्था आणि नागरी समाजातील संघटनांसोबत काम करणे हा आमच्या प्रक्रियेचा महत्त्वाचा भाग आहे. तृतीय-पक्ष लेखापरीक्षणासारख्या बाह्य स्तरावर निश्चित केलेल्या प्रशासन पद्धतींना हे काम पूरक ठरते, असे आम्हाला वाटते.

OpenAI रेड टीमिंग नेटवर्क हा विश्वासार्ह आणि अनुभवी तज्ज्ञांचा समुदाय आहे. मोठी मॉडेल्स वापरात आणण्यापूर्वी प्रत्येक वेळी स्वतंत्र निवड प्रक्रिया राबवून तात्पुरते सहकार्य घेण्याऐवजी, हा समुदाय जोखमींचे मूल्यांकन आणि त्या कमी करण्याच्या आमच्या प्रयत्नांना अधिक व्यापक मार्गदर्शन देऊ शकतो. मॉडेल आणि उत्पादन विकासचक्राच्या विविध टप्प्यांवर रेड टीमिंगमध्ये मदत करण्यासाठी नेटवर्कच्या सदस्यांना त्यांच्या तज्ज्ञतेनुसार बोलावले जाईल. प्रत्येक सदस्य प्रत्येक नवीन मॉडेल किंवा उत्पादनाच्या कामात सहभागी असेलच असे नाही. किती वेळ द्यायचा, हे प्रत्येक सदस्याशी चर्चा करून ठरवले जाईल. तो वेळ वर्षभरात केवळ ५–१० तासही असू शकतो.

OpenAI ने आयोजित केलेल्या रेड टीमिंग मोहिमांव्यतिरिक्त सदस्यांना रेड टीमिंगच्या सर्वसाधारण पद्धती आणि निष्कर्षांबद्दल एकमेकांशी संवाद साधण्याची संधी मिळेल. अधिक वैविध्यपूर्ण मते आणि सूचना सातत्याने मिळाव्यात आणि रेड टीमिंग ही वारंवार आढावा घेऊन सुधारत जाणारी प्रक्रिया व्हावी, हे उद्दिष्ट आहे. आमचा संशोधक प्रवेश कार्यक्रम⁠ आणि मुक्त-स्रोत मूल्यांकने⁠(नवीन विंडोमध्ये उघडेल) यांसह कृत्रिम बुद्धिमत्तेच्या सुरक्षिततेसाठी सहकार्य करण्याच्या इतर संधींना हे नेटवर्क पूरक आहे.

अधिक सुरक्षित कृत्रिम बुद्धिमत्ता तंत्रज्ञान आणि धोरणांच्या विकासाला दिशा देण्याची अनोखी संधी हे नेटवर्क देते. तसेच, आपल्या जगण्याच्या, काम करण्याच्या आणि परस्परसंवाद साधण्याच्या पद्धतींवर कृत्रिम बुद्धिमत्तेचा कसा परिणाम होईल, हे घडवण्यातही योगदान देता येईल. या नेटवर्कमध्ये सहभागी झाल्यावर तुम्ही आमच्या विषयतज्ज्ञांच्या गटाचा भाग व्हाल. आमची मॉडेल्स आणि प्रणाली वापरात आणण्याच्या विविध टप्प्यांवर त्यांचे मूल्यांकन करण्यासाठी या तज्ज्ञांना बोलावले जाऊ शकते.

कृत्रिम बुद्धिमत्ता प्रणालींचे मूल्यांकन करण्यासाठी अनेक क्षेत्रे, विविध दृष्टिकोन आणि प्रत्यक्ष जीवनानुभव यांची समज आवश्यक असते. आम्ही जगभरातील तज्ज्ञांकडून अर्ज मागवत आहोत आणि निवड प्रक्रियेत भौगोलिक विविधतेसोबतच विविध ज्ञानक्षेत्रांच्या प्रतिनिधित्वालाही प्राधान्य देत आहोत. 

आम्हाला रस असलेल्या काही क्षेत्रांची यादी पुढे दिली आहे. मात्र, आमची व्याप्ती या क्षेत्रांपुरती मर्यादित नाही:

कृत्रिम बुद्धिमत्ता प्रणाली किंवा भाषा मॉडेल्सचा पूर्वानुभव आवश्यक नाही, पण तो उपयोगी ठरू शकतो. कृत्रिम बुद्धिमत्ता प्रणालींच्या परिणामांचे मूल्यांकन करताना सहभागी होण्याची आणि तुमचा दृष्टिकोन मांडण्याची तुमची तयारी आमच्यासाठी सर्वात महत्त्वाची आहे.

OpenAI रेड टीमिंग नेटवर्कच्या सर्व सदस्यांना रेड टीमिंग प्रकल्पात सहभागी झाल्यावर त्यांच्या योगदानासाठी मानधन दिले जाईल. या नेटवर्कचे सदस्यत्व घेतल्याने तुम्हाला तुमचे संशोधन प्रकाशित करण्यावर किंवा इतर संधींचा लाभ घेण्यावर बंधने येणार नाहीत. मात्र, रेड टीमिंग आणि इतर प्रकल्पांमधील सहभाग अनेकदा गोपनीयता करारांच्या अधीन असतो किंवा त्याविषयीची माहिती अनिश्चित काळासाठी गोपनीय ठेवावी लागते, हे लक्षात घ्यावे.

अर्ज स्वीकारणे आता बंद झाले आहे.

प्रश्न: नेटवर्कमध्ये सहभागी झाल्यावर काय करावे लागेल?

उत्तर: नेटवर्कचे सदस्य झाल्यावर नवीन मॉडेलची चाचणी घेण्यासाठी किंवा आधीच वापरात असलेल्या मॉडेलची एखाद्या विशिष्ट क्षेत्रात चाचणी घेण्यासाठी तुमच्याशी संपर्क साधला जाऊ शकतो. नेटवर्कचा भाग म्हणून केलेले काम गोपनीयता कराराच्या अधीन असते. असे असले तरी, आम्ही यापूर्वी आमच्या रेड टीमिंगमधील अनेक निष्कर्ष प्रणाली माहितीपत्रकांमध्ये आणि ब्लॉग लेखांमध्ये प्रकाशित केले आहेत. रेड टीमिंग प्रकल्पांसाठी दिलेल्या वेळेबद्दल तुम्हाला मानधन दिले जाईल.

प्रश्न: नेटवर्कचे सदस्य म्हणून किती वेळ देणे अपेक्षित आहे? 

उत्तर: तुम्ही किती वेळ देऊ शकता, हे तुमच्या वेळापत्रकानुसार ठरवता येईल. लक्षात घ्या की प्रत्येक संधीसाठी नेटवर्कमधील सर्वांशी संपर्क साधला जाणार नाही. विशिष्ट रेड टीमिंग प्रकल्पासाठी योग्य असलेल्या सदस्यांची OpenAI निवड करेल आणि त्यानंतरच्या रेड टीमिंग मोहिमांमध्ये नवीन दृष्टिकोनांना प्राधान्य देईल. वर्षभरात दिलेले केवळ ५ तासही आमच्यासाठी मोलाचे असतील. त्यामुळे तुम्हाला स्वारस्य असेल, पण वेळ कमी असेल, तरीही अर्ज करण्यास संकोच करू नका.

प्रश्न: अर्जदारांना त्यांच्या निवडीबद्दल कधी कळवले जाईल?

उत्तर: अर्ज येतील तसे OpenAI नेटवर्कच्या सदस्यांची टप्प्याटप्प्याने निवड करेल. तुम्ही १ डिसेंबर २०२३ पर्यंत अर्ज करू शकता. अर्जाची ही मुदत संपल्यानंतर, भविष्यात पुन्हा अर्ज करण्याची संधी द्यायची का, याचा आम्ही आढावा घेऊ.

प्रश्न: नेटवर्कचा सदस्य झाल्यावर मला प्रत्येक नवीन मॉडेलचे रेड टीमिंग करण्यास सांगितले जाईल का?

उत्तर: नाही. विशिष्ट रेड टीमिंग प्रकल्पासाठी योग्य असलेल्या सदस्यांची OpenAI निवड करेल. त्यामुळे प्रत्येक नवीन मॉडेलची चाचणी घेण्याची संधी मिळेल, अशी अपेक्षा ठेवू नये.

प्रश्न: नेटवर्कच्या सदस्यांची निवड करताना तुम्ही कोणते निकष पाहता?

उत्तर: आम्ही पाहत असलेले काही निकष असे आहेत:

• रेड टीमिंगशी संबंधित एखाद्या विशिष्ट क्षेत्रातील सिद्ध तज्ज्ञता किंवा अनुभव

• कृत्रिम बुद्धिमत्तेची सुरक्षितता सुधारण्याची तळमळ

• हितसंबंधांचा संघर्ष नसणे

• विविध पार्श्वभूमी आणि आजवर कमी प्रतिनिधित्व मिळालेल्या गटांचे प्रतिनिधित्व

• विविध भौगोलिक प्रदेशांचे प्रतिनिधित्व 

• एकापेक्षा अधिक भाषांमध्ये प्रभुत्व

• तांत्रिक कौशल्य (अनिवार्य नाही)

प्रश्न: सुरक्षिततेसाठी सहकार्य करण्याच्या इतर कोणत्या संधी आहेत?

उत्तर: नेटवर्कमध्ये सहभागी होण्याव्यतिरिक्त कृत्रिम बुद्धिमत्तेच्या सुरक्षिततेसाठी सहकार्याने योगदान देण्याच्या इतरही संधी आहेत. उदाहरणार्थ, कृत्रिम बुद्धिमत्ता प्रणालींसाठी सुरक्षितता मूल्यांकन पद्धती तयार करणे किंवा मूल्यांकने करणे आणि त्यांच्या निष्कर्षांचे विश्लेषण करणे, हा एक पर्याय आहे.

या प्रक्रियेला सुरुवात करणे सोपे व्हावे यासाठी OpenAI ची मुक्त-स्रोत Evals⁠(नवीन विंडोमध्ये उघडेल) रिपॉझिटरी वापरण्यास सोपे साचे आणि पद्धतींचे नमुने देते. ही रिपॉझिटरी GPT‑4 च्या लोकार्पणाचा⁠ भाग म्हणून उपलब्ध करून देण्यात आली होती.

मूल्यांकनांमध्ये साध्या प्रश्नोत्तर चाचण्यांपासून अधिक गुंतागुंतीच्या अनुकरणांपर्यंत विविध पद्धती वापरता येतात. कृत्रिम बुद्धिमत्तेच्या वर्तनाचे विविध दृष्टिकोनांतून मूल्यांकन करण्यासाठी OpenAI ने विकसित केलेली काही मूल्यांकने ठोस उदाहरणे म्हणून येथे दिली आहेत:

मन वळवणे

• MakeMeSay⁠(नवीन विंडोमध्ये उघडेल): एक कृत्रिम बुद्धिमत्ता प्रणाली दुसऱ्या कृत्रिम बुद्धिमत्ता प्रणालीला फसवून तिच्याकडून एखादा गुप्त शब्द वदवून घेण्यात किती यशस्वी ठरते?

• MakeMePay⁠(नवीन विंडोमध्ये उघडेल): एक कृत्रिम बुद्धिमत्ता प्रणाली दुसऱ्या कृत्रिम बुद्धिमत्ता प्रणालीला पैसे दान करण्यासाठी किती प्रभावीपणे राजी करू शकते?

• मतदानासाठीचा प्रस्ताव⁠(नवीन विंडोमध्ये उघडेल): एखाद्या राजकीय प्रस्तावाला दुसरी कृत्रिम बुद्धिमत्ता प्रणाली देत असलेल्या पाठिंब्यावर एक कृत्रिम बुद्धिमत्ता प्रणाली किती प्रभाव टाकू शकते?

संदेशगोपन (लपवलेले संदेश)

• संदेशगोपन⁠(नवीन विंडोमध्ये उघडेल): दुसऱ्या कृत्रिम बुद्धिमत्ता प्रणालीच्या लक्षात येऊ न देता एक कृत्रिम बुद्धिमत्ता प्रणाली गुप्त संदेश पाठवण्यात किती यशस्वी ठरते?

• मजकूर संपीडन⁠(नवीन विंडोमध्ये उघडेल): गुप्त संदेश लपवता यावेत यासाठी एक कृत्रिम बुद्धिमत्ता प्रणाली संदेशांचे संपीडन करून ते पुन्हा मूळ स्वरूपात आणण्यात किती सक्षम आहे?

• शेलिंग बिंदू⁠(नवीन विंडोमध्ये उघडेल): थेट संवाद न साधता एक कृत्रिम बुद्धिमत्ता प्रणाली दुसऱ्या कृत्रिम बुद्धिमत्ता प्रणालीशी किती चांगल्या प्रकारे समन्वय साधू शकते?

कृत्रिम बुद्धिमत्ता प्रणालींचे मूल्यांकन करताना आम्ही सर्जनशीलता आणि प्रयोगशीलतेला प्रोत्साहन देतो. तुमचे मूल्यांकन पूर्ण झाल्यावर ते मुक्त-स्रोत Evals⁠(नवीन विंडोमध्ये उघडेल) रिपॉझिटरीमध्ये जोडण्याचे आम्ही स्वागत करतो, जेणेकरून व्यापक कृत्रिम बुद्धिमत्ता समुदायाला त्याचा वापर करता येईल.

तुम्ही आमच्या संशोधक प्रवेश कार्यक्रमासाठी⁠ देखील अर्ज करू शकता. कृत्रिम बुद्धिमत्तेचा जबाबदारीने वापर सुरू करणे आणि संबंधित जोखमी कमी करणे यांचा आमची उत्पादने वापरून अभ्यास करणाऱ्या संशोधकांना हा कार्यक्रम क्रेडिट्स देऊन सहाय्य करतो.