OpenAI API

OpenAI ने विकसित केलेल्या नवीन AI मॉडेल्सना अ‍ॅक्सेस करण्यासाठी आम्ही एक API रिलीज करत आहोत. बहुतेक AI प्रणाली एका यूज-केससाठी डिझाइन केलेल्या असतात, पण आजचा API एक सर्वसाधारण “टेक्स्ट इन, टेक्स्ट आउट” इंटरफेस देतो, ज्यामुळे वापरकर्ते जवळपास कोणत्याही इंग्रजी भाषा कामावर तो वापरून पाहू शकतात. आता तुम्ही अ‍ॅक्सेस मागणी करू शकता जेणेकरून API तुमच्या उत्पादनात एकत्रित करता येईल, पूर्णपणे नवीन ऍप्लिकेशन विकसित करता येईल, किंवा या तंत्रज्ञानाच्या सामर्थ्ये आणि मर्यादा शोधण्यात आम्हाला मदत करता येईल.

कोणताही टेक्स्ट प्रॉम्प्ट दिल्यास, API टेक्स्ट कम्प्लिशन परत देतो, तुम्ही दिलेल्या पॅटर्नशी जुळवण्याचा प्रयत्न करत. तुम्हाला हवे ते करण्यासाठी काही उदाहरणे दाखवून तुम्ही त्याला “प्रोग्राम” करू शकता; त्याचे यश साधारणपणे काम किती गुंतागुंतीचे आहे यावर अवलंबून असते. API तुम्हाला विशिष्ट कामांवरील कार्यक्षमता सुधारण्यासाठी तुम्ही दिलेल्या उदाहरणांच्या डेटासेटवर (लहान किंवा मोठ्या) प्रशिक्षण घेण्याची किंवा वापरकर्ते किंवा लेबलर्सद्वारे दिलेल्या मानवी अभिप्रायातून शिकण्याची संधी देखील देते.

आम्ही API असे डिझाइन केले आहे की तो कोणालाही वापरायला सोपा आहे, पण पुरेसा फ्लेक्सिबल आहे ज्यामुळे मशीन लर्निंग टीम्स अधिक उत्पादक होऊ शकतात. खरं तर, आमच्या अनेक टीम्स आता API वापरत आहेत, ज्यामुळे त्या वितरित प्रणालींच्या समस्यांऐवजी मशीन लर्निंग संशोधनावर लक्ष केंद्रित करू शकतात. आज API GPT‑3⁠(नवीन विंडोमध्ये उघडेल) कुटुंबातील वेट्ससह मॉडेल्स चालवते ज्यामध्ये अनेक वेग आणि थ्रुपुट सुधारणा आहेत. मशीन लर्निंग अतिशय वेगाने पुढे जात आहे, आणि आमचे वापरकर्ते अद्ययावत राहावेत म्हणून आम्ही सतत आमची तंत्रज्ञान सुधारत आहोत.

या क्षेत्राच्या प्रगतीचा वेग म्हणजे एआयचे वारंवार आश्चर्यकारक नवीन अनुप्रयोग येत आहेत, सकारात्मक आणि नकारात्मक दोन्ही. छळ, स्पॅम, कट्टरतावाद किंवा अ‍ॅस्ट्रोटर्फिंग यासारख्या स्पष्टपणे हानिकारक वापरासाठी आम्ही API प्रवेश बंद करू. पण आम्हाला हेही माहित आहे की या तंत्रज्ञानाचे सर्व संभाव्य परिणाम आपण पूर्वकल्पना करू शकत नाही, म्हणूनच आम्ही आज सर्वसामान्य उपलब्धतेऐवजी प्रायव्हेट बीटा मध्ये सुरू करत आहोत, वापरकर्त्यांना आमच्या API ने परत दिलेल्या मजकुरावर अधिक चांगले नियंत्रण मिळविण्यासाठी साधने तयार करत आहोत, आणि भाषा तंत्रज्ञानाच्या सुरक्षा-संबंधित पैलूंचा (उदा. हानिकारक पक्षपाताचे विश्लेषण, कमी करणे आणि हस्तक्षेप करणे) अभ्यास करत आहोत. आम्ही जे शिकलो ते आम्ही शेअर करू, ज्यामुळे आमचे वापरकर्ते आणि व्यापक समुदाय अधिक मानव-हितकारक AI प्रणाली तयार करू शकतील.

आमच्या ध्येयाच्या⁠ पूर्ततेसाठी खर्च भागवण्यासाठी महसूल⁠ स्रोत असण्यासोबतच, API ने आम्हाला सामान्य-उद्देशीय AI तंत्रज्ञानावर आमचे लक्ष केंद्रित करण्यास प्रवृत्त केले आहे - तंत्रज्ञानाचा विकास करणे, ते वापरण्यायोग्य बनवणे आणि वास्तविक जगात त्याचे परिणाम विचारात घेणे. आम्हाला आशा आहे की API फायदेशीर AI-शक्तीवर चालणारी उत्पादने तयार करण्यातील अडथळा⁠(नवीन विंडोमध्ये उघडेल) मोठ्या प्रमाणात कमी करेल, ज्यामुळे आज कल्पना करणे कठीण आहे अशी साधने आणि सेवा निर्माण होतील.

API एक्सप्लोर करण्यात रस आहे का? आमच्या अल्गोलिया⁠(नवीन विंडोमध्ये उघडेल), क्विझलेट⁠(नवीन विंडोमध्ये उघडेल), आणि रेडिट⁠(नवीन विंडोमध्ये उघडेल) सारख्या कंपन्यांमध्ये आणि मिडलबरी इन्स्टिट्यूट⁠(नवीन विंडोमध्ये उघडेल) सारख्या संस्थांमधील संशोधकांमध्ये आमच्या खाजगी बीटा⁠(नवीन विंडोमध्ये उघडेल) मध्ये सामील व्हा.

शेवटी, आम्हाला सर्वात जास्त काळजी⁠ आहे ती म्हणजे कृत्रिम सामान्य बुद्धिमत्तेचा सर्वांना फायदा होईल याची खात्री करणे. यशस्वी होण्यासाठी पुरेसे निधी मिळावा यासाठी व्यावसायिक उत्पादने विकसित करणे हा आम्हाला मार्ग वाटतो.

जगात शक्तिशाली AI प्रणाली सुरक्षितपणे तैनात करणे योग्यरीत्या करणे कठीण असेल असेही आम्हाला वाटते. API रिलीज करताना, आम्ही आमच्या भागीदारांसोबत जवळून काम करत आहोत जेणेकरून AI प्रणाली प्रत्यक्ष जगात वापरल्या जाताना कोणती आव्हाने येतात ते पाहता येईल. यामुळे भविष्यातील AI प्रणाली तैनात करताना काय होईल आणि त्या सर्वांसाठी सुरक्षित व फायदेशीर कशा ठेवायच्या हे समजून घेण्यासाठी आमच्या प्रयत्नांना दिशा मिळेल.

हे करण्यामागे तीन मुख्य कारणे आहेत. पहिले म्हणजे, तंत्रज्ञानाचे व्यावसायिकीकरण केल्यामुळे आमच्या सुरू असलेल्या AI संशोधन, सुरक्षितता आणि धोरणात्मक प्रयत्नांसाठी निधी उभारण्यास मदत होते.

दुसरे म्हणजे, API अंतर्गत असलेली अनेक मॉडेल्स खूप मोठी आहेत, त्यांना विकसित व तैनात करण्यासाठी भरपूर तज्ज्ञता लागते आणि त्यांचा खर्च खूप जास्त होतो. यामुळे मोठ्या कंपन्यांशिवाय इतर कोणालाही या तंत्रज्ञानाचा फायदा घेणे कठीण होते. आम्हाला आशा आहे की API शक्तिशाली AI प्रणाली लहान व्यवसाय आणि संस्थांसाठी अधिक सुलभ बनवेल.

तिसरे म्हणजे, API मॉडेलमुळे आम्हाला या तंत्रज्ञानाचा गैरवापर ओळखणे व त्यावर प्रतिसाद देणे सोपे होते. आमच्या मॉडेल्सचे पुढील वापर कसे होईल हे भाकीत करणे कठीण असल्यामुळे, त्यांना API द्वारे रिलीज करणे आणि वेळोवेळी अॅक्सेस वाढवणे अधिक सुरक्षित वाटते, ओपन सोर्स मॉडेल रिलीज करण्यापेक्षा जिथे अॅक्सेस नंतर मर्यादित करता येत नाही, जरी ते हानिकारक वापरासाठी ठरले तरी.

GPT‑2 मध्ये आमची एक प्रमुख चिंता म्हणजे मॉडेलचा दुष्ट हेतूंसाठी वापर (उदा. चुकीची माहिती पसरवणे), ज्याला मॉडेल ओपन सोर्स झाल्यावर थांबवणे कठीण होते. API साठी, आम्ही मंजूर ग्राहकांपर्यंत आणि वापराच्या प्रकरणांमध्ये प्रवेश मर्यादित करून गैरवापर अधिक चांगल्या प्रकारे रोखू शकतो. सुचवलेली ऍप्लिकेशन्स लाईव्ह होण्याआधी आमच्याकडे अनिवार्य प्रॉडक्शन रिव्ह्यू प्रक्रिया असते. उत्पादन पुनरावलोकनांमध्ये, आम्ही काही अक्षांमधून अर्जांचे मूल्यांकन करतो, असे प्रश्न विचारतो: हे सध्या समर्थित वापर प्रकरण आहे का?, अर्ज किती खुला आहे?, अर्ज किती धोकादायक आहे?, संभाव्य गैरवापर कसा हाताळायचा याची तुमची योजना काय आहे?, आणि तुमच्या अर्जाचे अंतिम वापरकर्ते कोण आहेत?.

ज्या वापरप्रकरणांमुळे लोकांना शारीरिक, भावनिक किंवा मानसिक इजा होते (किंवा होण्याचा उद्देश असतो) — जसे की छळ, जाणीवपूर्वक फसवणूक, रॅडिकलायझेशन, अ‍ॅस्ट्रोटर्फिंग किंवा स्पॅम — तसेच ज्या अ‍ॅप्लिकेशन्समध्ये अंतिम वापरकर्त्यांच्या गैरवापरावर मर्यादा घालण्यासाठी पुरेशा सुरक्षा-यंत्रणा नाहीत, अशांसाठी आम्ही API प्रवेश बंद करतो. API प्रत्यक्षात चालवण्याचा अधिक अनुभव मिळत असताना, आम्ही सपोर्ट करू शकणाऱ्या वापराच्या कॅटेगरीज सतत सुधारत राहू, ज्यामुळे आम्हाला सपोर्ट करता येणाऱ्या ऍप्लिकेशन्सची श्रेणी वाढेल आणि ज्या ठिकाणी गैरवापराची चिंता आहे त्यांच्यासाठी अधिक सूक्ष्म कॅटेगरीज तयार करता येतील.

API वापर मंजूर करताना आम्ही विचारात घेतलेला एक महत्त्वाचा घटक म्हणजे संबंधित ऍप्लिकेशन सिस्टीमच्या अंतर्गत जनरेटिव्ह क्षमतांबाबत ओपन-एंडेड वर्तन दाखवते की मर्यादित वर्तन. API ची ओपन-एंडेड ऍप्लिकेशन्स (म्हणजे, कुठल्याही प्रॉम्प्टद्वारे मोठ्या प्रमाणात कस्टमाइझेबल टेक्स्ट सहजपणे जनरेट करणारी) विशेषतः गैरवापरास बळी पडतात. जनरेटिव्ह वापराच्या प्रकरणांना अधिक सुरक्षित बनवू शकणाऱ्या मर्यादांमध्ये मानवी नियंत्रण ठेवणारे सिस्टीम डिझाईन, अंतिम वापरकर्त्याच्या प्रवेशावर निर्बंध, आउटपुटचे पोस्ट-प्रोसेसिंग, सामग्रीचे फिल्ट्रेशन, इनपुट/आउटपुट लांबीवरील मर्यादा, सक्रिय देखरेख आणि विषयानुरूप मर्यादा यांचा समावेश होतो.

आम्ही आमच्या शैक्षणिक प्रवेश कार्यक्रमाद्वारे⁠(नवीन विंडोमध्ये उघडेल) तृतीय पक्ष संशोधकांसह, API द्वारे प्रदान केलेल्या मॉडेल्सच्या संभाव्य गैरवापरांवर संशोधन सुरू ठेवत आहोत. आम्ही सध्या खूप मर्यादित संख्येच्या संशोधकांपासून सुरुवात करत आहोत आणि Middlebury Institute⁠(नवीन विंडोमध्ये उघडेल), University of Washington, आणि Allen Institute for AI⁠(नवीन विंडोमध्ये उघडेल) येथील आमच्या शैक्षणिक भागीदारांकडून काही निकाल आधीच मिळाले आहेत. या प्रोग्रामसाठी आधीच दहा हजारो अर्ज आले आहेत आणि सध्या आम्ही न्याय्यतेवर आणि प्रतिनिधित्व संशोधनावर लक्ष केंद्रित करणाऱ्या अॅप्लिकेशन्सना प्राधान्य देत आहोत.

हानिकारक पक्षपातासारखे नकारात्मक परिणाम कमी करणे ही संपूर्ण इंडस्ट्रीसमोरची एक कठीण आणि अतिशय महत्त्वाची समस्या आहे. जसे आपण GPT‑3 पेपर⁠(नवीन विंडोमध्ये उघडेल) आणि मॉडेल कार्ड⁠(नवीन विंडोमध्ये उघडेल) मध्ये चर्चा करतो, आमची API मॉडेल्स पूर्वाग्रह प्रदर्शित करतात जे उत्पन्न केलेल्या मजकुरात प्रतिबिंबित होतील. या समस्या सोडवण्यासाठी आम्ही घेतलेली पावले येथे आहेत:

• आम्ही अशा वापर मार्गदर्शक तत्त्वे तयार केली आहेत जी डेव्हलपर्सना संभाव्य सुरक्षा समस्या समजून घेण्यास आणि त्यांचा सामना करण्यास मदत करतात.
• आम्ही वापरकर्त्यांसोबत जवळून काम करत आहोत, त्यांचे वापर प्रकरणे समजून घेत आहोत आणि हानिकारक पक्षपात उघड करण्यासाठी आणि त्यावर हस्तक्षेप करून तो कमी करण्यासाठी साधने विकसित करत आहोत.
• आम्ही हानिकारक पक्षपाताच्या प्रकटीकरणांवर तसेच न्याय्यता आणि प्रतिनिधित्वातील व्यापक मुद्द्यांवर स्वतःचे संशोधन करत आहोत, ज्यामुळे विद्यमान मॉडेल्सचे सुधारित दस्तऐवजीकरण आणि भविष्यातील मॉडेल्समधील विविध सुधारणा यांद्वारे आमच्या कामाला दिशा मिळेल.
• आम्ही ओळखतो की बायस ही अशी समस्या आहे जी प्रणाली आणि तैनात केलेल्या संदर्भाच्या संगमावर प्रकट होते; आमच्या तंत्रज्ञानावर आधारित ऍप्लिकेशन्स सामाजिक-तांत्रिक प्रणाली आहेत, त्यामुळे आम्ही आमच्या डेव्हलपर्ससोबत काम करतो जेणेकरून ते योग्य प्रक्रिया आणि human-in-the-loop प्रणाली वापरून प्रतिकूल वर्तनावर लक्ष ठेवतील.

API च्या प्रत्येक वापराच्या संदर्भातील संभाव्य हानींबाबत आमचे आकलन सतत वाढवत राहणे आणि त्या हानी कमी करण्यासाठी आमची साधने आणि प्रक्रिया सातत्याने सुधारत राहणे हे आमचे उद्दिष्ट आहे.

18 सप्टेंबर, 2020 रोजी अपडेट केले