मुख्य मजकूराकडे जा
OpenAI

१६ जुलै, २०२६

सुरक्षितता

किशोरांना सुरक्षित कृत्रिम बुद्धिमत्तेचा प्रवेश का हवा

किशोरांच्या सुरक्षित कृत्रिम बुद्धिमत्ता वापराबाबतचा आमचा दृष्टिकोन घडवण्यासाठी आम्ही वापरत असलेली संरक्षणे, धोरणे आणि तज्ज्ञ सहकार्य शेअर करत आहोत.

लोड होत आहे...

किशोर ही कृत्रिम बुद्धिमत्तेसोबत मोठी होणारी पहिली पिढी आहे आणि हे तंत्रज्ञान त्यांच्या भविष्याला मोठ्या प्रमाणात आकार देईल. आज ChatGPT वापरणाऱ्या सुमारे 10 पैकी 9 किशोर आठवड्यातून किमान एकदा शिकणे, माहिती मिळवणे, कौशल्यविकास किंवा उत्पादकतेसाठी त्याचा वापर करतात. म्हणूनच किशोरांना कृत्रिम बुद्धिमत्तेचा प्रवेश मिळणे अत्यावश्यक आहे, असे आम्हाला वाटते. किशोरांना प्रौढ होईपर्यंत याचा वापर करू न देणे म्हणजे आधीच्या पिढीला 18 वर्षांचे होईपर्यंत इंटरनेट किंवा सर्च इंजिन टाळायला सांगण्यासारखे ठरेल; त्यामुळे त्यांच्या काळातील एका निर्णायक तंत्रज्ञानाचा वापर करण्यासाठी ते कमी तयार राहतील. पण हा प्रवेश किशोरांसाठी खास तयार केलेल्या संरक्षणांसह असायलाच हवा.

अलीकडील OpenAI अकादमी(नवीन विंडोमध्ये उघडेल) दरम्यान Oriana McKenzie ने ChatGPT मुळे अधिक स्मार्ट पद्धतीने अभ्यास करून आणि कामाचा ताण व्यवस्थापित करून हायस्कूलच्या वर्गात प्रथम क्रमांक मिळवण्यास तिला कशी मदत झाली, हे सांगितले. त्यामुळे तिला आवडणाऱ्या क्रीडा आणि शालेय कार्यक्रमांसाठी आवश्यक वेळ मिळाला. किशोरांना शिकण्यास आणि निर्माण करण्यास मदत करणाऱ्या कृत्रिम बुद्धिमत्तेचा प्रवेश मिळाला, तर काय शक्य आहे हे तिची कहाणी दाखवते.

हे फायदे जास्तीत जास्त मिळण्यासाठी, किशोरांच्या जीवनाच्या टप्प्यासाठी डिझाइन केलेली अधिक मजबूत संरक्षणे आवश्यक आहेत. यात स्वयंचलित सुरक्षा मर्यादा समाविष्ट आहेत, ज्या त्यांच्या वयानुसार संरक्षण देताना त्यांना आत्मविश्वासाने शोध घेणे, शिकणे आणि निर्माण करणे शक्य करतात. कृत्रिम बुद्धिमत्ता अधिक सक्षम होत असताना, या तंत्रज्ञानाचा विकास होत जाईल तसा किशोरांना त्याचा लाभ घेता यावा यासाठी व्यापक प्रवेश आणि वयानुरूप संरक्षणे एकत्र आणणे ही आमची जबाबदारी आहे.

गेल्या वर्षभरात याचा अर्थ किशोरांसाठी डीफॉल्ट संरक्षणे मजबूत करणे, वयाचा अंदाज सुरू करणे, पॅरेंटल कंट्रोल्सचा विस्तार करणे, पालकांना आरोग्यदायी आणि जबाबदार वापराला पाठबळ देता यावे यासाठी अतिरिक्त कुटुंब संसाधने(नवीन विंडोमध्ये उघडेल) तयार करणे आणि फक्त उत्तरे देण्याऐवजी सखोल समज वाढवण्यासाठी शिकण्याची वैशिष्ट्ये आणणे असा झाला आहे.

आमच्या कामाला चार मुख्य बांधिलकी दिशा देतात:

  • इतर उद्दिष्टांशी संघर्ष झाला तरी आम्ही किशोरांच्या सुरक्षिततेला प्रथम प्राधान्य देतो.
  • गरजेच्या वेळी आम्ही प्रत्यक्ष जगातील आधार घेण्यास प्रोत्साहन देतो.
  • आम्ही किशोरांना किशोर म्हणूनच वागवतो.
  • स्पष्ट अपेक्षा निश्चित करून आम्ही पारदर्शक राहतो.

फक्त उत्तरांसाठी नव्हे, शिकण्यासाठी बांधणी

कृत्रिम बुद्धिमत्तेमुळे किशोरांना मिळणाऱ्या फायद्यांपैकी शिकणे हा सर्वात स्पष्ट फायदा आहे. त्यामुळे सक्रिय सहभाग, चिकित्सक विचार आणि सखोल समज यांना प्रोत्साहन देणारी साधने आम्ही तयार करत आहोत. स्टडी मोड(नवीन विंडोमध्ये उघडेल) शिक्षक, शिक्षणशास्त्रज्ञ आणि अध्यापनतज्ज्ञांच्या सहकार्याने डिझाइन करण्यात आला. तो थेट उत्तर देण्याऐवजी मार्गदर्शक प्रश्न, संरचित स्पष्टीकरणे आणि विचारमंथनाच्या संधी वापरून विद्यार्थ्यांना समस्या टप्प्याटप्प्याने सोडवण्यास मदत करतो. स्टडी मोडसारख्या साधनांच्या सुरुवातीच्या मूल्यांकनात विद्यार्थ्यांच्या कामगिरीत आशादायक सुधारणा दिसल्या आहेत. यामुळे कृत्रिम बुद्धिमत्ता शिकण्याच्या परिणामांना कशी मदत करू शकते यावरील आमच्या व्यापक संशोधनाला दिशा मिळते.

किशोर स्वतः हा मोड सुरू करू शकतात; आता जोडलेल्या किशोर खात्यांचे पालक स्टडी मोड थेट पॅरेंटल कंट्रोल्स मधून सुरू करू शकतात. तो सक्षम केल्यावर, किशोराने नवीन चॅट सुरू केले की तो डीफॉल्टनुसार सुरू असतो. त्यामुळे शालेय काम आणि अभ्यासासाठी ChatGPT कसे वापरले जाते याचे मार्गदर्शन करण्याचा आणखी एक मार्ग कुटुंबांना मिळतो.

किशोर खात्यासाठी स्टडी मोड सक्षम असल्याचे दाखवणारी ChatGPT पॅरेंटल कंट्रोल्स स्क्रीन.

किशोरांसाठी आम्ही अलीकडेच शिक्षणकेंद्रित सुरुवातीचे प्रॉम्प्टही आणले आहेत. त्यामुळे एखादा विषय सोप्या टप्प्यांत विभागणे, नोट्सचे अभ्यास मार्गदर्शिकेत रूपांतर करणे, फ्लॅशकार्ड किंवा सराव प्रश्न तयार करणे आणि पुरावे व स्पष्टता तपासणे अशा कामांना सुरुवात करणे सोपे होते.

किशोरांसाठी शिक्षणकेंद्रित सुरुवातीचे प्रॉम्प्ट दाखवणारी ChatGPT होम स्क्रीन.

आम्ही संवादात्मक शिकण्याचे अनुभवही सतत विस्तारत आहोत. संशोधनाने सातत्याने दाखवले आहे की माहिती निष्क्रियपणे घेण्याऐवजी संकल्पनांमध्ये सक्रिय सहभाग घेता आला, तर लोक अधिक प्रभावीपणे शिकतात. या वर्षाच्या सुरुवातीला लॉन्च केल्यापासून, आता दर आठवड्याला 1.8 कोटी वापरकर्ते ChatGPT मधील संवादात्मक गणित आणि विज्ञान अनुभव वापरतात. आम्ही हे अनुभव समाकलने आणि मायटोसिसपासून चंद्राच्या कला, प्रकाशसंश्लेषण आणि आणखी बऱ्याच गोष्टींपर्यंत 250 हून अधिक नवीन विषयांमध्ये विस्तारले आहेत. आम्ही उच्चाराचा अनुभवही आणला आहे, जो 61 हून अधिक भाषांमध्ये शब्दांचे उच्चार कसे करायचे हे शिकण्यासाठी ऑडिओ वापरतो.

अंगभूत संरक्षणांनी किशोरांचे संरक्षण करणे

आमच्या प्रणालीला ChatGPT वापरणारी व्यक्ती 18 वर्षांखालील असल्याचा अंदाज आला, तर आम्ही आपोआप अधिक वयानुरूप अनुभव(नवीन विंडोमध्ये उघडेल) देतो. किशोर अजूनही ChatGPT वापरून शिकू, निर्माण करू आणि शोध घेऊ शकतात, पण त्यांच्यासाठी योग्य नसू शकणाऱ्या सामग्रीचा संपर्क कमी करण्यासाठी तयार केलेल्या अतिरिक्त संरक्षणांसह. यात उघड हिंसा, स्वतःला इजा, धोकादायक व्हायरल आव्हाने, शरीरप्रतिमेबद्दल अनारोग्यदायी सामग्री आणि धोकादायक, रोमँटिक किंवा लैंगिक भूमिकानाट्य यांभोवती अधिक मजबूत संरक्षणांचा समावेश आहे. ChatGPT हे शिकण्यासाठी आणि सर्जनशीलतेसाठीचे साधन राहावे, प्रत्यक्ष नातेसंबंधांचा पर्याय बनू नये, याची खात्री करण्यात मदत करणे हे आमचे प्रमुख ध्येय आहे.

आरोग्यदायी सवयींना प्रोत्साहन देण्यासाठीही आम्ही ChatGPT डिझाइन करत आहोत. ChatGPT मध्ये बराच वेळ घालवणाऱ्या किशोरांना आता अधिक वारंवार ब्रेक स्मरणपत्रे मिळतील, जी त्यांना थांबून थोडे दूर जाण्यास प्रोत्साहन देतील. ही स्मरणपत्रे तरुणांना तंत्रज्ञानाच्या संतुलित सवयी विकसित करण्यात मदत करण्यासाठी आहेत, तसेच शिकणे, सर्जनशीलता आणि समस्या सोडवण्यासाठी कृत्रिम बुद्धिमत्ता वापरण्याचे स्वातंत्र्यही त्यांना देतात.

किशोराला थांबून थोडे दूर जाण्यास प्रोत्साहित करणारी ChatGPT ब्रेक स्मरणपत्र सूचना.

सर्वोत्तम सुरक्षा साधने कुटुंबांना किशोरांच्या ऑनलाइन अनुभवांमधून एकत्र मार्ग काढण्यात मदत करू शकतात, असे आम्हाला वाटते. आम्ही पॅरेंटल कंट्रोल्स आणि सूचना तयार केल्या आहेत. त्यातून शांत वेळा निश्चित करणे, व्हॉइस मोड बंद करणे, इमेज जनरेशनचा प्रवेश व्यवस्थापित करणे आणि संभाव्य स्वतःला इजा करण्याच्या संकेतांसारख्या काही उच्च-जोखीम परिस्थितींमध्ये सूचना मिळवणे शक्य होते.

आमच्या वापर धोरणांचे हिंसक धमक्या किंवा ऑनलाइन हिंसेच्या कृतींबाबत उल्लंघन केल्यामुळे जोडलेले किशोर खाते निष्क्रिय केले गेले असल्यास अशा प्रकरणांचाही या सूचनांमध्ये समावेश करण्यासाठी आम्ही त्यांचा विस्तार करत आहोत. हा दृष्टिकोन किशोरांच्या गोपनीयतेचा आदर करताना आणि ऑफलाइन संवाद व आधार प्रोत्साहित करताना काही गंभीर घडले आहे हे पालकांना समजण्यास मदत करतो.

ही वैशिष्ट्ये विकसित करताना आम्ही ऑनलाइन हिंसा रोखण्यात अग्रणी असलेल्या Moonshot(नवीन विंडोमध्ये उघडेल) सह अनेक तज्ज्ञांचा सल्ला घेतला, जेणेकरून हे हस्तक्षेप विचारपूर्वक, प्रभावी आणि गरजेच्या वेळी कुटुंबांना प्रतिसाद देण्यात मदत करण्यावर केंद्रित राहतील.

Moonshot च्या हिंसा प्रतिबंधक कामात, किशोरांना ऑनलाइन सुरक्षित ठेवण्यात पालकांची भूमिका किती महत्त्वाची आहे हे आम्ही पाहिले आहे. मुलांना आधार देण्यासाठी पालकांकडे योग्य माहिती असणे आवश्यक आहे. गंभीर चिंता निर्माण झाल्यावर पालकांना सूचना देणे आणि अधिक संदर्भ मिळवण्याचा मार्ग उपलब्ध करून देणे हे कुटुंबांना लवकर हस्तक्षेप करून मदत घेण्याची संधी देण्याचे अत्यावश्यक पहिले पाऊल आहे. ChatGPT वापरताना तरुणांना अधिक सुरक्षित ठेवण्यासाठी अशा प्रकारचा प्रवेश आवश्यक असलेल्या अनेक उपायांपैकी एक आहे.
Vidhya Ramalingam, संस्थापक आणि CEO, Moonshot
मुलाच्या ChatGPT खात्याबद्दलच्या महत्त्वाच्या अपडेटसाठी पालक सूचना स्क्रीन.

पालक, किशोर आणि शिक्षकांना कृत्रिम बुद्धिमत्ता जबाबदारीने सर्वोत्तम प्रकारे कशी वापरावी याबद्दल स्पष्ट मार्गदर्शन मिळावे, याचीही आम्हाला खात्री करायची आहे. आम्ही 50 हून अधिक भाषांमध्ये शैक्षणिक संसाधने प्रकाशित करतो. यात किशोरांना कृत्रिम बुद्धिमत्ता जबाबदारीने वापरायला मदत करणारी कौटुंबिक मार्गदर्शिका(नवीन विंडोमध्ये उघडेल), तुमच्या किशोराशी कृत्रिम बुद्धिमत्तेबद्दल बोलण्यासाठी टिपा(नवीन विंडोमध्ये उघडेल) आणि ChatGPT वापरणाऱ्या पालकांसाठी टिपा(नवीन विंडोमध्ये उघडेल) यांचा समावेश आहे.

बाह्य तज्ज्ञ, संस्था, विकसक आणि नियामकांसोबत काम करणे

तरुणांना ऑनलाइन सुरक्षित ठेवण्याचे काम कोणतीही एक कंपनी एकटी करू शकत नाही. आम्ही किशोर, पालक, शिक्षक, बालसुरक्षा तज्ज्ञ, मानसिक आरोग्य व्यावसायिक, संशोधक, सरकारे आणि नागरी समाज संस्थांशी जवळून काम करतो. या भागीदारींमुळे तरुणांच्या गरजा अधिक चांगल्या प्रकारे समजून घेणे, उदयोन्मुख जोखीम ओळखणे, आमच्या संरक्षणांची परिणामकारकता मूल्यांकित करणे आणि आमची धोरणे स्वतंत्र तज्ज्ञांच्या ज्ञानावर आधारित आहेत याची खात्री करणे शक्य होते.

हे काम शिकणे आणि तरुणांचे कल्याण या दोन्हींबाबतच्या आमच्या दृष्टिकोनात पसरलेले आहे. सक्रिय सहभाग आणि चिकित्सक विचार अधिक मजबूत करताना कृत्रिम बुद्धिमत्ता अध्यापन आणि शिकणे यांना कशी मदत करू शकते हे अधिक चांगले समजण्यासाठी आम्ही अमेरिकन फेडरेशन ऑफ टीचर्ससह शिक्षक, विद्यार्थी आणि शिक्षण संस्थांसोबत सहयोग करतो. मानसिक आरोग्य, बालविकास आणि तरुणांच्या सुरक्षिततेच्या क्षेत्रांतील तज्ज्ञांसोबतही आम्ही जवळून काम करतो. यात अमेरिकन सायकॉलॉजिकल असोसिएशन(नवीन विंडोमध्ये उघडेल), आमचे ग्लोबल फिजिशियन्स नेटवर्क आणि आमची कल्याण आणि कृत्रिम बुद्धिमत्तेबाबत तज्ज्ञ परिषद यांचा समावेश आहे.

अधिक आरोग्यदायी डिजिटल परिसंस्था उभारण्याचे आमचे काम आमच्या स्वतःच्या उत्पादनांपलीकडे जाते. समर्पित कृत्रिम बुद्धिमत्ता सुरक्षा संस्थेमार्फत तरुणांच्या कृत्रिम बुद्धिमत्ता सुरक्षिततेसाठी विस्तारक्षम जागतिक मानके विकसित करण्याचे, विकसकांना त्यांच्या स्वतःच्या कृत्रिम बुद्धिमत्ता प्रणालींमध्ये समाविष्ट करता येतील अशी मुक्त-स्रोत धोरणे आणि साधने उपलब्ध करण्याचे, तसेच शिकवण आणि सर्वोत्तम पद्धती शेअर करण्यासाठी Common Sense Media(नवीन विंडोमध्ये उघडेल) आणि everyone.ai(नवीन विंडोमध्ये उघडेल) यांसारख्या संस्थांसोबत काम करण्याचे आवाहन आम्ही केले आहे.

या वर्षी आम्ही फॅमिली ऑनलाइन सेफ्टी इन्स्टिट्यूट(नवीन विंडोमध्ये उघडेल) (FOSI) मध्येही सामील झालो. ही संस्था कुटुंबे आणि तरुणांसाठी सुरक्षित ऑनलाइन अनुभवांची दीर्घकाळापासून वकिली करत आहे. तरुणांना कृत्रिम बुद्धिमत्तेचा लाभ घेता यावा, यासाठी सक्षम पालक आणि जबाबदार उद्योग पद्धती केंद्रस्थानी ठेवून आम्ही एकत्र काम करू. ही भागीदारी काय प्रभावी ठरते याबद्दलची सामायिक समज वाढवेल, वयानुरूप संरक्षणे आणि पालक साधने मजबूत करेल आणि तरुणांना कृत्रिम बुद्धिमत्तेचा सुरक्षित व जबाबदार लाभ घेता यावा यासाठी सर्व उद्योगांमधील प्रयत्नांना पाठबळ देईल, अशी आमची आशा आहे.

पुढील वाटचाल

तरुणांचे ऑनलाइन संरक्षण करण्यासाठी सतत प्रगती आवश्यक आहे. येत्या महिन्यांत आम्ही वयानुरूप संरक्षणे अधिक मजबूत करणे, पालकांना अधिक साधने आणि नियंत्रण देणे, गंभीर हानींपासूनचे संरक्षण सुधारणे, कृत्रिम बुद्धिमत्तेच्या आरोग्यदायी वापरावरील संशोधन पुढे नेणे आणि किशोरांना सक्रियपणे शिकण्यास व कृत्रिम बुद्धिमत्ता आत्मविश्वासाने वापरण्यास मदत करणारे अधिक अनुभव तयार करणे सुरू ठेवू.

आणखी बरेच काम बाकी आहे हे आम्हाला माहीत आहे आणि किशोरांना सुरक्षित व्यापक प्रवेश मिळवून देण्यासाठी जगभरातील किशोर, पालक, शिक्षक, तज्ज्ञ आणि समुदायांसोबत सहकार्याने आमचे काम पुढे सुरू ठेवण्यास आम्ही बांधील आहोत.