ChatGPT मध्ये लॉकडाउन मोड आणि सुसंगत उन्नत जोखीम लेबले सादर करत आहोत
जेव्हा AI प्रणाली अधिक जटिल कामे—विशेषतः वेब आणि कनेक्टेड अॅप्सचा समावेश असलेली—हाताळू लागतात, तेव्हा सुरक्षेचे दांव बदलतात.
एक उदयोन्मुख धोका विशेषतः महत्त्वाचा बनला आहे: प्रॉम्प्ट इंजेक्शन. या हल्ल्यांमध्ये, तृतीय पक्ष संभाषणात्मक AI प्रणालीला दुष्ट सूचनांचे पालन करण्यासाठी किंवा संवेदनशील माहिती उघड करण्यासाठी दिशाभूल करण्याचा प्रयत्न करतो.
आज, आम्ही वापरकर्ते आणि संस्थांना प्रॉम्प्ट इंजेक्शन हल्ल्यांपासून संरक्षण करण्यासाठी डिझाइन केलेली दोन नवीन उपाययोजना सादर करत आहोत, ज्यामुळे जोखमीची स्पष्टता वाढेल आणि नियंत्रण अधिक मजबूत होईल:
- लॉकडाउन मोड ChatGPT मध्ये, उच्च-जोखीम वापरकर्त्यांसाठी एक प्रगत, ऐच्छिक सुरक्षा सेटिंग
- “उच्च धोका” लेबले काही क्षमतांसाठी जी ChatGPT, ChatGPT Atlas, आणि Codex मध्ये अतिरिक्त धोका निर्माण करू शकतात
ही भर मॉडेल, उत्पादन आणि प्रणाली स्तरांवरील आमच्या विद्यमान संरक्षणांवर आधारित आहे. यामध्ये सँडबॉक्सिंग, URL-आधारित डेटा एक्सफिल्ट्रेशनविरुद्ध संरक्षण, निरीक्षण आणि अंमलबजावणी, तसेच भूमिकानुसार प्रवेश आणि ऑडिट लॉग्ससारखी एंटरप्राइझ नियंत्रण यांचा समावेश आहे.
लॉकडाउन मोड हा एक पर्यायी, प्रगत सुरक्षा सेटिंग आहे, जो अत्यंत सुरक्षा-जागरूक वापरकर्त्यांच्या छोट्या गटासाठी—उदाहरणार्थ, प्रमुख संस्थांमधील कार्यकारी अधिकारी किंवा सुरक्षा टीम्स—यांच्यासाठी डिझाइन केलेला आहे, ज्यांना प्रगत धोक्यांविरुद्ध वाढीव संरक्षणाची आवश्यकता असते. बहुतेक वापरकर्त्यांसाठी हे आवश्यक नाही. लॉकडाउन मोड प्रॉम्प्ट इंजेक्शन–आधारित डेटा एक्सफिल्ट्रेशनचा धोका कमी करण्यासाठी ChatGPT च्या बाह्य प्रणालींशी संवाद साधण्याच्या क्षमतेवर कठोर मर्यादा घालतो.
लॉकडाउन मोड ChatGPT मध्ये काही साधने आणि क्षमता निर्धारपूर्वक अक्षम करते, ज्यांचा वापर एखादा हल्लेखोर प्रॉम्प्ट इंजेक्शनसारख्या हल्ल्यांद्वारे वापरकर्त्यांच्या संभाषणांमधून किंवा जोडलेल्या अॅप्समधून संवेदनशील डेटा बाहेर काढण्यासाठी शोषण करण्याचा प्रयत्न करू शकतो.
उदाहरणार्थ, लॉकडाउन मोडमध्ये वेब ब्राउझिंग केवळ कॅश केलेल्या सामग्रीपुरते मर्यादित असते, त्यामुळे कोणत्याही थेट नेटवर्क विनंत्या OpenAI च्या नियंत्रित नेटवर्कच्या बाहेर जात नाहीत. हे निर्बंध ब्राउझिंगद्वारे संवेदनशील डेटा हल्लेखोराकडे बाहेर काढला जाण्यापासून रोखण्यासाठी डिझाइन केले आहे. जेव्हा आम्ही डेटाच्या सुरक्षिततेसाठी ठोस निर्धारक हमी देऊ शकत नाही, तेव्हा काही वैशिष्ट्ये पूर्णपणे अक्षम केली जातात.
लॉकडाउन मोड ही एक नवीन निर्धारक सेटिंग आहे जी ChatGPT काही विशिष्ट बाह्य प्रणालींशी कसा संवाद साधू शकतो यावर कडक मर्यादा घालून, डेटा अनवधानाने तृतीय पक्षांसोबत शेअर होण्यापासून संरक्षण करण्यात मदत करते.
ChatGPT व्यवसाय योजना आधीच एंटरप्राइझ-ग्रेड डेटा सुरक्षा प्रदान करतात. लॉकडाउन मोड त्या संरक्षणांवर आधारित आहे आणि ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare, आणि ChatGPT for Teachers साठी उपलब्ध आहे. प्रशासक वर्कस्पेस सेटिंग्ज(नवीन विंडोमध्ये उघडेल) मध्ये नवीन भूमिका(नवीन विंडोमध्ये उघडेल) तयार करून ते सक्षम करू शकतात. सक्षम केल्यावर, लॉकडाउन मोड विद्यमान प्रशासकीय सेटिंग्जवर अतिरिक्त निर्बंध लागू करतो.
आमच्या हेल्प सेंटर(नवीन विंडोमध्ये उघडेल) मध्ये लॉकडाउन मोडविषयी अधिक जाणून घ्या.
कारण काही महत्त्वाचे कार्यप्रवाह ॲप्सवर अवलंबून असतात, वर्कस्पेस प्रशासक अधिक सूक्ष्म नियंत्रण राखतात. ते लॉकडाउन मोडमध्ये वापरकर्त्यांसाठी कोणती अॅप्स आणि त्या अॅप्समधील कोणत्या विशिष्ट क्रिया उपलब्ध असतील हे नेमके निवडू शकतात. याव्यतिरिक्त, आणि लॉकडाउन मोड पासून स्वतंत्र, अनुपालन API लॉग्स प्लॅटफॉर्म(नवीन विंडोमध्ये उघडेल) अॅप वापर, शेअर केलेला डेटा आणि जोडलेले स्रोत यांबाबत तपशीलवार दृश्यता प्रदान करते, ज्यामुळे प्रशासकांना देखरेख राखण्यास मदत होते.
आम्ही पुढील काही महिन्यांत ग्राहकांसाठी लॉकडाउन मोड उपलब्ध करण्याची योजना आखत आहोत.
AI उत्पादने तुमच्या अॅप्स आणि वेबशी जोडल्यावर अधिक उपयुक्त ठरू शकतात, आणि आम्ही जोडलेल्या डेटाच्या सुरक्षिततेसाठी मोठ्या प्रमाणात गुंतवणूक केली आहे. त्याच वेळी, नेटवर्कशी संबंधित काही क्षमता नवीन धोके निर्माण करतात, ज्यांना उद्योगाच्या सुरक्षा आणि संरक्षा निवारण उपायांनी अद्याप पूर्णपणे हाताळलेले नाही. काही वापरकर्ते या जोखमी स्वीकारण्यात आरामदायक असू शकतात, आणि आम्हाला विश्वास आहे की वापरकर्त्यांना त्यांचा वापर करायचा की नाही आणि कसा करायचा हे ठरवण्याची क्षमता असणे महत्त्वाचे आहे, विशेषतः त्यांच्या खासगी डेटासोबत काम करताना.
अतिरिक्त जोखीम निर्माण करू शकणाऱ्या वैशिष्ट्यांसाठी उत्पादनामध्ये मार्गदर्शन प्रदान करणे हा आमचा दृष्टिकोन आहे. हे अधिक स्पष्ट आणि सुसंगत करण्यासाठी, आम्ही विद्यमान क्षमतांच्या एका छोट्या यादीचे लेबलिंग प्रमाणित करत आहोत. ही वैशिष्ट्ये आता ChatGPT, ChatGPT Atlas, आणि Codex मध्ये एकसारखे “Elevated Risk” लेबल वापरतील, त्यामुळे वापरकर्त्यांना जिथेही ते दिसतील तिथे समान मार्गदर्शन मिळेल.
उदाहरणार्थ, Codex मध्ये, आमचा कोडिंग सहाय्यक, विकसक Codex ला नेटवर्क प्रवेश देऊ शकतात, ज्यामुळे तो वेबवर डॉक्युमेंटेशन शोधण्यासारख्या कृती करू शकतो. संबंधित सेटिंग्ज स्क्रीनमध्ये “Elevated Risk” लेबल समाविष्ट आहे, तसेच काय बदल होतात, कोणते धोके उद्भवू शकतात आणि तो प्रवेश कधी योग्य आहे याचे स्पष्ट स्पष्टीकरण दिलेले आहे.
Codex सेटिंग्ज स्क्रीनचा स्क्रीनशॉट जिथे वापरकर्ते Codex साठी नेटवर्क प्रवेश कॉन्फिगर करू शकतात.
आम्ही आमच्या सुरक्षा आणि संरक्षक उपायांना बळकट करण्यासाठी गुंतवणूक करत आहोत, विशेषतः नवीन, उदयोन्मुख किंवा वाढत्या जोखमींसाठी. या वैशिष्ट्यांसाठी सुरक्षा उपाय अधिक मजबूत करत असताना, आम्ही ठरविल्यानंतर की सुरक्षा प्रगतींनी सामान्य वापरासाठी त्या जोखमी पुरेशा प्रमाणात कमी केल्या आहेत, आम्ही “Elevated Risk” लेबल काढून टाकू. वापरकर्त्यांना धोका स्पष्टपणे कळावा यासाठी, आम्ही वेळोवेळी कोणत्या वैशिष्ट्यांवर हे लेबल लागू आहे ते अद्यतनित करत राहू.
लेखक
वाचत राहा
