युरोपीय संघाच्या मजकूर-मागोवा नियमांबाबत आमचा दृष्टिकोन
आजच्या तंत्रज्ञानाच्या मर्यादांमध्ये राहून पारदर्शकतेला चालना देणे.
काँटेंटच्या निर्मितीचा मागोवा घेतल्याने ते कुठून आले, कसे तयार किंवा संपादित केले गेले आणि त्यात आमच्या मॉडेलशी संबंधित संकेत आहेत का, हे लोकांना समजते. आमच्या मॉडेलने तयार केलेल्या इमेजेस आणि ध्वनी ओळखण्यासाठीची टूल्स आम्ही आधीच सार्वजनिकरीत्या उपलब्ध करून दिली आहेत. आज आम्ही युरोपीय संघाच्या AI कायद्यानुसार मजकुरात वॉटरमार्क वापरण्याबाबतचा आमचा दृष्टिकोन आणि आमच्या व्यापक कार्यातील त्याचे स्थान याविषयी माहिती देत आहोत.
युरोपीय संघाच्या AI कायद्यानुसार, जनरेटिव्ह AI पुरवठादारांनी तयार केलेला मजकूर यंत्रांना वाचता येईल अशा पद्धतीने ओळखण्यायोग्य करणे आवश्यक आहे. मजकुरात वॉटरमार्क घालणे आणि ती शोधणे ही तंत्रज्ञाने अजूनही सुरुवातीच्या टप्प्यात असून त्यांना मोठ्या मर्यादा आहेत. त्यांचे फायदे आणि जबाबदार वापर याबद्दलची मतेही अजून आकार घेत आहेत. आमच्या टप्प्याटप्प्याने राबवण्यात येणाऱ्या दृष्टिकोनात युरोपीय संघाच्या AI कायद्यातील अटी आणि तंत्रज्ञानाच्या मर्यादा या दोन्हींचा विचार केला आहे. मजकुरातील वॉटरमार्क लोकांना काय सांगू शकते आणि काय सांगू शकत नाही, याबद्दल पारदर्शक राहण्यावर आमचा भर आहे:
आजपासून जगभरातील API ग्राहक निवडक मॉडेलसाठी मजकुरात वॉटरमार्क घालण्याचा पर्याय स्वीकारू शकतील. API मध्ये मजकुरात वॉटरमार्क घालणे डिफॉल्टनुसार बंदच राहील.
येत्या काही आठवड्यांत, आम्ही युरोपीय संघात ChatGPT आणि Codex यांनी तयार केलेल्या पात्र मजकुरात अदृश्य वॉटरमार्क घालू.
आमचा मजकूर वॉटरमार्क शोधक वापरण्यासाठी आम्ही अर्ज स्वीकारण्यास सुरुवात करत आहोत. सुरुवातीला केवळ मान्यताप्राप्त संशोधक आणि तज्ज्ञ संस्थांनाच ॲक्सेस दिला जाईल, जे या तंत्रज्ञानाचे मूल्यमापन करण्यात आणि ते सुधारण्यात आम्हाला मदत करू शकतील.
वरील बाबी केवळ मजकुराच्या निर्मितीचा मागोवा घेण्यास लागू आहेत. एखादी इमेज किंवा ध्वनी फाइल आमच्या एखाद्या सिस्टमने तयार केली आहे का हे जाणून घेऊ इच्छिणाऱ्या संस्थांसाठी आमची ध्वनी आणि इमेज पडताळणीची टूल्स सार्वजनिकरीत्या उपलब्ध राहतील. यांत आमचे openai.com/verify हे वेब टूल आणि काँटेंटचा मागोवा घेणारे API(नवीन विंडोमध्ये उघडेल) यांचा समावेश आहे.
मजकुरात वॉटरमार्क घालण्याचे आमचे textGrain तंत्रज्ञान मॉडेलच्या शब्दनिवडीत एक अदृश्य सांख्यिकीय संकेत घालते. एखाद्या उताऱ्यात OpenAI चा वॉटरमार्क आहे का हे तपासण्यासाठी आमचा शोधक तो संकेत शोधतो. textGrain कसे काम करते याबद्दल अधिक तपशील आमच्या तांत्रिक अहवालात(नवीन विंडोमध्ये उघडेल) उपलब्ध आहेत. येत्या काही आठवड्यांत त्यात आणखी तपशील जोडले जातील. इतरांना या तंत्रज्ञानाला पुढे नेता यावे म्हणून ते मुक्त-स्रोत स्वरूपात उपलब्ध करून देण्याचीही आमची योजना आहे.
आमच्या मूल्यमापनात, textGrain ची कामगिरी आम्ही तपासलेल्या इतर पद्धतींइतकी किंवा त्यांपेक्षा चांगली होती. यांत मजकुरासाठीच्या SynthID चाही समावेश होता. तरीही, आदर्श परिस्थितीतील चांगली कामगिरी म्हणजे दैनंदिन वापरात विश्वसनीयपणे शोध लागण्याची हमी नाही.
शोधक दोन प्रकारच्या चुका करू शकतात: वॉटरमार्क नसतानाही ते असल्याचे सांगू शकतात—हा चुकीचा सकारात्मक निष्कर्ष असतो—किंवा असलेला वॉटरमार्क शोधण्यात अपयशी ठरू शकतात—हा चुकीचा नकारात्मक निष्कर्ष असतो. खालील मूल्यमापनांतून यातील काही आव्हाने दिसून येतात:
कमी लांबीच्या किंवा अधिक बंधने असलेल्या मजकुरात वॉटरमार्क शोधणे कठीण असते. चुकीच्या सकारात्मक निष्कर्षांचा लक्ष्य दर 1% ठरवल्यावर, मानसशास्त्रासारख्या विषयांवरील 200 टोकनच्या सुमारे 80% उताऱ्यांत आमच्या शोधकाला वॉटरमार्क सापडले, तर 400 टोकनच्या उताऱ्यांसाठी हे प्रमाण सुमारे 95% होते. गणितासारख्या विषयांवरील मजकुरात, जिथे शब्दनिवडीला कमी वाव असतो, तिथे शोध लागण्याचे प्रमाण बरेच कमी होते.
संपादनामुळे वॉटरमार्कचा संकेत कमकुवत होऊ शकतो. 400 टोकनच्या उताऱ्यांच्या एका मूल्यमापनात, 10% शब्दांच्या जागी समानार्थी शब्द वापरल्यावर शोध लागण्याचे प्रमाण सुमारे 92% वरून 66% पर्यंत घसरले. 25% शब्द बदलल्यावर ते 17% पर्यंत घसरले.
या मर्यादांचाही विचार करून, आम्ही सुरुवातीला केवळ मान्यताप्राप्त संशोधक आणि तज्ज्ञ संस्थांनाच शोधक वापरू देण्याचा निर्णय घेतला आहे. ते आम्हाला विश्वसनीयता आणि जबाबदार वापर यांचे मूल्यमापन करण्यात मदत करू शकतात.
या चार्टमध्ये ELI5 डेटासेटमधील(नवीन विंडोमध्ये उघडेल) गणित आणि मानसशास्त्राच्या प्रश्नांना दिलेल्या वॉटरमार्क असलेल्या उत्तरांचे निकाल दाखवले आहेत. यात चुकीच्या सकारात्मक निष्कर्षांचा लक्ष्य दर 1% ठेवला आहे. मजकुराची लांबी वाढल्यावर शोध लागण्याचे प्रमाण सुधारते. मात्र, गणितासारख्या विषयांत शब्दनिवडीला कमी वाव असल्याने एकूणच हे प्रमाण बरेच कमी असते.
संपादनामुळे वॉटरमार्कचा संकेत बराच कमकुवत होऊ शकतो. उताऱ्यातील 10% किंवा 25% शब्द बदलल्याने शोध लागण्यावर काय परिणाम होतो, हे या चार्टमध्ये दाखवले आहे. हे निकाल ELI5(नवीन विंडोमध्ये उघडेल) मधील प्रश्नांना दिलेल्या वॉटरमार्क असलेल्या इंग्रजी उत्तरांवर आधारित आहेत.
आमचे नवीनतम अत्याधुनिक मॉडेल Astra चे मूल्यमापन करण्यासाठी आम्ही वापरत असलेल्या बेंचमार्क चाचण्यांमध्ये, वॉटरमार्क असताना आणि नसताना कामगिरीत लक्षणीय फरक दिसत नाही.
बेंचमार्क | वॉटरमार्क नसलेला मजकूर (Astra, Max) | वॉटरमार्क असलेला मजकूर (Astra, Max) |
|---|---|---|
Artificial Analysis बुद्धिमत्ता निर्देशांक | 49.57 गुण | 49.76 गुण |
AutomationBench | 34.09% | 34.86% |
DeepSWE v1.1 | 72.80% | 71.68% |
Terminal-Bench 4.0 | 53.90% | 56.06% |
Terminal-Bench Science 0.1 | 56.90% | 60.00% |
BrowseComp | 87.92% | 87.35% |
HealthBench Professional | 64.27% | 64.60% |
GPQA Diamond | 94.44% | 93.94% |
एखाद्या उताऱ्यात आमच्या सिस्टम्सची भूमिका काय होती, याबद्दल मजकुरातील वॉटरमार्क मर्यादित संकेत देतात. शोधाच्या निकालावरून कोणते निष्कर्ष काढता येतात आणि कोणते काढता येत नाहीत, हे समजून घेणे महत्त्वाचे आहे.
वॉटरमार्क मानवी योगदान मोजत नाही. OpenAI च्या एखाद्या सिस्टमने उताऱ्याचा काही भाग तयार केला किंवा त्यावर प्रक्रिया केली, असा संकेत ते देऊ शकते. मात्र, त्यात मानवी विवेक, संपादन किंवा सृजनशीलतेचा किती वाटा होता, हे ते सांगू शकत नाही.
वॉटरमार्कने मालकी किंवा जबाबदारी सिद्ध होत नाही. मजकुराची मालकी कोणाकडे आहे, त्याचा वापर कायदेशीर होता का, माहिती उघड करणे आवश्यक होते का किंवा त्यासाठी कोण जबाबदार आहे, हे ते ठरवत नाही.
वॉटरमार्क वापरकर्त्याची ओळख सांगत नाही. ते कोणतीही व्यक्ती, संस्था, खाते, प्रॉम्प्ट किंवा संभाषण यांचा मजकुराशी संबंध जोडत नाही.
वॉटरमार्क अचूकतेची पडताळणी करत नाही. उतारा सत्य, दिशाभूल करणारा किंवा हानिकारक आहे का अथवा तो योग्य संदर्भात सादर केला आहे का, हे ते सांगत नाही.
वॉटरमार्क न सापडल्याने मजकूर माणसाने लिहिल्याचे सिद्ध होत नाही. OpenAI च्या टूल्सने तयार केलेला मजकूर खूपच लहान, संपादित किंवा भाषांतरित असल्यास त्यातील वॉटरमार्क विश्वसनीयपणे शोधता येईलच असे नाही. तो याला सपोर्ट देत नसलेल्या मॉडेलमधून आलेला, वॉटरमार्क वापरण्यापूर्वीचा किंवा दुसऱ्या कंपनीच्या टूल्सने तयार केलेला मजकूरही असू शकतो.
युरोपीय संघात मजकुरात वॉटरमार्क घालण्याची सुविधा सुरू करणे. येत्या काही आठवड्यांत, आम्ही केवळ युरोपीय संघातील सर्व प्लॅनवरील पात्र ChatGPT आणि Codex वापरकर्त्यांसाठी मजकुरात वॉटरमार्क घालण्याची सोय सुरू करू. सुरुवातीला आम्ही जगभरात मजकुरात वॉटरमार्क घालण्याची सुविधा डिफॉल्टनुसार सुरू करत नाही आहोत. या प्रादेशिक दृष्टिकोनामुळे आम्हाला प्रत्यक्ष वापर आणि अभिप्रायातून शिकण्याची संधी मिळते.
API ग्राहकांना वॉटरमार्क वापरण्याचा पर्याय देणे. आजपासून जगभरातील API ग्राहक निवडक मॉडेलनी तयार केलेल्या मजकुरात वॉटरमार्क घालण्याचा पर्याय स्वीकारू शकतील. यामुळे पारदर्शकतेबाबतची आपली बंधने आणि वापरकर्त्यांना दिले जाणारे अनुभव यांत वॉटरमार्कचा वापर कसा बसतो, हे ग्राहक स्वतः ठरवू शकतात. आम्ही क्लाउड सेवा भागीदारांसोबतही काम करत आहोत, ज्याने येत्या काही आठवड्यांत त्यांच्या सेवांमधून मिळणाऱ्या OpenAI मॉडेलच्या मजकुरासाठी वॉटरमार्कची सोय उपलब्ध होईल.
संशोधक आणि तज्ज्ञ संस्थांना शोधक वापरण्याची परवानगी देणे. मान्यताप्राप्त संशोधक आणि तज्ज्ञ संस्था आजपासून अर्ज करू शकतात. आचारसंहितेनुसार(नवीन विंडोमध्ये उघडेल), मजकुराच्या निर्मितीचा मागोवा घेण्याचे मूल्यमापन आणि सुधारणा यांना मदत करण्यासाठी सुरुवातीला प्रत्येक प्रकरणाचा स्वतंत्र विचार करून प्रवेश दिला जाईल. वापरकर्त्याची ओळख किंवा त्यांचे प्रॉम्प्ट आणि संभाषणे उघड न करता, हे टूल OpenAI चा वॉटरमार्क आढळला आहे का ते सांगेल. असलेले वॉटरमार्क न सापडण्याचा आणि चुकीचे सकारात्मक निष्कर्ष मिळण्याचा धोका लक्षात घेऊन, आम्ही हे टूल सुरुवातीलाच सार्वजनिकरीत्या उपलब्ध करत नाही.
तंत्रज्ञान, मानके आणि पुरावे विकसित होत जातील तसा या दृष्टिकोनातील प्रत्येक भागाचा पुनर्विचार करण्याचा आमचा मानस आहे.
निर्मितीचा मागोवा घेणारे कोणतेही एक तंत्र पुरेसे नसते. म्हणून आम्ही खुले स्टँडर्ड, टिकाऊ वॉटरमार्क आणि पडताळणीची टूल्स यांचा एकत्रित वापर करणारा बहुस्तरीय दृष्टिकोन स्वीकारतो.
आम्ही समर्थित इमेज आउटपुटमध्ये काँटेंटचे क्रेडेन्शियल्स जोडतो, C2PA स्टँडर्डचे पालन करतो(नवीन विंडोमध्ये उघडेल), समर्थित इमेजेस आणि ध्वनींमध्ये अदृश्य SynthID(नवीन विंडोमध्ये उघडेल) वॉटरमार्क घालतो आणि openai.com/verify तसेच आमच्या काँटेंटचा मागोवा घेणाऱ्या API(नवीन विंडोमध्ये उघडेल) द्वारे इमेजेस व ध्वनींची पडताळणी उपलब्ध करून देतो. ही तंत्रे एकमेकांना पूरक आहेत: काँटेंट क्रेडेन्शियल्स एखाद्या फाइलचा उगम आणि इतिहास नोंदवू शकतात, तर अदृश्य वॉटरमार्क फाइलबद्दलची पूरक माहिती काढून टाकल्यावरही संकेत टिकवून ठेवू शकतात.
आमच्या निवडणूक संरक्षणाच्या कार्यात सांगितल्याप्रमाणे, निर्मितीचा मागोवा घेतल्याने लोकांना आणि प्लॅटफॉर्म्सना AI ने तयार केलेल्या संभाव्य दिशाभूल करणाऱ्या काँटेंटचे मूल्यमापन करता येते. यात खऱ्या भासणाऱ्या बनावट इमेजेस, ध्वनी आणि व्हिडिओंचाही समावेश होतो. या संकेतांसोबत आम्ही धोरणे, गैरवापराचा शोध, तक्रार नोंदणी, तपास आणि अंमलबजावणी यांचा वापर करतो. निर्मितीचा मागोवा घेणे व्यापक परिसंस्थेत उपयुक्त ठरावे यासाठी संशोधक, स्टँडर्ड ठरवणाऱ्या संस्था, प्लॅटफॉर्म आणि नागरी समाज यांच्यासोबत काम करतो.
निर्मितीचा मागोवा घेण्याची सोय मजकुरापर्यंत विस्तारताना, त्याचे पुनर्लेखन, भाषांतर किंवा संपादन किती सहज करता येते याचा विचार करणे आवश्यक आहे. आम्ही जूनमध्ये चर्चा केल्याप्रमाणे, आमच्या दृष्टिकोनात सध्याच्या तंत्रज्ञानाच्या व्यावहारिक मर्यादांचा विचार होणे आवश्यक आहे. आम्ही शोधक्षमता सुधारत राहू, संपादन आणि भाषांतरानंतर वॉटरमार्क किती टिकतात याचा अभ्यास करू आणि AI च्या मदतीने लिहिलेला मजकूर व AI नेच लिहिलेला मजकूर यांतील फरक अधिक नेमकेपणाने ओळखण्याचे मार्ग शोधू. पुरावे, स्टँडर्ड आणि नियामक आवश्यकता बदलत जातील तसा आम्ही आमचा दृष्टिकोन बदलू. निकालांचा जबाबदारीने अर्थ लावता येईल असे आम्हाला वाटेल तेव्हा शोधकाचा ॲक्सेस अधिक व्यापक करू.
अधिक माहितीसाठी कृपया आमचा मदत केंद्रातील लेख(नवीन विंडोमध्ये उघडेल) वाचा.
