EU के टेक्स्ट प्रोवेनेंस नियमों को लेकर हमारा नज़रिया
आज की टेक्नोलॉजी की सीमाओं के अंदर ट्रांसपेरेंसी बढ़ाना.
कंटेंट प्रोवेनेंस से लोगों को यह समझने में मदद मिलती है कि कोई कंटेंट कहाँ से आया, उसे कैसे बनाया या एडिट किया गया और क्या उसमें हमारे मॉडल्स से जुड़े सिग्नल्स मौजूद हैं. हमारे मॉडल्स से बनाई गई इमेज और ऑडियो की पहचान के लिए हम पहले ही टूल्स सभी के लिए उपलब्ध करा चुके हैं. आज हम EU AI कानून के तहत टेक्स्ट वॉटरमार्किंग को लेकर अपना तरीका और यह हमारे बड़े काम में कैसे फ़िट होता है, साझा कर रहे हैं.
EU AI कानून के तहत जेनरेटिव AI प्रोवाइडर्स को AI से बने टेक्स्ट को इस तरह पहचानने लायक बनाना होता है कि मशीन भी उसे पहचान सके. टेक्स्ट वॉटरमार्किंग और डिटेक्शन अभी शुरुआती टेक्नोलॉजी हैं और इनकी कई बड़ी सीमाएँ हैं. इनके फ़ायदों और सही इस्तेमाल को लेकर समझ भी अभी विकसित हो रही है. इसलिए हम इसे अलग-अलग फ़ेज़ में लागू कर रहे हैं, जिसमें EU AI कानून की ज़रूरतों और टेक्नोलॉजी की सीमाओं, दोनों का ध्यान रखा गया है. साथ ही, हम साफ़ बताना चाहते हैं कि टेक्स्ट वॉटरमार्क क्या बता सकता है और क्या नहीं.
आज से दुनिया भर के API कस्टमर्स चुनिंदा मॉडल्स के लिए टेक्स्ट वॉटरमार्किंग को चालू करने का ऑप्शन चुन सकेंगे. API में टेक्स्ट वॉटरमार्किंग डिफ़ॉल्ट तौर पर बंद रहेगी.
आने वाले हफ़्तों में हम यूरोपियन यूनियन में ChatGPT और Codex के चुनिंदा टेक्स्ट आउटपुट में एक अदृश्य वॉटरमार्क जोड़ेंगे.
हम अपने टेक्स्ट वॉटरमार्क डिटेक्टर के एक्सेस के लिए आवेदन शुरू कर रहे हैं. शुरुआत में एक्सेस सिर्फ़ चुने गए रिसर्चर्स और एक्सपर्ट संस्थाओं को मिलेगा, जो इस टेक्नोलॉजी को जाँचने और बेहतर बनाने में हमारी मदद कर सकें.
ऊपर दी गई जानकारी सिर्फ़ टेक्स्ट प्रोवेनेंस पर लागू होती है. ऑडियो और इमेज के लिए हमारे वेरिफ़िकेशन टूल्स, जिनमें openai.com/verify वेब टूल और कंटेंट प्रोवेनेंस API(एक नई विंडो में खुलेगा) शामिल हैं, आगे भी उन ऑर्गेनाइज़ेशन्स में सभी के लिए उपलब्ध रहेंगे जो यह जानना चाहते हैं कि कोई इमेज या ऑडियो फ़ाइल हमारे किसी सिस्टम से बनाई गई थी या नहीं.
हमारी टेक्स्ट वॉटरमार्किंग टेक्नोलॉजी textGrain, मॉडल के शब्द चुनने के तरीके में एक अदृश्य स्टैटिस्टिकल सिग्नल जोड़ती है. हमारा डिटेक्टर उस सिग्नल को खोजकर यह देखता है कि किसी टेक्स्ट में OpenAI वॉटरमार्क मौजूद है या नहीं. textGrain कैसे काम करता है, इसकी ज़्यादा जानकारी हमारी टेक्निकल रिपोर्ट(एक नई विंडो में खुलेगा) में मिल सकती है. आने वाले हफ़्तों में इसमें और जानकारी जोड़ी जाएगी. हम इस टेक्नोलॉजी को ओपन सोर्स में उपलब्ध कराने की भी योजना बना रहे हैं, ताकि दूसरे लोग भी इसके आधार पर आगे काम कर सकें.
हमारी टेस्टिंग में textGrain का परफ़ॉर्मेंस हमारे टेस्ट किए गए दूसरे तरीकों के बराबर या उनसे बेहतर रहा, जिसमें टेक्स्ट के लिए SynthID भी शामिल है. फिर भी, सही परिस्थितियों में अच्छा परफ़ॉर्मेंस रोज़मर्रा के इस्तेमाल में भरोसेमंद डिटेक्शन की गारंटी नहीं देता.
डिटेक्टर्स दो तरह की गलतियाँ कर सकते हैं. वे वहाँ वॉटरमार्क बता सकते हैं जहाँ वह मौजूद नहीं है— जिसे फ़ॉल्स पॉज़िटिव कहते हैं—या मौजूद वॉटरमार्क को पहचानने से चूक सकते हैं—जिसे फ़ॉल्स नेगेटिव कहते हैं. नीचे हमारी टेस्टिंग में सामने आई कुछ चुनौतियाँ दी गई हैं.
छोटे या ऐसे टेक्स्ट में वॉटरमार्क पहचानना मुश्किल होता है जहाँ शब्द चुनने की गुंजाइश कम हो. 1% के टारगेट फ़ॉल्स पॉज़िटिव रेट पर, साइकोलॉजी जैसे कंटेंट में हमारे डिटेक्टर ने 200-टोकन वाले लगभग 80% टेक्स्ट और 400-टोकन वाले लगभग 95% टेक्स्ट में वॉटरमार्क पहचाना. मैथ्स जैसे कंटेंट में डिटेक्शन रेट काफ़ी कम रहा, क्योंकि वहाँ शब्द चुनने की गुंजाइश कम होती है.
एडिटिंग से वॉटरमार्क कमज़ोर हो सकता है. 400-टोकन वाले टेक्स्ट की टेस्टिंग में, 10% शब्दों को उनके समान मतलब वाले शब्दों से बदलने पर डिटेक्शन लगभग 92% से घटकर 66% रह गया. 25% शब्द बदलने पर यह घटकर 17% रह गया.
इन्हीं सीमाओं की वजह से हमने शुरुआत में डिटेक्टर का एक्सेस सिर्फ़ चुने गए रिसर्चर्स और एक्सपर्ट ऑर्गेनाइज़ेशन्स को देने का फ़ैसला किया है. वे यह पता करने में हमारी मदद कर सकते हैं कि यह कितना भरोसेमंद है और इसका कितनी ज़िम्मेदारी के साथ सही इस्तेमाल किया जा सकता है.
यह चार्ट ELI5 डेटासेट(एक नई विंडो में खुलेगा) के मैथ्स और साइकोलॉजी सवालों के वॉटरमार्क वाले जवाबों के नतीजे दिखाता है, जहाँ टारगेट फ़ॉल्स पॉज़िटिव रेट 1% है. टेक्स्ट लंबा होने पर डिटेक्शन बेहतर होता है, लेकिन मैथ्स जैसे कंटेंट में यह कुल मिलाकर काफ़ी कम रहता है, क्योंकि वहाँ शब्द चुनने की गुंजाइश कम होती है.
एडिटिंग से वॉटरमार्क का सिग्नल काफ़ी कमज़ोर हो सकता है. यह चार्ट दिखाता है कि किसी टेक्स्ट के 10% या 25% शब्द बदलने से डिटेक्शन पर क्या असर पड़ता है. ये नतीजे ELI5(एक नई विंडो में खुलेगा) के सवालों के वॉटरमार्क वाले इंग्लिश जवाबों पर आधारित हैं.
हमारे लेटेस्ट फ़्रंटियर मॉडल Astra को परखने के लिए इस्तेमाल किए जाने वाले बेंचमार्क्स में, वॉटरमार्किंग के साथ और उसके बिना परफ़ॉर्मेंस में कोई खास अंतर नहीं दिखा.
बेंचमार्क | बिना वॉटरमार्क वाला टेक्स्ट (Astra, मैक्स) | वॉटरमार्क वाला टेक्स्ट (Astra, मैक्स) |
|---|---|---|
आर्टिफ़िशियल एनालिसिस इंटेलिजेंस इंडेक्स | 49.57 पॉइंट्स | 49.76 पॉइंट्स |
AutomationBench | 34.09% | 34.86% |
DeepSWE v1.1 | 72.80% | 71.68% |
Terminal-Bench 4.0 | 53.90% | 56.06% |
Terminal-Bench Science 0.1 | 56.90% | 60.00% |
BrowseComp | 87.92% | 87.35% |
HealthBench प्रोफ़ेशनल | 64.27% | 64.60% |
GPQA डायमंड | 94.44% | 93.94% |
टेक्स्ट वॉटरमार्क सिर्फ़ सीमित सिग्नल देता है कि किसी टेक्स्ट में हमारे सिस्टम्स की क्या भूमिका रही. इसलिए यह समझना ज़रूरी है कि डिटेक्शन के नतीजे से क्या पता लगाया जा सकता है और क्या नहीं.
वॉटरमार्क यह नहीं बताता कि किसी इंसान ने कितना काम किया था. यह सिग्नल दे सकता है कि टेक्स्ट का कोई हिस्सा OpenAI सिस्टम ने बनाया या प्रोसेस किया, लेकिन यह नहीं बताता कि उसमें इंसानी फ़ैसले, एडिटिंग या क्रिएटिविटी कितनी थी.
वॉटरमार्क यह तय नहीं करता कि टेक्स्ट का मालिक कौन है या उसकी ज़िम्मेदारी किसकी है. इससे यह भी तय नहीं होता कि वह किसका है और उसका इस्तेमाल कानून के मुताबिक था या नहीं, उसके लिए डिस्क्लोज़र ज़रूरी है या नहीं, या उसके लिए कौन ज़िम्मेदार है.
वॉटरमार्क यूज़र की पहचान नहीं बताता. यह टेक्स्ट को किसी व्यक्ति, ऑर्गेनाइज़ेशन, अकाउंट, प्रॉम्प्ट या बातचीत से नहीं जोड़ता.
वॉटरमार्क टेक्स्ट के सही होने की जाँच नहीं करता. यह नहीं बताता कि टेक्स्ट सही है, गुमराह करने वाला है, नुकसानदेह है या सही कॉन्टेक्स्ट में दिया गया है.
वॉटरमार्क का पता न चलना यह साबित नहीं करता कि टेक्स्ट किसी इंसान ने लिखा है. OpenAI टूल्स से बना टेक्स्ट बहुत छोटा हो सकता है, एडिट या ट्रांसलेट किया गया हो सकता है, जिससे डिटेक्शन भरोसेमंद तरीके से काम न करे. यह ऐसे मॉडल से भी आया हो सकता है जिसमें वॉटरमार्किंग सपोर्ट नहीं है, वॉटरमार्किंग शुरू होने से पहले बना हो सकता है या किसी दूसरी कंपनी के टूल्स से बनाया गया हो सकता है.
EU में टेक्स्ट वॉटरमार्किंग शुरू करना. आने वाले हफ़्तों में हम सिर्फ़ EU में सभी प्लान्स के योग्य ChatGPT और Codex यूज़र्स के लिए टेक्स्ट वॉटरमार्किंग शुरू करेंगे. लॉन्च के समय हम इसे दुनिया भर में डिफ़ॉल्ट रूप से चालू नहीं कर रहे हैं. इस रीजनल तरीके से हमें असली इस्तेमाल और फ़ीडबैक से सीखने का मौका मिलेगा.
API कस्टमर्स के लिए वॉटरमार्किंग चुनने का ऑप्शन देना. आज से दुनिया भर के API कस्टमर्स चुनिंदा मॉडल्स के लिए वॉटरमार्क वाला टेक्स्ट आउटपुट चुन सकेंगे. इससे कस्टमर्स तय कर सकते हैं कि वॉटरमार्किंग उनकी ट्रांसपेरेंसी से जुड़ी ज़िम्मेदारियों और यूज़र्स को दिए जाने वाले अनुभव में कैसे फ़िट होती है. हम क्लाउड पार्टनर्स के साथ भी काम कर रहे हैं, ताकि आने वाले हफ़्तों में उनकी सर्विसेज़ के ज़रिए एक्सेस किए जाने वाले OpenAI मॉडल आउटपुट के लिए भी वॉटरमार्किंग मिल सके.
रिसर्चर्स और एक्सपर्ट संस्थाओं को डिटेक्टर का एक्सेस देना. चुने गए रिसर्चर्स और एक्सपर्ट संस्थाएँ आज से आवेदन कर सकती हैं. कोड ऑफ़ प्रैक्टिस(एक नई विंडो में खुलेगा) के मुताबिक, शुरुआत में एक्सेस हर मामले को अलग-अलग देखकर दिया जाएगा, ताकि टेक्स्ट के सोर्स की पहचान से जुड़ी टेक्नोलॉजी को जाँचा और बेहतर बनाया जा सके. टूल यह बताएगा कि उसे OpenAI वॉटरमार्क मिला या नहीं, लेकिन वह यूज़र की पहचान नहीं बताएगा और न ही उनके प्रॉम्प्ट्स या बातचीत दिखाएगा. वॉटरमार्क मिस होने और फ़ॉल्स पॉज़िटिव के जोखिम को देखते हुए, हम लॉन्च के समय इसे सभी के लिए उपलब्ध नहीं करा रहे हैं.
जैसे-जैसे टेक्नोलॉजी, स्टैंडर्ड्स और एविडेंस बदलेंगे, हम अपने इस तरीके को दोबारा रिव्यू करते रहेंगे.
कंटेंट के सोर्स की पहचान के लिए कोई एक तरीका अपने आप में काफ़ी नहीं है. इसलिए हम कई स्तरों वाला तरीका अपनाते हैं, जिसमें ओपन स्टैंडर्ड्स, लंबे समय तक बने रहने वाले वॉटरमार्क और वेरिफ़िकेशन टूल्स शामिल हैं.
हम सपोर्ट करने वाले इमेज आउटपुट में कंटेंट क्रेडेंशियल्स डालते हैं, C2PA के मुताबिक(एक नई विंडो में खुलेगा) काम करते हैं, सपोर्ट करने वाले इमेज और ऑडियो में अदृश्य SynthID(एक नई विंडो में खुलेगा) वॉटरमार्क लगाते हैं और openai.com/verify व कंटेंट प्रोवेनेंस API(एक नई विंडो में खुलेगा) के ज़रिए इमेज और ऑडियो वेरिफ़िकेशन की सुविधा देते हैं. ये तरीके एक-दूसरे को सपोर्ट करते हैं. कंटेंट क्रेडेंशियल्स किसी फ़ाइल के सोर्स और हिस्ट्री का रिकॉर्ड रख सकते हैं, जबकि मेटाडेटा हट जाने पर भी अदृश्य वॉटरमार्क सिग्नल को बनाए रख सकते हैं.
जैसा हमने चुनाव से जुड़ी सुरक्षा पर अपने काम में बताया था, कंटेंट के सोर्स की जानकारी लोगों और प्लेटफ़ॉर्म्स को AI से बने ऐसे कंटेंट का पता करने में मदद कर सकती है जो गुमराह कर सकता है, जिसमें डीपफ़ेक्स भी शामिल हैं. हम इन सिग्नल्स के साथ पॉलिसीज़, गलत इस्तेमाल की पहचान, रिपोर्टिंग, जाँच और कार्रवाई का भी इस्तेमाल करते हैं. साथ ही, हम रिसर्चर्स, स्टैंडर्ड्स बनाने वाली संस्थाओं, प्लेटफ़ॉर्म्स और सिविल सोसाइटी के साथ काम करते हैं, ताकि कंटेंट के सोर्स की जानकारी पूरे इकोसिस्टम में काम आ सके.
टेक्स्ट के सोर्स की पहचान करते समय यह ध्यान रखना ज़रूरी है कि टेक्स्ट को कितनी आसानी से दोबारा लिखा, ट्रांसलेट या एडिट किया जा सकता है. जैसा हमने जून में बताया था, हमारे तरीके में मौजूदा टेक्नोलॉजी की असली सीमाओं का ध्यान रखना ज़रूरी है. हम डिटेक्शन को बेहतर करते रहेंगे, यह स्टडी करेंगे कि एडिटिंग और ट्रांसलेशन के बाद वॉटरमार्क कितना बना रहता है, और AI की मदद से लिखे टेक्स्ट और पूरी तरह AI से लिखे टेक्स्ट के बीच बेहतर फ़र्क करने के तरीके एक्सप्लोर करेंगे. जैसे-जैसे एविडेंस, स्टैंडर्ड्स और रेगुलेटरी ज़रूरतें बदलेंगी, हम अपना तरीका भी बदलेंगे और जब हमें लगेगा कि नतीजों को सही तरह समझा जा सकता है, तब डिटेक्टर का एक्सेस बढ़ाएँगे.
ज़्यादा जानकारी के लिए हमारा हेल्प सेंटर आर्टिकल(एक नई विंडो में खुलेगा) देखें.
