ઈયુના લખાણ-ઉદ્ભવના નિયમો પ્રત્યે અમારો અભિગમ
આજની તકનીકની મર્યાદાઓમાં રહીને પારદર્શિતાને પ્રોત્સાહન.
સામગ્રીના ઉદ્ભવની માહિતી લોકોને એ સમજવામાં મદદ કરે છે કે સામગ્રી ક્યાંથી આવી, તે કેવી રીતે બનાવવામાં કે સંપાદિત કરવામાં આવી અને તેમાં અમારા મોડલ સાથે સંકળાયેલા સંકેતો છે કે નહીં. અમારા મોડલ દ્વારા બનાવાયેલાં ચિત્રો અને ધ્વનિ ઓળખવા માટેનાં સાધનો અમે પહેલેથી જ જાહેરમાં ઉપલબ્ધ કર્યાં છે. આજે અમે ઈયુના એઆઈ અધિનિયમને અનુરૂપ લખાણમાં વૉટરમાર્ક ઉમેરવા અંગેનો અમારો અભિગમ અને અમારા વ્યાપક કાર્યમાં તેની ભૂમિકા વિશે જણાવી રહ્યા છીએ.
ઈયુનો એઆઈ અધિનિયમ સામગ્રી સર્જતી એઆઈના પ્રદાતાઓને તેમણે બનાવેલા લખાણને યંત્રો દ્વારા વાંચી અને ઓળખી શકાય તેવું બનાવવાનું ફરજિયાત કરે છે. લખાણમાં વૉટરમાર્ક ઉમેરવાની અને તેને ઓળખવાની તકનીકો હજી પ્રારંભિક તબક્કે છે અને તેમની નોંધપાત્ર મર્યાદાઓ છે. તેમના લાભો અને જવાબદારીપૂર્વકના ઉપયોગ અંગેના વિચારો પણ હજી વિકસી રહ્યા છે. અમારો તબક્કાવાર અભિગમ ઈયુના એઆઈ અધિનિયમની જરૂરિયાતો અને તકનીકની મર્યાદાઓ, બંનેને ધ્યાનમાં લે છે. લખાણનો વૉટરમાર્ક લોકોને શું જણાવી શકે છે અને શું નહીં તે અંગે પારદર્શિતા પર અમારો ભાર છે:
આજથી વિશ્વભરના એપીઆઈ ગ્રાહકો પસંદગીનાં મોડલ માટે લખાણમાં વૉટરમાર્ક ઉમેરવાનો વિકલ્પ પસંદ કરી શકશે. એપીઆઈમાં લખાણમાં વૉટરમાર્ક ઉમેરવાની સુવિધા મૂળભૂત રીતે બંધ રહેશે.
આગામી અઠવાડિયાંમાં અમે યુરોપિયન યુનિયનમાં ChatGPT અને Codex દ્વારા બનાવાતા પાત્ર લખાણમાં અદૃશ્ય વૉટરમાર્ક ઉમેરીશું.
લખાણમાં વૉટરમાર્ક ઓળખતું અમારું સાધન વાપરવા માટે અમે અરજીઓ સ્વીકારવાનું શરૂ કરી રહ્યા છીએ. શરૂઆતમાં તેનો ઉપયોગ માત્ર માન્યતા પ્રાપ્ત સંશોધકો અને નિષ્ણાત સંસ્થાઓ પૂરતો મર્યાદિત રહેશે, જેઓ આ તકનીકનું મૂલ્યાંકન કરવામાં અને તેને સુધારવામાં અમને મદદ કરી શકે.
ઉપરોક્ત બાબતો માત્ર લખાણના ઉદ્ભવની માહિતીને લાગુ પડે છે. કોઈ ચિત્ર કે ધ્વનિ ફાઇલ અમારી કોઈ પ્રણાલી દ્વારા બનાવવામાં આવી છે કે નહીં તે જાણવા ઇચ્છતી સંસ્થાઓ માટે અમારાં ધ્વનિ અને ચિત્ર ચકાસણી સાધનો જાહેરમાં ઉપલબ્ધ રહેશે. તેમાં અમારું openai.com/verify વેબ સાધન અને અમારી સામગ્રીના ઉદ્ભવની માહિતી માટેની એપીઆઈ(નવી વિન્ડોમાં ખૂલે છે) પણ સામેલ છે.
લખાણમાં વૉટરમાર્ક ઉમેરવાની અમારી તકનીક textGrain, મોડલની શબ્દોની પસંદગીમાં એક અદૃશ્ય આંકડાકીય સંકેત ઉમેરે છે. અમારું ઓળખ સાધન આ સંકેત શોધીને તપાસે છે કે લખાણના કોઈ અંશમાં OpenAIનો વૉટરમાર્ક છે કે નહીં. textGrain કેવી રીતે કામ કરે છે તેની વધુ વિગતો અમારા તકનીકી અહેવાલ(નવી વિન્ડોમાં ખૂલે છે)માં મળી શકે છે. આગામી અઠવાડિયાંમાં તેમાં વધારાની વિગતો ઉમેરવામાં આવશે. અન્ય લોકો તેના આધારે વધુ વિકાસ કરી શકે તે માટે આ તકનીકને ખુલ્લા સ્રોત તરીકે ઉપલબ્ધ કરાવવાની પણ અમારી યોજના છે.
અમારાં મૂલ્યાંકનોમાં textGrainનું પ્રદર્શન અમે ચકાસેલી અન્ય પદ્ધતિઓ જેટલું અથવા વધુ સારું રહ્યું, જેમાં લખાણ માટેની SynthID પણ સામેલ હતી. તેમ છતાં, આદર્શ પરિસ્થિતિઓમાં સારું પ્રદર્શન રોજિંદા ઉપયોગમાં વિશ્વસનીય ઓળખની ખાતરી આપતું નથી.
ઓળખ સાધનો બે પ્રકારની ભૂલો કરી શકે છે: વૉટરમાર્ક ન હોય છતાં તે હોવાનું જણાવવું—ખોટી હકારાત્મક ઓળખ—અથવા વૉટરમાર્ક હાજર હોય છતાં તેને ઓળખી ન શકવું—ખોટી નકારાત્મક ઓળખ. નીચેનાં અમારાં મૂલ્યાંકનો કેટલાક પડકારો દર્શાવે છે:
ટૂંકા કે વધુ મર્યાદિત શબ્દપસંદગીવાળા લખાણમાં વૉટરમાર્ક ઓળખવો વધુ મુશ્કેલ છે. ખોટી હકારાત્મક ઓળખનો લક્ષિત દર 1% રાખતાં, મનોવિજ્ઞાન જેવી સામગ્રીના 200 ટોકનના લખાણ-અંશોમાં અમારા સાધને લગભગ 80% વૉટરમાર્ક ઓળખ્યા, જ્યારે 400 ટોકનના લખાણ-અંશોમાં આ દર લગભગ 95% હતો. ગણિત જેવી સામગ્રીમાં ઓળખના દર નોંધપાત્ર રીતે ઓછા હતા, કારણ કે તેમાં શબ્દોની પસંદગી માટે ઓછી છૂટ હોય છે.
સંપાદનથી વૉટરમાર્ક નબળો પડી શકે છે. 400 ટોકનના લખાણ-અંશોના મૂલ્યાંકનમાં, 10% શબ્દોને સમાનાર્થી શબ્દોથી બદલતાં ઓળખનો દર લગભગ 92%થી ઘટીને 66% થયો. 25% શબ્દો બદલતાં તે ઘટીને 17% થયો.
આ મર્યાદાઓને પણ ધ્યાનમાં રાખીને અમે શરૂઆતમાં ઓળખ સાધનનો ઉપયોગ માત્ર માન્યતા પ્રાપ્ત સંશોધકો અને નિષ્ણાત સંસ્થાઓને આપવા નક્કી કર્યું છે. તેઓ વિશ્વસનીયતા અને જવાબદારીપૂર્વકના ઉપયોગનું મૂલ્યાંકન કરવામાં અમને મદદ કરી શકે છે.
આ આલેખ ELI5 માહિતી-સંગ્રહ(નવી વિન્ડોમાં ખૂલે છે)માંથી ગણિત અને મનોવિજ્ઞાનના પ્રશ્નોના વૉટરમાર્ક ધરાવતા જવાબો માટેનાં પરિણામો બતાવે છે, જેમાં ખોટી હકારાત્મક ઓળખનો લક્ષિત દર 1% છે. લખાણની લંબાઈ વધતાં ઓળખ વધુ સારી થાય છે, પરંતુ ગણિત જેવી સામગ્રીમાં શબ્દપસંદગીની ઓછી છૂટ હોવાથી એકંદરે ઓળખનો દર નોંધપાત્ર રીતે ઓછો રહે છે.
સંપાદનથી વૉટરમાર્કનો સંકેત નોંધપાત્ર રીતે નબળો પડી શકે છે. આ આલેખ બતાવે છે કે લખાણના કોઈ અંશમાં 10% કે 25% શબ્દો બદલવાથી ઓળખ પર કેવી અસર પડે છે. પરિણામો ELI5(નવી વિન્ડોમાં ખૂલે છે)ના પ્રશ્નોના વૉટરમાર્ક ધરાવતા અંગ્રેજી જવાબો પર આધારિત છે.
અમારા નવીનતમ અત્યાધુનિક મોડલ Astraનું મૂલ્યાંકન કરવા અમે જે માપદંડો વાપરીએ છીએ, તેમાં વૉટરમાર્ક સાથે અને તેના વિના પ્રદર્શનમાં કોઈ નોંધપાત્ર તફાવત જોવા મળતો નથી.
મૂલ્યાંકન માપદંડ | વૉટરમાર્ક વિનાનું લખાણ (Astra, Max) | વૉટરમાર્ક ધરાવતું લખાણ (Astra, Max) |
|---|---|---|
Artificial Analysis બુદ્ધિમત્તા સૂચકાંક | 49.57 ગુણ | 49.76 ગુણ |
AutomationBench | 34.09% | 34.86% |
DeepSWE v1.1 | 72.80% | 71.68% |
Terminal-Bench 4.0 | 53.90% | 56.06% |
Terminal-Bench Science 0.1 | 56.90% | 60.00% |
BrowseComp | 87.92% | 87.35% |
HealthBench Professional | 64.27% | 64.60% |
GPQA Diamond | 94.44% | 93.94% |
લખાણના વૉટરમાર્ક કોઈ અંશમાં અમારી પ્રણાલીઓએ ભજવેલી ભૂમિકા વિશે મર્યાદિત સંકેત આપે છે. ઓળખનાં પરિણામો પરથી શું તારણ કાઢી શકાય અને શું નહીં તે સમજવું મહત્વનું છે.
વૉટરમાર્ક માનવીય યોગદાનનું માપ આપતો નથી. તે દર્શાવી શકે છે કે OpenAIની કોઈ પ્રણાલીએ લખાણનો અમુક ભાગ બનાવ્યો હતો કે તેના પર પ્રક્રિયા કરી હતી, પરંતુ તેમાં માનવીય વિચારશક્તિ, સંપાદન કે સર્જનાત્મકતાનું કેટલું યોગદાન હતું તે દર્શાવી શકતો નથી.
વૉટરમાર્ક માલિકી કે જવાબદારી સ્થાપિત કરતો નથી. તે લખાણની માલિકી કોની છે, તેનો ઉપયોગ કાયદેસર હતો કે નહીં, ખુલાસો કરવો જરૂરી હતો કે નહીં અથવા તેના માટે કોણ જવાબદાર છે તે નક્કી કરતો નથી.
વૉટરમાર્ક વપરાશકર્તાની ઓળખ આપતો નથી. તે કોઈ વ્યક્તિ, સંસ્થા, ખાતું, પ્રોમ્પ્ટ કે વાર્તાલાપને લખાણ સાથે જોડતો નથી.
વૉટરમાર્ક સચોટતાની પુષ્ટિ કરતો નથી. તે કોઈ લખાણ સાચું, ભ્રામક કે હાનિકારક છે કે નહીં અથવા યોગ્ય સંદર્ભમાં રજૂ થયું છે કે નહીં તે જણાવતો નથી.
વૉટરમાર્ક ન મળવાથી લખાણ માનવીએ લખ્યું હોવાનું સાબિત થતું નથી. OpenAIનાં સાધનોથી બનાવેલું લખાણ ખૂબ ટૂંકું હોય અથવા સંપાદિત કે અનુવાદિત થયું હોય તો તેમાં વિશ્વસનીય રીતે વૉટરમાર્ક ઓળખવો શક્ય ન પણ હોય. તે વૉટરમાર્કની સુવિધા ન ધરાવતા મોડલમાંથી પણ આવ્યું હોઈ શકે, વૉટરમાર્ક ઉમેરવાનું શરૂ થયું તે પહેલાંનું હોઈ શકે અથવા અન્ય કંપનીનાં સાધનોથી બનાવાયેલું હોઈ શકે.
ઈયુમાં લખાણમાં વૉટરમાર્ક ઉમેરવાની શરૂઆત. આગામી અઠવાડિયાંમાં અમે માત્ર ઈયુમાં તમામ યોજનાઓના પાત્ર ChatGPT અને Codex વપરાશકર્તાઓ માટે લખાણમાં વૉટરમાર્ક ઉમેરવાનું શરૂ કરીશું. શરૂઆતમાં અમે લખાણમાં વૉટરમાર્ક ઉમેરવાની સુવિધા વિશ્વભરમાં મૂળભૂત રીતે ચાલુ કરી રહ્યા નથી. આ પ્રાદેશિક અભિગમથી અમને વાસ્તવિક ઉપયોગ અને પ્રતિસાદમાંથી શીખવાની તક મળે છે.
એપીઆઈ ગ્રાહકોને વૉટરમાર્ક ઉમેરવાનો વિકલ્પ આપવો. આજથી વિશ્વભરના એપીઆઈ ગ્રાહકો પસંદગીનાં મોડલ દ્વારા બનાવાતા લખાણમાં વૉટરમાર્ક ઉમેરવાનો વિકલ્પ પસંદ કરી શકશે. આથી ગ્રાહકો નક્કી કરી શકશે કે તેમની પારદર્શિતા અંગેની જવાબદારીઓ અને તેઓ વપરાશકર્તાઓને જે અનુભવો આપે છે તેમાં વૉટરમાર્ક કેવી રીતે ઉપયોગી થઈ શકે છે. ક્લાઉડ ભાગીદારોની સેવાઓ દ્વારા મેળવાતા OpenAI મોડલનાં પરિણામોમાં પણ આગામી અઠવાડિયાંમાં વૉટરમાર્ક ઉપલબ્ધ કરાવવા અમે તેમની સાથે કામ કરી રહ્યા છીએ.
સંશોધકો અને નિષ્ણાત સંસ્થાઓને ઓળખ સાધનનો ઉપયોગ આપવો. માન્યતા પ્રાપ્ત સંશોધકો અને નિષ્ણાત સંસ્થાઓ આજથી અરજી કરી શકે છે. આચારસંહિતા(નવી વિન્ડોમાં ખૂલે છે) અનુસાર, લખાણના ઉદ્ભવની માહિતીનું મૂલ્યાંકન અને સુધારણા કરવામાં મદદ મળે તે માટે શરૂઆતમાં દરેક અરજીની અલગથી સમીક્ષા કરીને ઉપયોગની મંજૂરી આપવામાં આવશે. આ સાધન વપરાશકર્તાની ઓળખ આપ્યા વિના કે તેમના પ્રોમ્પ્ટ અથવા વાર્તાલાપ જાહેર કર્યા વિના જણાવશે કે તેને OpenAIનો વૉટરમાર્ક મળ્યો છે કે નહીં. વૉટરમાર્ક ચૂકી જવાનું અને ખોટી હકારાત્મક ઓળખનું જોખમ ધ્યાનમાં લેતાં, અમે શરૂઆતમાં આ સાધન જાહેરમાં ઉપલબ્ધ કરાવી રહ્યા નથી.
તકનીક, ધોરણો અને પુરાવા વિકસતા જશે તેમ અમે આ અભિગમના દરેક ભાગ પર ફરી વિચાર કરવાની અપેક્ષા રાખીએ છીએ.
ઉદ્ભવ જાણવાની કોઈ એક તકનીક પોતે પૂરતી નથી, તેથી અમે બહુસ્તરીય અભિગમ અપનાવીએ છીએ, જેમાં ખુલ્લાં ધોરણો, ટકાઉ વૉટરમાર્ક અને ચકાસણી સાધનોનું સંયોજન છે.
અમે સમર્થિત ચિત્રોમાં સામગ્રીનાં પ્રમાણપત્રો ઉમેરીએ છીએ અને C2PAનાં ધોરણોનું પાલન કરીએ છીએ(નવી વિન્ડોમાં ખૂલે છે). અમે સમર્થિત ચિત્રો અને ધ્વનિમાં અદૃશ્ય SynthID(નવી વિન્ડોમાં ખૂલે છે) વૉટરમાર્ક ઉમેરીએ છીએ અને openai.com/verify તથા અમારી સામગ્રીના ઉદ્ભવની માહિતી માટેની એપીઆઈ(નવી વિન્ડોમાં ખૂલે છે) દ્વારા ચિત્રો અને ધ્વનિની ચકાસણી ઉપલબ્ધ કરાવીએ છીએ. આ તકનીકો એકબીજાને પૂરક છે: સામગ્રીનાં પ્રમાણપત્રો ફાઇલનો ઉદ્ભવ અને ઇતિહાસ નોંધી શકે છે, જ્યારે અદૃશ્ય વૉટરમાર્ક ફાઇલની વર્ણનાત્મક માહિતી કાઢી નાખ્યા પછી પણ સંકેત જાળવી શકે છે.
અમે અમારા ચૂંટણી સુરક્ષા કાર્યમાં વર્ણવ્યું છે તેમ, ઉદ્ભવની માહિતી લોકોને અને મંચોને એઆઈ દ્વારા બનાવાયેલી સંભવિત ભ્રામક સામગ્રીનું મૂલ્યાંકન કરવામાં મદદ કરી શકે છે, જેમાં અતિ-વાસ્તવિક દેખાતી નકલી સામગ્રી પણ સામેલ છે. અમે આ સંકેતોની સાથે નીતિઓ, દુરુપયોગની ઓળખ, અહેવાલ આપવાની વ્યવસ્થા, તપાસ અને નિયમોના અમલનો ઉપયોગ કરીએ છીએ. ઉદ્ભવની માહિતી વ્યાપક પરિસરમાં ઉપયોગી બને તે માટે અમે સંશોધકો, ધોરણો ઘડતી સંસ્થાઓ, મંચો અને નાગરિક સમાજ સાથે કામ કરીએ છીએ.
લખાણ માટે ઉદ્ભવની માહિતી આપતી વ્યવસ્થા વિકસાવતી વખતે, તેને કેટલી સરળતાથી ફરી લખી, અનુવાદિત કે સંપાદિત કરી શકાય છે તે ધ્યાનમાં લેવું જરૂરી છે. અમે જૂનમાં ચર્ચા કરી હતી તેમ, અમારા અભિગમમાં હાલની તકનીકની વ્યવહારુ મર્યાદાઓ ધ્યાનમાં લેવી જરૂરી છે. અમે ઓળખમાં સુધારો કરવાનું, સંપાદન અને અનુવાદ પછી વૉટરમાર્ક કેટલા ટકી રહે છે તેનો અભ્યાસ કરવાનું અને એઆઈની મદદથી લખાયેલા તથા એઆઈએ પોતે લખેલા લખાણ વચ્ચે વધુ અર્થપૂર્ણ રીતે ભેદ પાડવાની રીતો શોધવાનું ચાલુ રાખીશું. પુરાવા, ધોરણો અને નિયમનકારી જરૂરિયાતો વિકસતાં જશે તેમ અમે અમારા અભિગમને અનુકૂળ બનાવીશું. પરિણામોનું જવાબદારીપૂર્વક અર્થઘટન થઈ શકે છે એવું અમને લાગશે ત્યારે ઓળખ સાધનનો ઉપયોગ વધુ લોકોને ઉપલબ્ધ કરાવીશું.
વધુ માહિતી માટે કૃપા કરીને અમારા સહાય કેન્દ્રનો લેખ(નવી વિન્ડોમાં ખૂલે છે) જુઓ.
