વધુ સુરક્ષિત અને વધુ પારદર્શક AI ઇકોસિસ્ટમ માટે કન્ટેન્ટના મૂળ સ્ત્રોતની ઓળખને આગળ વધારવું

લોકો દરરોજ OpenAI ના ટૂલ્સનો ઉપયોગ છબીઓ અને ઑડિયો બનાવવા અને સંપાદિત કરવા માટે એવી રીતોથી કરી રહ્યા છે, જે સંચારને વધુ અભિવ્યક્ત, ઉપયોગી અને સુલભ બનાવે છે. જેમ જેમ આ સાધનો લોકો કેવી રીતે બનાવે છે, કલ્પના કરે છે અને શેર કરે છે તેનો ભાગ બનતા જાય છે, તેમ લોકો મીડિયા ક્યાંથી આવે છે તે સમજી અને ચકાસી શકે તે મહત્વપૂર્ણ છે, જેથી તેઓ વધુ આત્મવિશ્વાસ સાથે તેનું અર્થઘટન કરી શકે. ઉદ્ભવ સંકેતો લોકોને કન્ટેન્ટ ક્યાંથી આવ્યું, તે કેવી રીતે બનાવાયું અથવા સંપાદિત થયું, અને તે જે હોવાનો દાવો કરે છે તે જ છે કે નહીં—તે અંગેનો સંદર્ભ આપીને મદદ કરી શકે છે.

આજે અમે ઑનલાઇન વિશ્વાસ કેળવવા માટેના બહુ-સ્તરીય, ઇકોસિસ્ટમ-સંચાલિત મોડલ સાથે કન્ટેન્ટના મૂળસ્રોતની પ્રામાણિકતા પ્રત્યેના અમારા અભિગમને વધુ મજબૂત બનાવી રહ્યા છીએ. અમે C2PA અનુરૂપતા દ્વારા અમારા પ્રોવેનેન્સ સિગ્નલ્સને અન્ય ટૂલ્સ અને પ્લેટફોર્મ્સ માટે ઓળખવામાં વધુ સરળ બનાવી રહ્યા છીએ, Google સાથેની ભાગીદારી દ્વારા છબીઓમાં ટકાઉ ક્રોસ-પ્લેટફોર્મ SynthID વોટરમાર્કિંગ ઉમેરી રહ્યા છીએ, અને છબીઓ OpenAI માંથી આવી છે કે નહીં તે ચકાસવા માટે જાહેર જનતા ઉપયોગ કરી શકે તેવા ટૂલનું પૂર્વાવલોકન શેર કરી રહ્યા છીએ.

સાથે મળીને, આ અપડેટ્સ ઓપન સ્ટાન્ડર્ડ્સને સપોર્ટ કરવા, OpenAI દ્વારા જનરેટ કરાયેલ કન્ટેન્ટને ઓળખવાનું વધુ સરળ બનાવવા અને વધુ વિશ્વસનીય માહિતી ઇકોસિસ્ટમને સપોર્ટ કરવા માટે સમગ્ર ઉદ્યોગમાં સહયોગ કરવા અમારા અગાઉના કાર્ય⁠ ને આગળ વધારે છે.

OpenAI 2024 થી મૂળ સ્ત્રોતની ઓળખના ધોરણોના વિકાસ અને સ્વીકારમાં જોડાયેલું છે, જ્યારે અમે DALL·E 3⁠(નવી વિન્ડોમાં ખૂલે છે) દ્વારા અને પછી ImageGen⁠(નવી વિન્ડોમાં ખૂલે છે) અને Sora⁠(નવી વિન્ડોમાં ખૂલે છે) દ્વારા જનરેટ કરેલી છબીઓમાં કન્ટેન્ટ ક્રેડેન્શિયલ્સ ઉમેરવાનું શરૂ કર્યું હતું. અમે કન્ટેન્ટના મૂળસ્રોત અને પ્રામાણિકતા માટેના ગઠબંધન (C2PA)ની સંચાલન સમિતિમાં પણ જોડાયા, જે કન્ટેન્ટના મૂળસ્રોત માટેના ખુલ્લા ટેકનિકલ ધોરણ પાછળનું આંતર-ઉદ્યોગ જૂથ છે. C2PAનો તકનીકી અભિગમ મેટાડેટા અને ક્રિપ્ટોગ્રાફિક હસ્તાક્ષરોનો ઉપયોગ કરે છે,જેથી મીડિયાના કોઈ પણ ભાગ વિશેની માહિતી તે કન્ટેન્ટની સાથે જ સુરક્ષિત રીતે સંચરિત થઈ શકે. આ માહિતીમાં એવો સંદર્ભ શામેલ છે જે સ્રોતનું મૂલ્યાંકન કરતા પત્રકારોને, પ્રામાણિકતા સંબંધિત નિર્ણયો લેતા પ્લેટફોર્મ્સને અને તેઓ ઑનલાઇન જે જોઈ રહ્યા છે તે સમજવાનો પ્રયાસ કરતા લોકોને મદદ કરે છે.

અમે તાજેતરમાં OpenAI ને C2PA અનુરૂપ જનરેટર પ્રોડક્ટ⁠(નવી વિન્ડોમાં ખૂલે છે) બનાવવાનું પગલું લીધું. C2PA અનુરૂપ બનીને, અમે પ્લેટફોર્મ્સને અમારી સામગ્રી સાથે જોડેલી મૂળપ્રમાણની માહિતી વાંચવા, જાળવી રાખવા અને આગળ પહોંચાડવાની વિશ્વસનીય રીત પ્રદાન કરી રહ્યા છીએ. આ મહત્વનું છે કારણ કે મૂળપ્રમાણ માત્ર ત્યારે જ કાર્ય કરે છે જ્યારે તે કન્ટેન્ટ બનાવવામાં આવ્યું હોય તે પ્રથમ પ્લેટફોર્મથી આગળ પણ ટકી રહે, અને અનુરૂપતા તેને શક્ય બનાવે છે.

C2PA મેટાડેટા પ્રોવેનેન્સ માટે એક મહત્વપૂર્ણ આધાર છે. તે કન્ટેન્ટને તેની સાથે એવી માહિતી લઈ જવામાં મદદ કરે છે કે તે ક્યાંથી આવ્યું છે, તે કેવી રીતે બનાવવામાં આવ્યું હતું અથવા એડિટ કરવામાં આવ્યું હતું, અને તે માહિતી કોણે સાઇન કરી છે. પરંતુ મેટાડેટા સંપૂર્ણપણે ભૂલરહિત નથી. તેને દૂર કરી શકાય છે, અપલોડ અને ડાઉનલોડ દરમિયાન ગુમાઈ શકે છે, અથવા ફાઇલ ફોર્મેટમાં ફેરફાર, કદ બદલવું અથવા સ્ક્રીનશોટ જેવા રૂપાંતરોને કારણે બગડી શકે છે.

મૂળપ્રમાણને વધુ સક્ષમ બનાવવા માટે, અમે બહુ-સ્તરીય અભિગમ અપનાવી રહ્યા છીએ અને Google DeepMind ના SynthID⁠(નવી વિન્ડોમાં ખૂલે છે) દ્વારા વોટરમાર્કિંગનો સમાવેશ કરી રહ્યા છીએ, જેની શરૂઆત ChatGPT⁠, Codex અથવા OpenAI API દ્વારા જનરેટ કરાયેલી છબીઓથી થાય છે. SynthID એક અદૃશ્ય વોટરમાર્કિંગ સ્તર એમ્બેડ કરે છે, જે C2PA મેટાડેટા-આધારિત અભિગમોના પૂરક તરીકે કામ કરે છે.

અમે છેલ્લા કેટલાક સમયથી આ દિશામાં કામ કરી રહ્યા છીએ. અમે Sora માં દૃશ્યમાન વૉટરમાર્ક્સ⁠ નો અને Voice Engine માં ઑડિયો વૉટરમાર્ક⁠ નો ઉપયોગ કર્યો છે, અને સમય જતાં ચોકસાઈ અને વિશ્વસનીયતાનું પરીક્ષણ અને સંશોધન કરવાનું ચાલુ રાખ્યું છે. ડિપ્લોયમેન્ટ સુધી.

આ બે સિસ્ટમો એકબીજાને મજબૂત બનાવે છે. C2PA કન્ટેન્ટમાં વિગતવાર સંદર્ભ સાથે રાખવામાં મદદ કરે છે; SynthID જ્યારે મેટાડેટા ટકી રહેતું નથી ત્યારે સિગ્નલને જાળવી રાખવામાં મદદ કરે છે. સ્ક્રીનશોટ્સ જેવા રૂપાંતરણો દ્વારા વોટરમાર્કિંગ વધુ ટકાઉ બની શકે છે, જ્યારે મેટાડેટા માત્ર વોટરમાર્ક કરતાં વધુ માહિતી પ્રદાન કરી શકે છે. સાથે મળીને, તેઓ પ્રોવેનેન્સને કોઈપણ એક સ્તર પોતે એકલું હોય ત્યારે હોય તે કરતાં વધુ સ્થિતિસ્થાપક બનાવે છે.

મોટાભાગના ફેરફારો સામે ટકી રહેતા વિશ્વસનીય મેટાડેટા અને વોટરમાર્ક્સ પ્રોવેનેન્સ સંકેતોને વધુ ટકાઉ બનાવી શકે છે. પરંતુ લોકોને આ સંકેતોને ઓળખવા માટે કોઈ રીતની જરૂર છે. અમે હાલમાં જાહેર ચકાસણી સાધન⁠ નું પૂર્વાવલોકન કરી રહ્યા છીએ, જે લોકોને કન્ટેન્ટ ક્રેડેન્શિયલ્સ અને SynthID સહિતના ઉદ્ગમ સંકેતો તેમાં છે કે નહીં તે તપાસીને, અપલોડ કરેલી છબી ChatGPT, OpenAI API અથવા Codex પર જનરેટ કરવામાં આવી હતી કે નહીં તેની ચકાસણી કરવામાં મદદ કરશે.

અમે માનીએ છીએ કે પ્રોવેનન્સ, એટલે કે મૂળસ્રોતની માહિતી, લોકો માટે ચકાસવી અને સમજવી વધુ સરળ હોવી જોઈએ, અને અમારું ટૂલ વિવિધ સંકેતોને એકીકૃત કરીને “શું આ AI વડે જનરેટ કરવામાં આવ્યું હતું?” એ પ્રશ્નનો જવાબ આપવામાં લોકોને ભૂમિકા ભજવવામાં મદદ કરી શકે છે. આ 2024 માં અમારા ઇમેજ ડિટેક્શન ક્લાસિફાયર⁠ ના પ્રારંભિક સંશોધન પ્રિવ્યૂમાંથી મળેલી શિખામણો પર આધારિત છે અને લોકોને વિશ્વસનીય રીતે શોધી કાઢવામાં સક્ષમ બનાવે છે કે મીડિયામાં OpenAI માંથી આવેલો SynthID વોટરમાર્ક હાજર છે કે નહીં, તેમજ તે મળી આવે ત્યારે C2PA મેટાડેટા પણ દર્શાવે છે.

કોઈપણ શોધ પદ્ધતિ સંપૂર્ણપણે ભૂલરહિત નથી, તેથી શોધ નિષ્ફળ જાય તેવા કિસ્સાઓમાં અમે સાવચેતીભર્યો અભિગમ અપનાવીએ છીએ. જો કોઈ મેટાડેટા અથવા વોટરમાર્ક શોધાતો નથી, ઉદાહરણ તરીકે, તો ટૂલ આ છબી OpenAI ટૂલ્સ વડે જનરેટ કરવામાં આવી હતી કે નહીં તે અંગે ચોક્કસ નિષ્કર્ષ આપશે નહીં, કારણ કે કેટલાક કિસ્સાઓમાં ઉદ્ભવ-સંબંધિત સંકેતો દૂર કરી શકાય છે.

લોન્ચ સમયે, આ ટૂલ માત્ર OpenAI દ્વારા જનરેટ કરેલી સામગ્રી સુધી મર્યાદિત છે. આગામી મહિનાઓમાં, વિવિધ પ્લેટફોર્મ પર ચકાસણી શક્ય બનાવવા માટે આંતર-ઉદ્યોગ પ્રયાસોને સમર્થન આપવાનું અમારું લક્ષ્ય છે. સમય જતાં, અમે એવી વધુ પ્રકારની સામગ્રીને પણ સપોર્ટ કરવાની અપેક્ષા રાખીએ છીએ, જે લોકોને ઑનલાઇન મળી શકે છે.

કોઈ પણ એક પ્રોવેનેન્સ તકનીક એકલી પૂરતી નથી. અમે માનીએ છીએ કે મજબૂત અભિગમમાં સહિયારા ધોરણો, ટકાઉ વોટરમાર્કિંગ સંકેતો અને જાહેર ચકાસણીનો સમાવેશ થાય છે. કન્ટેન્ટ ક્રેડેન્શિયલ્સ માટેના અમારા લાંબા સમયથી ચાલતા સમર્થનને આગળ વધારીને, C2PA સાથે અનુરૂપ બનીને, SynthID અપનાવીને અને જાહેર ચકાસણી સાધનોનું પૂર્વાવલોકન રજૂ કરીને, અમે લાંબા ગાળે વધુ ઇન્ટરઓપરેબલ પ્રોવેનેન્સ ઇકોસિસ્ટમમાં યોગદાન આપવાની આશા રાખીએ છીએ.