DALL·E 2 માં પક્ષપાત ઘટાડવો અને સુરક્ષા સુધારવી
આજે, અમે નવી તકનીક અમલમાં મૂકી રહ્યા છીએ જેથી DALL·E લોકોની એવી છબીઓ બનાવે જે વિશ્વની વસ્તીની વિવિધતાને વધુ ચોક્કસ રીતે પ્રતિબિંબિત કરે.
આજે, અમે નવી તકનીક અમલમાં મૂકી રહ્યા છીએ જેથી DALL·E લોકોની એવી છબીઓ બનાવે જે વિશ્વની વસ્તીની વિવિધતાને વધુ ચોક્કસ રીતે પ્રતિબિંબિત કરે. જ્યારે DALL·E ને કોઈ વ્યક્તિનું વર્ણન કરતો એવો પ્રોમ્પ્ટ આપવામાં આવે છે જેમાં જાતિ અથવા લિંગ સ્પષ્ટ કરાયેલું ન હોય, જેમ કે “અગ્નિશામક,” ત્યારે આ તકનીક સિસ્ટમ સ્તરે લાગુ પડે છે.
અમારા આંતરિક મૂલ્યાંકનના આધારે, આ તકનીક લાગુ કર્યા પછી વપરાશકર્તાઓએ DALL·E ની છબીઓમાં વિવિધ પૃષ્ઠભૂમિવાળા લોકો સામેલ હોવાનું કહેવાની સંભાવના 12 ગણું વધુ હતી. અમે વધુ ડેટા અને પ્રતિસાદ એકત્ર કરીએ તેમ સમય જતાં આ તકનીક સુધારવાની યોજના ધરાવીએ છીએ.
એપ્રિલમાં, અમે મર્યાદિત સંખ્યાના લોકોને DALL·E 2 સંશોધનનું પૂર્વાવલોકન આપવાનું શરૂ કર્યું, જેના કારણે અમને સિસ્ટમની ક્ષમતાઓ અને મર્યાદાઓને વધુ સારી રીતે સમજવામાં અને અમારી સુરક્ષા પ્રણાલીઓને સુધારવામાં મદદ મળી.
આ પૂર્વાવલોકન તબક્કા દરમિયાન, શરૂઆતના વપરાશકર્તાઓએ સંવેદનશીલ અને પક્ષપાતપૂર્ણ છબીઓની નોંધ કરી, જેના કારણે આ નવા નિવારણને સમજવા અને મૂલવવામાં મદદ મળી.
અમે સતત સંશોધન કરી રહ્યા છીએ કે DALL·E જેવી AI પ્રણાલીઓ તેમના તાલીમ ડેટામાં રહેલા પક્ષપાતને કેવી રીતે પ્રતિબિંબિત કરી શકે અને અમે તેને ઉકેલવાના વિવિધ માર્ગો કયા હોઈ શકે.
સંશોધન પૂર્વાવલોકન દરમિયાન અમે અમારી સુરક્ષા પ્રણાલીઓને સુધારવા માટે અન્ય પગલાં પણ લીધાં, જેમાં શામેલ છે:
- વાસ્તવિક ચહેરાઓ ધરાવતા છબી અપલોડ અને સેલિબ્રિટી તથા પ્રખ્યાત રાજકીય વ્યક્તિઓ સહિત જાહેર વ્યક્તિઓની સમાનતા બનાવવાના પ્રયત્નોને નકારીને DALL·E નો ભ્રામક સામગ્રી બનાવવા માટે દુરુપયોગ થવાનો જોખમ ઓછો કરવો.
- અમારા કન્ટેન્ટ ફિલ્ટરોને વધુ ચોક્કસ બનાવવું જેથી તેઓ અમારી સામગ્રી નીતિ(નવી વિન્ડોમાં ખૂલે છે)નું ઉલ્લંઘન કરતા પ્રોમ્પ્ટ અને છબી અપલોડને રોકવામાં વધુ અસરકારક બને, અને સાથે સર્જનાત્મક અભિવ્યક્તિને પણ મંજૂરી આપે.
- દુરુપયોગથી બચાવવા માટે સ્વચાલિત અને માનવીય દેખરેખ પ્રણાલીઓને વધુ સુઘડ બનાવવી.
આ સુધારાઓએ અમને વધુ વપરાશકર્તાઓને DALL·E નો અનુભવ કરવા આમંત્રિત કરવાની અમારી ક્ષમતા વિશે વધુ વિશ્વાસ આપ્યો છે.
પ્રવેશનો વિસ્તાર કરવો એ અમારી AI પ્રણાલીઓને જવાબદારીપૂર્વક તૈનાત કરવાની પ્રક્રિયાનો મહત્વપૂર્ણ ભાગ છે, કારણ કે તે અમને વાસ્તવિક દુનિયામાં ઉપયોગ વિશે વધુ શીખવા અને અમારી સુરક્ષા પ્રણાલીઓ પર સતત સુધારાઓ કરવા દે છે.
