જવાબદારીપૂર્વક Sora લોન્ચ કરવું

Sora 2 અને Sora એપ અદ્યતન વિડિયો જનરેશનને સાથે મળીને સર્જન કરવાની નવી રીત સાથે જોડે છે, અને અમે ખાતરી કરી છે કે સલામતી એકદમ શરૂઆતથી જ તેમાં સમાવવામાં આવી છે. અમારો અભિગમ ઠોસ સુરક્ષાઓ પર આધારિત છે:

• AI કન્ટેન્ટને અલગ ઓળખવું.  Sora દ્વારા જનરેટ કરાયેલા દરેક વિડિયોમાં દૃશ્યમાન અને અદૃશ્ય બંને પ્રકારના provenance signals શામેલ હોય છે. લોન્ચ સમયે, તમામ આઉટપુટમાં દૃશ્યમાન વોટરમાર્ક હશે. બધા Sora વિડિયો C2PA metadata—ઉદ્યોગ-માનક સહી—પણ એમ્બેડ કરે છે, અને અમે આંતરિક reverse-image અને audio search tools જાળવી રાખીએ છીએ, જે ChatGPT ઇમેજ જનરેશન અને Sora 1 ના સફળ સિસ્ટમ્સ પર આધાર રાખીને વિડિયોને ઊંચી ચોકસાઈથી ફરી Sora સુધી ટ્રેસ કરી શકે છે.
• પાત્રોનો ઉપયોગ કરીને સંમતિ-આધારિત સમાનતા. અમારું લક્ષ્ય Sora characters સાથે તમારી સમાનતા પર શરૂઆતથી અંત સુધી તમારો નિયંત્રણ સ્થાપિત કરવાનો છે. charactersમાં કૅપ્ચર થયેલી તમારી ઑડિયો અને ઇમેજ સમાનતાનો ઉપયોગ તમારી સંમતિથી થાય તે સુનિશ્ચિત કરવા માટે અમારી પાસે ગાર્ડરેલ્સ છે. તમારા characters નો ઉપયોગ કોણ કરી શકે તે ફક્ત તમે જ નક્કી કરો છો, અને તમે કોઈપણ સમયે ઍક્સેસ રદ કરી શકો છો. અમે જાહેર વ્યક્તિઓના ચિત્રણને પણ રોકવા માટે પગલાં લઈએ છીએ (અવશ્ય, characters feature નો ઉપયોગ કરનારા માટે અપવાદ છે). તમારા characters શામેલ હોય એવા વિડિયો—અન્ય વપરાશકર્તાઓ દ્વારા બનાવાયેલા drafts સહિત—હંમેશા તમને દેખાય છે. તેથી તમે તમારા પાત્રવાળા કોઈપણ વિડિયો સરળતાથી સમીક્ષી અને કાઢી શકો છો (અને, જરૂર પડે તો, રિપોર્ટ પણ કરી શકો છો). અમે character ધરાવતા કોઈપણ વિડિયો પર વધારાની સલામતી ગાર્ડરેલ્સ પણ લાગુ કરીએ છીએ, અને તમે તમારું character કેવી રીતે વર્તે તેની પસંદગીઓ પણ સેટ કરી શકો છો—ઉદાહરણ તરીકે, તે હંમેશા fedora પહેરે તેવી વિનંતી કરી શકો છો.
• કિશોરો માટે સુરક્ષા ઉપાયો. Soraમાં નાની ઉંમરના વપરાશકર્તાઓ માટે વધુ મજબૂત સુરક્ષાઓ શામેલ છે, જેમાં mature આઉટપુટ પર મર્યાદાઓ પણ છે. ફીડને કિશોરો માટે યોગ્ય રીતે ડિઝાઇન કરવામાં આવ્યો છે, કિશોર પ્રોફાઇલ્સ પુખ્તોને ભલામણ કરવામાં આવતી નથી, અને પુખ્તો કિશોરો સાથે મેસેજની શરૂઆત કરી શકતા નથી. ChatGPT માં નવા પેરેન્ટલ કંટ્રોલ્સ માતા-પિતાને કિશોરો DMs મોકલી અને મેળવી શકે કે નહીં તે મેનેજ કરવાની, તેમજ Sora એપમાં non-personalized feed પસંદ કરવાની સુવિધા આપે છે. અને ડિફૉલ્ટ મુજબ, કિશોરો માટે Soraમાં સતત કેટલું સ્ક્રોલ કરી શકે તેની મર્યાદાઓ પણ હોય છે.
• હાનિકારક કન્ટેન્ટને ફિલ્ટર કરવું. Sora સર્જનાત્મકતા માટે જગ્યા રાખતાં ફીડને સુરક્ષિત રાખવા સ્તરિત રક્ષણોનો ઉપયોગ કરે છે. સર્જન સમયે, ગાર્ડરેલ્સ અસુરક્ષિત કન્ટેન્ટ બનતા પહેલાં તેને રોકવાનો પ્રયાસ કરે છે—જેમાં યૌન સામગ્રી, આતંકવાદી પ્રચાર અને self-harm ને પ્રોત્સાહન આપતી સામગ્રીનો સમાવેશ થાય છે—અને તે માટે ઘણા વિડિયો ફ્રેમ્સ અને ઑડિયો ટ્રાન્સક્રિપ્ટ્સમાં પ્રોમ્પ્ટ્સ અને આઉટપુટ્સ બંનેની તપાસ થાય છે. નવા જોખમોને સમજવા માટે અમે red teaming કર્યું છે, અને Sora ની વધુ વાસ્તવિકતા તથા motion અને audio ના ઉમેરાને ધ્યાનમાં રાખીને અમે ઇમેજ જનરેશનની સરખામણીએ નીતિઓ વધુ કડક બનાવી છે. જનરેશનથી આગળ, સ્વચાલિત સિસ્ટમ્સ અમારા વૈશ્વિક ઉપયોગ નીતિઓ⁠ સામે તમામ ફીડ કન્ટેન્ટનું સ્કેન કરે છે અને અસુરક્ષિત અથવા ઉંમર-અયોગ્ય સામગ્રીને ફિલ્ટર કરે છે. નવા જોખમો વિશે આપણે શીખીએ તેમ આ સિસ્ટમ્સ સતત અપડેટ થાય છે અને સૌથી વધુ પ્રભાવક હાનિઓ પર કેન્દ્રિત માનવીય સમીક્ષા દ્વારા પૂરક બને છે.
• ઓડિયો સુરક્ષા ઉપાયો. Soraમાં ઑડિયો ઉમેરવાથી સલામતી માટેનો ધોરણ વધુ ઊંચો બને છે, અને સંપૂર્ણ સુરક્ષા મુશ્કેલ હોવા છતાં, અમે આ ક્ષેત્રમાં ગંભીરતાથી રોકાણ કરવાનું ચાલુ રાખીએ છીએ. Sora જનરેટ થયેલા ભાષણના ટ્રાન્સક્રિપ્ટ્સને સંભવિત નીતિ ઉલ્લંઘનો માટે આપમેળે સ્કેન કરે છે, અને જીવિત કલાકારો અથવા અસ્તિત્વમાં રહેલી કૃતિઓનું અનુસરણ કરતું સંગીત જનરેટ કરવાનો પ્રયાસ પણ રોકે છે. અમારા સિસ્ટમ્સ આવા પ્રોમ્પ્ટ્સ શોધી અને અટકાવવા માટે ડિઝાઇન કરવામાં આવ્યા છે, અને જેમને લાગે છે કે Sora નું આઉટપુટ તેમના કાર્યનું ઉલ્લંઘન કરે છે એવા સર્જકોની takedown requests નો અમે માન રાખીએ છીએ.
• વપરાશકર્તા નિયંત્રણ અને ઉપાય. તમે તમારા વિડિયો ક્યારે અને કેવી રીતે શેર કરવા તે પસંદ કરો છો, અને તમે કોઈપણ સમયે તમારી પ્રકાશિત સામગ્રી દૂર કરી શકો છો. વિડિયો ફીડમાં ત્યારે જ શેર થશે જ્યારે તમે એવું કરવાનું પસંદ કરશો. નીતિઓનું ઉલ્લંઘન થાય ત્યારે સ્પષ્ટ ઉપાય સાથે, દરેક વિડિયો, પ્રોફાઇલ અને કોમેન્ટ માટે દુરુપયોગની ફરિયાદ કરી શકાય છે. તમે કોઈપણ સમયે એકાઉન્ટ્સને બ્લોક કરવાનું પણ પસંદ કરી શકો છો, જે અન્ય લોકોને તમારો પ્રોફાઇલ જોવા અથવા direct message દ્વારા તમારો સંપર્ક કરવાની મંજૂરી આપશે નહીં.