Sora-ны жауапкершілікпен іске қосу

Sora 2 мен Sora қолданбасы озық видео генерациялауды бірге жасаудың жаңа тәсілімен ұштастырады, әрі біз қауіпсіздіктің ең басынан-ақ кіріктірілуін қамтамасыз еттік. Біздің тәсіліміз нақты қорғаныс шараларына сүйенеді:

• AI контентін ажырату. Sora арқылы генерацияланған әрбір видеода көрінетін де, көрінбейтін де шығу тегі сигналдары болады. Іске қосылған сәттен бастап барлық нәтижелерде көрінетін сутаңба болады. Сондай-ақ Sora-ның барлық видеосына C2PA метадеректері — салалық стандарт қолтаңбасы — ендірілген, әрі ChatGPT суретті генерациялау мен Sora 1-дегі сәтті жүйелерге сүйене отырып, видеоларды жоғары дәлдікпен Sora-ға дейін қадағалай алатын ішкі кері сурет және аудио іздеу құралдарын қолдаймыз.
• Кейіпкерлер арқылы келісімге негізделген бейне ұқсастығы. Біздің мақсатымыз — Sora кейіпкерлерімен сіздің бейнеңізді басынан аяғына дейін өз бақылауыңызға беру. Біз кейіпкерлерде түсірілген аудио және визуалды бейне ұқсастығыңыз сіздің келісіміңізбен қолданылуын қамтамасыз етуге арналған қорғаныс тетіктерін енгіздік. Кейіпкерлеріңізді кім пайдалана алатынын тек өзіңіз шешесіз, әрі рұқсатты кез келген уақытта қайтарып ала аласыз. Сондай-ақ қоғамдық тұлғалардың бейнеленуін бұғаттау үшін шаралар қолданамыз (әрине, кейіпкерлер мүмкіндігін қолданатындардан басқа). Кейіпкерлеріңіз бар видеолар, соның ішінде басқа пайдаланушылар жасаған нобайлар да, сізге әрдайым көрінеді. Бұл кейіпкеріңіз бар кез келген видеоны оңай қарап шығуға және жоюға (қажет болса, шағымдануға да) мүмкіндік береді. Сондай-ақ кейіпкері бар кез келген видеоға қосымша қауіпсіздік шектеулерін қолданамыз, тіпті кейіпкеріңіздің өзін қалай ұстайтынына қатысты қалауларды да орната аласыз — мысалы, оның әрдайым федора киіп жүруін сұрау.
• Жасөспірімдерге арналған қорғаныс шаралары. Sora жас пайдаланушылар үшін күшейтілген қорғанысты қамтиды, соның ішінде ересектерге арналған нәтижелерге шектеулер бар. Лента жасөспірімдерге лайық етіп жасалған, жасөспірім профильдері ересектерге ұсынылмайды, ал ересектер жасөспірімдерге бірінші болып хабарлама жібере алмайды. ChatGPT‑тегі жаңа ата-ана бақылауы ата-аналарға жасөспірімдердің тікелей хабарламалар жіберіп-қабылдай алуын басқаруға, сондай-ақ Sora қолданбасында жекелендірілмеген лентаны таңдауға мүмкіндік береді. Сонымен қатар әдепкі бойынша жасөспірімдерге Sora-да үздіксіз қанша уақыт айналдыра алатынына да шектеулер қойылады.
• Зиянды контентті сүзгілеу. Sora шығармашылыққа орын қалдыра отырып, лентаны қауіпсіз ұстау үшін көпқабатты қорғанысты пайдаланады. Жасау кезінде қорғаныс тетіктері қауіпті контентті жасалмай тұрып бұғаттауға тырысады, соның ішінде сексуалдық материал, террористік насихат және өзіне зиян келтіруді дәріптеу де бар — ол үшін бірнеше видео кадры мен аудио транскрипт бойынша әрі көмексөздерді, әрі нәтижелерді тексереді. Біз жаңа тәуекелдерді зерттеу үшін red teaming жүргіздік және Sora-ның шынайылығы жоғарырақ болғандықтан, сондай-ақ қозғалыс пен аудио қосылғандықтан, суретті генерациялауға қарағанда саясаттарды қатаңдаттық. Генерациядан тыс, автоматтандырылған жүйелер лентадағы барлық контентті біздің Ғаламдық пайдалану саясаттарымызға⁠ сәйкестігіне сканерлейді және қауіпті немесе жасына сай емес материалды сүзіп тастайды. Бұл жүйелер жаңа тәуекелдер туралы білген сайын үздіксіз жаңартылып отырады және ең үлкен залалға бағытталған адам тексеруімен толықтырылады.
• Аудиоға арналған қорғаныс шаралары. Sora-ға аудио қосу қауіпсіздік талабын күшейтеді, әрі мінсіз қорғанысқа қол жеткізу қиын болғанымен, біз бұл бағытқа байыпты түрде инвестиция салуды жалғастырып келеміз. Sora генерацияланған сөздің транскрипттерін ықтимал саясат бұзушылықтарына автоматты түрде сканерлейді, сондай-ақ тірі әртістерге немесе бар туындыларға еліктейтін музыка генерациялау әрекеттерін бұғаттайды. Жүйелеріміз мұндай көмексөздерді анықтап, тоқтатуға арналған, әрі Sora нәтижесі олардың еңбегін бұзады деп санайтын авторлардың алып тастау туралы сұрауларын орындаймыз.
• Пайдаланушы бақылауы және құқықтық шаралар. Видеоларыңызды қашан және қалай бөлісуді өзіңіз таңдайсыз, әрі жарияланған контентіңізді кез келген уақытта өшіре аласыз. Видеолар лентада тек өзіңіз таңдаған кезде ғана бөлісіледі. Әрбір видео, профиль және пікір бойынша теріс пайдалану туралы шағым беруге болады, ал саясаттар бұзылғанда түсінікті құқықтық шаралар бар. Сондай-ақ кез келген уақытта аккаунттарды бұғаттауды таңдай аласыз, бұл басқалардың профиліңізді көруіне немесе сізбен тікелей хабарлама арқылы байланысуына жол бермейді.