Sora-ს პასუხისმგებლობით გაშვება

Sora 2 და Sora აპი აერთიანებს უახლეს ვიდეოგენერაციას და ერთად შექმნის ახალ გზას, და ჩვენ უზრუნველვყავით, რომ უსაფრთხოება თავიდანვე იყოს ჩაშენებული. ჩვენი მიდგომა კონკრეტულ დაცვის მექანიზმებს ეყრდნობა:

• AI-კონტენტის გამიჯვნა. Sora-თი გენერირებული ყველა ვიდეო შეიცავს როგორც ხილულ, ისე უხილავ წარმომავლობის სიგნალებს. გაშვებისას ყველა შედეგს ექნება ხილული წყლის ნიშანი. Sora-ს ყველა ვიდეო ასევე შეიცავს C2PA მეტამონაცემებს — ინდუსტრიის სტანდარტულ ხელმოწერას — და ჩვენ ვინარჩუნებთ შიდა უკუგამოსახულების და აუდიოძებნის ხელსაწყოებს, რომლებსაც მაღალი სიზუსტით შეუძლიათ ვიდეოების Sora-მდე მიკვლევა; ეს ეფუძნება ChatGPT‑ში სურათის გენერირებისა და Sora 1-ის წარმატებულ სისტემებს.
• თანხმობაზე დაფუძნებული გარეგნობის გამოყენება პერსონაჟებით. ჩვენი მიზანია, Sora-ს პერსონაჟებით თქვენი გარეგნობის სრულ კონტროლს თავიდან ბოლომდე თქვენ ფლობდეთ. ჩვენ გვაქვს დამცავი მექანიზმები, რომლებიც მიზნად ისახავს უზრუნველყოს, რომ პერსონაჟებში ასახული თქვენი აუდიო და ვიზუალური გარეგნობა მხოლოდ თქვენი თანხმობით იქნას გამოყენებული. მხოლოდ თქვენ წყვეტთ, ვის შეუძლია თქვენი პერსონაჟების გამოყენება, და წვდომის გაუქმება ნებისმიერ დროს შეგიძლიათ. ასევე ვიღებთ ზომებს საჯარო ფიგურების გამოსახვის დასაბლოკად (გარდა იმ შემთხვევებისა, როცა, რა თქმა უნდა, გამოიყენება პერსონაჟების ფუნქცია). ვიდეოები, რომლებიც თქვენს პერსონაჟებს შეიცავს — მათ შორის სხვა მომხმარებლების მიერ შექმნილი მონახაზები — თქვენთვის ყოველთვის ხილულია. ეს საშუალებას გაძლევთ მარტივად გადაამოწმოთ და წაშალოთ (და საჭიროების შემთხვევაში, შეატყობინოთ) თქვენი პერსონაჟის შემცველი ნებისმიერი ვიდეო. ასევე დამატებით უსაფრთხოების მექანიზმებს ვავრცელებთ ნებისმიერ ვიდეოზე, რომელშიც პერსონაჟია, და შეგიძლიათ დააყენოთ პარამეტრებიც თქვენი პერსონაჟის ქცევისთვის — მაგალითად, მოითხოვოთ, რომ მას ყოველთვის ფედორა ეხუროს.
• უსაფრთხოების ზომები თინეიჯერებისთვის. Sora მოიცავს უფრო ძლიერ დაცვას ახალგაზრდა მომხმარებლებისთვის, მათ შორის ზრდასრულთათვის განკუთვნილ შედეგებზე შეზღუდვებს. არხი ისეა შექმნილი, რომ თინეიჯერებისთვის შესაფერისი იყოს, თინეიჯერის პროფილები ზრდასრულებს არ ეძლევათ რეკომენდაციად, და ზრდასრულებს არ შეუძლიათ თინეიჯერებთან შეტყობინებების ინიცირება. ChatGPT‑ში დამატებული მშობელთა კონტროლი მშობლებს საშუალებას აძლევს მართონ, შეუძლიათ თუ არა თინეიჯერებს პირადი შეტყობინებების გაგზავნა და მიღება, ასევე Sora აპში აირჩიონ არაპერსონალიზებული არხი. ნაგულისხმევად, თინეიჯერებს ასევე აქვთ შეზღუდვები იმაზე, თუ რამდენ ხანს შეუძლიათ უწყვეტად სქროლვა Sora-ში.
• მავნე კონტენტის გაფილტვრა. Sora იყენებს მრავალშრიან დაცვას, რათა არხი უსაფრთხო იყოს და ამავე დროს შემოქმედებისთვის ადგილი დარჩეს. შექმნის ეტაპზე, დამცავი მექანიზმები ცდილობს დაბლოკოს არასაიმედო კონტენტი მის შექმნამდე — მათ შორის სექსუალური მასალა, ტერორისტული პროპაგანდა და თვითდაზიანების წახალისება — მოთხოვნებისა და შედეგების შემოწმებით ვიდეოს მრავალ კადრსა და აუდიო ტრანსკრიპტებში. ჩვენ ჩავატარეთ red teaming ახალი რისკების გამოსაკვლევად და სურათის გენერირებასთან შედარებით პოლიტიკები უფრო გავამკაცრეთ, Sora-ს უფრო მაღალი რეალიზმისა და მოძრაობისა და აუდიოს დამატების გამო. გენერირების მიღმაც, ავტომატიზებული სისტემები ამოწმებს არხის მთელ კონტენტს ჩვენი გლობალური გამოყენების პოლიტიკებთან⁠ შესაბამისობაზე და ფილტრავს არასაიმედო ან ასაკისთვის შეუსაბამო მასალას. ეს სისტემები უწყვეტად ახლდება, როცა ახალი რისკების შესახებ ვსწავლობთ, და მათ ავსებს ადამიანური გადახედვა, რომელიც ყველაზე მაღალი ზემოქმედების მქონე ზიანებზეა ფოკუსირებული.
• აუდიოს უსაფრთხოების ზომები. Sora-ში აუდიოს დამატება უსაფრთხოებისთვის მოთხოვნებს ზრდის, და მიუხედავად იმისა, რომ სრულყოფილი დაცვა რთულია, ჩვენ ამ მიმართულებით სერიოზულ ინვესტირებას ვაგრძელებთ. Sora ავტომატურად ამოწმებს გენერირებული მეტყველების ტრანსკრიპტებს შესაძლო პოლიტიკის დარღვევებზე და ასევე ბლოკავს ისეთი მუსიკის გენერირების მცდელობებს, რომელიც ცოცხალ არტისტებს ან არსებულ ნამუშევრებს ბაძავს. ჩვენი სისტემები შექმნილია იმისთვის, რომ ასეთი მოთხოვნები აღმოაჩინოს და შეაჩეროს, და ჩვენ ვითვალისწინებთ წაშლის მოთხოვნებს იმ ავტორებისგან, რომლებსაც მიაჩნიათ, რომ Sora-ს შედეგი მათ ნამუშევარს არღვევს.
• მომხმარებლის კონტროლი და რეაგირების მექანიზმები. თქვენ ირჩევთ, როდის და როგორ გააზიაროთ თქვენი ვიდეოები, და გამოქვეყნებული კონტენტის წაშლა ნებისმიერ დროს შეგიძლიათ. ვიდეოები არხში მხოლოდ მაშინ გაზიარდება, როცა ამას თავად აირჩევთ. თითოეული ვიდეო, პროფილი და კომენტარი შეიძლება ბოროტად გამოყენებისთვის დარეპორტდეს, და პოლიტიკის დარღვევის შემთხვევაში არსებობს მკაფიო რეაგირების გზები. ასევე ნებისმიერ დროს შეგიძლიათ დაბლოკოთ ანგარიშები, რაც სხვებს თქვენს პროფილის ნახვასა და პირადი შეტყობინებით დაკავშირებას შეუზღუდავს.