იტვირთება…
Sora 2 მოდელი და Sora აპი გთავაზობთ უახლესი დონის ვიდეოს გენერირებას ერთად შექმნის ახალი გზით, და ჩვენ დავრწმუნდით, რომ უსაფრთხოება თავიდანვე ჩაშენებული იყოს. ჩვენი მიდგომა ეყრდნობა კონკრეტულ დამცავ მექანიზმებს:
- AI კონტენტის გარჩევადობა. Sora-ით გენერირებული ყველა ვიდეო შეიცავს როგორც ხილულ, ისე უხილავ წარმომავლობის სიგნალებს. Sora-ს ყველა ვიდეო ასევე მოიცავს C2PA მეტამონაცემებს — ინდუსტრიის სტანდარტულ ხელმოწერას — და ჩვენ ვინარჩუნებთ შიდა reverse-image და აუდიოძებნის ინსტრუმენტებს, რომლებსაც შეუძლიათ ვიდეოების Sora-მდე კვალის მიყვანა მაღალი სიზუსტით, ChatGPT‑ის სურათის გენერირებისა და Sora 1-ის წარმატებულ სისტემებზე დაყრდნობით. ბევრი შედეგი ასევე ატარებს ხილულ, დინამიკურად მოძრავ წყალნიშნებს, რომლებიც მოიცავს შემქმნელის სახელს.
- სურათიდან ვიდეოზე რეალური ადამიანის გარეგნობით. სანამ Sora-ს დამცავ მექანიზმებს კიდევ უფრო ვაძლიერებთ, ვუშვებთ მეტ შემოქმედებით გამოხატვასა და კავშირს, მათ შორის საშუალებას, რომ ადამიანებმა ოჯახის წევრებისა და მეგობრების ფოტოებიდან შექმნან ვიდეოები. მომხმარებლებს შეუძლიათ ადამიანების შემცველი სურათების ატვირთვა, რათა Sora-ში ვიდეოები შექმნან, მას შემდეგ რაც დაადასტურებენ, რომ მათ აქვთ სურათზე გამოსახული ადამიანების თანხმობა და მედიის ატვირთვის უფლებები. ადამიანებით სურათიდან ვიდეოზე გენერაცია ექვემდებარება განსაკუთრებით მკაცრ უსაფრთხოების დამცავ მექანიზმებს, უფრო მკაცრსაც კი, ვიდრე დაშვებულია Sora Characters-ით (ადრე ცნობილი როგორც cameo ფუნქცია). ბავშვებისა და ახალგაზრდულად გამომყურე პირების შემცველი სურათები ექვემდებარება კიდევ უფრო მკაცრ მოდერაციას და დამცავ მექანიზმებს იმასთან დაკავშირებით, თუ რა შეიძლება შეიქმნას მათგან. გაზიარებისას ამ ვიდეოებსაც ყოველთვის ექნებათ წყალნიშნები.
- თანხმობაზე დაფუძნებული გარეგნობა პერსონაჟებით. ჩვენ შევქმენით პერსონაჟები(იხსნება ახალ ფანჯარაში), რათა Sora-ში თქვენს გარეგნობაზე ძლიერი კონტროლი მოგცეთ. გარეგნობა მოიცავს თქვენს ვიზუალსა და თქვენს ხმას. ჩვენ გვაქვს დამცავი მექანიზმები, რომლებიც შექმნილია იმის უზრუნველსაყოფად, რომ პერსონაჟებში აღბეჭდილი თქვენი აუდიო და ვიზუალური მსგავსება გამოყენებული იყოს თქვენი თანხმობით. მხოლოდ თქვენ წყვეტთ, ვის შეუძლია თქვენი პერსონაჟების გამოყენება, და წვდომის გაუქმება ნებისმიერ დროს შეგიძლიათ. ჩვენ ასევე ვიღებთ ზომებს საჯარო ფიგურების გამოსახულებების დასაბლოკად, გარდა იმ შემთხვევებისა, როცა გამოიყენება პერსონაჟების ფუნქცია. ვიდეოები, რომლებიც თქვენს პერსონაჟებს მოიცავს — მათ შორის სხვა მომხმარებლების მიერ შექმნილი მონახაზებიც — ყოველთვის თქვენთვის ხილულია. ეს საშუალებას გაძლევთ მარტივად გადახედოთ და წაშალოთ (და საჭიროების შემთხვევაში, დაარეპორტოთ) ნებისმიერი ვიდეო, რომელშიც თქვენი პერსონაჟია. ჩვენ ასევე ვიყენებთ დამატებით უსაფრთხოების დამცავ მექანიზმებს ნებისმიერ ვიდეოზე, რომელიც პერსონაჟს შეიცავს, და თქვენ შეგიძლიათ ჩართოთ კიდევ უფრო მკაცრი დაცვის ნაკრებიც, რომელიც გამოყენების ტიპებს ზღუდავს. ეს მოიცავს თქვენი გარეგნობის ძირითადი ცვლილებების შეზღუდვას, თქვენს უხერხულ სიტუაციებში მოთავსების აღკვეთას და თქვენი იდენტობის ფართოდ თანმიმდევრულად შენარჩუნებას.
- დაცვა თინეიჯერებისთვის. Sora მოიცავს უფრო ძლიერ დაცვას ახალგაზრდა მომხმარებლებისთვის, მათ შორის შეზღუდვებს ზრდასრული ტიპის შედეგებზე. ფიდი შექმნილია ისე, რომ შესაბამისი იყოს Sora-ს ყველა მომხმარებლისთვის, ხოლო კონტენტი, რომელიც შეიძლება იყოს საზიანო, სახიფათო ან ასაკისთვის შეუსაბამო, თინეიჯერული ანგარიშებისთვის იფილტრება. თინეიჯერების პროფილები ზრდასრულებს არ ეძლევათ რეკომენდაციად, და ზრდასრულები ვერ იწყებენ შეტყობინებებს თინეიჯერებთან. ChatGPT‑ში მშობელთა კონტროლი მშობლებს აძლევს საშუალებას მართონ, შეუძლიათ თუ არა თინეიჯერებს პირადი შეტყობინებების გაგზავნა და მიღება, ასევე აირჩიონ არაპერსონალიზებული ფიდი Sora აპში. და ნაგულისხმევად, თინეიჯერებს ასევე აქვთ შეზღუდვები იმაზე, რამდენ ხანს შეუძლიათ Sora-ში უწყვეტად სქროლვა.
- საზიანო კონტენტის გაფილტვრა. Sora იყენებს მრავალფენიან დაცვას, რათა ფიდი უსაფრთხო იყოს და ამავე დროს შემოქმედებისთვის სივრცე დარჩეს. შექმნის ეტაპზე დამცავი მექანიზმები ცდილობს დაბლოკოს სახიფათო კონტენტი მის შექმნამდე — მათ შორის სექსუალური მასალა, ტერორისტული პროპაგანდა და თვითდაზიანების წახალისება — მოთხოვნებისა და შედეგების შემოწმებით ვიდეოს მრავალ კადრსა და აუდიოტრანსკრიპტებში. ჩვენ ჩავატარეთ red teaming ახალი რისკების გამოსაკვლევად და გავამკაცრეთ პოლიტიკები სურათის გენერირებასთან შედარებით, Sora-ს უფრო მაღალი რეალიზმისა და მოძრაობისა და აუდიოს დამატების გამო. გენერირების ფარგლებს მიღმა, ავტომატიზებული სისტემები ფიდის მთელ კონტენტს ამოწმებენ ჩვენი გლობალური გამოყენების პოლიტიკის მიხედვით და ფილტრავენ სახიფათო ან ასაკისთვის შეუსაბამო მასალას. ეს სისტემები უწყვეტად ახლდება, როცა ახალ რისკებზე ვსწავლობთ, და მათ ავსებს ადამიანური მიმოხილვა, რომელიც ფოკუსირებულია ყველაზე მაღალი გავლენის მქონე ზიანებზე.
- აუდიოს დამცავი მექანიზმები. Sora-ში აუდიოს დამატება უსაფრთხოებისთვის მოთხოვნებს ზრდის და, მიუხედავად იმისა, რომ სრულყოფილი დაცვა რთულია, ჩვენ ამ მიმართულებით სერიოზულ ინვესტირებას ვაგრძელებთ. Sora ავტომატურად ამოწმებს გენერირებული მეტყველების ტრანსკრიპტებს პოლიტიკის შესაძლო დარღვევებზე და ასევე ბლოკავს მუსიკის გენერირების მცდელობებს, რომელიც ცოცხალ არტისტებს ან არსებულ ნამუშევრებს ბაძავს. ჩვენი სისტემები შექმნილია ასეთი მოთხოვნების აღმოსაჩენად და შესაჩერებლად, და ჩვენ ვითვალისწინებთ წაშლის მოთხოვნებს იმ შემქმნელებისგან, რომლებიც ფიქრობენ, რომ Sora-ს შედეგი მათ ნამუშევარს არღვევს.
- მომხმარებლის კონტროლი და რეაგირების გზები. თქვენ ირჩევთ, როდის და როგორ გააზიაროთ თქვენი ვიდეოები, და შეგიძლიათ თქვენი გამოქვეყნებული კონტენტი ნებისმიერ დროს წაშალოთ. ვიდეოები ფიდში მხოლოდ მაშინ გაზიარდება, როცა ამას თავად აირჩევთ. ყველა ვიდეო, პროფილი, პირადი შეტყობინება, კომენტარი და პერსონაჟი შეიძლება დარეპორტდეს ბოროტად გამოყენებისთვის, მკაფიო რეაგირების გზებით მაშინ, როცა პოლიტიკები ირღვევა. თქვენ ასევე შეგიძლიათ ნებისმიერ დროს დაბლოკოთ ანგარიშები, რაც სხვებს ხელს შეუშლის დაინახონ თქვენი პროფილი ან პოსტები, გამოიყენონ თქვენი პერსონაჟი და დაგიკავშირდნენ პირადი შეტყობინებით.
