Od 26. dubna 2026 již produkt Sora není k dispozici.
Model Sora 2 a aplikace Sora nabízejí špičkové generování videa a nový způsob společné tvorby a my jsme se postarali o to, aby bezpečnost byla zabudována už od samého začátku. Náš přístup stojí na konkrétních ochranných opatřeních:
Rozlišování AI obsahu. Každé video vytvořené pomocí modelu Sora obsahuje jak viditelné, tak neviditelné známky původu. Všechna videa Sora také obsahují metadata C2PA – standardizovaný podpis pro dané odvětví – a udržujeme interní nástroje pro reverzní vyhledávání podle obrazu a zvuku, které dokážou s vysokou přesností vysledovat videa zpět k modelu Sora, přičemž staví na úspěšných systémech z generování obrázků v ChatGPT a modelu Sora 1. Mnoho výstupů obsahuje také viditelné, dynamicky se pohybující vodoznaky, které obsahují jméno tvůrce.
Převod obrázku na video s podobou skutečné osoby. S tím, jak nadále posilujeme ochranná opatření modelu Sora, otevíráme prostor pro větší tvůrčí vyjádření a propojení, včetně možnosti vytvářet videa z fotografií rodiny a přátel. Uživatelé mohou do nástroje Sora nahrávat obrázky s lidmi a vytvářet z nich videa poté, co potvrdí, že mají souhlas zobrazených osob a práva k nahrání daných médií. Generování videí z obrázků s lidmi podléhá obzvlášť přísným bezpečnostním pravidlům, dokonce přísnějším, než jaká platí pro postavy Sora (dříve označovaných jako funkce cameo). Snímky zahrnující děti a mladě vypadající osoby podléhají ještě přísnějšímu moderování a bezpečnostním omezením ohledně toho, co z nich lze vytvořit. I při sdílení budou tato videa vždy obsahovat vodoznak.
Souhlas s použitím podobizen postav. Vytvořili jsme postavy(otevře se v novém okně), které ti dávají vysokou míru kontroly nad tvou podobou v aplikaci Sora. Podoba zahrnuje tvůj vzhled a hlas. Máme nastavené ochranné prvky, které mají zajistit, že bude tvá zvuková a obrazová podoba zachycená v postavách použita s tvým souhlasem. Jen ty rozhoduješ, kdo může používat tvé postavy, a přístup můžeš kdykoli zrušit. Podnikáme také kroky k blokování zobrazení veřejných osob kromě těch, které funkci postav používají. Videa, která obsahují tvé postavy, včetně konceptů vytvořených jinými uživateli, jsou pro tebe vždy viditelná. Díky tomu můžeš snadno zkontrolovat a smazat (a v případě potřeby nahlásit) jakákoli videa s tvou postavou. Na každé video s postavou také uplatňujeme dodatečná bezpečnostní opatření, a dokonce můžeš zapnout ještě přísnější sadu bezpečnostních mantinelů, která omezuje způsoby použití. To zahrnuje omezení zásadních změn tvého vzhledu, vyobrazení v trapných situacích a udržování celkové konzistence identity.
Ochranná opatření pro teenagery. Model Sora obsahuje silnější ochranu pro mladší uživatele, včetně omezení výstupů pro dospělé. Feed je navržený tak, aby byl vhodný pro všechny uživatele služby Sora, a obsah, který může být škodlivý, nebezpečný nebo nevhodný vzhledem k věku, je u účtů teenagerů odfiltrován. Profily teenagerů nejsou doporučovány dospělým a dospělí nemohou začít psát zprávy teenagerům. Rodičovské kontroly v ChatGPT umožňují rodičům spravovat, zda teenageři mohou odesílat a přijímat přímé zprávy, a také vybrat nepersonalizovaný kanál v aplikaci Sora. Ve výchozím nastavení mají teenageři také omezení, jak dlouho mohou v modelu Sora nepřetržitě skrolovat.
Filtrování škodlivého obsahu. Sora používá obranné prvky ve více vrstvách, aby udržela feed v bezpečí a zároveň ponechala prostor pro kreativitu. Při vytváření se ochranné mechanismy snaží blokovat nebezpečný obsah ještě před jeho vytvořením (včetně sexuálního materiálu, teroristické propagandy a podpory sebepoškozování) tím, že kontrolují jak prompty, tak výstupy napříč ve více snímcích videa a zvukových přepisech. Provedli jsme red teaming, abychom prozkoumali nová rizika, a vzhledem k větší realističnosti nástroje Sora a přidání pohybu a zvuku jsme zpřísnili zásady týkající se generování obrázků. Kromě generování automatizované systémy skenují veškerý obsah feedu podle našich globálních zásad používání a odfiltrují nebezpečný nebo věkově nevhodný materiál. Tyto systémy jsou průběžně aktualizovány podle toho, jak se dozvídáme o nových rizicích, a jsou doplněny lidskou kontrolou zaměřenou na škody s největším dopadem.
Zvuková ochranná opatření Přidání zvuku do Sora zvyšuje laťku v oblasti bezpečnosti, a přestože je dokonalá ochrana obtížná, nadále do této oblasti vážně investujeme. Sora automaticky kontroluje přepisy generovaných projevů a hledá potenciální porušení zásad a také blokuje pokusy o generování hudby, která napodobuje žijící umělce nebo existující díla. Naše systémy jsou navrženy tak, aby takové prompty odhalily a zastavily, a vyhovujeme žádostem o stažení od tvůrců, kteří se domnívají, že výstup modelu Sora porušuje jejich dílo.
Uživatelská kontrola a možnost nápravy. Ty si vybíráš, kdy a jak sdílet videa, a svůj zveřejněný obsah můžeš kdykoli odstranit. Videa se budou sdílet do feedu pouze tehdy, když se tak rozhodneš. Každé video, profil, přímou zprávu, komentář i postavu můžeš nahlásit kvůli zneužití. Při porušení zásad máš k dispozici jasnou možnost nápravy. Můžeš také kdykoli zablokovat účty a zabránit ostatním, aby viděli tvůj profil nebo příspěvky, používali tvou podobu nebo tě kontaktovali prostřednictvím přímé zprávy.
