Načítání…
Od 26. dubna 2026 již produkt Sora není k dispozici.
Model Sora 2 a aplikace Sora nabízejí špičkové generování videa a nový způsob společné tvorby a my jsme se postarali o to, aby bezpečnost byla zabudována už od samého začátku. Náš přístup stojí na konkrétních ochranných opatřeních:
- Rozlišování AI obsahu. Každé video vytvořené pomocí modelu Sora obsahuje jak viditelné, tak neviditelné známky původu. Všechna videa Sora také obsahují metadata C2PA – standardizovaný podpis pro dané odvětví – a udržujeme interní nástroje pro reverzní vyhledávání podle obrazu a zvuku, které dokážou s vysokou přesností vysledovat videa zpět k modelu Sora, přičemž staví na úspěšných systémech z generování obrázků v ChatGPT a modelu Sora 1. Mnoho výstupů obsahuje také viditelné, dynamicky se pohybující vodoznaky, které obsahují jméno tvůrce.
- Převod obrázku na video s podobou skutečné osoby. S tím, jak nadále posilujeme ochranná opatření modelu Sora, otevíráme prostor pro větší tvůrčí vyjádření a propojení, včetně možnosti vytvářet videa z fotografií rodiny a přátel. Uživatelé mohou do nástroje Sora nahrávat obrázky s lidmi a vytvářet z nich videa poté, co potvrdí, že mají souhlas zobrazených osob a práva k nahrání daných médií. Generování videí z obrázků s lidmi podléhá obzvlášť přísným bezpečnostním pravidlům, dokonce přísnějším, než jaká platí pro postavy Sora (dříve označovaných jako funkce cameo). Snímky zahrnující děti a mladě vypadající osoby podléhají ještě přísnějšímu moderování a bezpečnostním omezením ohledně toho, co z nich lze vytvořit. I při sdílení budou tato videa vždy obsahovat vodoznak.
- Souhlas s použitím podobizen postav. Vytvořili jsme postavy(otevře se v novém okně), které ti dávají vysokou míru kontroly nad tvou podobou v aplikaci Sora. Podoba zahrnuje tvůj vzhled a hlas. Máme nastavené ochranné prvky, které mají zajistit, že bude tvá zvuková a obrazová podoba zachycená v postavách použita s tvým souhlasem. Jen ty rozhoduješ, kdo může používat tvé postavy, a přístup můžeš kdykoli zrušit. Podnikáme také kroky k blokování zobrazení veřejných osob kromě těch, které funkci postav používají. Videa, která obsahují tvé postavy, včetně konceptů vytvořených jinými uživateli, jsou pro tebe vždy viditelná. Díky tomu můžeš snadno zkontrolovat a smazat (a v případě potřeby nahlásit) jakákoli videa s tvou postavou. Na každé video s postavou také uplatňujeme dodatečná bezpečnostní opatření, a dokonce můžeš zapnout ještě přísnější sadu bezpečnostních mantinelů, která omezuje způsoby použití. To zahrnuje omezení zásadních změn tvého vzhledu, vyobrazení v trapných situacích a udržování celkové konzistence identity.
- Ochranná opatření pro teenagery. Model Sora obsahuje silnější ochranu pro mladší uživatele, včetně omezení výstupů pro dospělé. Feed je navržený tak, aby byl vhodný pro všechny uživatele služby Sora, a obsah, který může být škodlivý, nebezpečný nebo nevhodný vzhledem k věku, je u účtů teenagerů odfiltrován. Profily teenagerů nejsou doporučovány dospělým a dospělí nemohou začít psát zprávy teenagerům. Rodičovské kontroly v ChatGPT umožňují rodičům spravovat, zda teenageři mohou odesílat a přijímat přímé zprávy, a také vybrat nepersonalizovaný kanál v aplikaci Sora. Ve výchozím nastavení mají teenageři také omezení, jak dlouho mohou v modelu Sora nepřetržitě skrolovat.
- Filtrování škodlivého obsahu. Sora používá obranné prvky ve více vrstvách, aby udržela feed v bezpečí a zároveň ponechala prostor pro kreativitu. Při vytváření se ochranné mechanismy snaží blokovat nebezpečný obsah ještě před jeho vytvořením (včetně sexuálního materiálu, teroristické propagandy a podpory sebepoškozování) tím, že kontrolují jak prompty, tak výstupy napříč ve více snímcích videa a zvukových přepisech. Provedli jsme red teaming, abychom prozkoumali nová rizika, a vzhledem k větší realističnosti nástroje Sora a přidání pohybu a zvuku jsme zpřísnili zásady týkající se generování obrázků. Kromě generování automatizované systémy skenují veškerý obsah feedu podle našich globálních zásad používání a odfiltrují nebezpečný nebo věkově nevhodný materiál. Tyto systémy jsou průběžně aktualizovány podle toho, jak se dozvídáme o nových rizicích, a jsou doplněny lidskou kontrolou zaměřenou na škody s největším dopadem.
- Zvuková ochranná opatření Přidání zvuku do Sora zvyšuje laťku v oblasti bezpečnosti, a přestože je dokonalá ochrana obtížná, nadále do této oblasti vážně investujeme. Sora automaticky kontroluje přepisy generovaných projevů a hledá potenciální porušení zásad a také blokuje pokusy o generování hudby, která napodobuje žijící umělce nebo existující díla. Naše systémy jsou navrženy tak, aby takové prompty odhalily a zastavily, a vyhovujeme žádostem o stažení od tvůrců, kteří se domnívají, že výstup modelu Sora porušuje jejich dílo.
- Uživatelská kontrola a možnost nápravy. Ty si vybíráš, kdy a jak sdílet videa, a svůj zveřejněný obsah můžeš kdykoli odstranit. Videa se budou sdílet do feedu pouze tehdy, když se tak rozhodneš. Každé video, profil, přímou zprávu, komentář i postavu můžeš nahlásit kvůli zneužití. Při porušení zásad máš k dispozici jasnou možnost nápravy. Můžeš také kdykoli zablokovat účty a zabránit ostatním, aby viděli tvůj profil nebo příspěvky, používali tvou podobu nebo tě kontaktovali prostřednictvím přímé zprávy.
