החל מ-26 באפריל 2026, המוצר Sora אינו זמין עוד.
המודל Sora 2 ואפליקציית Sora מציעים יכולות מתקדמות ליצירת וידאו ודרך חדשה ליצור יחד, ודאגנו שהבטיחות תהיה חלק בלתי נפרד מהם מההתחלה. הגישה שלנו מבוססת על אמצעי הגנה מעשיים:
זיהוי תוכן שנוצר בבינה מלאכותית. כל סרטון שנוצר עם Sora כולל סימנים גלויים וסמויים המעידים על מקורו. בכל סרטוני Sora מוטמעים גם מטא-נתונים בתקן C2PA — חתימה לפי תקן מקובל בתעשייה. בנוסף, אנו מפעילים כלים פנימיים לחיפוש הפוך של תמונות ואודיו, המאפשרים לזהות בדיוק רב אם סרטונים נוצרו ב-Sora. כלים אלה מתבססים על מערכות שהוכיחו את עצמן ביצירת תמונות ב-ChatGPT וב-Sora 1. תוצרים רבים כוללים גם סימני מים גלויים הנעים באופן דינמי ומציגים את שם היוצר.
יצירת סרטונים מתמונות של אנשים אמיתיים. ככל שאנו ממשיכים לחזק את מנגנוני ההגנה של Sora, אנו מרחיבים את האפשרויות לביטוי יצירתי ולקשר בין אנשים, ובין היתר מאפשרים ליצור סרטונים מתמונות של בני משפחה וחברים. משתמשים יכולים להעלות תמונות שבהן מופיעים אנשים כדי ליצור סרטונים ב-Sora, לאחר שהצהירו כי קיבלו את הסכמת המצולמים וכי יש להם זכויות להעלות את המדיה. יצירת סרטונים מתמונות של אנשים כפופה למנגנוני הגנה מחמירים במיוחד, אף יותר מאלה החלים על השימוש בדמויות ב-Sora (תכונה שנקראה בעבר cameo). על תמונות שבהן מופיעים ילדים ואנשים בעלי מראה צעיר חלים סינון תוכן ומנגנוני הגנה מחמירים עוד יותר, המגבילים את מה שאפשר ליצור מהן. בנוסף, סרטונים אלה יכללו תמיד סימני מים בעת שיתופם.
שימוש במראה ובקול בהסכמה באמצעות דמויות. יצרנו את תכונת הדמויות(נפתח בחלון חדש) כדי לתת לכם שליטה רחבה באופן שבו אתם מיוצגים ב-Sora. הייצוג שלכם כולל את המראה ואת הקול שלכם. מנגנוני ההגנה שלנו נועדו להבטיח שהשימוש בקול ובמראה שלכם, כפי שנקלטו בדמויות, ייעשה בהסכמתכם. רק אתם מחליטים מי יכול להשתמש בדמויות שלכם, ובאפשרותכם לבטל את הגישה בכל עת. אנו גם נוקטים אמצעים לחסימת הצגה של דמויות ציבוריות, למעט באמצעות תכונת הדמויות. סרטונים שבהם מופיעות הדמויות שלכם — כולל טיוטות שיצרו משתמשים אחרים — תמיד גלויים לכם. כך תוכלו לבדוק ולמחוק בקלות כל סרטון שבו מופיעה הדמות שלכם, ובמידת הצורך גם לדווח עליו. אנו גם מחילים מנגנוני הגנה נוספים על כל סרטון הכולל דמות, ותוכלו אף להפעיל מערך הגנות מחמיר יותר שמגביל את סוגי השימוש. הגנות אלה כוללות הגבלת שינויים משמעותיים במראה שלכם והצגתכם במצבים מביכים, לצד שמירה על עקביות כללית בזהותכם.
הגנות לבני נוער. Sora כולל הגנות מוגברות למשתמשים צעירים, ובהן הגבלות על תוצרים המיועדים למבוגרים. הפיד נועד להתאים לכל משתמשי Sora, ובחשבונות של בני נוער מסונן תוכן שעלול להזיק, להיות לא בטוח או לא להתאים לגילם. פרופילים של בני נוער אינם מומלצים למבוגרים, ומבוגרים אינם יכולים ליזום התכתבות עם בני נוער. בקרת הורים ב-ChatGPT מאפשרת להורים לקבוע אם בני נוער יוכלו לשלוח ולקבל הודעות פרטיות, וכן לבחור פיד ללא התאמה אישית באפליקציית Sora. בנוסף, כברירת מחדל, משך הגלילה הרצופה של בני נוער ב-Sora מוגבל.
סינון תוכן מזיק. Sora משתמש בכמה שכבות הגנה כדי לשמור על פיד בטוח, בלי לוותר על מרחב ליצירתיות. בשלב היצירה, מנגנוני ההגנה נועדו לחסום תוכן לא בטוח עוד לפני יצירתו — כולל תוכן מיני, תעמולת טרור ועידוד פגיעה עצמית — באמצעות בדיקת ההנחיות והתוצרים, לאורך פריימים מרובים של הווידאו ובתמלילי האודיו. ערכנו בדיקות תקיפה יזומות כדי לבחון סיכונים חדשים, והחמרנו את המדיניות ביחס לזו החלה על יצירת תמונות, לאור הריאליסטיות הגבוהה יותר של Sora ותוספת התנועה והאודיו. גם לאחר היצירה, מערכות אוטומטיות סורקות את כל התוכן בפיד ובודקות את התאמתו למדיניות השימוש הגלובלית שלנו, ומסננות תוכן לא בטוח או לא מתאים לגיל. מערכות אלה מתעדכנות באופן שוטף ככל שאנו לומדים על סיכונים חדשים, ולצידן פועלת בקרה אנושית המתמקדת בנזקים בעלי ההשפעה החמורה ביותר.
אמצעי הגנה בתחום האודיו. הוספת אודיו ל-Sora מחייבת רף בטיחות גבוה יותר. אף שקשה להבטיח הגנה מושלמת, אנו ממשיכים להשקיע משאבים משמעותיים בתחום זה. Sora סורק אוטומטית תמלילים של דיבור שנוצר כדי לזהות הפרות אפשריות של המדיניות, וגם חוסם ניסיונות ליצור מוזיקה המחקה אמנים חיים או יצירות קיימות. המערכות שלנו נועדו לזהות ולחסום הנחיות כאלה, ואנו נענים לבקשות הסרה של יוצרים הסבורים שתוצר של Sora מפר את זכויותיהם ביצירה.
שליטה למשתמשים ואפשרויות לטיפול בהפרות. אתם בוחרים מתי ואיך לשתף את הסרטונים שלכם, ויכולים להסיר תוכן שפרסמתם בכל עת. סרטונים ישותפו בפיד רק אם תבחרו בכך. אפשר לדווח על שימוש לרעה בכל סרטון, פרופיל, הודעה פרטית, תגובה ודמות, ויש דרכי פעולה ברורות לטיפול בהפרות מדיניות. אפשר גם לחסום חשבונות בכל עת. החסימה תמנע מבעלי אותם חשבונות לראות את הפרופיל או הפוסטים שלכם, להשתמש בדמות שלכם וליצור איתכם קשר בהודעה פרטית.
