מקדמים את תיעוד מקור התוכן לסביבת בינה מלאכותית בטוחה ושקופה יותר

עדכון מ-5 באוקטובר 2026: אנחנו מרחיבים את הפעילות הזו גם לטקסט באיחוד האירופי, כדי לעמוד בחוק הבינה המלאכותית של האיחוד האירופי. למידע נוסף.

עדכון מ-31 ביולי 2026: אנחנו מרחיבים את הפעילות הזו מעבר לתמונות. אודיו נתמך שנוצר בכלים של OpenAI, כולל באמצעות ChatGPT וה-API של OpenAI, כולל כעת סימון מים של SynthID. כלי האימות הציבורי שלנו יאפשר כעת לאמת קובצי אודיו נתמכים לצד תמונות. אנחנו גם משיקים גישה לאימות דרך API, כדי שמפתחים וארגונים יוכלו לשלב בדיקות של מקור התוכן בתהליכי העבודה שלהם. יחד, העדכונים האלה מרחיבים את הגישה הרב-שכבתית המתוארת להלן: שילוב של תקנים פתוחים כמו C2PA, סימני מים עמידים כמו SynthID וכלי אימות, כדי להקל על זיהוי המקור ועל השימוש במידע עליו בסוגים נוספים של תוכן שנוצר בכלים של OpenAI.

אנשים משתמשים בכלים של OpenAI מדי יום כדי ליצור ולערוך תמונות ואודיו בדרכים שהופכות את התקשורת לעשירה יותר בהבעה, למועילה יותר ולנגישה יותר. ככל שהכלים האלה משתלבים באופן שבו אנשים יוצרים, מדמיינים ומשתפים, חשוב שתהיה להם אפשרות להבין ולאמת מהו מקור המדיה, כדי שיוכלו לפרש אותה בביטחון רב יותר. סימנים המעידים על מקור התוכן יכולים לסייע בכך, באמצעות מתן הקשר: מאין הגיע התוכן, כיצד נוצר או נערך, והאם הוא אכן מה שהוא מוצג כמותו.

היום אנחנו מחזקים את הגישה שלנו לזיהוי מקור התוכן באמצעות מתווה רב-שכבתי לבניית אמון ברשת, הנשען על שיתוף פעולה בין הגורמים בתחום. באמצעות עמידה בתקן C2PA, אנחנו מקלים על כלים ופלטפורמות אחרים לזהות את הסימנים שלנו המעידים על מקור התוכן. לצד זאת, אנחנו מוסיפים לתמונות סימון מים עמיד וחוצה-פלטפורמות של SynthID בשותפות עם Google, ומציגים גרסה מוקדמת של כלי שיאפשר לציבור לאמת אם תמונות נוצרו בכלים של OpenAI.

יחד, העדכונים האלה ממשיכים את העבודה הקודמת שלנו⁠ לתמיכה בתקנים פתוחים, להקלה על זיהוי תוכן שנוצר בכלים של OpenAI ולשיתוף פעולה ברחבי התעשייה למען סביבת מידע אמינה יותר.

OpenAI מעורבת בפיתוח ובאימוץ של תקנים לתיעוד מקור התוכן מאז 2024, אז התחלנו להוסיף Content Credentials לתמונות שנוצרו באמצעות DALL·E 3⁠(נפתח בחלון חדש), ובהמשך גם ל-ImageGen⁠(נפתח בחלון חדש) ול-Sora⁠(נפתח בחלון חדש). הצטרפנו גם לוועדת ההיגוי של הקואליציה למקור ולאותנטיות של תוכן (C2PA), גוף המאגד גורמים מרחבי התעשייה ועומד מאחורי התקן הטכני הפתוח לתיעוד מקור התוכן. הגישה הטכנית של C2PA משתמשת במטא-נתונים ובחתימות קריפטוגרפיות כדי לסייע למידע על פריט מדיה להישאר צמוד לתוכן עצמו באופן מאובטח. המידע הזה מספק הקשר המסייע לעיתונאים שבוחנים מקור, לפלטפורמות שמקבלות החלטות בנוגע לאמינות התוכן ולאנשים שמנסים להבין מה הם רואים ברשת.

לאחרונה נקטנו צעד נוסף והענקנו ל-OpenAI מעמד של מוצר ליצירת תוכן התואם לתקן C2PA⁠(נפתח בחלון חדש). העמידה בתקן C2PA מאפשרת לנו לספק לפלטפורמות דרך מהימנה לקרוא, לשמר ולהעביר הלאה את המידע על מקור התוכן שאנחנו מצרפים לתוכן שלנו. זה חשוב, כי תיעוד מקור התוכן מועיל רק אם הוא נשמר גם מחוץ לפלטפורמה שבה התוכן נוצר לראשונה, והעמידה בתקן מאפשרת זאת.

מטא-נתונים של C2PA הם בסיס חשוב לתיעוד מקור התוכן. הם מאפשרים לצרף לתוכן מידע על מקורו, על האופן שבו נוצר או נערך ועל מי שחתם על המידע הזה. אבל מטא-נתונים אינם חסינים מפגיעה. אפשר להסיר אותם, הם עלולים ללכת לאיבוד בהעלאה ובהורדה, או להיפגע בעקבות פעולות כמו שינוי פורמט הקובץ, שינוי גודל או צילום מסך.

כדי להפוך את תיעוד מקור התוכן לעמיד יותר, אנחנו נוקטים גישה רב-שכבתית ומשלבים סימון מים באמצעות SynthID של Google DeepMind⁠(נפתח בחלון חדש), תחילה בתמונות שנוצרות באמצעות ChatGPT⁠, ‏Codex או ה-API של OpenAI. SynthID מטמיע שכבת סימון מים בלתי נראית, המשלימה גישות המבוססות על מטא-נתונים של C2PA.

אנחנו פועלים לקראת המהלך הזה כבר זמן מה. השתמשנו ב-סימני מים גלויים⁠ ב-Sora וב-סימן מים לאודיו⁠ ב-Voice Engine, והמשכנו לבדוק ולחקור את הדיוק והאמינות שלהם לאורך זמן. באמצעות שימוש בפועל.

שתי המערכות האלה מחזקות זו את זו. C2PA מסייע לצרף לתוכן הקשר מפורט; SynthID מסייע לשמר סימן מזהה כשהמטא-נתונים אינם נשמרים. סימון מים יכול להיות עמיד יותר בפני שינויים כמו צילומי מסך, ואילו מטא-נתונים יכולים לספק יותר מידע מסימן מים לבדו. יחד, הם הופכים את תיעוד מקור התוכן לעמיד יותר מכפי שכל אחת מהשכבות יכולה להיות בפני עצמה.

מטא-נתונים מהימנים וסימני מים שעמידים בפני רוב השינויים יכולים לחזק את עמידותם של הסימנים המעידים על מקור התוכן. אבל אנשים זקוקים לדרך לזהות את הסימנים האלה. אנחנו מציגים כעת גרסה מוקדמת של כלי אימות ציבורי⁠ שיעזור לאנשים לאמת אם תמונה שהועלתה נוצרה ב-ChatGPT, ב-API של OpenAI או ב-Codex. הכלי בודק אם התמונה מכילה סימנים המעידים על מקורה, כולל Content Credentials ו-SynthID.

אנחנו מאמינים שצריך להיות קל יותר לאמת ולפרש את מקור התוכן, ושהכלי שלנו יכול לעזור לאנשים לקחת חלק במענה על השאלה ״האם זה נוצר באמצעות בינה מלאכותית?״ באמצעות שילוב של כמה סימנים. הכלי נשען על התובנות מגרסת המחקר המוקדמת של המסווג שלנו לזיהוי תמונות⁠ מ-2024. הוא מאפשר לאנשים לזהות באופן אמין אם קיים במדיה סימן מים של SynthID שמקורו ב-OpenAI, וגם להציג מטא-נתונים של C2PA כשהם נמצאים.

אין שיטת זיהוי חסינה מטעויות, ולכן אנחנו נוקטים גישה זהירה במקרים שבהם הזיהוי נכשל. למשל, אם לא זוהו מטא-נתונים או סימן מים, הכלי לא יקבע באופן חד-משמעי אם התמונה נוצרה בכלים של OpenAI, משום שבמקרים מסוימים אפשר להסיר את הסימנים המעידים על מקורה.

בעת ההשקה, הכלי מוגבל לתוכן שנוצר בכלים של OpenAI. בחודשים הקרובים אנחנו שואפים לתמוך במאמצים משותפים ברחבי התעשייה שיאפשרו אימות בין פלטפורמות. עם הזמן, אנחנו צופים לתמוך גם בסוגים נוספים של תוכן שאנשים עשויים להיתקל בהם ברשת.

אף שיטה לתיעוד מקור התוכן אינה מספיקה בפני עצמה. אנחנו מאמינים שגישה איתנה משלבת תקנים משותפים, סימני מים עמידים ואימות הזמין לציבור. באמצעות המשך התמיכה רבת השנים שלנו ב-Content Credentials, עמידה בתקן C2PA, אימוץ SynthID והצגת גרסה מוקדמת של כלי אימות לציבור, אנחנו מקווים לתרום בטווח הארוך לסביבה שבה מערכות לתיעוד מקור התוכן פועלות טוב יותר זו עם זו.