תמיכה במאמצי אירופה להבטיח סביבה אמינה של בינה מלאכותית
OpenAI מודיעה על תמיכתה בקוד הנוהג של האיחוד האירופי לשקיפות תוכן שנוצר בבינה מלאכותית, בהמשך לשנים של עבודה על תיעוד מקור התוכן.
אנשים משתמשים בבינה מלאכותית כדי ליצור ולערוך תוכן בדרכים חדשות. ככל שהכלים האלה משתכללים והשימוש בהם מתרחב, חשוב שאנשים יקבלו מידע שיסייע להם להבין את התוכן שהם רואים ברשת.
היום, בעקבות פרסום קוד הנוהג לשקיפות של תוכן שנוצר בבינה מלאכותית(נפתח בחלון חדש) של הנציבות האירופית, OpenAI מודיעה על תמיכתה בקוד ובשאיפה העומדת מאחוריו. הקוד הוא צעד חשוב ביישום חוק הבינה המלאכותית של האיחוד האירופי ובבניית סביבה דיגיטלית שקופה יותר.
תמיכתנו נשענת על שנים של מחקר פנימי, פיתוח מוצרים ושיתוף פעולה עם כלל הגורמים בתחום, לחיזוק תיעוד המקור של תוכן שנוצר בבינה מלאכותית. OpenAI מפתחת ומאמצת תקנים לתיעוד מקור התוכן מאז 2024, אז התחלנו להוסיף מטא־נתונים של C2PA לכלי שלנו ליצירת תמונות, DALL-E 3. מאז המשכנו לחזק את תיעוד מקור התוכן באמצעות שיטות משופרות לסימון ולזיהוי, מחקר חדש והשקת כלי האימות הראשון שלנו לציבור. על בסיס מומחיות שצברנו לאורך שנים, תרמנו לפיתוח הקוד הזה לצד מאות בעלי עניין אחרים, כדי לסייע ביצירת סביבה אמינה של בינה מלאכותית.
זהו המשך לגישה הרחבה שלנו לממשל בינה מלאכותית באירופה. ב־2025 הייתה OpenAI החברה האמריקאית הראשונה שחתמה על קוד הנוהג של האיחוד האירופי לבינה מלאכותית למטרות כלליות(נפתח בחלון חדש). בכך ביטאנו את אמונתנו שכללים ברורים וישימים יכולים לסייע בפיתוח אחראי של בינה מלאכותית, ובה בעת להעניק לחברות את הוודאות הדרושה כדי להמשיך לפתח. באותה רוח, אנו תומכים גם בקוד החדש הזה. קידום השקיפות של תוכן שנוצר בבינה מלאכותית הוא מאמץ משותף לכלל הגורמים בתחום, ומחייב תרומה של גורמים לאורך כל שרשרת הערך. חוק הבינה המלאכותית של האיחוד האירופי והקוד מכירים בכך, ואנו מחויבים למלא את חלקנו באמצעות עמידה בדרישות החלות על המוצרים הרלוונטיים שלנו.
ככל שכלי בינה מלאכותית נעשים חלק מהדרך שבה אנשים בונים, מדמיינים ומשתפים, חשוב שאנשים יוכלו להבין מה מקור התוכן ולפרש אותו בביטחון. סימנים המעידים על מקור התוכן יכולים לסייע בכך: הם מספקים לאנשים מידע על מקורו, על האופן שבו נוצר או נערך, ועל השאלה אם הוא אכן מה שהוא מתיימר להיות. תיעוד מקור התוכן יכול גם לסייע בהגנה על הסביבה הדיגיטלית, בכך שהוא מקל על זיהוי מסעות להפצת מידע כוזב ועוזר לשמור על טוהר הבחירות.
יש לפתח במשותף שיטות יעילות, אמינות ועמידות לתיעוד מקור התוכן, שיפעלו בכל הסביבה הדיגיטלית. לכן אנו עובדים עם קואליציות כמו C2PA, שמאגדת גופי חדשות, יצרני מכשירים, פלטפורמות מקוונות וספקי בינה מלאכותית כדי לקדם תקנים המאפשרים תאימות בין מערכות. מטא־נתונים של C2PA הם בסיס חשוב לתיעוד מקור התוכן. הם מאפשרים לצרף לתוכן מידע על מקורו, על האופן שבו נוצר או נערך ועל מי שחתם על המידע הזה. אבל מטא־נתונים אינם חסינים מפני שיבושים. אפשר להסיר אותם, הם עלולים ללכת לאיבוד בהעלאה ובהורדה, או להשתבש בעקבות פעולות כמו שינוי פורמט קובץ, שינוי גודל או צילום מסך.
כדי להפוך את תיעוד מקור התוכן לעמיד יותר, OpenAI נוקטת גישה רב־שכבתית המשלבת סימנים מסוגים שונים, אמצעי הגנה במוצרים ושיתוף פעולה עם כלל הגורמים בתחום. העבודה שלנו כיום כוללת:
אישורי תוכן של C2PA(נפתח בחלון חדש) לתמונות: התחלנו להוסיף מטא־נתונים של C2PA לתמונות שנוצרו ונערכו באמצעות DALL·E 3 ב־ChatGPT וב־API של OpenAI, ומאז המשכנו להרחיב את השימוש בסימנים המעידים על מקור התוכן בתמונות שנוצרות באמצעות OpenAI.
סימנים מסוגים שונים בתמונות שנוצרו באמצעות OpenAI: תמונות שנוצרות באמצעות ChatGPT, Codex וה־API של OpenAI כוללות גם מטא־נתונים של C2PA וגם סימני מים של SynthID. מטא־נתונים יכולים להכיל מידע עשיר יותר, ואילו סימני מים יכולים לסייע בשימור סימן המעיד על המקור במגוון מצבים.
כלי אימות הפתוח לציבור: האתר openai.com/verify מאפשר לבדוק אם תמונות נתמכות מכילות סימנים המעידים שנוצרו באמצעות OpenAI.
תרומה לתקנים פתוחים. ב־2024 הצטרפה OpenAI לוועדת ההיגוי של C2PA, יוזמה חוצת־תעשיות שבה שותפים חברות תוכנה, יצרני מצלמות, גופי תקשורת ופלטפורמות מקוונות.
אמצעי הגנה במוצרים: תיעוד מקור התוכן משלים מדיניות, כלי סיווג, ערוצי דיווח ותהליכי אכיפה שמצמצמים שימושים מטעים בתוכן שנוצר בבינה מלאכותית, לרבות שימוש לרעה בדמותם של אנשים והטעיה הקשורה לבחירות.
אף שתיעוד מקור התוכן מועיל, זהו עדיין תחום בראשית דרכו. סימנים המעידים על מקור התוכן עלולים ללכת לאיבוד כשהתוכן עובר ממקום למקום ברשת: מטא־נתונים עשויים להיות מוסרים, סימני מים עלולים להיפגע, ותוויות מועילות רק כשהן מוצגות במקום שבו אנשים נתקלים בתוכן. שיפור האמינות, העמידות והתאימות בין שיטות לתיעוד מקור התוכן עדיין דורש עבודה רבה ושיתוף פעולה בין הגורמים בתחום.
קוד הנוהג מתווה את הכיוון הנכון: שאיפה מרחיקת לכת לקדם שיטות לתיעוד מקור התוכן. במהלך יישומו, עליו להמשיך להתבסס על שיטות שעובדות בפועל ולהישאר גמיש דיו כדי להביא בחשבון את מגבלותיהן של השיטות הקיימות.
OpenAI תמשיך לחזק את שקיפות התוכן בכל מוצריה, לתרום לפיתוח תקנים המאפשרים תאימות בין מערכות ולשפר כלי אימות. אנו מצפים לשיתוף פעולה עם משרד הבינה המלאכותית של האיחוד האירופי, המדינות החברות באיחוד וקהילת הבינה המלאכותית כולה, כדי לבנות סביבה בטוחה ושקופה יותר של בינה מלאכותית.
