הגישה שלנו לכללי האיחוד האירופי לתיעוד מקור הטקסט
קידום השקיפות במסגרת מגבלות הטכנולוגיה הקיימת.
תיעוד מקור התוכן עוזר לאנשים להבין מה מקורו של תוכן, כיצד נוצר או נערך, ואם הוא מכיל סימנים הקשורים למודלים שלנו. כבר העמדנו לרשות הציבור כלים לזיהוי תמונות ואודיו שנוצרו באמצעות המודלים שלנו. היום אנחנו משתפים את הגישה שלנו להטמעת סימני מים בטקסט בהתאם לחוק הבינה המלאכותית של האיחוד האירופי, ואת האופן שבו היא משתלבת בעשייה הרחבה שלנו.
חוק הבינה המלאכותית של האיחוד האירופי מחייב ספקי בינה מלאכותית יוצרת לאפשר זיהוי של טקסט שנוצר באמצעותה באופן קריא למכונה. הטכנולוגיות להטמעת סימני מים בטקסט ולזיהוים עדיין נמצאות בשלבי התפתחות מוקדמים ויש להן מגבלות משמעותיות. גם התפיסות לגבי התועלת שבהן והשימוש האחראי בהן עדיין מתגבשות. הגישה המדורגת שלנו משקפת הן את דרישות חוק הבינה המלאכותית של האיחוד האירופי והן את מגבלות הטכנולוגיה, תוך דגש על שקיפות לגבי מה שסימן מים בטקסט יכול ולא יכול ללמד אותנו:
החל מהיום, לקוחות API ברחבי העולם יוכלו לבחור להפעיל הטמעת סימני מים בטקסט במודלים נבחרים. הטמעת סימני מים בטקסט תישאר כבויה כברירת מחדל ב-API.
בשבועות הקרובים נוסיף סימן מים בלתי נראה לפלטי טקסט מתאימים של ChatGPT ו-Codex באיחוד האירופי.
אנחנו פותחים את האפשרות להגיש בקשות לקבלת גישה לכלי שלנו לזיהוי סימני מים בטקסט. בשלב הראשון, הגישה תוגבל לחוקרים ולארגונים בעלי מומחיות שיקבלו אישור ויוכלו לעזור לנו להעריך את הטכנולוגיה ולשפר אותה.
האמור לעיל חל רק על תיעוד מקור הטקסט — כלי האימות שלנו לאודיו ולתמונות, כולל הכלי המקוון openai.com/verify וה-API לתיעוד מקור התוכן(נפתח בחלון חדש), ימשיכו להיות זמינים לציבור עבור ארגונים המבקשים לדעת אם תמונה או קובץ אודיו נוצרו באמצעות אחת המערכות שלנו.
הטכנולוגיה שלנו להטמעת סימני מים בטקסט, textGrain, מוסיפה אות סטטיסטי בלתי נראה לבחירות המילים של המודל. כלי הזיהוי שלנו מחפש את האות הזה כדי להעריך אם קטע טקסט מכיל סימן מים של OpenAI. פרטים נוספים על אופן הפעולה של textGrain זמינים בדוח הטכני(נפתח בחלון חדש) שלנו, שיתעדכן בפרטים נוספים בשבועות הקרובים. אנחנו גם מתכננים לפרסם את הטכנולוגיה בקוד פתוח כדי לאפשר לאחרים לפתח על בסיסה.
בהערכות שערכנו, הביצועים של textGrain השתוו לאלה של גישות אחרות שבדקנו או עלו עליהם, כולל SynthID לטקסט. עם זאת, ביצועים טובים בתנאים אידיאליים אינם מבטיחים זיהוי אמין בשימוש יומיומי.
כלי זיהוי עלולים לטעות בשתי דרכים: לדווח על סימן מים שאינו קיים — תוצאה חיובית כוזבת — או להחמיץ סימן מים שקיים — תוצאה שלילית כוזבת. ההערכות שלנו המוצגות להלן ממחישות כמה מהאתגרים:
קשה יותר לזהות סימני מים בטקסט קצר או בטקסט שאפשרויות הניסוח שלו מוגבלות יותר. כששיעור היעד לתוצאות חיוביות כוזבות היה 1%, הכלי שלנו זיהה סימני מים בכ-80% מקטעי הטקסט באורך 200 טוקנים, לעומת כ-95% מהקטעים באורך 400 טוקנים, בתוכן מתחומים כמו פסיכולוגיה. שיעורי הזיהוי היו נמוכים משמעותית בתוכן מתחומים כמו מתמטיקה, שבהם יש פחות גמישות בבחירת המילים.
עריכה עלולה להחליש את סימן המים. בהערכה של קטעי טקסט באורך 400 טוקנים, החלפת 10% מהמילים במילים נרדפות הורידה את שיעור הזיהוי מכ-92% ל-66%. החלפת 25% מהמילים הורידה אותו ל-17%.
המגבלות האלה הן חלק מהשיקולים בהחלטתנו להעניק בשלב הראשון גישה לכלי הזיהוי רק לחוקרים ולארגונים בעלי מומחיות שיקבלו אישור, ויוכלו לעזור לנו להעריך את אמינותו ואת אפשרויות השימוש האחראי בו.
התרשים מציג תוצאות עבור תשובות עם סימני מים לשאלות במתמטיקה ובפסיכולוגיה מתוך מערך הנתונים ELI5(נפתח בחלון חדש), בשיעור יעד של 1% לתוצאות חיוביות כוזבות. הזיהוי משתפר ככל שהטקסט ארוך יותר, אך ככלל שיעורו נמוך משמעותית בתוכן שבו יש פחות גמישות בבחירת המילים, כמו מתמטיקה.
עריכה עלולה להחליש משמעותית את האות של סימן המים. התרשים מציג כיצד החלפת 10% או 25% מהמילים בקטע טקסט משפיעה על הזיהוי. התוצאות מבוססות על תשובות באנגלית עם סימני מים לשאלות מתוך ELI5(נפתח בחלון חדש).
במבחני הביצועים המשמשים אותנו להערכת Astra, מודל החזית החדש ביותר שלנו, לא נצפו הבדלים משמעותיים בביצועים עם סימני מים ובלעדיהם.
מבחן ביצועים | טקסט ללא סימן מים (Astra, מקסימלית) | טקסט עם סימן מים (Astra, מקסימלית) |
|---|---|---|
מדד האינטליגנציה של Artificial Analysis | 49.57 נקודות | 49.76 נקודות |
AutomationBench | 34.09% | 34.86% |
DeepSWE v1.1 | 72.80% | 71.68% |
Terminal-Bench 4.0 | 53.90% | 56.06% |
Terminal-Bench Science 0.1 | 56.90% | 60.00% |
BrowseComp | 87.92% | 87.35% |
HealthBench Professional | 64.27% | 64.60% |
GPQA Diamond | 94.44% | 93.94% |
סימני מים בטקסט מספקים אינדיקציה מוגבלת לתפקיד שמילאו המערכות שלנו ביצירת קטע טקסט או בעיבודו. חשוב להבין מה אפשר ומה אי אפשר להסיק מתוצאת הזיהוי.
סימן מים אינו מודד את התרומה האנושית. הוא יכול להעיד שמערכת של OpenAI יצרה או עיבדה חלק מקטע הטקסט, אך לא כמה שיקול דעת, עריכה או יצירתיות אנושיים הושקעו בו.
סימן מים אינו קובע בעלות או אחריות. הוא אינו קובע מי הבעלים של הטקסט, אם השימוש בו היה חוקי, אם חלה חובת גילוי או מי אחראי לו.
סימן מים אינו מזהה את המשתמש. הוא אינו מקשר בין הטקסט לבין אדם, ארגון, חשבון, פרומפט או שיחה.
סימן מים אינו מאמת את נכונות המידע. הוא אינו מלמד אם קטע הטקסט נכון, מטעה, מזיק או מוצג בהקשר הנכון.
אי-זיהוי של סימן מים אינו מוכיח שהטקסט נכתב בידי אדם. טקסט שנוצר באמצעות כלי OpenAI עשוי להיות קצר מדי, או לעבור עריכה או תרגום שמונעים זיהוי אמין. ייתכן גם שהוא נוצר באמצעות מודל שאינו נתמך, לפני שהחלה הטמעת סימני המים, או באמצעות כלים של חברה אחרת.
השקה הדרגתית של הטמעת סימני מים בטקסט באיחוד האירופי. בשבועות הקרובים נתחיל להטמיע סימני מים בטקסט עבור משתמשי ChatGPT ו-Codex שעומדים בתנאים, בכל המסלולים ובאיחוד האירופי בלבד. בעת ההשקה, הטמעת סימני מים בטקסט לא תהיה ברירת מחדל כלל-עולמית. הגישה האזורית הזו מאפשרת לנו ללמוד מהשימוש בפועל ומהמשוב שנקבל.
מתן אפשרות ללקוחות API לבחור בהטמעת סימני מים. החל מהיום, לקוחות API ברחבי העולם יוכלו לבחור לקבל פלטי טקסט עם סימני מים ממודלים נבחרים. כך לקוחות יוכלו להחליט כיצד לשלב סימני מים בהתאם לחובות השקיפות שלהם ולחוויות שהם מציעים למשתמשים. אנחנו גם עובדים עם שותפי ענן כדי לאפשר בשבועות הקרובים הטמעת סימני מים בפלטי מודלים של OpenAI המתקבלים דרך השירותים שלהם.
מתן גישה לכלי הזיהוי לחוקרים ולארגונים בעלי מומחיות. חוקרים וארגונים בעלי מומחיות שקיבלו אישור יכולים להגיש בקשה החל מהיום. בהתאם לקוד הפרקטיקה(נפתח בחלון חדש), הגישה תינתן בשלב הראשון על בסיס בחינה פרטנית של כל בקשה, כדי לסייע בהערכה ובשיפור של תיעוד מקור הטקסט. הכלי ידווח אם הוא מזהה סימן מים של OpenAI, בלי לזהות את המשתמש או לחשוף את הפרומפטים או השיחות שלו. בשל הסיכון להחמצת סימני מים ולתוצאות חיוביות כוזבות, לא נעמיד את הכלי לרשות הציבור בעת ההשקה.
אנחנו צופים שנבחן מחדש כל היבט של הגישה הזו ככל שהטכנולוגיה, התקנים והממצאים יתפתחו.
אין שיטה אחת לתיעוד מקור התוכן שמספיקה בפני עצמה, ולכן אנחנו נוקטים גישה רב-שכבתית שמשלבת תקנים פתוחים, סימני מים עמידים וכלי אימות.
אנחנו מוסיפים פרטי מקור ואותנטיות (Content Credentials) לפלטי תמונות נתמכים, עומדים בתקן C2PA(נפתח בחלון חדש), מטמיעים סימני מים בלתי נראים של SynthID(נפתח בחלון חדש) בתמונות ובאודיו נתמכים, ומאפשרים אימות תמונות ואודיו באמצעות openai.com/verify וה-API שלנו לתיעוד מקור התוכן(נפתח בחלון חדש). השיטות האלה משלימות זו את זו: פרטי מקור ואותנטיות יכולים לתעד את מקור הקובץ ואת ההיסטוריה שלו, ואילו סימני מים בלתי נראים יכולים לשמר אות גם כשהמטא-נתונים מוסרים.
כפי שתיארנו במסגרת פעילותנו להגנה על בחירות, תיעוד מקור התוכן יכול לעזור לאנשים ולפלטפורמות להעריך תוכן שנוצר באמצעות בינה מלאכותית ועלול להטעות, לרבות דיפ-פייקים. אנחנו משלבים את הסימנים האלה עם מדיניות, זיהוי שימוש לרעה, דיווחים, חקירות ואכיפה, ועובדים עם חוקרים, גופי תקינה, פלטפורמות וארגוני חברה אזרחית כדי להפוך את תיעוד מקור התוכן לשימושי בכלל הסביבה הדיגיטלית.
הרחבת תיעוד המקור לטקסט מחייבת להתחשב בקלות שבה אפשר לשכתב, לתרגם או לערוך אותו. כפי שהסברנו ביוני, הגישה שלנו חייבת לשקף את המגבלות המעשיות של הטכנולוגיה הקיימת. נמשיך לשפר את הזיהוי, לחקור את עמידותם של סימני מים בפני עריכה ותרגום, ולבחון דרכים להבחין באופן משמעותי יותר בין סיוע של בינה מלאכותית לבין כתיבה בידי בינה מלאכותית. נתאים את הגישה שלנו ככל שהממצאים, התקנים ודרישות הרגולציה יתפתחו, ונרחיב את הגישה לכלי הזיהוי כשנאמין שאפשר לפרש את התוצאות באחריות.
למידע נוסף, אפשר לעיין במאמר במרכז העזרה שלנו(נפתח בחלון חדש).
