מציגים את המתווה להגנה על ילדים
מסגרת למאבק בניצול מיני של ילדים באמצעות בינה מלאכותית ולמניעתו
ניצול מיני של ילדים הוא אחד האתגרים הדחופים ביותר של העידן הדיגיטלי. בינה מלאכותית משנה במהירות הן את האופן שבו פגיעות אלה מתהוות ברחבי התעשייה והן את הדרכים להתמודד איתן בהיקף נרחב.
ב-OpenAI פיתחנו מנגנוני הגנה למניעת שימוש לרעה במערכות שלנו, ואנו ממשיכים לחזק אותם. אנו גם עובדים בשיתוף פעולה הדוק עם שותפים כמו המרכז הלאומי לילדים נעדרים ומנוצלים (NCMEC) ועם רשויות אכיפת החוק, כדי לשפר את הזיהוי והדיווח. עבודה זו סייעה לזהות היכן נדרשים תקנים משותפים ומחמירים יותר בכלל התעשייה.
היום אנו מציגים מתווה מדיניות שמתווה דרך מעשית לחיזוק מערכי ההגנה על ילדים בארה״ב בעידן הבינה המלאכותית. מתווה זה משקף ומשלב משוב מכמה ארגונים ומומחים מובילים בתחום ההגנה על ילדים, ובהם NCMEC, ברית התובעים הכלליים ויושבי הראש המשותפים של צוות המשימה שלה לבינה מלאכותית — התובע הכללי של קרוליינה הצפונית ג׳ף ג׳קסון והתובע הכללי של יוטה דרק בראון — וכן Thorn. זאת כדי להבטיח שהמתווה ישקף את סדרי העדיפויות שלהם ויסייע לשיתוף פעולה יעיל יותר למניעת פגיעה בילדים.
המתווה מתמקד בשלושה נושאים מרכזיים: עדכון החקיקה כדי להתמודד עם CSAM שנוצר או שונה באמצעות בינה מלאכותית, שיפור הדיווח והתיאום מצד ספקים כדי לתמוך בחקירות יעילות יותר, ושילוב אמצעי בטיחות במערכות בינה מלאכותית כבר בשלב התכנון, כדי למנוע ולזהות שימוש לרעה.
שום צעד יחיד אינו יכול לתת מענה לאתגר הזה לבדו. מסגרת זו משלבת גישות משפטיות, תפעוליות וטכניות כדי לשפר את זיהוי הסיכונים, להאיץ את התגובה ולחזק את האחריותיות, תוך הבטחה שסמכויות האכיפה יישארו איתנות גם עם התפתחות הטכנולוגיה.
יחד, צעדים אלה מאפשרים לתעשייה לפעול להגנה על ילדים בשלב מוקדם יותר וביעילות רבה יותר. באמצעות עצירת ניסיונות ניצול בשלב מוקדם יותר, שיפור איכות המידע המועבר לרשויות אכיפת החוק וחיזוק האחריותיות בקרב כלל הגורמים המעורבים, מסגרת זו נועדה למנוע פגיעה עוד לפני שהיא מתרחשת ולסייע להבטיח הגנה מהירה יותר לילדים כאשר מתגלים סיכונים.
״כיושבי הראש המשותפים של צוות המשימה לבינה מלאכותית של ברית התובעים הכלליים, אנו מברכים על המתווה הזה כצעד משמעותי לקראת התאמת נוהלי ההגנה על ילדים במגזר הטכנולוגיה למציאות האכיפה שעימה מתמודדים משרדינו מדי יום. מעודדת אותנו במיוחד ההכרה במתווה בכך שמנגנוני הגנה יעילים לבינה מלאכותית יוצרת מחייבים הגנה רב-שכבתית — לא אמצעי בקרה טכני יחיד, אלא שילוב של זיהוי, מנגנוני סירוב, פיקוח אנושי והתאמה מתמשכת לדפוסים חדשים של שימוש לרעה. הדבר משקף את מה שאנו רואים בשטח: האיום מתפתח ללא הרף, ופתרונות שאינם משתנים אינם מספיקים. תכנון נכון של מערך המניעה כבר בשלבים המוקדמים הוא ההשקעה בעלת ההשפעה הגדולה ביותר שהתעשייה יכולה לעשות למען הגנה על ילדים.
בסופו של דבר, חוזקה של כל מסגרת וולונטרית תלוי במידת הפירוט של ההתחייבויות הכלולות בה ובנכונותה של התעשייה לתת דין וחשבון על עמידתה בהן. אנו מצפים להמשך השותפות עם OpenAI, עם NCMEC ועם עמיתינו התובעים הכלליים, כדי להבטיח שהמלצות אלה יתורגמו להגנה יציבה ומתמשכת על ילדים.״
—התובעים הכלליים המדינתיים ג׳ף ג׳קסון (קרוליינה הצפונית) ודרק בראון (יוטה), יושבי הראש המשותפים של צוות המשימה לבינה מלאכותית של ברית התובעים הכלליים.
״ברית התובעים הכלליים מובילה את ההגנה על צעירים ברשת באמצעות חיבור בין תובעים כלליים, מובילים בתעשייה, ארגונים ללא כוונת רווח ושותפים ברחבי העולם, לקידום פתרונות מעשיים וצופי פני עתיד בתחום הבינה המלאכותית והבטיחות הדיגיטלית. באמצעות שיתוף פעולה וחדשנות, AGA מציבה רף גבוה להגנה על צעירים תוך אימוץ אחראי של טכנולוגיות חדשות. אנו מברכים על מחויבותה המתמשכת של OpenAI לבטיחות ועל שיתוף הפעולה שלה עם AGA ועם תובעים כלליים בפיתוח מתווה בעל ערך רב להגנה על ילדים.״
—קארן וייט, מנכ״לית ברית התובעים הכלליים
״בינה מלאכותית יוצרת מאיצה את פשעי הניצול המיני של ילדים ברשת בדרכים מדאיגות מאוד — היא מקלה על ביצועם, מגדילה את היקפם ומאפשרת צורות חדשות של פגיעה. אך בה בעת, מעודד אותנו במרכז הלאומי לילדים נעדרים ומנוצלים (NCMEC) לראות חברות כמו OpenAI בוחנות כיצד לתכנן כלים אלה באחריות רבה יותר, עם מנגנוני הגנה מובנים מלכתחילה. שום ארגון, עסק או מגזר אינו יכול להתמודד עם האתגר הזה לבדו. אנו ממשיכים להיות מחויבים לעבודה עם שותפים בתעשייה, בממשל ובקהילת ההגנה על ילדים, כדי לקדם פתרונות שמצמצמים פגיעה ומשפרים את ההגנה על ילדים.״
—מישל דלון, נשיאה ומנכ״לית המרכז הלאומי לילדים נעדרים ומנוצלים
