למה לבני נוער מגיעה גישה לבינה מלאכותית בטוחה

בני הנוער הם הדור הראשון שגדל עם בינה מלאכותית, והטכנולוגיה הזו תעצב במידה רבה את עתידם. כיום, כמעט 9 מכל 10 בני נוער שמשתמשים ב-ChatGPT נעזרים בו ללמידה, לקבלת מידע, לפיתוח מיומנויות או לביצוע משימות במהלך שבוע אחד. לכן אנחנו מאמינים שחשוב מאוד לאפשר לבני נוער גישה לבינה מלאכותית. למנוע מהם להשתמש בה עד שיגיעו לבגרות יהיה כמו לבקש מהדור הקודם להימנע מהאינטרנט או ממנועי חיפוש עד גיל 18 — ולהותיר אותם פחות מוכנים לשימוש באחת הטכנולוגיות המעצבות של תקופתם. אבל לצד הגישה הזו חייבות להיות הגנות שנועדו במיוחד לבני נוער.

באירוע של OpenAI Academy⁠(נפתח בחלון חדש) שהתקיים לאחרונה, אוריאנה מקנזי שיתפה כיצד ChatGPT עזר לה להגיע להישגים הגבוהים ביותר בכיתתה בתיכון בזכות למידה חכמה יותר וניהול עומס המטלות — וכך פינה לה זמן לפעילויות הספורט ולתוכניות בית הספר שהיא אוהבת. הסיפור שלה ממחיש מה מתאפשר כשלבני נוער יש גישה לבינה מלאכותית שעוזרת להם ללמוד וליצור.

כדי להפיק מכך את המרב, בני נוער זקוקים להגנות חזקות יותר המותאמות לשלב שבו הם נמצאים בחיים, ובהן מנגנוני הגנה אוטומטיים שמאפשרים להם לחקור, ללמוד ולבנות בביטחון, תוך שמירה על בטיחותם בהתאם לגילם. ככל שיכולות הבינה המלאכותית מתרחבות, האחריות שלנו היא לשלב גישה רחבה עם הגנות מותאמות גיל, שיאפשרו לבני נוער ליהנות מהטכנולוגיה הזו ככל שהיא מתפתחת.

בשנה האחרונה פעלנו לשם כך באמצעות חיזוק ההגנות המופעלות כברירת מחדל לבני נוער, השקת חיזוי גיל⁠, הרחבת בקרת הורים⁠, יצירת משאבים נוספים למשפחות⁠(נפתח בחלון חדש) כדי לעזור להורים לעודד שימוש בריא ואחראי, והוספת תכונות למידה שנועדו לתמוך בהבנה מעמיקה יותר במקום רק לספק תשובות.

העבודה שלנו מונחית על ידי ארבע התחייבויות מרכזיות⁠:

• אנחנו מציבים את בטיחות בני הנוער בראש סדר העדיפויות, גם כשהיא עלולה להתנגש עם מטרות אחרות.

• אנחנו מעודדים פנייה לתמיכה בעולם האמיתי בעת הצורך.

• אנחנו מתייחסים לבני נוער כבני נוער.

• אנחנו פועלים בשקיפות ומבהירים למה אפשר לצפות.

למידה היא אחת הדרכים המובהקות שבהן בני נוער מפיקים תועלת מבינה מלאכותית, ולכן אנחנו מפתחים כלים שמעודדים מעורבות פעילה, חשיבה ביקורתית והבנה מעמיקה יותר. מצב למידה⁠(נפתח בחלון חדש) תוכנן בשיתוף מורים, חוקרי למידה ומומחי פדגוגיה, כדי לעזור לתלמידים לפתור בעיות צעד אחר צעד באמצעות שאלות מנחות, הסברים מובנים והזדמנויות להתבוננות בתהליך החשיבה שלהם, במקום פשוט לספק את התשובה. הערכה ראשונית של כלים כמו מצב למידה הצביעה על שיפור מבטיח בהישגי התלמידים⁠, והממצאים מסייעים לנו במחקר הרחב יותר על האופן שבו בינה מלאכותית יכולה לתמוך בתוצאות הלמידה.

בני נוער יכולים להפעיל את המצב הזה בעצמם, וכעת גם הורים שחשבונם מקושר לחשבון של ילדם המתבגר יכולים להפעיל מצב למידה⁠ ישירות דרך בקרת הורים⁠. לאחר ההפעלה, המצב פועל כברירת מחדל בכל פעם שהמתבגר מתחיל שיחה חדשה. כך עומדת לרשות המשפחות דרך נוספת להנחות את השימוש ב-ChatGPT למטלות בית הספר וללמידה.

לאחרונה הוספנו גם הצעות לפתיחת שיחה בנושאי לימוד לבני נוער, כדי להקל עליהם להתחיל במשימות כמו פירוק נושא לשלבים פשוטים, הפיכת סיכומים לחומרי עזר ללמידה, יצירת כרטיסיות או שאלות לתרגול, ובדיקת הביסוס והבהירות של הדברים.

אנחנו ממשיכים גם להרחיב את חוויות הלמידה האינטראקטיביות⁠. מחקרים מראים בעקביות⁠ שאנשים לומדים ביעילות רבה יותר כשהם יכולים לעסוק במושגים באופן פעיל, במקום לצרוך מידע באופן פסיבי. מאז ההשקה בתחילת השנה, מספר המשתמשים בחוויות האינטראקטיביות במתמטיקה ובמדעים ב-ChatGPT הגיע ל-18 מיליון בשבוע. הרחבנו את החוויות האלה ליותר מ-300 נושאים בסך הכול — מאינטגרלים ומיטוזה ועד מופעי הירח, פוטוסינתזה ועוד. השקנו גם כלי לתרגול הגייה, שמשתמש בשמע כדי לעזור לאנשים ללמוד כיצד להגות מילים ביותר מ-61 שפות.

אם המערכת שלנו מעריכה שמי שמשתמש ב-ChatGPT הוא מתחת לגיל 18,⁠ אנחנו מספקים באופן אוטומטי חוויה מותאמת יותר לגיל⁠(נפתח בחלון חדש). בני נוער עדיין יכולים להשתמש ב-ChatGPT כדי ללמוד, ליצור ולחקור, אך עם הגנות נוספות שנועדו לצמצם את החשיפה לתוכן שעלול לא להתאים להם. ההגנות האלה כוללות אמצעים מחמירים יותר בנוגע לתיאורים גרפיים של אלימות, פגיעה עצמית, אתגרים ויראליים מסוכנים, תוכן המעודד דימוי גוף לא בריא ומשחקי תפקידים מסוכנים, רומנטיים או מיניים. העיקרון המנחה הוא לעזור להבטיח ש-ChatGPT יישאר כלי ללמידה וליצירתיות, ולא תחליף לקשרים בעולם האמיתי.

אנחנו גם מתכננים את ChatGPT כך שיעודד הרגלים בריאים. בני נוער שמבלים זמן ממושך ב-ChatGPT יקבלו מעתה תזכורות להפסקה⁠ בתדירות גבוהה יותר, שיעודדו אותם לעצור ולהתרחק מהמסך. התזכורות האלה נועדו לעזור לצעירים לפתח הרגלים מאוזנים בשימוש בטכנולוגיה, ובו בזמן לשמור על החופש שלהם להשתמש בבינה מלאכותית ללמידה, ליצירה ולפתרון בעיות.

אנחנו מאמינים שכלי הבטיחות הטובים ביותר יכולים לעזור למשפחות להתמודד יחד עם החוויות של בני הנוער ברשת. פיתחנו בקרת הורים והתראות⁠ שמאפשרות להורים להגדיר שעות שקטות, לכבות מצב קולי, לנהל את הגישה ליצירת תמונות ולקבל התראות במצבים מסוימים של סיכון גבוה, כמו סימנים לאפשרות של פגיעה עצמית.

אנחנו מרחיבים את ההתראות האלה כך שיכללו מקרים שבהם חשבון מקושר של מתבגר הושבת בשל הפרת מדיניות השימוש שלנו⁠ בנוגע לאיומים באלימות או למעשי אלימות ברשת. הגישה הזו עוזרת להורים לדעת כשקרה משהו חמור, תוך כיבוד הפרטיות של בני הנוער ועידוד שיחה ותמיכה מחוץ לרשת.

במהלך פיתוח התכונות האלה התייעצנו עם כמה מומחים, ובהם Moonshot⁠(נפתח בחלון חדש), ארגון מוביל במניעת אלימות ברשת, כדי לעזור להבטיח שההתערבויות האלה יהיו שקולות, יעילות וממוקדות בסיוע למשפחות לפעול בעת הצורך.

אנחנו רוצים גם להבטיח שלהורים, לבני נוער ולאנשי חינוך תהיה הדרכה ברורה כיצד להשתמש בבינה מלאכותית באופן מיטבי ואחראי. אנחנו מפרסמים משאבים חינוכיים ביותר מ-50 שפות, ובהם מדריך למשפחה: איך לעזור לבני נוער להשתמש בבינה מלאכותית באחריות⁠(נפתח בחלון חדש), טיפים לשיחה עם המתבגרים שלכם על בינה מלאכותית⁠(נפתח בחלון חדש) וטיפים להורים שמשתמשים ב-ChatGPT⁠(נפתח בחלון חדש).

שמירה על בטיחותם של צעירים ברשת אינה אתגר שחברה אחת יכולה לפתור לבדה. אנחנו עובדים בשיתוף פעולה הדוק עם בני נוער, הורים, אנשי חינוך, מומחים לבטיחות ילדים, אנשי מקצוע בתחום בריאות הנפש, חוקרים, ממשלות וארגוני חברה אזרחית. שיתופי הפעולה האלה עוזרים לנו להבין טוב יותר את הצרכים של צעירים, לזהות סיכונים חדשים, להעריך את יעילות אמצעי ההגנה שלנו ולהבטיח שהמדיניות שלנו נשענת על מומחיות בלתי תלויה.

העבודה הזו נוגעת הן לגישה שלנו ללמידה והן לגישה שלנו לרווחת בני נוער. אנחנו משתפים פעולה עם אנשי חינוך, ובהם פדרציית המורים האמריקאית⁠, עם תלמידים ועם ארגוני למידה, כדי להבין טוב יותר כיצד בינה מלאכותית יכולה לתמוך בהוראה ובלמידה, תוך חיזוק מעורבות פעילה וחשיבה ביקורתית. אנחנו עובדים גם בשיתוף פעולה הדוק עם מומחים בתחומי בריאות הנפש, התפתחות הילד ובטיחות בני נוער, ובהם האגודה האמריקאית לפסיכולוגיה⁠(נפתח בחלון חדש), Global Physicians Network⁠ שלנו ומועצת המומחים שלנו לרווחה ולבינה מלאכותית⁠.

העבודה שלנו ליצירת סביבה דיגיטלית בריאה יותר אינה מוגבלת למוצרים שלנו. קראנו לפיתוח תקנים עולמיים לבטיחות בני נוער בשימוש בבינה מלאכותית⁠, שניתן ליישם בהיקף רחב, באמצעות מכון ייעודי לבטיחות בינה מלאכותית. פרסמנו מדיניות וכלים בקוד פתוח⁠ שמפתחים יכולים לשלב במערכות הבינה המלאכותית שלהם, ואנחנו עובדים עם ארגונים ובהם Common Sense Media⁠(נפתח בחלון חדש) ו-everyone.ai⁠(נפתח בחלון חדש) כדי לשתף תובנות ושיטות עבודה מומלצות.

השנה הצטרפנו גם למכון לבטיחות המשפחה ברשת⁠(נפתח בחלון חדש) (FOSI), שפועל זה שנים לקידום חוויות מקוונות בטוחות למשפחות ולצעירים. נפעל יחד כדי להבטיח שצעירים יוכלו להפיק תועלת מבינה מלאכותית, תוך הצבת העצמת ההורים והתנהלות אחראית בתעשייה במרכז העשייה. אנחנו מקווים ששיתוף הפעולה הזה יסייע לקדם הבנה משותפת של מה שעובד, לחזק הגנות מותאמות גיל וכלים להורים, ולתמוך במאמצים כלל-תעשייתיים שיאפשרו לצעירים להפיק תועלת מבינה מלאכותית בבטחה ובאחריות.

הגנה על צעירים ברשת דורשת התקדמות מתמדת. בחודשים הקרובים נמשיך לחזק הגנות מותאמות גיל, להעניק להורים יותר כלים ושליטה, לשפר אמצעי הגנה מפני פגיעות חמורות, לקדם מחקר על שימוש בריא בבינה מלאכותית ולפתח חוויות נוספות שעוזרות לבני נוער ללמוד באופן פעיל ולהשתמש בבינה מלאכותית בביטחון.

אנחנו יודעים שעוד יש עבודה לפנינו, ומחויבים להמשיך לפעול בשיתוף בני נוער, הורים, אנשי חינוך, מומחים וקהילות ברחבי העולם, כדי לאפשר לבני נוער גישה רחבה ובטוחה.