הכירו את ChatGPT לבני נוער: נבנה ללמידה, עם הגנות מובנות

אנחנו מציגים את ChatGPT לבני נוער, חוויה שנועדה לעזור לבני נוער ללמוד, לחשוב באופן ביקורתי, להעמיק את ההבנה ולהשתמש בבינה מלאכותית בביטחון. החוויה כוללת הגנות בטיחות מובנות ומחוזקות לבני נוער, ובהן תכונות לעידוד שימוש בריא ואפשרויות בקרה נוספות להורים. אם המערכת שלנו מעריכה שגיל המשתמשים נמוך מ-18, או שהם מציינים שגילם בין 13 ל-17, הם מועברים אוטומטית ל-ChatGPT לבני נוער.

ההשקה הזו נשענת על עבודת התשתית שלנו לתמיכה בבני נוער בפלטפורמה, הכוללת את השקת בקרת הורים, עדכון ספציקציית המודל שלנו למשתמשים מתחת לגיל 18, גיבוש תוכנית הפעולה שלנו לבטיחות בני נוער, הטמעת חיזוי גיל והרחבת התכונות התומכות בלמידה ובשימוש בריא בבינה מלאכותית בקרב בני נוער. לאורך כל העבודה הזו הנחו אותנו ארבע מחויבויות: להציב את בטיחות בני הנוער בראש סדר העדיפויות, לעודד תמיכה בעולם האמיתי, להתייחס לבני נוער בהתאם לגילם ולשמור על שקיפות בנוגע לאופן שבו המערכות שלנו אמורות להתנהג. ב-ChatGPT לבני נוער אנחנו מחזקים ומקדמים את המחויבויות האלה, עם דגש על למידה ועל הגנות מובנות חזקות עוד יותר.

אנחנו מאמינים שבינה מלאכותית צריכה להרחיב הזדמנויות ללמידה. לכן תכננו את ChatGPT לבני נוער כך שיתמוך בהם מחוץ לכיתה, ברגעים שבהם לא תמיד יש עזרה זמינה, וישמור על מעורבותם בתהליך למידה פעיל ושיתופי. למשל, נערה שלומדת למבחן יכולה לבקש מ-ChatGPT להסביר מושג לא מוכר, לעבור איתה על תרגיל ולבדוק את ההבנה שלה. אם היא מבקשת תשובה מהירה, ChatGPT לבני נוער יכול להנחות אותה באמצעות שלבים ושאלות שיעזרו לה להגיע אליה בעצמה. החוויה משלבת:

• מצב למידה, המשתמש בשאלות מנחות ובתמיכה שלב אחר שלב כדי לעזור לבני נוער להבין את החומר.

• תזכורות חדשות להכנת שיעורי בית באחריות, שיכולות לזהות מתי נראה שבני נוער מנסים לקצר את הדרך בהכנת מטלה, ולהפנות אותם למצב למידה לפתרון בעיות משותף, שלב אחר שלב.

• בחנים והמחשות חזותיות ללמידה, שנותנים לבני נוער דרכים נוספות לתרגל, לבחון את הידע שלהם ולראות מושגים מורכבים באופן ברור יותר כדי לבדוק את הבנתם.

• ועם תכונת שעות הלמידה החדשה, בני נוער או הורים יכולים לבחור זמנים שבהם מצב למידה מופעל כברירת מחדל, וכך להפוך ביתר קלות הרגלי למידה טובים יותר לשגרה.

כשהשקנו את מצב למידה, הוא נבנה בשיתוף מורים, מדענים ומומחי פדגוגיה, והתבסס על מחקר רב-שנים במדעי הלמידה. הוא משתמש בשאלות מנחות, בתמיכה לימודית מדורגת, בהנחיות לחשיבה על תהליך הלמידה ובבדיקות ידע כדי לעזור לתלמידים להתמודד עם בעיות שלב אחר שלב, במקום פשוט לקבל פתרון. הגישה הזו עולה בקנה אחד עם מחקר רחב יותר על טכניקות למידה יעילות⁠(נפתח בחלון חדש), שמראה כי שליפה פעילה מהזיכרון והסבר עצמי יכולים לתרום להבנה עמוקה יותר ולזכירה לטווח ארוך יותר מאשר חזרה פסיבית בלבד. גם ההערכה הראשונית שלנו לכלים כמו מצב למידה הראתה שיפור מבטיח בביצועי התלמידים.

בינה מלאכותית צריכה לתמוך בלמידה, לא להציע דרך לעקוף אותה, ואנשי חינוך צריכים להמשיך לשלוט באופן השימוש בבינה מלאכותית בכיתות. ברוח זו, ChatGPT לבני נוער נועד לתמוך בלמידה מחוץ לכיתה, בעוד ChatGPT למורים ממשיך לספק לאנשי חינוך ולמחוזות חינוך גישה מאובטחת לבינה מלאכותית בניהול המוסד החינוכי, לצד תמיכה מעשית בשימוש מיטבי בה.

כדי לעזור להכין את הדור הראשון של תלמידים שגדלים עם בינה מלאכותית, OpenAI ו-CodeAI מכריזות על שותפות דגל⁠ שתעניק לתלמידים ולאנשי חינוך גישה לכלים ולמשאבים שיעזרו להם ללמוד כיצד להשתמש בבינה מלאכותית ולהפיק ממנה תועלת. השותפות תתמקד בחינוך הנלווה לטכנולוגיה: לעזור לבני נוער להבין איך בינה מלאכותית פועלת, לכוון אותה, לבחון אותה בביקורתיות וליצור בעזרתה — כשלמורים תפקיד משמעותי בעיצוב האופן שבו היא משתלבת בכיתה.

בני נוער כבר משתמשים בבינה מלאכותית לא רק כדי ללמוד, אלא גם כדי לבנות כלים, לרכוש מיומנויות חדשות באופן עצמאי ולפעול לפתרון בעיות בקהילות שלהם. אלה השימושים ש-ChatGPT לבני נוער נועד לעודד: בינה מלאכותית בעלת יכולות מתקדמות, שמעמידה את הלמידה במרכז ועוזרת לצעירים לעבור מהבנת רעיונות ליישומם.

בווירג'יניה, רושיל קוקרג'ה, ארהאן מנטה ונאייל רחמן פיתחו את WiFind⁠(נפתח בחלון חדש), מערכת חיפוש והצלה המשתמשת באותות Wi-Fi קיימים כדי לסייע באיתור ניצולים הלכודים מתחת להריסות לאחר אסונות טבע. הפרויקט צמח מתוך התנדבות בארגון חיפוש והצלה מקומי, ומשאלה פשוטה: איך צוותי ההצלה יכולים לדעת היכן לחפש קודם? הבינה המלאכותית עזרה לצוות ללמוד מהר יותר ממחקרים, ליצור אבות-טיפוס במהירות ולהפוך רעיון מבטיח לכלי המיועד לכוחות הצלה. קריסטל יאנג מטקסס נעזרה ב-ChatGPT כדי לפתח ולהרחיב את Audemy⁠(נפתח בחלון חדש), פלטפורמה היוצרת משחקים חינוכיים מבוססי שמע לתלמידים עיוורים, עד שהגיעה ל-200,000 משתמשים ול-50 משחקים.

כל אחד מבני הנוער השתמש ב-ChatGPT בדרך אחרת, אך כולם מדגימים את השימושים שאנחנו רוצים לתמוך בהם: למידה מחומר מורכב, בנייה בליווי הדרכה ויישום מיומנויות חדשות לפתרון בעיות אמיתיות. לבני נוער צריכה להיות אפשרות לחקור את הפוטנציאל הזה בעזרת כלים בעלי יכולות מתקדמות, המותאמים לגילם ומתוכננים עם אמצעי הגנה ברורים.

עבור משתמשים בני נוער, ההגנות הן חלק מחוויית השימוש כברירת מחדל. עבור משתמשים מתחת לגיל 18, ChatGPT לבני נוער מפעיל אמצעי הגנה מותאמי גיל שנועדו להפחית חשיפה לתוכן שעלול להזיק או לא להתאים לשלב ההתפתחותי שלהם, תוך שמירה על היכולת ללמוד, ליצור ולחקור.

ההגנות האלה מבוססות על העקרונות למשתמשים מתחת לגיל 18 בספציקציית המודל שלנו, הנשענים על מדעי ההתפתחות והנחיות של מומחים. בפועל, מדובר בהגנות מותאמות גיל ברמת המודל ובהתערבויות בתוך המוצר בתחומים שיש בהם סיכון מוגבר, כמו פגיעה עצמית, אלימות, הפרעות אכילה, פעילויות מסוכנות ותוכן מיני מפורש או גרפי.

העבודה הזו נשענת גם על הכלים למשפחות שהשקנו עם בקרת הורים והתראות. הורים שחשבונם מקושר לחשבונות של בני נוער יכולים לקבוע שעות שקט, לנהל הגדרות מסוימות ולקבל התראות בטיחות במצבים מוגדרים של סיכון גבוה. אנחנו מוסיפים התראות הנוגעות להפרעות אכילה, תוך הגבלת המידע שמשותף והתמקדות ברגעים שבהם תמיכה מחוץ לרשת עשויה להיות חשובה במיוחד.

תכננו את ChatGPT לבני נוער כך שיתמוך בקשרים בעולם האמיתי ובהרגלים בריאים, עם תזכורות המעודדות בני נוער לקחת הפסקה, וסימנים בממשק שמבהירים באופן עקבי ש-ChatGPT הוא בינה מלאכותית. 

אנחנו ממשיכים לחזק את התאמת ההתנהגות של ChatGPT לגילם של משתמשים מתחת לגיל 18. ספציקציית המודל המעודכנת שלנו למשתמשים מתחת לגיל 18⁠(נפתח בחלון חדש) אינה מסתפקת בחסימת משחקי תפקידים רומנטיים או בעלי אופי מיני: ChatGPT לא אמור להשתמש בשפה רומנטית, לעודד תלות רגשית או לרמוז שיש לו רגשות או תודעה. ההגנות המחוזקות האלה נועדו לחזק קשרים בריאים בעולם האמיתי.

אנחנו מוסיפים גם סימנים בממשק ואפשרויות בקרה שנועדו להפחית סיכון בהתאם להקשר ולהפנות בני נוער לכלים ולהגנות שימושיים, ובהם: 

• תזכורות בעת העלאת תמונות רגישות מזהירות בני נוער מפני שיתוף תמונות פרטיות או רגישות. 

• תהליך היכרות ייעודי לבני נוער מציג להם כבר מההתחלה את תכונות הלמידה והבטיחות הזמינות להם. 

• ואפשרויות פשוטות להתאמה אישית, כמו צבעי הדגשה וגרסאות קול שונות, עוזרות להעניק לחוויה תחושה אישית בלי לטשטש את הגבול בין כלי שימושי לבין קשר אנושי.

ההגנות האלה נשענות על מחקר בטיחות מתמשך, המבוסס על מדעי ההתפתחות, תובנות של מומחים ובדיקת אמצעי ההגנה של המודלים שלנו בתחומים שבהם בני נוער עלולים להתמודד עם סיכונים ייחודיים או מוגברים. העבודה הזו עוזרת לנו לדייק את המדיניות שלנו למשתמשים מתחת לגיל 18, לחזק את ההגנות במוצר ולשפר את האופן שבו אנחנו מודדים התקדמות לאורך זמן.

אנחנו מתחילים לשתף את הציבור בחלקים נוספים מהעבודה הזו, החל מהערכות חדשות הנוגעות למשתמשים מתחת לגיל 18 שהוספנו לכרטיסי המערכת שלנו⁠(נפתח בחלון חדש). ההערכות מראות כיצד המודלים שלנו עומדים בסטנדרטים ייעודיים לבני נוער במקרים מאתגרים של תוכן רגיש. ההערכות האלה מכסות תחומים כמו פגיעה עצמית, הפרעות אכילה, אלימות, מוצרים ושירותים המוגבלים לפי גיל ותוכן מיני, ונועדו לקדם את ההבנה של ביצועי המודלים בכל הנוגע לבטיחות בני נוער.

נמשיך לפתח תכונות נוספות כדי שבני נוער יוכלו להפיק תועלת מבינה מלאכותית, למדוד את התוצאות ולפרסם את מה שאנחנו לומדים. לבני נוער צריכה להיות אפשרות להשתמש בבינה מלאכותית כדי ללמוד, ליצור ולחקור. אבל הגישה הזו צריכה לבוא עם הגנות המותאמות לשלב ההתפתחותי שלהם, מחזקות קשרים בעולם האמיתי ותומכות בשימוש בריא לאורך זמן. ChatGPT לבני נוער הוא הצעד הבא שלנו בדרך לעמידה בסטנדרט הזה.