به‌روزرسانی مشخصات مدل ما با حفاظت‌های ویژه برای نوجوانان

ما در حال به‌اشتراک‌گذاری به‌روزرسانی مشخصات مدل خود هستیم، مجموعه‌ای از قوانین، ارزش‌ها و انتظارات رفتاری که راهنمایی می‌کند چگونه می‌خواهیم مدل‌های هوش مصنوعی ما به‌ویژه در شرایط دشوار یا حساس عمل کنند، با اصول جدید زیر ۱۸ سال (U18)⁠(در یک پنجره جدید باز می‌شود). رفتار مدل برای نحوه تعامل افراد با هوش مصنوعی بسیار مهم است و نوجوانان نیازهای رشدی متفاوتی نسبت به بزرگسالان دارند.

اصول U18 راهنمایی می‌کنند که چگونه ChatGPT باید تجربه‌ای ایمن و متناسب با سن برای نوجوانان ۱۳ تا ۱۷ ساله فراهم کند. این رویکرد که بر اساس علم رشد است، اولویت را به پیشگیری، شفافیت و مداخله زودهنگام می‌دهد. در توسعه این اصول، ما آن‌ها را با کارشناسان خارجی، از جمله انجمن روان‌شناسی آمریکا، به عنوان بخشی از کار مداوم‌مان برای دریافت نظرات به منظور تقویت رویکردمان، به نمایش گذاشتیم.

در حالی که اصول مشخصات مدل همچنان برای کاربران بزرگسال و نوجوان اعمال می‌شود، این به‌روزرسانی روشن می‌کند که چگونه این اصول در زمینه‌های نوجوانان اعمال می‌شود، به‌ویژه در جایی که ملاحظات ایمنی برای افراد زیر سن قانونی ممکن است بیشتر مورد توجه قرار گیرد. 

اصول U18 بر چهار تعهد راهنما پایه‌گذاری شده‌اند:

• ایمنی نوجوانان را در اولویت قرار بدهید، حتی اگر با اهداف دیگر در تضاد باشد
• حمایت واقعی را ترویج دهید با تشویق به روابط آفلاین و منابع قابل اعتماد
• با نوجوانان مانند نوجوانان رفتار کن، نه با آنها با تحقیر رفتار کن و نه آنها را مانند بزرگسالان در نظر بگیر.
• شفاف باش با تعیین انتظارات واضح

مطابق با نقشه راه ایمنی نوجوانان⁠، این اصول تا به امروز کار ما در زمینه ایمنی نوجوانان را هدایت کرده‌اند، از جمله محافظت‌های محتوایی که برای کاربرانی که به ما می‌گویند زیر ۱۸ سال هستند در زمان ثبت‌نام اعمال می‌کنیم و از طریق کنترل‌های والدین. در این زمینه‌ها، ما تدابیر حفاظتی را پیاده‌سازی کرده‌ایم تا مدل را راهنمایی کنیم که در هنگام بحث در مورد حوزه‌های پرخطر، از جمله خودآزاری و خودکشی، نقش‌آفرینی عاشقانه یا جنسی، محتوای گرافیکی یا صریح، فعالیت‌ها و مواد خطرناک، تصویر بدن و اختلالات خوردن، و درخواست‌ها برای حفظ اسرار درباره رفتارهای ناامن، دقت بیشتری به خرج دهد.

انجمن روان‌شناسی آمریکا که پیش‌نویس اولیه مدل U18 را بررسی کرده و بینش‌های مهمی برای بلندمدت ارائه داده است، به وضوح بر اهمیت محافظت از نوجوانان تأکید می‌کند:

این به‌روزرسانی همچنین روشن می‌کند که دستیار چگونه باید در مواقعی که نگرانی‌های ایمنی برای نوجوانان به وجود می‌آید، پاسخ دهد. این به این معناست که نوجوانان باید با محافظ‌های قوی‌تر، گزینه‌های ایمن‌تر و تشویق به جستجوی حمایت‌های قابل اعتماد آفلاین روبرو شوند وقتی که مکالمات به حوزه‌های پرخطرتر منتقل می‌شوند. در صورت وجود خطر قریب‌الوقوع، از نوجوانان خواسته می‌شود با خدمات اضطراری یا منابع بحران تماس بگیرند.

همانند سایر بخش‌های مشخصات مدل، اصول U18 رفتار مورد نظر مدل ما را منعکس می‌کنند. ما به پالایش آن‌ها ادامه خواهیم داد زیرا تحقیقات جدید، نظرات کارشناسان و استفاده در دنیای واقعی را ادغام می‌کنیم.

همزمان با به‌روزرسانی مشخصات مدل، ما رویکردی چندلایه برای تقویت ایمنی نوجوانان⁠ در ChatGPT اتخاذ کرده‌ایم که شامل تدابیر ایمنی محصول، حمایت خانواده و راهنمایی کارشناسان می‌شود.

از زمان راه‌اندازی کنترل‌های والدین⁠(در یک پنجره جدید باز می‌شود)، ما حفاظت‌ها را به محصولات جدیدی از جمله چت‌های گروهی، مرورگر ChatGPT Atlas و اپ Sora گسترش داده‌ایم. این به‌روزرسانی‌ها به والدین کمک می‌کنند تا تجربه ChatGPT نوجوانانشان را با معرفی محصولات و ویژگی‌های جدید شخصی‌سازی کنند.

مطابق با راهنمایی‌های تخصصی، ما تشویق می‌کنیم که مکالمه‌های مداومی بین والدین و نوجوانان درباره استفاده سالم و مسئولانه از هوش مصنوعی در خانواده‌تان صورت گیرد. برای حمایت از این مکالمه‌ها، منابع جدیدی که توسط کارشناسان تأیید شده‌اند به مرکز منابع والدین⁠(در یک پنجره جدید باز می‌شود) اضافه کرده‌ایم، از جمله راهنمای خانواده برای کمک به نوجوانان در استفاده مسئولانه از هوش مصنوعی⁠(در یک پنجره جدید باز می‌شود) و نکاتی برای والدین⁠(در یک پنجره جدید باز می‌شود) درباره چگونگی صحبت با فرزندانشان در مورد هوش مصنوعی، که توسط ConnectSafely و اعضای شورای متخصصان در حوزه رفاه و هوش مصنوعی⁠ بررسی شده‌اند. ما به مرور زمان به افزودن منابع بیشتر ادامه می‌دهیم. ما همچنین از استفاده سالم به‌طور مستقیم در محصول پشتیبانی می‌کنیم، با یادآورهای استراحت داخلی⁠ در طول جلسات طولانی تا به حفظ زمان صرف‌شده با ChatGPT به‌صورت هدفمند و متعادل کمک کنیم.

کار ما در زمینه ایمنی نوجوانان با تعامل نزدیک با متخصصان در رشته‌ها و حوزه‌های مختلف هدایت می‌شود. در ماه اکتبر، ما یک شورای متخصصان رفاه و هوش مصنوعی⁠ تأسیس کردیم تا در مشاوره و تعریف اینکه تعاملات سالم با هوش مصنوعی برای همه سنین چگونه باید باشد، کمک کند. این کار راهنمایی‌هایی درباره کنترل‌های والدین و اطلاع‌رسانی به والدین ارائه کرده است. ما همچنین از طریق شبکه جهانی پزشکان⁠ خود، تخصص بالینی را به کار می‌گیریم تا تحقیقات ایمنی را اطلاع‌رسانی کرده و رفتار مدل را ارزیابی کنیم، از جمله بهبود نحوه تشخیص ناراحتی توسط ChatGPT و هدایت افراد به مراقبت حرفه‌ای در صورت لزوم. ما بر اساس این پایه‌ها با GPT‑5.2⁠ پیشرفت کردیم و همچنین با نمایش خطوط کمک محلی در ChatGPT و Sora از طریق همکاری با ThroughLine⁠(در یک پنجره جدید باز می‌شود)، دسترسی به پشتیبانی واقعی را گسترش داده‌ایم.

ما در مراحل اولیه راه‌اندازی یک مدل پیش‌بینی سن⁠(در یک پنجره جدید باز می‌شود) در طرح‌های مصرف‌کننده ChatGPT هستیم. این به ما کمک می‌کنه تا وقتی فکر می‌کنیم یک حساب متعلق به یک فرد زیر سن قانونی است، به‌طور خودکار محافظت‌های نوجوانان رو اعمال کنیم. اگر مطمئن نباشیم که کسی چند سال دارد یا اطلاعات کاملی نداشته باشیم، به طور پیش‌فرض تجربه زیر ۱۸ سال را اعمال می‌کنیم و به بزرگسالان راه‌هایی برای تأیید سن‌شان ارائه می‌دهیم.

تقویت ایمنی نوجوانان یک کار مداوم است و ما به بهبود کنترل‌های والدین و قابلیت‌های مدل ادامه خواهیم داد، منابع را برای والدین گسترش خواهیم داد، و با سازمان‌ها، محققان و شرکای متخصص از جمله شورای رفاه و شبکه جهانی پزشکان همکاری خواهیم کرد. 

ما متعهدیم محافظت‌های قوی برای نوجوانان ایجاد کنیم و آن‌ها را در طول زمان بهبود بخشیم تا بهتر از نوجوانان و خانواده‌ها حمایت کنیم.