ما در حال راهاندازی قابلیت پیشبینی سن در طرحهای مصرفکننده ChatGPT هستیم تا کمک کنیم مشخص شود آیا احتمالاً یک حساب متعلق به فردی زیر ۱۸ سال است، تا تجربه و محافظتهای مناسب برای نوجوانان اعمال شود. همانطور که در نقشه راه ایمنی نوجوانان و اصول رفتار مدل برای زیر ۱۸ سال توضیح دادهایم، جوانان سزاوار فناوریای هستند که هم فرصتها را گسترش دهد و هم از رفاه آنها محافظت کند.
پیشبینی سن بر محافظتهایی که از قبل برقرار شدهاند بنا میشود. نوجوانانی که هنگام ثبتنام به ما میگویند زیر ۱۸ سال هستند، به طور خودکار محافظتهای اضافی دریافت میکنند تا قرارگیری در معرض محتوای حساس یا بالقوه مضر کاهش یابد. این همچنین به ما امکان میدهد با بزرگسالان مانند بزرگسالان رفتار کنیم و ابزارهایمان را به شیوهای که میخواهند، در چارچوب ایمنی، به کار ببریم.
ما پیشتر برنامههای اولیه خود را برای پیشبینی سن به اشتراک گذاشتهایم و امروز، همزمان با آغاز عرضه، جزئیات بیشتری را به اشتراک میگذاریم.
ChatGPT از یک مدل پیشبینی سن استفاده میکند تا کمک کند تخمین بزند آیا احتمالاً یک حساب متعلق به فردی زیر ۱۸ سال است. مدل به ترکیبی از سیگنالهای رفتاری و سیگنالهای سطح حساب توجه میکند، از جمله مدت زمان وجود یک حساب، زمانهای معمول فعالیت روزانه، الگوهای استفاده در طول زمان، و سن اعلامشده کاربر. استقرار پیشبینی سن به ما کمک میکند یاد بگیریم کدام سیگنالها دقت را بهبود میبخشند، و از این آموختهها برای بهبود مستمر مدل در طول زمان بهره میگیریم.
کاربرانی که به اشتباه در تجربه زیر ۱۸ سال قرار میگیرند، همیشه یک راه سریع و ساده برای تأیید سن خود و بازیابی دسترسی کاملشان با یک سلفی از طریق Persona، یک سرویس امن تأیید هویت، خواهند داشت. کاربران میتوانند بررسی کنند که آیا تدابیر حفاظتی به حسابشان اضافه شده است یا خیر و هر زمان با رفتن به Settings > Account این فرایند را شروع کنند.
هنگامی که مدل پیشبینی سن تخمین میزند که یک حساب ممکن است متعلق به فردی زیر ۱۸ سال باشد، ChatGPT به طور خودکار محافظتهای اضافی را که برای کاهش قرارگیری در معرض محتوای حساس طراحی شدهاند، اعمال میکند، مانند:
- خشونت تصویری یا محتوای خونین
- چالشهای ویروسی که ممکن است رفتارهای پرخطر یا آسیبزا را در افراد زیر سن قانونی تشویق کنند
- نقشآفرینی جنسی، عاشقانه یا خشونتبار
- تصاویر خودآزاری
- محتوایی که استانداردهای افراطی زیبایی، رژیمهای غذایی ناسالم یا شرمساری بدن را ترویج میکند
این رویکرد با نظرات کارشناسان هدایت میشود و در ادبیات دانشگاهی درباره علم رشد کودک ریشه دارد و تفاوتهای شناختهشده نوجوانان در ادراک ریسک، کنترل تکانه، تأثیرپذیری از همسالان و تنظیم هیجانی را به رسمیت میشناسد. در حالی که این محدودیتهای محتوا به کاهش قرارگیری نوجوانان در معرض محتوای حساس کمک میکند، ما بر بهبود مداوم این محافظتها متمرکز هستیم، بهویژه برای رسیدگی به تلاشها برای دور زدن تدابیر حفاظتیمان. هنگامی که از سن کسی مطمئن نیستیم یا اطلاعات کاملی نداریم، به طور پیشفرض تجربهای ایمنتر را ارائه میدهیم.
علاوه بر این تدابیر حفاظتی، والدین میتوانند از طریق کنترل های والدین(در یک پنجره جدید باز میشود) تجربه فرزند نوجوان خود را بیشتر شخصیسازی کنند، از جمله تنظیم ساعات سکوت که در آن ChatGPT نمیتواند استفاده شود، کنترل ویژگیهایی مانند حافظه یا آموزش مدل، و دریافت اعلانها در صورت شناسایی نشانههای پریشانی حاد.
ما از عرضه اولیه درس میگیریم و به بهبود دقت پیشبینی سن در طول زمان ادامه میدهیم. ما روند عرضه را از نزدیک پیگیری خواهیم کرد و از آن سیگنالها برای هدایت بهبودهای پیوسته استفاده خواهیم کرد.
در اتحادیه اروپا، پیشبینی سن در هفتههای آینده برای رعایت الزامات منطقهای راهاندازی خواهد شد. برای جزئیات بیشتر، به صفحه راهنما(در یک پنجره جدید باز میشود) ما مراجعه کنید.
در حالی که این یک نقطه عطف مهم است، کار ما برای حمایت از ایمنی نوجوانان همچنان ادامه دارد. ما همچنان به اشتراکگذاری بهروزرسانیهایی درباره پیشرفتمان و آنچه میآموزیم ادامه خواهیم داد، در گفتوگو با کارشناسانی از جمله انجمن روانشناسی آمریکا، ConnectSafely، و Global Physicians Network.
