پیشبرد ایمنی و فرصت برای جوانان از طریق رهبری جهانی
OpenAI خواستار اقدام جهانی برای ایمنی AI کودکان و نوجوانان از طریق تأسیس یک مؤسسهٔ اختصاصی ایمنی AI شد
AI میتواند ابزاری قدرتمند برای جوانان باشد. میتواند به دانشآموزان کمک کند مفهومی دشوار را بفهمند، زبانی تازه را تمرین کنند، برای مصاحبه شغلی آماده شوند، ایدههای خلاقانه را کاوش کنند یا مهارتی جدید بیاموزند. همانطور که گسترش جنبش سوادآموزی در سراسر جهان در میانه قرن بیستم به توزیع گسترده متن چاپی و دسترسی به معلمان آموزشدیده نیاز داشت، امروز نیز فراهم کردن دسترسی به AI ایمن فرصتهای تازهای برای یادگیری شخصیسازیشده میگشاید، به کاهش موانع برای گروههای کمتر برخوردار کمک میکند و آمادگی نیروی کار را افزایش میدهد.
از آنجا که مزایای بالقوه بسیار چشمگیر است، ضروری است جوانان بتوانند به هوش مصنوعی به شیوههایی ایمن، متناسب با سن و پشتیبان رشد سالم دسترسی داشته باشند. این مسئولیت نباید در درجه اول بر عهده والدین یا خود جوانان باشد. شرکتها، از جمله OpenAI، مسئولیت دارند محصولاتی بسازند که بهطور پیشفرض دارای محافظتهای مناسب باشند و همزمان خانوادهها را با ابزارها و اطلاعاتی توانمند کنند تا نحوه استفاده از AI را هدایت کنند.
وقتی سران کشورها اواخر این ماه در نشست رهبران G7 در اویان فرانسه گرد هم بیایند، موضوع ایمنی AI برای جوانان یکی از محورهای اصلی خواهد بود. OpenAI نیز برای گفتوگو درباره همکاری بیشتر در زمینه ایمنی جوانان، چگونگی همکاری برای ارتقای استانداردهای صنعت و فراخوان تازه OpenAI برای ایجاد یک مؤسسه بینالمللی ایمنی جوانان به این نشست خواهد پیوست.
نشست رهبران G7 فرصتی نادر برای هماهنگی جهانی درباره ایمنی جوانان فراهم میکند. اما یک مؤسسه اختصاصی میتواند تداوم و پیگیری لازم را فراتر از یک نشست واحد فراهم کند و به دولتها، پژوهشگران، جامعه مدنی و صنعت کمک کند تا در طول زمان برای بهاشتراکگذاری شواهد، تدوین راهنما و ارتقای استانداردها با هم همکاری کنند.
برای انجام این کار چندین راه معتبر وجود دارد: از طریق یک مؤسسه بینالمللی جدید، یا با سپردن مأموریتی جهانی به یک مؤسسه ملی AI موجود یا تازهتأسیس برای بهاشتراکگذاری پژوهش، شواهد و راهنما با شرکای سراسر جهان. مهمترین نکته، کارکردی است که انجام میدهد. ایمنی AI برای جوانان به توجه پایدار، شواهد قابل اعتماد و راهنمایی عملی نیاز دارد که بتواند همگام با فناوری پیش برود.
چنین مؤسسهای میتواند بر ابتکارهای نوظهوری مانند مؤسسه ایمنی AI جوانانِ Common Sense Media که از سوی OpenAI Foundation پشتیبانی میشود و نیز همکاریهای عملی با آموزگاران، از جمله کار OpenAI با فدراسیون معلمان آمریکا، بنا شود. همچنین باید از استقرارهای دنیای واقعی بهره بگیرد، مانند عرضه ملی ChatGPT در مدارس استونی، جایی که OpenAI با پژوهشگران استنفورد و استونی همکاری میکند تا اثر آن را بررسی کند و به استفاده ایمنتر و مؤثرتر در یادگیری کمک کند.
OpenAI از فرصت همکاری با دولت فرانسه، دیگر دولتهای G7 و شرکای جامعه مدنی، دانشگاهی و صنعت در این کار حیاتی و برای ارتقای استانداردهای جهانی ایمنی جوانان استقبال میکند.
ما باور داریم چارچوبهای قوی ایمنی AI برای جوانان، از جمله هر توافق احتمالی که در گردهماییهای G7 حاصل شود، باید بر پایه اصولی باشد که در اینجا بیان میکنیم.
- شرکتها باید بدانند چه زمانی کاربر خردسال است و محافظتهای متناسب با سن را اعمال کنند. این یعنی الزام ارائهدهندگان به استفاده از روشهایی مانند برآورد مؤثر سن با حفظ حریم خصوصی برای تمایز خردسالان از بزرگسالان و اعمال پیشفرض محافظتها زمانی که سن کاربر قابل تعیین نیست. بدون این پایه، حتی خوشنیتترین محافظتهای جوانان هم ممکن است به جوانانی که قرار است از آنها محافظت کنند نرسد.
- شرکتها باید بهطور منظم هم ریسکها و هم مزایا را برای جوانان ارزیابی کنند و برای رسیدگی به آنها اقدام کنند—پیش از وقوع آسیب. این یعنی الزام ارائهدهندگان به تکمیل ارزیابی سالانه ریسک ایمنی جوانان و اجرای محافظتهای متناسب بر اساس ریسکهایی که شناسایی میکنند. چنین ارزیابیهایی باید ریسکهای پیش روی جوانان را بر اساس مرحله رشد آنها، شواهد تجربی از استفاده واقعی و پژوهش یا راهنمایی مقرراتی مرتبط در نظر بگیرد. ارزیابیها باید نهتنها آسیبهای بالقوه، بلکه این را نیز بررسی کنند که آیا AI از نتایج مثبتی مانند یادگیری، خلاقیت، توسعه مهارت و دسترسی به فرصت پشتیبانی میکند یا خیر.
- والدین و سرپرستان باید کنترلهای در دسترس و آساناستفادهای داشته باشند تا به آنها کمک کند تجربههای فرزندانشان را هدایت کنند و در عین حال از استقلال متناسب با سن آنان حمایت شود. این کنترلها باید ابزارهایی برای مدیریت تنظیمات کلیدی، از جمله حافظه، استفاده از دادهها و محدودیتهای زمانی را شامل شوند. ابزارهای والدین باید فعالانه معرفی شوند تا والدین از وجود آنها آگاه باشند و نحوه استفاده از آنها را بدانند.
- خانوادهها باید به اطلاعاتی روشن و قابلفهم درباره این دسترسی داشته باشند که شرکتها چگونه از کاربران جوان محافظت میکنند و همچنین اطلاعاتی معنادار درباره مزایا و ریسکهای استفاده جوانان از AI دریافت کنند. شرکتها باید سیاستهای ایمنیای را منتشر کنند که توضیح دهد چه محافظتهایی برای حمایت از جوانان برقرار است، چه ابزارهای والدینی در دسترس است و با تکامل ریسکها، این محافظتها چگونه بهروزرسانی میشوند. این شفافیت اعتماد ایجاد میکند و به والدین کمک میکند انتخابهای آگاهانهای داشته باشند.
- شرکتها باید پروتکلهای روشنی برای رسیدگی به موقعیتهای جدی ایمنی، از جمله خودآزاری، سوءاستفاده، جلب اعتماد برای سوءاستفاده، محتوای مرتبط با سوءاستفاده جنسی و دیگر تعاملات پرخطر داشته باشند. این پروتکلها باید شامل پشتیبانی درونخدمتی، ارجاع به منابع مناسب و در صورت اقتضا، اطلاعرسانی بهموقع به والدین باشند. شرکتها همچنین باید سیستمهای خود را بهگونهای طراحی کنند که از تولید محتوای ناایمن یا نامتناسب با رشد کودکان، از جمله مطالب جنسی یا خشونتآمیزِ صریح، جلوگیری شود.
- سیستمهای AI مورد استفاده جوانان باید برای پشتیبانی از یادگیری، رشد و روابط دنیای واقعی طراحی شوند—نه جایگزینی آنها. AI باید ابزاری باشد که به جوانان کمک کند بیاموزند، خلق کنند، مهارت کسب کنند و برای آینده آماده شوند. در عین حال، شرکتها باید در حوزههایی که رشد سالم به قضاوت انسانی، روابط دنیای واقعی و پشتیبانی حرفهای وابسته است، مرزهای روشنی تعیین کنند.
- اطلاعات شخصی افراد زیر سن قانونی باید محافظت شود. این یعنی تبلیغات هدفمند و ناقض حریم خصوصی برای جوانان ممنوع شود و شرکتها از فروش اطلاعات شخصی منع شوند.
- چارچوبهای ایمنی جوانان باید فرصت، سواد و محافظت را ارتقا دهند. جوانان باید به ابزارهای AI دسترسی داشته باشند که از یادگیری، خلاقیت، توسعه مهارت و فرصتهای آینده پشتیبانی میکنند و در عین حال به دانش و مهارتهای تفکر انتقادی لازم برای استفاده ایمن و مسئولانه از AI مجهز شوند. این شامل ارتقای سواد AI و کمک به جوانان برای درک فرصتها و محدودیتهای سیستمهای AI است تا بتوانند با اطمینان و مسئولیتپذیری در فضاهای دیجیتال مشارکت کنند.
- سازوکارهای قوی پاسخگویی، از جمله ممیزیهای مستقل، برای اطمینان از معنادار بودن این محافظتها در عمل ضروریاند. ممیزیها باید بر مجموعهای از استانداردهای مشترک استوار باشند که امکان ممیزیهای سازگار با یکدیگر را در حوزههای قضایی مختلف فراهم کند. چارچوبهای قانونگذاری باید شامل تدابیر نظارت و اجرا باشند که به دولتها امکان دهد ارزیابی کنند آیا شرکتها بهطور مؤثر محافظتهای ایمنی جوانان را اجرا میکنند، ریسکهای شناساییشده را کاهش میدهند و به تعهدات ایمنی و حریم خصوصی جوانان پایبندند یا خیر.
این اصول در شیوه ساخت و اداره ChatGPT بازتاب دارند؛ از رفتار مدل و طراحی محصول گرفته تا نظر کارشناسان و پشتیبانی در دنیای واقعی. ما محافظتها را برای کاربران زیر ۱۸ سال تقویت کردهایم، کنترلهای والدین را با اعلانهای پیشدستانه راهاندازی کردهایم و سیستمهای پیشرفته پیشبینی سن را توسعه دادهایم تا ChatGPT بتواند وقتی ممکن است فردی زیر ۱۸ سال باشد، محافظتهای قویتری اعمال کند. مشخصات مدل ما، که توضیح میدهد جزئیات مدل ما چگونه باید رفتار کنند، همچنین شامل اصول اختصاصی برای کاربران زیر ۱۸ سال(در یک پنجره جدید باز میشود) است و ایمنی نوجوانان، تجربههای متناسب با سن، پشتیبانی در دنیای واقعی و انتظارات روشن را در اولویت قرار میدهد. در عمل، این یعنی حفاظهای قویتر پیرامون خودآزاری، فعالیتهای خطرناک، محتوای صریح، تصویر بدن و پنهانکاری، همراه با تشویق به دریافت حمایت آفلاین از افراد مورد اعتماد یا منابع بحران در صورت نیاز. وقتی سن نامشخص باشد، ما بهطور پیشفرض محافظتهای قویتر را اعمال میکنیم.
AI که با محافظتهای قوی طراحی شده و با راهنمایی روشن و پشتیبانی خانوادهها و آموزگاران ارائه میشود، میتواند به جوانان کمک کند با ایمنی از ابزارهایی بهرهمند شوند که یادگیری، خلاقیت و فرصت را گسترش میدهند. AI میتواند به دانشآموزان کمک کند مفاهیم دشوار را بفهمند، زبانها را تمرین کنند، نوشتار خود را بهبود دهند، کدنویسی بیاموزند، پژوهش را سازماندهی کنند، ایدههای خلاقانه را کاوش کنند و برای مشاغلی آماده شوند که همین حالا در حال تغییرند. از طریق آموزش برای کشورها، OpenAI با دولتها و آموزگاران روی استقرارهای پژوهشمحور، ابزارهای یادگیری بومیسازیشده و آموزش معلمان کار میکند تا پذیرش AI بر شواهد و نیازهای واقعی کلاس درس استوار باشد. این کار هماکنون از تلاشهای ملی آموزشی در کشورهای شریک ما، از جمله استونی، یونان و سنگاپور پشتیبانی میکند.
علاوه بر مشارکت در نشست سران، ما OpenAI Forum(در یک پنجره جدید باز میشود) را به پاریس میآوریم تا گفتوگویی عملی برگزار کنیم درباره اینکه دولتها، پژوهشگران، جامعه مدنی، آموزگاران و صنعت چگونه میتوانند اهداف مشترک ایمنی جوانان را به محافظتها، استانداردها و شیوههای اجرایی مشخص تبدیل کنند. کلارا شاپاز، سفیر فرانسه در امور AI و دیجیتال، به کریس لیهان، مدیر ارشد Global Affairs در OpenAI، رهبران ایمنی جوانان از iRaise/Everyone.AI و دیگر کارشناسان میپیوندد تا درباره این گفتوگو کنند که جوانان چگونه میتوانند از AI بهرهمند شوند و در عین حال ریسکها کاهش یابد.
