حمایت OpenAI از لایحه کالیفرنیا برای ارتقای ایمنی جوانان در هوش مصنوعی
نوشته اَن اولیری، معاون سیاستگذاری جهانی
OpenAI از لایحه ۱۱۱۹ سنای کالیفرنیا حمایت میکند؛ قانونی که ضمن حفظ دسترسی جوانان به ابزارهای کمککننده برای یادگیری، آفرینش و آمادگی برای آینده، تدابیر حفاظتی مؤثری برای نحوه استفاده آنان از هوش مصنوعی ایجاد میکند. این حمایت در ادامه تعهدی است که سم آلتمن، همبنیانگذار و مدیرعامل OpenAI، سال گذشته هنگام تشریح اصول شرکت درباره نوجوانان مطرح کرد.
در نبود اقدام فدرال، کالیفرنیا فرصت دارد معیار محکمی برای ایمنی جوانان در استفاده از هوش مصنوعی تعیین کند.
ما در نامه خود به فرماندار نیوسام(در یک پنجره جدید باز میشود)، از رهبری او و همچنین سناتور استیو پادیلا، نمایندگان مجلس بافی ویکس و ربکا باور-کاهان و مجلس قانونگذاری کالیفرنیا در این موضوع مهم تقدیر میکنیم. لایحه ۱۱۱۹ بر تدابیر ایمنی جوانان استوار است که OpenAI از طریق محصولات، اصول سیاستگذاری جهانی، حمایتگری در کالیفرنیا و فعالیت روی قانون هوش مصنوعی ایمن برای والدین & کودکان از آنها پشتیبانی کرده است. ما فرماندار نیوسام را ترغیب میکنیم این لایحه را امضا و به قانون تبدیل کند.
نوجوانان نخستین نسلی هستند که با هوش مصنوعی بزرگ میشوند. در هر هفته، نزدیک به ۹ نفر از هر ۱۰ نوجوانی که از ChatGPT استفاده میکنند، برای یادگیری، کسب اطلاعات، مهارتآموزی یا افزایش بهرهوری به آن روی میآورند. این فرصت مسئولیتی روشن به همراه دارد: تجربه نوجوانان باید متناسب با نیازهای رشدی ویژه آنها طراحی شود، حفاظتهای پیشفرض قدرتمندی داشته باشد و فرصتهای مناسبی برای یادگیری، آفرینش و کاوش فراهم کند.
محصول تازهعرضهشده ما، ChatGPT برای نوجوانان، بازتابدهنده همین رویکرد است. این محصول طراحی شده است تا ضمن ترویج استفاده سالم، ارائه تدابیر حفاظتی داخلی و دادن کنترلهای بیشتر به والدین، به کاربران زیر ۱۸ سال در یادگیری، تفکر نقادانه و ساختن کمک کند. اگر سیستم ما تشخیص دهد فردی زیر ۱۸ سال است یا خود فرد سنش را بین ۱۳ تا ۱۷ سال اعلام کند، بهطور خودکار در ChatGPT برای نوجوانان قرار میگیرد. این حفاظتها بخشی از تجربه پایه هستند، نه تنظیماتی اختیاری که کاربران بتوانند غیرفعالشان کنند.
در نگاهی گستردهتر، معتقدیم نوجوانان میتوانند بدون به خطر انداختن ایمنی از هوش مصنوعی بهرهمند شوند؛ هدفی که در کانون لایحه ۱۱۱۹ قرار دارد.
لایحه ۱۱۱۹ حفاظتهای قدرتمند را با تداوم دسترسی به ابزارهای مفید هوش مصنوعی همراه میکند. ما قاطعانه از این الزامات کلیدی حمایت میکنیم:
- تعیین سن کاربر؛
- شناسایی و رفع خطرهای ایمنی پیش از عرضه محصول به جوانان؛
- انجام ممیزیهای مستقل؛
- محافظت از جوانان در برابر محتوای زیانبار، از جمله خودآزاری، محتوای حاوی بهرهکشی جنسی و دیگر تعاملات پرخطر؛
- ارائه ابزارهایی به والدین برای هدایت و محدود کردن استفاده فرزندانشان؛
- متصل کردن جوانان به منابع حمایت در بحران هنگام بروز خطرهای جدی ایمنی؛ و
- محدود کردن تبلیغات هدفمند و حفاظت از اطلاعات شخصی جوانان.
این حفاظتها باید برای کاربرانی که ۱۳ تا ۱۷ ساله تشخیص داده میشوند، بهطور خودکار اعمال شوند. این قانون پاسخگویی مؤثر را با تدابیر حفاظتیای همراه میکند که به محافظت از جوانان هنگام استفاده از هوش مصنوعی کمک میکنند.
لایحه ۱۱۱۹ همچنین بهدرستی به این نکته توجه دارد که هوش مصنوعی، رسانه اجتماعی نیست. این لایحه حفاظتهایی متناسب ایجاد میکند تا جوانان بتوانند از هوش مصنوعی برای یادگیری، آفرینش و کاوش استفاده کنند. سیاستگذاران هنگام تدوین این چارچوب کوشیدند ضمن ترویج تجربههایی ایمنتر و متناسب با سن نوجوانان، دسترسی به قابلیتهای آموزشی و حیاتی برای ایمنی، از جمله استفاده مسئولانه از قابلیت حافظه ChatGPT، را حفظ کنند.
ChatGPT برای نوجوانان مجموعهای از قابلیتهای ویژه یادگیری نوجوانان، مانند آزمونها، تصویرسازیهای آموزشی و حالت مطالعه را در بر میگیرد که با همکاری مربیان و متخصصان یادگیری توسعه یافتهاند تا دانشآموزان را گامبهگام در حل مسائل راهنمایی کنند. هدف این ابزارها تعمیق درک و تقویت عادتهای یادگیری است. قابلیتهایی که از زمینه گفتوگوهای پیشین استفاده میکنند، از جمله حافظه، به اعمال منسجم تدابیر حفاظتی، شناسایی الگوهای نگرانکننده و ارائه پشتیبانی آموزشی مفیدتر در طول زمان کمک میکنند.
زمینه گفتوگو همچنین کمک میکند این ابزارهای ایمنی و یادگیری در طول زمان منسجمتر عمل کنند. ChatGPT از طریق قابلیتهایی مانند حافظه میتواند اطلاعات و ترجیحات مرتبط را از گفتوگوهای پیشین حفظ کند تا نوجوانان بدون شروع دوباره، پروژههای یادگیری بلندمدت خود را ادامه دهند. این پیوستگی همچنین میتواند از تقویت الگوهای زیانبار جلوگیری کند و وقتی جوانی به کمک یا منابع بیشتری نیاز دارد، زمینه پاسخهای مؤثرتری را فراهم سازد.
ایجاد توازن میان ایمنی و یادگیری برای ما موضوع تازهای نیست. در سال گذشته، کنترل های والدین، پیشبینی سن، طرح جامع ایمنی نوجوانان و اصول کاربران زیر ۱۸ سال را به جزئیات مدل خود افزودهایم—یعنی قواعدی که رفتار مورد انتظار از مدلهای ما را هدایت میکنند—تا استانداردهای تازهای برای تعامل آنها با جوانان تعیین کنیم. این اصول، تعامل عاشقانه، تشویق به وابستگی عاطفی و ادعای انسان یا دارای شعور بودن ChatGPT را ممنوع میکنند. همچنین کنترل های والدین را ارائه میکنیم تا خانوادهها بتوانند تنظیمات کلیدی نوجوانان خود را مدیریت کنند و در موقعیتهای پرخطر اعلان دریافت کنند.
لایحه ۱۱۱۹ چارچوبی قدرتمند برای ایمنی جوانان در استفاده از هوش مصنوعی در کالیفرنیا ایجاد میکند. مطالعه و همکاری مستمر در مرحله اجرا میتواند به بهبود مفاد کلیدی کمک کند و با تحول فناوری، اثربخشی چارچوب را حفظ کند. OpenAI مشتاقانه از این تلاش حمایت خواهد کرد و به ساخت تجربههای هوش مصنوعی ادامه خواهد داد که با نوجوانان متناسب با سنشان رفتار میکنند، حفاظتهای خودکار و قدرتمندتری دارند و فرصتهای ارزشمندی برای یادگیری و رشد فراهم میآورند.
