معرفی طرح ایمنی کودکان
چارچوبی برای مقابله و پیشگیری از استثمار جنسی از کودکان با استفاده از هوش مصنوعی
استثمار جنسی کودکان یکی از چالشهای بسیار اضطراری عصر دیجیتال است. هوش مصنوعی بهسرعت در حال تغییر هم نحوه بروز این آسیبها در سراسر صنعت است و هم چگونگی برطرف کردن آنها در مقیاس گسترده.
در OpenAI، ما تدابیر حفاظتی برای جلوگیری از سوءاستفاده از سیستمهایمان را ایجاد کردهایم و همچنان به تقویت آنها ادامه میدهیم و از نزدیک با شرکایی مانند مرکز ملی کودکان گمشده و استثمار شده (NCMEC) و نهادهای مجری قانون همکاری میکنیم تا شناسایی و گزارشدهی را بهبود دهیم. این کار به مشخص شدن زمینههایی کمک کرده است که در آنها در سراسر این صنعت به استانداردهای قویتر و مشترک نیاز است.
امروز، طرح سیاستیای را معرفی میکنیم که مسیر عملی پیش رو برای تقویت چارچوبهای حفاظت از کودکان در ایالات متحده در عصر هوش مصنوعی را ترسیم میکند. این چارچوب بازخوردهای چندین سازمان و کارشناس پیشرو در سراسر اکوسیستم ایمنی کودکان را منعکس کرده و در خود ادغام میکند، از جمله مرکز ملی کودکان گمشده و استثمار شده، ائتلاف دادستانهای کل (Attorney General Alliance) و رؤسای مشترک کارگروه هوش مصنوعی آن—دادستان کل ایالت کارولینای شمالی Jeff Jackson و دادستان کل ایالت یوتا Derek Brown— و Thorn، تا اطمینان حاصل شود که این چارچوب اولویتهای آنها را بازتاب میدهد و بتواند همکاری مؤثرتری را برای پیشگیری از آسیب به کودکان تسهیل کند.
این طرح بر سه اولویت کلیدی تمرکز دارد: نوسازی قوانین برای رسیدگی به مطالب سوء استفاده جنسی کودکان (CSAM) تولیدشده توسط AI و دستکاریشده، بهبود گزارشدهی و هماهنگی ارائهدهندگان برای پشتیبانی از تحقیقات مؤثرتر، و ایجاد تدابیر ایمنی در طراحی بهطور مستقیم در سیستمهای AI برای پیشگیری از سوءاستفاده و شناسایی آن.
هیچ مداخلهٔ واحدی بهتنهایی نمیتواند به این چالش بپردازد. این چارچوب رویکردهای حقوقی، عملیاتی و فنی را گرد هم میآورد تا ریسکها را بهتر شناسایی کند، پاسخها را تسریع بخشد و از پاسخگویی پشتیبانی کند و در عین حال اطمینان حاصل شود که نهادهای مجری قانون همزمان با تکامل فناوری، همچنان توانمند باقی بمانند.
این گامها در کنار هم به صنعت امکان میدهند تا زودتر و مؤثرتر به ایمنی کودکان رسیدگی کند. این چارچوب با متوقف کردن زودهنگام تلاشها برای سوءاستفاده، بهبود کیفیت سیگنالهای ارسالی به نهادهای مجری قانون، و تقویت پاسخگویی در سراسر اکوسیستم، با هدف جلوگیری از بروز آسیب پیش از وقوع آن و کمک به تضمین حفاظت سریعتر از کودکان هنگام بروز ریسکها طراحی شده است.
«ما، بهعنوان روسای مشترک کارگروه هوش مصنوعی ائتلاف دادستانهای کل، از این طرح بهعنوان گامی معنادار در جهت همسو کردن رویههای ایمنی کودک در بخش فناوری با واقعیتهای اجراییای که دفاتر ما هر روز با آنها روبهرو هستند، استقبال میکنیم. ما بهطور خاص از اینکه این چارچوب اذعان میکند تدابیر ایمنی مؤثر برای GenAI مستلزم دفاع چندلایه است، دلگرم شدهایم — نه یک کنترل فنی واحد، بلکه ترکیبی از شناسایی، سازوکارهای امتناع، نظارت انسانی، و انطباق مستمر با الگوهای نوظهور سوءاستفاده. این بازتابدهندهٔ چیزی است که در عمل میبینیم: تهدید دائماً تکامل مییابد و راهحلهای ایستا کافی نیستند. درست طراحی کردن معماری پیشگیری در مراحل بالادستی، تنها سرمایهگذاری با بیشترین اهرم است که این صنعت میتواند در ایمنی کودکان انجام دهد.
در نهایت، استحکام هر چارچوب داوطلبانهای به میزان مشخصبودن تعهدات آن و تمایل صنعت به پاسخگو بودن در قبال آنها بستگی دارد. ما مشتاقانه منتظر تداوم مشارکت با OpenAI، مرکز ملی کودکان گمشده و استثمار شده و دیگر دادستانهای کل هستیم تا اطمینان حاصل کنیم که این توصیهها به حمایتهای پایدار برای کودکان تبدیل شوند.»
—دادستانهای کل ایالتی Jeff Jackson (کارولینای شمالی) و Derek Brown (یوتا)، روسای مشترک کارگروه هوش مصنوعی ائتلاف دادستانهای کل.
«ائتلاف دادستانهای کل در حفاظت از جوانان در فضای آنلاین پیشگام است و با گرد هم آوردن دادستانهای کل، رهبران صنعت، سازمانهای غیرانتفاعی و شرکای جهانی، راهحلهای عملی و آیندهنگر را در حوزه هوش مصنوعی و ایمنی دیجیتال پیش میبرد.» AGA از طریق همکاری و نوآوری، در حال تعیین یک استاندارد قوی برای نحوه حفاظت از جوانان و در عین حال پذیرش مسئولانه فناوریهای نوظهور است. ما تعهد مستمر OpenAI به ایمنی و همکاری با AGA و دادستانهای کل در تدوین یک نقشه راه بسیار ارزشمند برای ایمنی کودکان را تحسین میکنیم.
—Karen White، مدیر اجرایی ائتلاف دادستانهای کل
«هوش مصنوعی مولد به شکلی عمیقاً نگرانکننده در حال تسریع جرم استثمار جنسی آنلاین کودکان است — با کاهش موانع، افزایش مقیاس، و امکانپذیر کردن اشکال جدید آسیب. اما در عین حال، مرکز ملی کودکان گمشده و استثمار شده (NCMEC) دلگرم است که میبیند شرکتهایی مانند OpenAI در حال تأمل بر این هستند که چگونه میتوان این ابزارها را مسئولانهتر طراحی کرد، بهگونهای که سازوکارهای حفاظتی از همان ابتدا در آنها تعبیه شده باشد. هیچ سازمان، کسبوکار یا بخشی بهتنهایی نمیتواند به این مسئله رسیدگی کند. ما همچنان متعهد به همکاری با شرکا در سراسر صنعت، دولت و جامعه حفاظت از کودکان برای پیشبرد راهحلهایی هستیم که آسیب را کاهش دهند و بهتر از ایمنی کودکان پشتیبانیکنند.»
— Michelle DeLaune، رئیس و مدیرعامل مرکز ملی کودکان گمشده و استثمار شده
