Memperkenalkan Rangka Tindakan Keselamatan Kanak-kanak
Rangka kerja untuk membanteras dan mencegah eksploitasi seksual kanak-kanak yang didayakan AI
Eksploitasi seksual kanak-kanak merupakan salah satu cabaran yang paling mendesak pada era digital. AI sedang mengubah dengan pantas kedua-dua cara kemudaratan ini muncul di seluruh industri dan cara ia boleh ditangani pada skala besar.
Di OpenAI, kami telah membina dan terus memperkukuh langkah-langkah perlindungan untuk mencegah penyalahgunaan sistem kami, dan kami bekerjasama rapat dengan rakan kongsi seperti National Center for Missing and Exploited Children (NCMEC) dan agensi penguatkuasaan undang-undang untuk meningkatkan pengesanan dan pelaporan. Kerja ini telah membantu menonjolkan di mana standard yang lebih kukuh dan dikongsi bersama diperlukan di seluruh industri.
Hari ini, kami memperkenalkan rangka tindakan dasar yang menggariskan laluan praktikal ke hadapan untuk memperkukuhkan rangka kerja perlindungan kanak-kanak Amerika Syarikat dalam era AI. Pelan tindakan ini mencerminkan dan menggabungkan maklum balas daripada beberapa organisasi dan pakar terkemuka di seluruh ekosistem keselamatan kanak-kanak, termasuk NCMEC, Attorney General Alliance dan pengerusi bersama Pasukan Petugas AInya—Peguam Negara North Carolina Jeff Jackson dan Peguam Negara Utah Derek Brown—serta Thorn bagi memastikan ia mencerminkan keutamaan mereka dan dapat memudahkan kerjasama yang lebih berkesan untuk mencegah kemudaratan kepada kanak-kanak.
Rangka tindakan ini memberi tumpuan kepada tiga keutamaan utama: memodenkan undang-undang untuk menangani Bahan Penderaan Seksual Kanak-Kanak (CSAM) yang dijana dan diubah suai oleh AI, meningkatkan pelaporan dan penyelarasan penyedia untuk menyokong penyiasatan yang lebih berkesan, serta mengintegrasikan langkah keselamatan secara langsung ke dalam sistem AI untuk mencegah dan mengesan penyalahgunaan.
Tiada satu intervensi pun yang dapat menangani cabaran ini secara bersendirian. Kerangka kerja ini menggabungkan pendekatan perundangan, operasi dan teknikal untuk mengenal pasti risiko dengan lebih baik, mempercepatkan tindak balas, dan menyokong kebertanggungjawaban, sambil memastikan bahawa pihak berkuasa penguatkuasaan kekal kukuh seiring dengan evolusi teknologi.
Bersama-sama, langkah-langkah ini membolehkan industri menangani keselamatan kanak-kanak dengan lebih awal dan lebih berkesan. Dengan mengganggu cubaan eksploitasi lebih awal, meningkatkan kualiti isyarat yang dihantar kepada pihak penguatkuasaan undang-undang, dan memperkukuh kebertanggungjawaban di seluruh ekosistem, rangka kerja ini bertujuan untuk mencegah kemudaratan sebelum ia berlaku dan membantu memastikan perlindungan yang lebih pantas untuk kanak-kanak apabila risiko muncul.
“Sebagai Pengerusi Bersama Pasukan Petugas AI Attorney General Alliance, kami mengalu-alukan rangka tindakan ini sebagai langkah yang bermakna ke arah menyelaraskan amalan keselamatan kanak-kanak dalam sektor teknologi dengan realiti penguatkuasaan yang dihadapi oleh pejabat kami setiap hari. Kami amat terdorong oleh pengiktirafan rangka kerja tersebut bahawa perlindungan GenAI yang berkesan memerlukan pertahanan berlapis — bukan satu kawalan teknikal tunggal, tetapi gabungan pengesanan, mekanisme penolakan, pengawasan manusia, dan penyesuaian berterusan terhadap pola penyalahgunaan yang sedang muncul. Ini mencerminkan apa yang kita lihat dalam amalan: ancaman sentiasa berkembang, dan penyelesaian statik tidak mencukupi. Memastikan seni bina pencegahan yang betul di peringkat awal ialah pelaburan tunggal dengan impak tertinggi yang boleh dibuat oleh industri dalam keselamatan kanak-kanak.
Akhirnya, kekuatan mana-mana rangka kerja sukarela bergantung pada kekhususan komitmennya dan kesediaan industri untuk dipertanggungjawabkan berdasarkan komitmen tersebut. “Kami berharap dapat meneruskan kerjasama dengan OpenAI, NCMEC dan rakan Peguam Negara kami bagi memastikan cadangan ini membawa kepada perlindungan yang berkekalan untuk kanak-kanak.”
—Peguam-Peguam Negara Negeri Jeff Jackson (North Carolina) dan Derek Brown (Utah), Pengerusi Bersama Pasukan Petugas AI bagi Perikatan Peguam Negara.
“Attorney General Alliance menerajui usaha dalam melindungi golongan muda dalam talian dengan menghimpunkan peguam negara, pemimpin industri, organisasi bukan untung dan rakan kongsi global untuk memajukan penyelesaian praktikal dan berpandangan jauh berkaitan AI dan keselamatan digital. Melalui kerjasama dan inovasi, AGA sedang menetapkan standard yang kukuh tentang cara kami melindungi belia sambil menerima teknologi baharu yang sedang muncul secara bertanggungjawab. Kami memuji komitmen berterusan OpenAI terhadap keselamatan serta penglibatannya dengan AGA dan para peguam negara dalam membangunkan rangka tindakan yang amat bernilai bagi keselamatan kanak-kanak.”
—Karen White, Pengarah Eksekutif Perikatan Peguam Negara
“AI generatif sedang mempercepatkan jenayah eksploitasi seksual kanak-kanak dalam talian dengan cara yang amat membimbangkan - merendahkan halangan, meningkatkan skala, dan membolehkan bentuk bahaya baharu. Namun pada masa yang sama, National Center for Missing & Exploited Children (NCMEC) berasa terdorong apabila melihat syarikat seperti OpenAI memikirkan cara alat ini boleh direka bentuk dengan lebih bertanggungjawab, dengan langkah perlindungan yang terbina sejak awal. Tiada satu organisasi, perniagaan atau sektor pun yang boleh menangani perkara ini secara bersendirian. Kami kekal komited untuk bekerjasama dengan rakan kongsi merentas industri, kerajaan dan komuniti perlindungan kanak-kanak bagi memajukan penyelesaian yang mengurangkan bahaya dan lebih menyokong keselamatan kanak-kanakselamanya.”
—Michelle DeLaune, Presiden & Ketua Pegawai Eksekutif (CEO), Pusat Kebangsaan untuk Kanak-Kanak Hilang & Dieksploitasi
