Memperkenalkan Cetak Biru Keamanan Anak
Kerangka kerja untuk memerangi dan mencegah Eksploitasi Seksual Anak berbasis AI
Eksploitasi seksual anak merupakan salah satu tantangan paling mendesak di era digital. AI secara pesat mengubah, baik cara munculnya dampak-dampak berbahaya ini di seluruh industri, maupun cara penanganannya dalam skala besar.
Di OpenAI, kami telah membangun dan terus memperkuat langkah-langkah pengamanan untuk mencegah penyalahgunaan sistem kami, dan kami bekerja sama erat dengan mitra seperti National Center for Missing and Exploited Children (NCMEC) dan aparat penegak hukum untuk meningkatkan deteksi dan pelaporan. Upaya ini telah membantu mengungkap di mana standar bersama yang lebih kuat diperlukan di seluruh industri.
Hari ini, kami memperkenalkan cetak biru kebijakan yang menguraikan langkah praktis ke depan guna memperkuat kerangka perlindungan anak AS di era AI. Cetak biru ini mencerminkan dan menggabungkan umpan balik dari beberapa organisasi dan pakar terkemuka di seluruh ekosistem keamanan anak, termasuk NCMEC, Attorney General Alliance dan para ketua bersama Satuan Tugas AI-nya—Kepala Kejaksaan Tinggi negara bagian North Carolina Jeff Jackson dan Kepala Kejaksaan Tinggi negara bagian Utah Derek Brown—serta Thorn untuk memastikan bahwa cetak biru ini mencerminkan prioritas mereka dan dapat memfasilitasi kolaborasi yang lebih efektif untuk mencegah bahaya terhadap anak-anak.
Cetak biru ini berfokus pada tiga prioritas utama: memodernisasi undang-undang untuk menangani CSAM yang dihasilkan dan diubah oleh AI, meningkatkan pelaporan dan koordinasi penyedia untuk mendukung investigasi yang lebih efektif, serta membangun langkah-langkah keamanan sejak awal secara langsung ke dalam sistem AI untuk mencegah dan mendeteksi penyalahgunaan.
Tidak ada satu intervensi pun yang dapat mengatasi tantangan ini sendirian. Kerangka kerja ini menggabungkan pendekatan hukum, operasional, dan teknis agar dapat mengidentifikasi risiko dengan lebih baik, mempercepat respons, dan mendukung akuntabilitas, sekaligus memastikan bahwa aparat penegak hukum tetap kuat seiring dengan perkembangan teknologi.
Bersama-sama, langkah-langkah ini memungkinkan industri untuk menangani keamanan anak lebih dini dan lebih efektif. Dengan menghentikan upaya eksploitasi lebih dini, meningkatkan kualitas sinyal yang dikirim kepada aparat penegak hukum, dan memperkuat akuntabilitas di seluruh ekosistem, kerangka kerja ini bertujuan untuk mencegah bahaya sebelum terjadi dan membantu memastikan perlindungan yang lebih cepat bagi anak-anak ketika risiko muncul.
“Sebagai salah satu ketua Satuan Tugas AI milik Attorney General Alliance, kami menyambut cetak biru ini sebagai langkah berarti menuju penyelarasan praktik keamanan anak di sektor teknologi dengan realitas penegakan hukum yang dihadapi kantor kami setiap hari. Kami sangat terdorong oleh pengakuan kerangka kerja tersebut bahwa perlindungan GenAI yang efektif memerlukan pertahanan berlapis — bukan satu kontrol teknis tunggal, melainkan kombinasi dari deteksi, mekanisme penolakan, pengawasan manusia, dan adaptasi berkelanjutan terhadap pola penyalahgunaan yang baru muncul. Ini mencerminkan apa yang kami lihat dalam praktik: ancaman terus berkembang, dan solusi statis tidaklah mencukupi. Memastikan arsitektur pencegahan di hulu berjalan dengan benar merupakan investasi dengan manfaat tertinggi yang dapat dilakukan industri dalam hal keamanan anak.
Pada akhirnya, kekuatan kerangka kerja sukarela apa pun bergantung pada spesifisitas komitmen-komitmennya serta kesediaan industri untuk dimintai pertanggungjawaban atas komitmen-komitmen tersebut. Kami menantikan kelanjutan kerja sama dengan OpenAI, NCMEC, dan rekan-rekan kepala kejaksaan tinggi kami untuk memastikan rekomendasi ini diwujudkan menjadi perlindungan yang berkelanjutan bagi anak-anak.”
—Kepala Kejaksaan Tinggi negara bagian Jeff Jackson (North Carolina) dan Derek Brown (Utah), Ketua Bersama Satuan Tugas AI dari Attorney General Alliance.
“Attorney General Alliance (AGA) memimpin upaya dalam melindungi kaum muda di dunia maya dengan menghimpun para kepala kejaksaan tinggi, pemimpin industri, organisasi nirlaba, dan mitra global untuk mendorong solusi yang praktis dan berwawasan ke depan terkait AI dan keamanan digital. Melalui kolaborasi dan inovasi, AGA menetapkan standar yang kuat terkait cara kita melindungi kaum muda sambil merangkul teknologi baru secara bertanggung jawab. “Kami mengapresiasi komitmen berkelanjutan OpenAI terhadap keamanan serta keterlibatannya dengan AGA dan para kepala kejaksaan tinggi dalam mengembangkan cetak biru yang sangat berharga untuk keamanan anak.”
—Karen White, Direktur Eksekutif Attorney General Alliance
“AI generatif mempercepat kejahatan eksploitasi seksual anak secara online dengan cara yang sangat mengkhawatirkan - menurunkan hambatan, meningkatkan skala, dan memungkinkan bentuk-bentuk bahaya baru. Namun pada saat yang sama, National Center for Missing & Exploited Children (NCMEC) terdorong melihat perusahaan seperti OpenAI merefleksikan bagaimana alat-alat ini dapat dirancang secara lebih bertanggung jawab, dengan perlindungan yang dibangun sejak awal. Tidak ada satu organisasi, bisnis, atau sektor pun yang dapat mengatasi hal ini sendirian. Kami tetap berkomitmen untuk bekerja sama dengan para mitra di seluruh industri, pemerintah, dan komunitas perlindungan anak untuk memajukan solusi yang mengurangi bahaya dan memberikan dukungan yang lebih baik bagi keamanan anak-anak.”
—Michelle DeLaune, Presiden & CEO, National Center for Missing & Exploited Children
