Memajukan keselamatan dan peluang bagi kaum muda melalui kepemimpinan global

AI dapat menjadi alat yang kuat bagi kaum muda. AI dapat membantu siswa memahami konsep yang sulit, berlatih bahasa baru, mempersiapkan wawancara kerja, mengeksplorasi ide kreatif, atau mempelajari keterampilan baru. Sama seperti gerakan literasi yang menyebar ke seluruh dunia pada pertengahan abad ke-20 membutuhkan distribusi massal teks cetak dan akses ke guru terlatih, saat ini pemberian akses ke AI yang aman akan membuka peluang baru untuk pembelajaran yang dipersonalisasi, membantu mengurangi hambatan bagi kelompok yang kurang terlayani, dan meningkatkan kesiapan tenaga kerja.

Karena potensi manfaatnya begitu signifikan, sangat penting bagi kaum muda untuk dapat mengakses AI dengan cara yang aman, sesuai usia, dan mendukung perkembangan yang sehat. Tanggung jawab itu tidak seharusnya terutama dibebankan kepada orang tua atau kaum muda itu sendiri. Perusahaan, termasuk OpenAI, memiliki tanggung jawab untuk membangun produk dengan perlindungan yang sesuai secara default, sekaligus memberdayakan keluarga dengan alat dan informasi untuk memandu cara AI digunakan.

Ketika para Kepala Negara berkumpul di KTT Pemimpin G7 di Évian, Prancis, akhir bulan ini, topik keselamatan AI bagi kaum muda akan menjadi fokus utama. OpenAI akan bergabung untuk membahas kolaborasi yang lebih besar dalam keselamatan kaum muda, bagaimana kita dapat bekerja sama untuk meningkatkan standar industri, dan seruan baru OpenAI agar dibentuk institut keselamatan kaum muda internasional.

KTT Pemimpin G7 menghadirkan kesempatan langka untuk koordinasi global terkait keselamatan kaum muda. Namun, institut khusus akan memberikan kesinambungan dan tindak lanjut yang diperlukan melampaui satu KTT, membantu pemerintah, peneliti, masyarakat sipil, dan industri terus bekerja sama untuk berbagi bukti, mengembangkan panduan, dan meningkatkan standar dari waktu ke waktu.

Ada beberapa cara kredibel untuk melakukannya: melalui institut internasional baru, atau dengan memberikan mandat global kepada institut AI nasional yang sudah ada atau baru dibentuk untuk berbagi riset, bukti, dan panduan dengan mitra di seluruh dunia. Yang paling penting adalah fungsi yang dijalankannya. Keselamatan AI bagi kaum muda membutuhkan perhatian berkelanjutan, bukti tepercaya, dan panduan praktis yang dapat mengikuti laju teknologi.

Institut semacam itu dapat dibangun di atas berbagai inisiatif yang sedang muncul, seperti Youth AI Safety Institute dari Common Sense Media, yang didukung oleh OpenAI Foundation, serta kolaborasi praktis dengan pendidik, termasuk kerja OpenAI dengan American Federation of Teachers⁠. Institut ini juga harus memanfaatkan penerapan di dunia nyata, seperti peluncuran ChatGPT nasional Estonia di sekolah, di mana OpenAI bekerja sama dengan Stanford dan para peneliti Estonia untuk mempelajari dampaknya dan memberi masukan bagi penggunaan yang lebih aman dan efektif dalam pembelajaran.

OpenAI menyambut kesempatan untuk bekerja sama dengan Pemerintah Prancis, pemerintah G7 lainnya, serta mitra di masyarakat sipil, akademisi, dan industri dalam pekerjaan penting ini serta untuk meningkatkan standar global terkait keselamatan kaum muda.

Kami percaya kerangka keselamatan AI yang kuat bagi kaum muda, termasuk setiap potensi kesepakatan yang dicapai dalam pertemuan G7, harus dipandu oleh prinsip-prinsip yang kami uraikan di sini.

1. Perusahaan harus mengetahui kapan seorang pengguna adalah anak di bawah umur dan menerapkan perlindungan yang sesuai usia. Ini berarti mewajibkan penyedia menggunakan cara seperti estimasi usia yang efektif dan menjaga privasi untuk membedakan anak di bawah umur dari orang dewasa, serta menerapkan perlindungan secara default ketika usia pengguna tidak dapat ditentukan. Tanpa fondasi ini, bahkan perlindungan bagi kaum muda yang paling baik niatnya pun mungkin gagal menjangkau kaum muda yang dimaksudkan untuk dilindungi.
2. Perusahaan harus secara berkala menilai risiko dan manfaat bagi kaum muda serta mengambil langkah untuk menanganinya—sebelum bahaya terjadi. Ini berarti mewajibkan penyedia menyelesaikan penilaian risiko keselamatan kaum muda setiap tahun dan menerapkan perlindungan yang sepadan berdasarkan risiko yang mereka identifikasi. Penilaian tersebut harus mempertimbangkan risiko bagi kaum muda berdasarkan tahap perkembangan mereka, bukti empiris dari penggunaan nyata, dan riset atau panduan regulasi yang relevan. Penilaian tidak hanya harus mempertimbangkan potensi bahaya, tetapi juga apakah AI mendukung hasil positif seperti pembelajaran, kreativitas, pengembangan keterampilan, dan akses ke peluang.
3. Orang tua dan wali harus memiliki kontrol yang mudah diakses dan mudah digunakan untuk membantu mereka memandu pengalaman anak-anak mereka sekaligus mendukung kemandirian yang sesuai usia. Kontrol ini harus mencakup alat untuk mengelola pengaturan utama, termasuk memori, penggunaan data, dan batas waktu. Alat bagi orang tua harus dipromosikan secara aktif agar orang tua tahu bahwa alat tersebut ada dan memahami cara menggunakannya. 
4. Keluarga berhak mendapatkan informasi yang jelas dan mudah dipahami tentang bagaimana perusahaan melindungi pengguna muda serta menyediakan informasi bermakna tentang manfaat dan risiko penggunaan AI oleh kaum muda. Perusahaan harus menerbitkan kebijakan keselamatan yang menjelaskan perlindungan yang diterapkan untuk melindungi kaum muda, alat bagi orang tua yang tersedia, dan bagaimana perlindungan diperbarui seiring berkembangnya risiko. Transparansi ini membangun kepercayaan dan membantu orang tua membuat pilihan yang terinformasi.
5. Perusahaan harus memiliki protokol yang jelas untuk menangani situasi keselamatan serius, termasuk melukai diri sendiri, eksploitasi, grooming, konten eksploitasi seksual, dan interaksi berisiko tinggi lainnya. Ini harus mencakup dukungan dalam layanan, rujukan ke sumber daya yang sesuai, dan pemberitahuan tepat waktu kepada orang tua bila sesuai. Perusahaan juga harus merancang sistem mereka agar tidak menghasilkan konten yang tidak aman atau tidak sesuai perkembangan anak, termasuk materi seksual atau kekerasan yang grafis.  
6. Sistem AI yang digunakan oleh kaum muda harus dirancang untuk mendukung pembelajaran, perkembangan, dan hubungan di dunia nyata—bukan menggantikannya. AI harus berfungsi sebagai alat yang membantu kaum muda belajar, berkreasi, membangun keterampilan, dan mempersiapkan masa depan. Pada saat yang sama, perusahaan harus menetapkan batasan yang jelas di area ketika perkembangan yang sehat bergantung pada penilaian manusia, hubungan di dunia nyata, dan dukungan profesional.
7. Informasi pribadi anak di bawah umur harus dilindungi. Ini berarti melarang iklan tertarget yang invasif terhadap privasi kepada kaum muda, dan melarang perusahaan menjual informasi pribadi.
8. Kerangka keselamatan kaum muda harus mendorong peluang, literasi, dan perlindungan. Kaum muda harus memiliki akses ke alat AI yang mendukung pembelajaran, kreativitas, pengembangan keterampilan, dan peluang masa depan, sekaligus dibekali pengetahuan dan keterampilan berpikir kritis yang diperlukan untuk menggunakan AI secara aman dan bertanggung jawab. Ini mencakup mendorong literasi AI dan membantu kaum muda memahami peluang dan keterbatasan sistem AI, sehingga mereka dapat berpartisipasi dengan percaya diri dan bertanggung jawab di ruang digital.
9. Mekanisme akuntabilitas yang kuat, termasuk audit independen, sangat penting untuk memastikan perlindungan ini bermakna dalam praktik. Audit harus ditopang oleh serangkaian standar bersama yang memungkinkan audit interoperabel lintas yurisdiksi. Kerangka legislatif harus mencakup langkah pengawasan dan penegakan yang memungkinkan pemerintah menilai apakah perusahaan secara efektif menerapkan perlindungan keselamatan kaum muda, memitigasi risiko yang teridentifikasi, dan mematuhi kewajiban keselamatan serta privasi kaum muda.

Prinsip-prinsip ini tercermin dalam cara kami membangun dan mengoperasikan ChatGPT, mulai dari perilaku model dan desain produk hingga masukan pakar dan dukungan di dunia nyata. Kami telah memperkuat perlindungan bagi pengguna di bawah 18 tahun, meluncurkan pengawasan orang tua⁠ dengan pemberitahuan proaktif, dan sistem prediksi usia canggih⁠ sehingga ChatGPT dapat menerapkan perlindungan yang lebih kuat ketika seseorang mungkin berusia di bawah 18 tahun. Spesifikasi model kami, yang menguraikan bagaimana model kami seharusnya berperilaku, juga mencakup prinsip khusus untuk pengguna di bawah 18 tahun⁠(terbuka di jendela baru), dengan memprioritaskan keselamatan remaja, pengalaman yang sesuai usia, dukungan di dunia nyata, dan ekspektasi yang jelas. Dalam praktiknya, ini berarti pagar pembatas yang lebih kuat terkait melukai diri sendiri, aktivitas berbahaya, konten grafis, citra tubuh, dan kerahasiaan, disertai dorongan untuk mencari dukungan luring tepercaya atau sumber daya krisis saat diperlukan. Ketika usia tidak pasti, kami secara default menerapkan perlindungan yang lebih kuat.

AI yang dirancang dengan perlindungan kuat dan ditawarkan dengan panduan yang jelas, serta dukungan dari keluarga dan pendidik, dapat membantu kaum muda memperoleh manfaat secara aman dari alat yang memperluas pembelajaran, kreativitas, dan peluang. AI dapat membantu siswa memahami konsep yang sulit, berlatih bahasa, meningkatkan tulisan mereka, belajar menulis kode, mengorganisasi riset, mengeksplorasi ide kreatif, dan mempersiapkan pekerjaan yang sudah mulai berubah. Melalui Education for Countries⁠, OpenAI bekerja sama dengan pemerintah dan pendidik dalam penerapan berbasis riset, alat pembelajaran yang dilokalkan, dan pelatihan guru agar adopsi AI berlandaskan bukti dan kebutuhan nyata di kelas. Pekerjaan ini sudah mendukung upaya pendidikan nasional bersama negara mitra kami, termasuk Estonia⁠, Yunani⁠, dan Singapura⁠.

Selain berpartisipasi dalam KTT Pemimpin, kami akan membawa OpenAI Forum⁠(terbuka di jendela baru) ke Paris untuk menyelenggarakan percakapan praktis tentang bagaimana pemerintah, peneliti, masyarakat sipil, pendidik, dan industri dapat mengubah tujuan bersama keselamatan kaum muda menjadi perlindungan, standar, dan praktik implementasi yang konkret. Duta Besar Prancis untuk AI dan Urusan Digital, Clara Chappaz, akan bergabung dengan Chief Global Affairs Officer OpenAI Chris Lehane, para pemimpin keselamatan kaum muda dari iRaise/Everyone.AI, dan pakar lainnya untuk berdiskusi tentang bagaimana kaum muda dapat memperoleh manfaat dari AI sambil mengurangi risiko.