Memajukan keselamatan dan peluang belia melalui kepimpinan global

AI boleh menjadi alat yang berkuasa untuk golongan muda. Ia boleh membantu pelajar memahami konsep yang sukar, berlatih bahasa baharu, membuat persediaan untuk temu duga kerja, meneroka idea kreatif atau mempelajari kemahiran baharu. Sama seperti gerakan literasi yang tersebar di seluruh dunia pada pertengahan abad ke-20 memerlukan pengedaran besar-besaran teks bercetak dan akses kepada guru terlatih, hari ini penyediaan akses kepada AI yang selamat akan membuka peluang baharu untuk pembelajaran diperibadikan, membantu mengurangkan halangan bagi golongan kurang mendapat perkhidmatan dan meningkatkan kesediaan tenaga kerja.

Oleh sebab manfaat potensinya begitu besar, golongan muda perlu dapat mengakses AI dengan cara yang selamat, sesuai dengan usia dan menyokong perkembangan yang sihat. Tanggungjawab itu tidak seharusnya terletak terutamanya pada ibu bapa atau golongan muda sendiri. Syarikat, termasuk OpenAI, bertanggungjawab untuk membina produk dengan perlindungan yang sesuai secara lalai, sambil memperkasa keluarga dengan alat dan maklumat untuk membimbing cara AI digunakan.

Apabila Ketua Negara berkumpul di Sidang Kemuncak Pemimpin G7 di Évian, Perancis, lewat bulan ini, topik keselamatan AI untuk belia akan menjadi tumpuan utama. OpenAI akan turut serta untuk membincangkan kerjasama yang lebih besar mengenai keselamatan belia, cara kita boleh bekerjasama untuk meningkatkan piawaian industri dan seruan baharu OpenAI agar sebuah institut keselamatan belia antarabangsa ditubuhkan.

Sidang Kemuncak Pemimpin G7 mewakili peluang yang jarang berlaku untuk penyelarasan global mengenai keselamatan belia. Namun sebuah institut khusus akan menyediakan kesinambungan dan tindakan susulan yang diperlukan melangkaui satu sidang kemuncak, membantu kerajaan, penyelidik, masyarakat sivil dan industri terus bekerjasama untuk berkongsi bukti, membangunkan panduan dan meningkatkan piawaian dari semasa ke semasa.

Terdapat beberapa cara yang boleh dipercayai untuk melakukannya: melalui institut antarabangsa baharu atau dengan memberikan mandat global kepada institut AI kebangsaan yang sedia ada atau baharu ditubuhkan untuk berkongsi penyelidikan, bukti dan panduan dengan rakan kongsi di seluruh dunia. Perkara yang paling penting ialah fungsi yang dijalankannya. Keselamatan AI untuk belia memerlukan perhatian berterusan, bukti yang dipercayai dan panduan praktikal yang dapat seiring dengan teknologi.

Institut sedemikian boleh membina atas inisiatif yang sedang muncul seperti Institut Keselamatan AI Belia Common Sense Media, yang disokong oleh Yayasan OpenAI, serta kerjasama praktikal dengan pendidik, termasuk kerja OpenAI dengan Persekutuan Guru Amerika⁠. Ia juga harus memanfaatkan pelaksanaan dunia sebenar, seperti pelancaran ChatGPT kebangsaan Estonia di sekolah, di mana OpenAI bekerjasama dengan penyelidik Stanford dan Estonia untuk mengkaji kesan dan memaklumkan penggunaan yang lebih selamat dan berkesan dalam pembelajaran.

OpenAI mengalu-alukan peluang untuk bekerjasama dengan Kerajaan Perancis, kerajaan G7 yang lain, dan rakan kongsi merentas masyarakat sivil, akademia dan industri dalam kerja penting ini serta meningkatkan piawaian global mengenai keselamatan belia.

Kami percaya rangka kerja keselamatan AI yang kukuh untuk belia, termasuk sebarang perjanjian berpotensi yang dicapai dalam perhimpunan G7, harus dipimpin oleh prinsip yang kami nyatakan di sini.

1. Syarikat harus mengetahui apabila pengguna ialah individu bawah umur dan menerapkan perlindungan yang sesuai dengan usia. Ini bermakna mewajibkan penyedia menggunakan kaedah seperti anggaran usia yang berkesan dan memelihara privasi untuk membezakan individu bawah umur daripada orang dewasa, serta menetapkan perlindungan keselamatan sebagai lalai apabila usia pengguna tidak dapat ditentukan. Tanpa asas ini, perlindungan belia yang paling berniat baik sekalipun mungkin gagal sampai kepada golongan muda yang ingin dilindungi.
2. Syarikat harus menilai risiko dan manfaat untuk golongan muda secara berkala serta mengambil langkah untuk menanganinya—sebelum kemudaratan berlaku. Ini bermakna mewajibkan penyedia melengkapkan penilaian risiko keselamatan belia tahunan dan melaksanakan perlindungan yang seimbang berdasarkan risiko yang dikenal pasti. Penilaian sedemikian harus mempertimbangkan risiko kepada golongan muda berdasarkan tahap perkembangan mereka, bukti empirikal daripada penggunaan sebenar dan penyelidikan atau panduan kawal selia yang berkaitan. Penilaian harus mempertimbangkan bukan sahaja potensi kemudaratan, tetapi juga sama ada AI menyokong hasil positif seperti pembelajaran, kreativiti, pembangunan kemahiran dan akses kepada peluang.
3. Ibu bapa dan penjaga harus mempunyai kawalan yang mudah diakses dan mudah digunakan untuk membantu mereka membimbing pengalaman anak-anak sambil menyokong kebebasan yang sesuai dengan usia. Ini harus termasuk alat untuk mengurus tetapan utama, termasuk memori, penggunaan data dan had masa. Alat ibu bapa harus dipromosikan secara aktif supaya ibu bapa tahu ia wujud dan memahami cara untuk menggunakannya. 
4. Keluarga berhak mendapat maklumat yang jelas dan mudah difahami tentang cara syarikat melindungi pengguna muda serta menyediakan maklumat bermakna tentang manfaat dan risiko penggunaan AI oleh golongan muda. Syarikat harus menerbitkan dasar keselamatan yang menjelaskan perlindungan yang tersedia untuk melindungi golongan muda, alat ibu bapa yang tersedia dan cara perlindungan dikemas kini apabila risiko berubah. Ketelusan ini membina kepercayaan dan membantu ibu bapa membuat pilihan termaklum.
5. Syarikat harus mempunyai protokol yang jelas untuk menangani situasi keselamatan serius termasuk mencederakan diri, eksploitasi, pemujukan untuk tujuan eksploitasi, kandungan eksploitasi seksual dan interaksi berisiko tinggi yang lain. Ini harus termasuk sokongan dalam perkhidmatan, rujukan kepada sumber yang sesuai dan pemberitahuan ibu bapa tepat pada masanya apabila sesuai. Syarikat juga harus mereka bentuk sistem mereka untuk menghalangnya daripada menghasilkan kandungan yang tidak selamat atau tidak sesuai dengan perkembangan kanak-kanak, termasuk grafik seksual atau bahan yang ganas.  
6. Sistem AI yang digunakan oleh golongan muda harus direka bentuk untuk menyokong pembelajaran, perkembangan dan hubungan dunia sebenar—bukan menggantikannya. AI harus berfungsi sebagai alat yang membantu golongan muda belajar, mencipta, membina kemahiran dan bersedia untuk masa depan. Pada masa yang sama, syarikat harus menetapkan sempadan yang jelas dalam bidang di mana perkembangan sihat bergantung pada pertimbangan manusia, hubungan dunia sebenar dan sokongan profesional.
7. Maklumat peribadi individu bawah umur harus dilindungi. Ini bermakna melarang pengiklanan bersasar yang menceroboh privasi kepada golongan muda dan menghalang syarikat daripada menjual maklumat peribadi.
8. Rangka kerja keselamatan belia harus menggalakkan peluang, literasi dan perlindungan. Golongan muda harus mempunyai akses kepada alat AI yang menyokong pembelajaran, kreativiti, pembangunan kemahiran dan peluang masa depan, sambil turut dilengkapi dengan pengetahuan dan kemahiran berfikir kritikal yang diperlukan untuk menggunakan AI dengan selamat dan bertanggungjawab. Ini termasuk menggalakkan literasi AI dan membantu golongan muda memahami peluang serta batasan sistem AI, supaya mereka dapat terlibat dengan yakin dan bertanggungjawab dalam ruang digital.
9. Mekanisme kebertanggungjawapan yang kukuh, termasuk audit bebas, adalah penting untuk memastikan perlindungan ini bermakna dalam amalan. Audit harus disokong oleh satu set piawaian bersama yang membolehkan audit saling kendali merentas bidang kuasa. Rangka kerja perundangan harus merangkumi langkah pengawasan dan penguatkuasaan yang membolehkan kerajaan menilai sama ada syarikat melaksanakan perlindungan keselamatan belia dengan berkesan, mengurangkan risiko yang dikenal pasti dan mematuhi kewajipan keselamatan dan privasi belia.

Prinsip ini dicerminkan dalam cara kami membina dan mengendalikan ChatGPT, daripada tingkah laku model dan reka bentuk produk hingga input pakar dan sokongan dunia sebenar. Kami telah memperkukuh perlindungan untuk pengguna bawah 18 tahun, melancarkan kawalan ibu bapa⁠ dengan pemberitahuan proaktif dan sistem ramalan usia yang maju⁠ supaya ChatGPT boleh menerapkan perlindungan yang lebih kukuh apabila seseorang mungkin berusia bawah 18 tahun. Spesifikasi Model kami, yang menggariskan cara model kami harus bertingkah laku, turut merangkumi prinsip khusus untuk pengguna bawah 18 tahun⁠(dibuka dalam tetingkap baru), dengan mengutamakan keselamatan remaja, pengalaman sesuai usia, sokongan dunia sebenar dan jangkaan yang jelas. Dalam amalan, ini bermakna pagar keselamatan yang lebih kukuh sekitar mencederakan diri, aktiviti berbahaya, kandungan grafik, imej tubuh dan kerahsiaan, bersama galakan untuk mendapatkan sokongan luar talian yang dipercayai atau sumber krisis apabila diperlukan. Apabila usia tidak pasti, kami menetapkan perlindungan yang lebih kukuh sebagai lalai.

AI yang direka dengan perlindungan kukuh dan ditawarkan bersama panduan yang jelas dan sokongan daripada keluarga dan pendidik, boleh membantu golongan muda meraih manfaat dengan selamat daripada alat yang memperluas pembelajaran, kreativiti dan peluang. AI boleh membantu pelajar memahami konsep sukar, berlatih bahasa, memperbaik penulisan mereka, belajar mengekod, mengatur penyelidikan, meneroka idea kreatif dan bersedia untuk pekerjaan yang sudah berubah. Melalui Pendidikan untuk Negara⁠, OpenAI bekerjasama dengan kerajaan dan pendidik dalam pelaksanaan berasaskan penyelidikan, alat pembelajaran setempat, dan latihan guru supaya penerimaan AI berasaskan bukti serta keperluan bilik darjah sebenar. Kerja ini sudah menyokong usaha pendidikan nasional bersama negara rakan kongsi kami termasuk Estonia⁠, Greece⁠ dan Singapura⁠.

Selain penyertaan dalam Sidang Kemuncak Pemimpin, kami akan membawa ForumOpenAI Forum⁠(dibuka dalam tetingkap baru) ke Paris untuk menghimpunkan perbualan praktikal tentang cara kerajaan, penyelidik, masyarakat sivil, pendidik dan industri boleh menukar matlamat bersama keselamatan belia kepada perlindungan, piawaian dan amalan pelaksanaan yang kukuh. Duta Perancis untuk AI dan Hal Ehwal Digital, Clara Chappaz, akan menyertai Ketua Pegawai Hal Ehwal Global OpenAI Chris Lehane, pemimpin keselamatan belia daripada iRaise/Everyone.AI dan pakar lain untuk perbincangan tentang cara golongan muda boleh mendapat manfaat daripada AI sambil mengurangkan risiko.