Mengapa remaja berhak mengakses AI yang aman

Remaja adalah generasi pertama yang tumbuh bersama AI, dan teknologi ini akan sangat membentuk masa depan mereka. Saat ini, hampir 9 dari 10 remaja di ChatGPT menggunakannya untuk belajar, mencari informasi, membangun keterampilan, atau meningkatkan produktivitas dalam satu minggu. Karena itu, kami percaya akses remaja ke AI sangat penting. Melarang remaja menggunakannya hingga dewasa akan seperti meminta generasi sebelumnya menghindari internet atau mesin pencari sampai berusia 18 tahun, sehingga mereka kurang siap menggunakan salah satu teknologi paling menentukan pada masanya. Namun, akses harus disertai perlindungan yang dirancang khusus untuk remaja.

Dalam OpenAI Academy⁠(terbuka di jendela baru) baru-baru ini, Oriana McKenzie menceritakan bagaimana ChatGPT membantunya menjadi peringkat 1 di kelas SMA dengan belajar lebih cerdas dan mengelola beban tugasnya—sehingga ia punya waktu untuk mengikuti olahraga dan program sekolah yang ia sukai. Kisahnya menunjukkan apa yang mungkin terjadi ketika remaja memiliki akses ke AI yang membantu mereka belajar dan berkreasi.

Untuk memaksimalkan manfaat tersebut, remaja membutuhkan perlindungan lebih kuat yang dirancang sesuai tahap kehidupan mereka, termasuk batasan pengamanan otomatis yang memungkinkan mereka bereksplorasi, belajar, dan berkarya dengan percaya diri, sambil menyediakan perlindungan yang sesuai dengan usia mereka. Seiring AI menjadi makin mampu, tanggung jawab kami adalah memadukan akses luas dengan perlindungan sesuai usia agar remaja dapat memperoleh manfaat dari teknologi ini saat terus berkembang.

Selama setahun terakhir, ini berarti memperkuat perlindungan default untuk remaja, meluncurkan prediksi usia⁠, memperluas pengawasan orang tua⁠, membuat sumber daya keluarga⁠(terbuka di jendela baru) tambahan untuk membantu orang tua mendukung penggunaan yang sehat dan bertanggung jawab, serta memperkenalkan fitur belajar yang membantu mendukung pemahaman lebih mendalam, bukan sekadar memberikan jawaban.

Pekerjaan kami dipandu oleh empat komitmen utama⁠:

• Kami mengutamakan keamanan remaja, bahkan ketika hal itu mungkin bertentangan dengan tujuan lain.
• Kami mendorong dukungan di dunia nyata saat dibutuhkan.
• Kami memperlakukan remaja sebagai remaja.
• Kami bersikap transparan dengan menetapkan ekspektasi yang jelas.

Belajar adalah salah satu cara paling jelas bagi remaja untuk memperoleh manfaat dari AI, sehingga kami membangun alat yang mendorong keterlibatan aktif, berpikir kritis, dan pemahaman yang lebih mendalam. Mode Belajar⁠(terbuka di jendela baru) dirancang bekerja sama dengan guru, ilmuwan pembelajaran, dan pakar pedagogi untuk membantu siswa menyelesaikan masalah langkah demi langkah dengan pertanyaan pemandu, penjelasan terstruktur, dan kesempatan refleksi tanpa sekadar memberikan jawaban. Evaluasi awal terhadap alat seperti Mode Belajar menunjukkan peningkatan yang menjanjikan dalam performa siswa⁠, yang membantu mengarahkan riset kami yang lebih luas tentang bagaimana AI dapat mendukung hasil belajar.

Meskipun remaja dapat mengaktifkan mode ini sendiri, kini orang tua dengan akun remaja yang tertaut dapat mengaktifkan Mode Belajar⁠ langsung dari pengawasan orang tua⁠. Saat diaktifkan, fitur ini menyala secara default setiap kali remaja memulai obrolan baru, memberi keluarga cara lain untuk mengarahkan penggunaan ChatGPT untuk tugas sekolah dan belajar.

Kami juga baru-baru ini memperkenalkan prompt awal berfokus pendidikan untuk remaja agar lebih mudah memulai tugas seperti menguraikan topik menjadi langkah sederhana, mengubah catatan menjadi panduan belajar, membuat kartu belajar atau soal latihan, serta memeriksa bukti dan kejelasan.

Kami juga terus memperluas pengalaman belajar interaktif⁠. Riset secara konsisten menunjukkan⁠ bahwa orang belajar lebih efektif ketika mereka dapat terlibat aktif dengan konsep, bukan hanya mengonsumsi informasi secara pasif. Sejak diluncurkan awal tahun ini, kini 18 juta pengguna mingguan terlibat dengan pengalaman matematika dan sains interaktif di ChatGPT, dan kami telah memperluas pengalaman tersebut ke lebih dari 250 topik baru, dari integral dan mitosis hingga fase bulan, fotosintesis, dan banyak lagi. Kami juga memperkenalkan fitur latihan pelafalan yang menggunakan audio untuk membantu orang belajar mengucapkan kata dalam lebih dari 61 bahasa.

Jika sistem kami memperkirakan seseorang yang menggunakan ChatGPT berusia di bawah 18 tahun,⁠ kami otomatis menyediakan pengalaman yang lebih sesuai usia⁠(terbuka di jendela baru). Remaja tetap dapat menggunakan ChatGPT untuk belajar, berkreasi, dan bereksplorasi, tetapi dengan perlindungan tambahan yang dirancang untuk mengurangi paparan terhadap konten yang mungkin tidak sesuai bagi mereka. Ini mencakup perlindungan yang lebih kuat terkait kekerasan grafis, tindakan menyakiti diri, tantangan viral berisiko, konten citra tubuh yang tidak sehat, serta permainan peran yang berbahaya, romantis, atau seksual. Tujuan utamanya adalah membantu memastikan ChatGPT tetap menjadi alat untuk belajar dan kreativitas, bukan pengganti hubungan di dunia nyata.

Kami juga merancang ChatGPT untuk mendorong kebiasaan yang sehat. Remaja yang menghabiskan waktu lama di ChatGPT kini akan menerima pengingat istirahat⁠ lebih sering yang mendorong mereka untuk berhenti sejenak dan menjauh. Pengingat ini dimaksudkan untuk membantu anak muda membangun kebiasaan teknologi yang seimbang, sambil tetap memberi mereka kebebasan menggunakan AI untuk belajar, berkreasi, dan memecahkan masalah.

Kami percaya alat keamanan terbaik dapat membantu keluarga menavigasi pengalaman online remaja bersama-sama. Kami membangun pengawasan orang tua dan notifikasi⁠ yang memungkinkan mereka menetapkan jam tenang, menonaktifkan mode suara, mengelola akses ke pembuatan gambar, dan menerima notifikasi dalam situasi berisiko tinggi tertentu, seperti tanda-tanda potensi tindakan menyakiti diri.

Kami memperluas notifikasi tersebut agar mencakup kasus ketika akun remaja tertaut telah dinonaktifkan karena melanggar kebijakan penggunaan kami⁠ terkait ancaman kekerasan atau tindakan kekerasan online. Pendekatan ini membantu orang tua mengetahui ketika sesuatu yang serius terjadi, sambil menghormati privasi remaja dan mendorong percakapan serta dukungan secara offline.

Saat mengembangkan fitur-fitur ini, kami berkonsultasi dengan beberapa pakar, termasuk Moonshot⁠(terbuka di jendela baru), pemimpin dalam pencegahan kekerasan online, untuk membantu memastikan intervensi ini bijaksana, efektif, dan berfokus pada membantu keluarga merespons saat dibutuhkan.

Kami juga ingin memastikan orang tua, remaja, dan pendidik memiliki panduan yang jelas tentang cara terbaik menggunakan AI secara bertanggung jawab. Kami menerbitkan sumber daya edukatif dalam lebih dari 50 bahasa, termasuk Panduan Keluarga untuk Membantu Remaja Menggunakan AI Secara Bertanggung Jawab⁠(terbuka di jendela baru), Kiat berbicara dengan remaja Anda tentang AI⁠(terbuka di jendela baru), dan Kiat bagi orang tua yang menggunakan ChatGPT⁠(terbuka di jendela baru).

Menjaga keamanan anak muda saat online bukanlah sesuatu yang dapat dilakukan satu perusahaan sendirian. Kami bekerja erat dengan remaja, orang tua, pendidik, pakar keamanan anak, profesional kesehatan mental, peneliti, pemerintah, dan organisasi masyarakat sipil. Kemitraan ini membantu kami lebih memahami kebutuhan anak muda, mengidentifikasi risiko yang muncul, mengevaluasi efektivitas perlindungan kami, dan memastikan kebijakan kami didasarkan pada keahlian independen.

Pekerjaan ini mencakup pendekatan kami terhadap pembelajaran dan kesejahteraan anak muda. Kami berkolaborasi dengan pendidik, termasuk American Federation of Teachers⁠, siswa, dan organisasi pembelajaran untuk lebih memahami bagaimana AI dapat mendukung pengajaran dan pembelajaran sambil memperkuat keterlibatan aktif dan berpikir kritis. Kami juga bekerja erat dengan para pakar di komunitas kesehatan mental, perkembangan anak, dan keamanan anak muda, termasuk American Psychological Association⁠(terbuka di jendela baru), Global Physicians Network⁠ kami, dan Expert Council on Well-Being and AI⁠ kami.

Upaya kami membangun ekosistem digital yang lebih sehat melampaui produk kami sendiri. Kami telah menyerukan pengembangan standar global keamanan AI bagi anak muda⁠ yang dapat diskalakan melalui AI Safety Institute khusus, kebijakan dan alat sumber terbuka⁠ yang dapat dibangun pengembang ke dalam sistem AI mereka sendiri, serta bekerja dengan organisasi termasuk Common Sense Media⁠(terbuka di jendela baru) dan everyone.ai⁠(terbuka di jendela baru) untuk berbagi pembelajaran dan praktik terbaik.

Tahun ini, kami juga bergabung dengan Family Online Safety Institute⁠(terbuka di jendela baru) (FOSI), organisasi yang telah lama memperjuangkan pengalaman online yang aman bagi keluarga dan anak muda. Kami akan bekerja sama untuk memastikan anak muda dapat memperoleh manfaat dari AI, dengan orang tua yang berdaya dan praktik industri yang bertanggung jawab sebagai pusatnya. Kami berharap kemitraan ini akan membantu memajukan pemahaman bersama tentang apa yang berhasil, memperkuat perlindungan sesuai usia dan alat bagi orang tua, serta mendukung upaya lintas industri yang memungkinkan anak muda memperoleh manfaat dari AI dengan aman dan bertanggung jawab.

Melindungi anak muda secara online membutuhkan kemajuan yang berkelanjutan. Dalam beberapa bulan mendatang, kami akan terus memperkuat perlindungan sesuai usia, memberi orang tua lebih banyak alat dan kendali, meningkatkan perlindungan terhadap bahaya serius, memajukan riset tentang penggunaan AI yang sehat, dan membangun lebih banyak pengalaman yang membantu remaja belajar secara aktif serta menggunakan AI dengan percaya diri.

Kami tahu masih banyak yang harus dilakukan, dan kami berkomitmen untuk terus bekerja sama dengan remaja, orang tua, pendidik, pakar, dan komunitas di seluruh dunia demi menghadirkan akses luas yang aman bagi remaja.