OpenAI mendukung RUU California demi keamanan AI remaja

Oleh Ann O’Leary, Wakil Presiden Kebijakan Global

OpenAI mendukung Rancangan Undang-Undang Senat California 1119, yang menetapkan perlindungan penting bagi penggunaan AI oleh anak muda sekaligus menjaga akses mereka ke berbagai alat yang dapat membantu mereka belajar, berkreasi, dan mempersiapkan masa depan. Dukungan ini melanjutkan komitmen yang dibuat tahun lalu oleh Sam Altman, salah satu pendiri dan CEO OpenAI, saat menjabarkan prinsip-prinsip perusahaan terkait remaja.

Karena belum ada tindakan di tingkat federal, California memiliki peluang untuk menetapkan standar yang kuat bagi keamanan AI untuk anak muda.

Dalam surat kami kepada Gubernur Newsom⁠(terbuka di jendela baru), kami mengapresiasi kepemimpinannya bersama Senator Steve Padilla, anggota Majelis Buffy Wicks dan Rebecca Bauer-Kahan, serta Badan Legislatif California dalam menangani isu penting ini. SB 1119 melanjutkan berbagai langkah keselamatan anak muda yang telah didukung OpenAI melalui produk kami, prinsip kebijakan global, advokasi di California, dan upaya terkait Parents & Kids Safe AI Act. Kami mendorong Gubernur Newsom untuk mengesahkan RUU ini menjadi undang-undang.

Remaja adalah generasi pertama yang tumbuh bersama AI. Hampir sembilan dari sepuluh remaja yang menggunakan ChatGPT memanfaatkannya untuk belajar, mencari informasi, mengembangkan keterampilan, atau meningkatkan produktivitas dalam satu minggu tertentu. Peluang tersebut disertai tanggung jawab yang jelas: pengalaman bagi remaja harus dirancang sesuai kebutuhan perkembangan mereka, dengan perlindungan bawaan yang kuat serta peluang yang tepat untuk belajar, berkreasi, dan bereksplorasi.

Pendekatan tersebut tercermin dalam ChatGPT untuk Remaja yang baru kami luncurkan. Pengalaman ini dirancang untuk membantu pengguna di bawah 18 tahun belajar, berpikir kritis, dan berkarya, sekaligus mendorong penggunaan yang sehat, menyediakan perlindungan bawaan, serta memberi orang tua kendali tambahan. Jika sistem kami memperkirakan seseorang berusia di bawah 18 tahun atau orang tersebut menyatakan bahwa usianya antara 13 dan 17 tahun, ia akan otomatis ditempatkan di ChatGPT untuk Remaja. Perlindungan tersebut merupakan bagian dari pengalaman dasar, bukan pengaturan opsional yang dapat dinonaktifkan pengguna.

Secara lebih luas, kami percaya bahwa remaja dapat memperoleh manfaat dari AI tanpa mengorbankan keselamatan—tujuan yang menjadi inti SB 1119.

SB 1119 memadukan perlindungan yang kuat dengan akses berkelanjutan ke berbagai alat AI yang bermanfaat. Kami sangat mendukung persyaratan utama berikut:

• Menentukan usia pengguna;
• Mengidentifikasi dan menangani risiko keselamatan sebelum menyediakan produk bagi anak muda;
• Menjalani audit independen;
• Melindungi anak muda dari konten berbahaya, termasuk tindakan menyakiti diri sendiri, konten eksploitasi seksual, dan interaksi berisiko tinggi lainnya;
• Memberi orang tua alat untuk mengarahkan dan membatasi penggunaan oleh anak-anak mereka;
• Menghubungkan anak muda dengan layanan dukungan krisis ketika timbul risiko keselamatan yang serius; dan
• Membatasi iklan tertarget dan melindungi informasi pribadi anak muda.

Bagi pengguna yang teridentifikasi berusia 13 hingga 17 tahun, perlindungan ini harus diterapkan secara otomatis. Undang-undang ini akan memadukan akuntabilitas yang nyata dengan perlindungan yang membantu menjaga keselamatan anak muda saat menggunakan AI.

SB 1119 juga mengakui dengan tepat bahwa AI bukanlah media sosial. RUU ini menetapkan perlindungan yang dirancang khusus untuk membantu anak muda menggunakan AI guna belajar, berkreasi, dan bereksplorasi. Dalam mengembangkan kerangka kerja ini, para pembuat kebijakan berupaya mempertahankan akses ke fitur pendidikan dan fitur yang penting bagi keselamatan, termasuk penggunaan fitur memori ChatGPT secara bertanggung jawab, sekaligus mendorong pengalaman yang lebih aman dan sesuai usia bagi remaja.

ChatGPT untuk Remaja mencakup serangkaian fitur yang dirancang khusus untuk membantu remaja belajar, seperti Kuis, Visualisasi Pembelajaran, dan Mode Belajar, yang dikembangkan bersama pendidik dan pakar pembelajaran untuk memandu pelajar menyelesaikan masalah langkah demi langkah. Berbagai alat ini ditujukan untuk memperdalam pemahaman dan membangun kebiasaan belajar yang lebih baik. Fitur yang menggunakan konteks dari percakapan sebelumnya, termasuk memori, membantu menerapkan perlindungan secara konsisten, mengenali pola yang mengkhawatirkan, dan memberikan dukungan belajar yang makin bermanfaat seiring waktu.

Konteks juga membantu berbagai alat keselamatan dan pembelajaran ini bekerja lebih konsisten dari waktu ke waktu. Melalui fitur seperti memori, ChatGPT dapat membawa informasi dan preferensi yang relevan dari percakapan sebelumnya sehingga remaja dapat melanjutkan proyek pembelajaran jangka panjang tanpa harus memulai dari awal. Kesinambungan tersebut juga dapat membantu menghindari penguatan pola yang berbahaya dan mendukung respons yang lebih efektif ketika anak muda mungkin memerlukan bantuan atau sumber daya tambahan.

Menyeimbangkan keselamatan dan pembelajaran bukanlah hal baru bagi kami. Selama setahun terakhir, kami telah menambahkan pengawasan orang tua, prediksi usia, Cetak Biru Keselamatan Remaja, dan Prinsip bagi Pengguna di Bawah 18 Tahun dalam Spesifikasi Model kami—aturan yang memandu perilaku model kami—untuk menetapkan standar baru mengenai cara model berinteraksi dengan anak muda. Aturan tersebut melarang keterlibatan romantis, dorongan untuk bergantung secara emosional, serta klaim bahwa ChatGPT adalah manusia atau memiliki kesadaran. Kami juga menawarkan pengawasan orang tua yang memungkinkan keluarga mengelola pengaturan utama bagi remaja mereka dan menerima notifikasi dalam situasi berisiko tinggi.

SB 1119 menetapkan kerangka kerja yang kuat bagi keamanan AI untuk anak muda di California. Kajian dan kolaborasi berkelanjutan selama penerapan dapat membantu menyempurnakan ketentuan utama dan menjaga efektivitas kerangka kerja ini seiring perkembangan teknologi. OpenAI siap mendukung upaya tersebut dan terus membangun pengalaman AI yang memperlakukan remaja sesuai usia mereka, dengan perlindungan otomatis yang lebih kuat serta peluang nyata untuk belajar dan berkembang.