OpenAI menyokong rang undang-undang California demi meningkatkan keselamatan AI belia

Oleh Ann O’Leary, Naib Presiden, Dasar Global

OpenAI menyokong Rang Undang-Undang Senat California 1119, iaitu perundangan yang menetapkan perlindungan bermakna bagi penggunaan AI oleh golongan muda, sambil mengekalkan akses mereka kepada alat yang dapat membantu mereka belajar, berkarya dan membuat persediaan untuk masa hadapan. Sokongan ini berasaskan komitmen yang dibuat tahun lalu oleh Sam Altman, pengasas bersama dan Ketua Pegawai Eksekutif OpenAI, semasa menggariskan prinsip syarikat berhubung remaja.

Tanpa tindakan di peringkat persekutuan, California berpeluang menetapkan piawaian yang kukuh untuk keselamatan AI belia.

Dalam surat kami kepada Gabenor Newsom⁠(dibuka dalam tetingkap baru), kami memuji kepimpinan beliau, Senator Steve Padilla, Ahli Dewan Undangan Buffy Wicks dan Rebecca Bauer-Kahan, serta Badan Perundangan California dalam isu penting ini. SB 1119 memperkukuh langkah keselamatan belia yang disokong OpenAI melalui produk kami, prinsip dasar global, usaha advokasi di California dan kerja berkaitan Akta AI Selamat untuk Ibu Bapa & Kanak-kanak. Kami menggalakkan Gabenor Newsom menandatangani rang undang-undang ini untuk menjadikannya undang-undang.

Remaja ialah generasi pertama yang membesar bersama AI. Hampir sembilan daripada sepuluh remaja yang menggunakan ChatGPT memanfaatkannya untuk belajar, mendapatkan maklumat, membina kemahiran atau meningkatkan produktiviti pada sesuatu minggu. Peluang itu disertai tanggungjawab yang jelas: pengalaman untuk remaja perlu direka mengikut keperluan perkembangan mereka yang tersendiri, dengan perlindungan lalai yang kukuh serta peluang yang sesuai untuk belajar, berkarya dan meneroka.

Pendekatan itu diterapkan dalam ChatGPT untuk Remaja yang baru kami lancarkan. Ia direka untuk membantu pengguna bawah 18 tahun belajar, berfikir secara kritis dan menghasilkan sesuatu, sambil menggalakkan penggunaan yang sihat, menyediakan perlindungan terbina dalam dan memberi ibu bapa kawalan tambahan. Jika sistem kami menganggarkan seseorang berusia bawah 18 tahun atau mereka menyatakan usia antara 13 hingga 17 tahun, mereka akan ditempatkan secara automatik dalam ChatGPT untuk Remaja. Perlindungan tersebut merupakan sebahagian daripada pengalaman asas, bukannya tetapan pilihan yang boleh dimatikan oleh pengguna.

Secara lebih luas, kami percaya bahawa remaja boleh mendapat manfaat daripada AI tanpa mengorbankan keselamatan—matlamat yang menjadi teras SB 1119.

SB 1119 menggabungkan perlindungan yang kukuh dengan akses berterusan kepada alat AI yang berguna. Kami amat menyokong keperluan utama berikut:

• Menentukan usia pengguna;
• Mengenal pasti dan menangani risiko keselamatan sebelum menyediakan produk kepada golongan muda;
• Menjalani audit bebas;
• Melindungi golongan muda daripada kandungan berbahaya, termasuk kandungan berkaitan perbuatan mencederakan diri, eksploitasi seksual dan interaksi berisiko tinggi yang lain;
• Memberi ibu bapa alat untuk membimbing dan mengehadkan penggunaan oleh anak mereka;
• Menghubungkan golongan muda dengan sumber sokongan krisis apabila timbul risiko keselamatan yang serius; dan
• Mengehadkan pengiklanan bersasar dan melindungi maklumat peribadi golongan muda.

Bagi pengguna yang dikenal pasti berusia antara 13 hingga 17 tahun, perlindungan ini harus digunakan secara automatik. Perundangan ini akan menggabungkan kebertanggungjawaban yang bermakna dengan perlindungan untuk membantu melindungi golongan muda semasa mereka menggunakan AI.

SB 1119 turut mengiktiraf sewajarnya bahawa AI bukan media sosial. Rang undang-undang ini menetapkan perlindungan yang disesuaikan untuk membantu golongan muda menggunakan AI bagi tujuan belajar, berkarya dan meneroka. Semasa membangunkan rangka kerja ini, pembuat dasar berusaha mengekalkan akses kepada ciri pendidikan dan ciri yang penting untuk keselamatan, termasuk penggunaan ciri memori ChatGPT secara bertanggungjawab, sambil menggalakkan pengalaman yang lebih selamat dan bersesuaian dengan usia remaja.

ChatGPT untuk Remaja merangkumi pelbagai ciri yang disesuaikan khusus untuk membantu remaja belajar, seperti Kuiz, Visualisasi Pembelajaran dan Mod Belajar, yang dibangunkan bersama pendidik serta pakar pembelajaran untuk membimbing pelajar menyelesaikan masalah langkah demi langkah. Alat ini bertujuan memperdalam pemahaman dan menyokong tabiat pembelajaran yang lebih baik. Ciri yang menggunakan konteks daripada perbualan terdahulu, termasuk memori, membantu menerapkan perlindungan secara konsisten, mengenal pasti corak yang membimbangkan dan memberikan sokongan pembelajaran yang lebih berguna dari semasa ke semasa.

Konteks juga membantu alat keselamatan dan pembelajaran ini berfungsi dengan lebih konsisten dari semasa ke semasa. Melalui ciri seperti memori, ChatGPT boleh membawa maklumat dan keutamaan yang relevan daripada perbualan terdahulu, membolehkan remaja meneruskan projek pembelajaran jangka panjang tanpa perlu bermula semula. Kesinambungan itu juga dapat membantu mengelakkan pengukuhan corak berbahaya dan menyokong tindak balas yang lebih berkesan apabila seseorang remaja mungkin memerlukan bantuan atau sumber tambahan.

Mengimbangi keselamatan dan pembelajaran bukan perkara baharu bagi kami. Sepanjang tahun lalu, kami telah menambahkan kawalan ibu bapa, ramalan usia, Rangka Tindakan Keselamatan Remaja kami dan Prinsip Bawah 18 Tahun dalam spesifikasi model kami—peraturan yang memandu tingkah laku model kami—untuk menetapkan piawaian baharu bagi interaksi model dengan golongan muda. Peraturan tersebut melarang hubungan romantik, galakan kebergantungan emosi serta dakwaan bahawa ChatGPT ialah manusia atau mempunyai kesedaran. Kami turut menawarkan kawalan ibu bapa yang membolehkan keluarga mengurus tetapan utama untuk remaja mereka dan menerima pemberitahuan dalam situasi berisiko tinggi.

SB 1119 menetapkan rangka kerja yang kukuh untuk keselamatan AI belia di California. Kajian dan kerjasama berterusan sepanjang pelaksanaan dapat membantu menambah baik peruntukan utama serta memastikan rangka kerja ini kekal berkesan seiring perkembangan teknologi. OpenAI berharap dapat menyokong usaha itu dan terus membina pengalaman AI yang melayani remaja sesuai dengan usia mereka, dengan perlindungan automatik yang lebih kukuh serta peluang bermakna untuk belajar dan berkembang.