Mengemas kini Spesifikasi Model kami dengan perlindungan untuk remaja

Kami berkongsi kemas kini dengan Spesifikasi Model kami, iaitu set peraturan, nilai dan jangkaan tingkah laku bertulis yang membimbing cara yang kami mahu model AI kami berfungsi, terutamanya dalam situasi sukar atau berisiko tinggi, dengan Prinsip Bawah-18 (U18)⁠(dibuka dalam tetingkap baru). Tingkah laku model adalah penting untuk cara orang berinteraksi dengan AI dan remaja mempunyai keperluan perkembangan yang berbeza daripada orang dewasa.

Prinsip U18 membimbing bagaimana ChatGPT patut menyediakan pengalaman yang selamat dan sesuai dengan umur untuk remaja berusia 13 hingga 17 tahun. Berasaskan sains perkembangan, pendekatan ini mengutamakan pencegahan, ketelusan, dan intervensi awal. Dalam membangunkan prinsip-prinsip ini, kami telah mempratontonnya kepada pakar luar, termasuk Persatuan Psikologi Amerika, sebagai sebahagian daripada usaha berterusan kami untuk mendapatkan Input bagi mengukuhkan pendekatan kami.

Walaupun prinsip-prinsip spesifikasi model masih terus terpakai kepada kedua-dua pengguna dewasa dan remaja, kemas kini ini menjelaskan cara ia harus diterapkan dalam konteks remaja, terutamanya apabila pertimbangan keselamatan untuk golongan bawah umur mungkin lebih ketara. 

Prinsip U18 berlandaskan empat komitmen panduan:

• Utamakan keselamatan remaja, walaupun ia mungkin bertentangan dengan matlamat lain
• Galakkan sokongan dunia sebenar dengan menggalakkan hubungan luar talian dan sumber yang dipercayai
• Anggap remaja seperti remaja, jangan merendahkan mereka atau menganggap mereka sebagai orang dewasa
• Bersikap telus dengan menetapkan jangkaan yang jelas

Selaras dengan Teen Safety Blueprint⁠ kami, prinsip-prinsip ini telah membimbing kerja keselamatan remaja kami setakat ini, termasuk perlindungan kandungan yang kami terapkan kepada pengguna yang memberitahu kami mereka berumur di bawah 18 tahun semasa daftar, dan melalui kawalan ibu bapa. Dalam konteks ini, kami telah melaksanakan langkah-langkah perlindungan untuk membimbing model agar lebih berhati-hati apabila membincangkan kawasan berisiko tinggi, termasuk mencederakan diri sendiri dan bunuh diri, permainan peranan romantik atau seksual, kandungan grafik atau eksplisit, aktiviti dan bahan berbahaya, imej badan dan gangguan pemakanan, serta permintaan untuk menyimpan rahsia tentang tingkah laku yang tidak selamat.

Persatuan Psikologi Amerika, yang menyemak draf awal Spesifikasi Model U18 dan memberikan pandangan penting untuk jangka panjang, menekankan kepentingan melindungi remaja:

“APA menggalakkan pembangun AI untuk menyediakan langkah berjaga-jaga yang sesuai dengan tahap perkembangan bagi pengguna muda produk mereka dan mengambil pendekatan yang lebih melindungi untuk pengguna yang lebih muda.  Kanak-kanak dan remaja mungkin mendapat manfaat daripada alat AI jika ia diseimbangkan dengan interaksi manusia yang ditunjukkan oleh sains sebagai penting untuk perkembangan sosial, psikologi, tingkah laku dan juga biologi. Pengalaman golongan muda dengan AI harus diawasi dengan teliti dan dibincangkan bersama orang dewasa yang dipercayai untuk menggalakkan penilaian kritis terhadap apa yang ditawarkan oleh bot AI serta menggalakkan perkembangan pemikiran bebas dan kemahiran golongan muda.”—Dr. Arthur C. Evans Jr, Ketua Pegawai Eksekutif, Persatuan Psikologi Amerika

Kemas kini ini juga menjelaskan bagaimana pembantu patut bertindak balas apabila timbul kebimbangan keselamatan untuk remaja. Ini bermakna remaja patut menemui penghadang yang lebih kukuh, alternatif yang lebih selamat, dan dorongan untuk mencari sokongan luar talian yang dipercayai apabila perbualan bergerak ke arah yang lebih berisiko. Apabila terdapat risiko yang mendesak, remaja digalakkan untuk menghubungi perkhidmatan kecemasan atau sumber krisis.

Seperti bahagian lain dalam Spesifikasi Model, Prinsip U18 mencerminkan perilaku model yang kami inginkan. Kami akan teruskan memperhalusi mereka sambil menggabungkan penyelidikan baharu, Input pakar, dan penggunaan dunia sebenar.

Di samping mengemas kini Spesifikasi Model, kami telah mengambil pendekatan berlapis-lapis untuk memperkukuh keselamatan remaja⁠ di seluruh ChatGPT, yang merangkumi perlindungan produk, sokongan keluarga, dan panduan pakar.

Sejak melancarkan kawalan ibu bapa⁠(dibuka dalam tetingkap baru), kami telah memperluaskan perlindungan kepada produk baharu termasuk sembang kumpulan, pelayar ChatGPT Atlas, dan apl Sora. Kemas kini ini membantu ibu bapa menyesuaikan pengalaman ChatGPT anak remaja mereka apabila kami memperkenalkan produk dan ciri baharu.

Selaras dengan panduan pakar, kami menggalakkan perbualan berterusan antara ibu bapa dan remaja mengenai penggunaan AI yang sihat dan bertanggungjawab dalam keluarga mereka. Untuk sokongan perbualan ini, kami telah menambah sumber baharu yang disahkan oleh pakar ke pusat sumber ibu bapa⁠(dibuka dalam tetingkap baru), termasuk Panduan Keluarga untuk Membantu Remaja Menggunakan AI dengan Bertanggungjawab⁠(dibuka dalam tetingkap baru) dan panduan untuk ibu bapa⁠(dibuka dalam tetingkap baru) tentang cara berbincang dengan anak-anak mereka mengenai AI, yang telah disemak oleh ConnectSafely dan ahli Majlis Pakar mengenai Kesejahteraan dan AI⁠ kami. Kami akan teruskan menambah lebih banyak sumber dari semasa ke semasa. Kami juga memberikan sokongan penggunaan yang sihat secara langsung dalam produk, dengan peringatan rehat terbina dalam⁠ semasa sesi panjang untuk membantu memastikan masa yang dihabiskan dengan ChatGPT adalah sengaja dan seimbang.

Kerja kami dalam keselamatan remaja dipandu oleh penglibatan rapat dengan pakar dari pelbagai disiplin dan kepakaran. Pada bulan Oktober, kami menubuhkan Majlis Pakar Kesejahteraan dan AI⁠ untuk membantu menasihati dan menentukan bagaimana interaksi sihat dengan AI yang sepatutnya untuk semua peringkat umur. Kerja tersebut telah memberikan panduan tentang kawalan ibu bapa dan pemberitahuan ibu bapa. Kami juga menggabungkan kepakaran klinikal melalui Rangkaian Doktor Global⁠ kami untuk memaklumkan penyelidikan keselamatan dan menilai tingkah laku model, termasuk memperbaiki cara ChatGPT mengenali tekanan dan membimbing orang ke arah penjagaan profesional apabila sesuai. Kami membina GPT‑5.2⁠ berasaskan asas-asas ini, dan kami juga telah memperluaskan akses kepada sokongan dunia sebenar dengan memaparkan talian bantuan setempat dalam ChatGPT dan Sora melalui kerjasama kami dengan ThroughLine⁠(dibuka dalam tetingkap baru).

Kami berada di peringkat awal melancarkan model ramalan umur⁠(dibuka dalam tetingkap baru) pada pelan pengguna ChatGPT. Ini akan membantu kami secara automatik menerapkan langkah-langkah keselamatan remaja apabila kami percaya bahawa akaun tersebut adalah milik seseorang di bawah umur. Jika kami tidak yakin tentang umur seseorang atau mempunyai maklumat yang tidak lengkap, kami akan secara automatik menggunakan pengalaman U18 dan menyediakan cara untuk orang dewasa mengesahkan umur mereka.

Memperkukuh keselamatan remaja adalah usaha berterusan dan kami akan terus memperbaiki kawalan ibu bapa dan keupayaan model, memperluas sumber untuk ibu bapa, bekerjasama dengan organisasi, penyelidik, dan rakan pakar termasuk Majlis Kesejahteraan dan Rangkaian Doktor Global. 

Kami komited untuk menyediakan perlindungan remaja yang kukuh dan memperbaikinya dari semasa ke semasa untuk memberikan sokongan kepada remaja dan keluarga dengan lebih baik.