Memperbarui Spesifikasi Model kami dengan perlindungan untuk remaja
Dipandu oleh panduan ahli, U18 Principles yang baru menguraikan bagaimana ChatGPT seharusnya memberikan dukungan kepada remaja dengan perilaku yang aman dan sesuai usia.
Kami membagikan pembaruan pada Spesifikasi Model kami, yaitu seperangkat aturan tertulis, nilai, dan harapan perilaku yang membimbing cara kami ingin model AI kami berperilaku, terutama dalam situasi sulit atau berisiko tinggi, dengan Under-18 Principles (U18)(terbuka di jendela baru) yang baru. Perilaku model sangat penting dalam cara orang berinteraksi dengan AI, dan remaja memiliki kebutuhan perkembangan yang berbeda dibandingkan dengan orang dewasa.
U18 Principles memandu bagaimana ChatGPT seharusnya memberikan pengalaman yang aman dan sesuai usia bagi remaja berusia 13 hingga 17 tahun. Berdasarkan ilmu perkembangan, pendekatan ini memprioritaskan pencegahan, transparansi, dan intervensi dini. Dalam mengembangkan prinsip-prinsip ini, kami meninjaunya terlebih dahulu bersama para ahli eksternal, termasuk American Psychological Association, sebagai bagian dari upaya berkelanjutan kami untuk memperoleh masukan guna memperkuat pendekatan kami.
Sementara prinsip-prinsip dari Spesifikasi Model lanjutkan berlaku untuk pengguna dewasa dan remaja, pembaruan ini menjelaskan bagaimana prinsip-prinsip ini diterapkan dalam konteks remaja, terutama di mana pertimbangan keselamatan bagi anak di bawah umur mungkin lebih menonjol.
U18 Principles berlandaskan pada empat komitmen panduan:
- Utamakan keselamatan remaja, bahkan ketika hal tersebut mungkin bertentangan dengan tujuan lain
- Dorong dukungan dunia nyata dengan mendorong hubungan offline dan sumber daya yang tepercaya
- Perlakukan remaja sebagaimana remaja, jangan merendahkan mereka atau memperlakukan mereka seperti orang dewasa
- Bersikap transparan dengan menetapkan harapan yang jelas
Sesuai dengan Cetak Biru Keamanan Remaja kami, prinsip-prinsip ini telah memandu pekerjaan keselamatan remaja kami hingga saat ini, termasuk perlindungan konten yang kami terapkan kepada pengguna yang memberi tahu kami bahwa mereka berusia di bawah 18 tahun saat mendaftar, dan melalui pengawasan orang tua. Dalam konteks-konteks ini, kami telah menerapkan perlindungan tambahan untuk mengarahkan model agar lebih berhati-hati saat membahas area berisiko tinggi, termasuk melukai diri sendiri dan bunuh diri, roleplay romantis atau bernuansa seksual, konten grafis atau eksplisit, aktivitas dan zat berbahaya, citra tubuh dan gangguan pola makan, serta permintaan untuk merahasiakan perilaku yang tidak aman.
American Psychological Association, yang meninjau draf awal dari Spesifikasi Model U18 dan memberikan wawasan penting untuk jangka panjang, menekankan pentingnya melindungi remaja:
“APA mendorong para pengembang AI untuk menyediakan langkah-langkah perlindungan yang sesuai dengan tahap perkembangan bagi pengguna muda dari produk mereka, serta mengambil pendekatan yang lebih protektif bagi pengguna yang lebih muda. Anak-anak dan remaja mungkin mendapatkan manfaat dari alat AI jika alat tersebut seimbang dengan interaksi manusia yang menurut sains sangat penting untuk perkembangan sosial, psikologis, perilaku, dan bahkan biologis. Pengalaman remaja dengan AI sebaiknya diawasi secara menyeluruh dan dibahas bersama orang dewasa tepercaya untuk mendorong penilaian kritis terhadap apa yang ditawarkan oleh bot AI, serta mendukung perkembangan kemampuan berpikir mandiri dan keterampilan anak muda.”
Pembaruan ini juga menjelaskan bagaimana asisten harus merespons ketika muncul kekhawatiran tentang keselamatan remaja. Ini berarti remaja harus menghadapi pagar pengaman yang lebih kuat, alternatif yang lebih aman, dan dorongan untuk mencari dukungan offline yang tepercaya ketika percakapan bergerak ke wilayah berisiko lebih tinggi. Jika ada risiko yang mengancam, remaja didorong untuk menghubungi layanan darurat atau sumber daya krisis.
Seperti halnya bagian lain dari Spesifikasi Model, Prinsip U18 mencerminkan perilaku model yang kami maksudkan. Kami akan terus menyempurnakannya saat kami menggabungkan penelitian baru, masukan dari para ahli, dan penggunaan di dunia nyata.
Bersamaan dengan memperbarui Spesifikasi Model, kami telah mengambil pendekatan berlapis-lapis untuk memperkuat keselamatan remaja di seluruh ChatGPT, mencakup langkah-langkah pengamanan produk, dukungan keluarga, dan panduan ahli.
Sejak meluncurkan pengawasan orang tua(terbuka di jendela baru), kami telah memperluas perlindungan ke produk baru termasuk obrolan grup, browser ChatGPT Atlas, dan aplikasi Sora. Pembaruan ini membantu para orang tua menyesuaikan pengalaman ChatGPT anak remaja mereka ketika kami memperkenalkan produk dan fitur baru.
Sesuai dengan panduan dari para ahli, kami mendorong percakapan berkelanjutan antara orang tua dan remaja tentang penggunaan AI yang sehat dan bertanggung jawab dalam keluarga mereka. Untuk mendukung percakapan ini, kami telah menambahkan sumber daya baru yang telah diverifikasi oleh pakar ke pusat sumber daya orang tua(terbuka di jendela baru), termasuk Panduan Keluarga untuk Membantu Remaja Menggunakan AI secara Bertanggung Jawab(terbuka di jendela baru) dan tips untuk orang tua(terbuka di jendela baru) tentang cara berbicara dengan anak-anak mereka tentang AI, yang telah ditinjau oleh ConnectSafely dan anggota Dewan Ahli tentang Kesejahteraan dan AI kami. Kami akan melanjutkan penambahan lebih banyak sumber daya seiring waktu. Kami juga memberikan dukungan untuk penggunaan yang sehat langsung di dalam produk, dengan pengingat jeda bawaan selama sesi panjang untuk membantu menjaga waktu yang dihabiskan dengan ChatGPT tetap terarah dan seimbang.
Pekerjaan kami dalam keselamatan remaja dipandu oleh keterlibatan erat dengan para ahli dari berbagai disiplin ilmu dan keahlian. Pada bulan Oktober, kami mendirikan Dewan Ahli Kesejahteraan dan AI untuk membantu memberikan saran dan mendefinisikan seperti apa interaksi sehat dengan AI seharusnya untuk semua usia. Pekerjaan tersebut telah memberikan panduan tentang pengawasan orang tua dan notifikasi orang tua. Kami juga mengintegrasikan keahlian klinis melalui Global Physician Network kami untuk menginformasikan penelitian keselamatan dan mengevaluasi perilaku model, termasuk meningkatkan cara ChatGPT mengenali kesulitan dan membimbing orang menuju perawatan profesional jika sesuai. Kami membangun di atas fondasi ini dengan GPT‑5.2, dan kami juga telah memperluas akses ke dukungan dunia nyata dengan menampilkan saluran bantuan lokal di ChatGPT dan Sora melalui kemitraan kami dengan ThroughLine(terbuka di jendela baru).
Kami sedang dalam tahap awal meluncurkan model prediksi usia(terbuka di jendela baru) pada paket konsumen ChatGPT. Model ini akan membantu kami secara otomatis menerapkan perlindungan remaja ketika kami percaya bahwa sebuah akun milik anak di bawah umur. Jika kami tidak yakin tentang usia seseorang atau memiliki informasi yang tidak lengkap, kami akan default ke pengalaman U18 dan memberikan cara bagi orang dewasa untuk verifikasikan usia mereka.
Memperkuat keselamatan remaja merupakan upaya yang berkelanjutan, danPT dan kami akan terus meningkatkan kontrol orang tua serta kemampuan model, memperluas sumber daya bagi orang tua, dan bekerja sama dengan organisasi, peneliti, serta mitra ahli termasuk Well-Being Council dan Global Physician Network.
Kami berkomitmen untuk menghadirkan perlindungan yang kuat bagi remaja dan terus menyempurnakannya dari waktu ke waktu demi mendukung remaja dan keluarga dengan lebih baik.
