Pembaruan spesifikasi model untuk AI yang lebih cakap dan bermanfaat
Seiring model kami makin cerdas dan tindakannya di dunia makin berdampak, semakin penting bagi model untuk tidak sekadar menafsirkan instruksi spesifik yang diterimanya. Model juga perlu memahami maksud dan nilai-nilai manusia agar dapat mengambil keputusan yang bijak dalam situasi yang tidak diatur secara eksplisit oleh instruksi, sambil tetap setia pada maksud manusia dan berada di bawah pengawasan mereka.
Hari ini kami memperbarui spesifikasi model(terbuka di jendela baru), dokumen publik yang menjelaskan perilaku yang kami harapkan dari model kami. Pembaruan ini menata ulang panduan berdasarkan lima nilai dasar: kesetiaan pada maksud manusia, minimalisasi bahaya, kejujuran dan transparansi, kemandirian manusia, dan kepedulian. Hal ini mencerminkan salah satu tujuan upaya kami dalam penyelarasan nilai: agar model memahami dan menerapkan nilai-nilai manusia dalam situasi yang belum dikenalnya, sembari tetap setia pada maksud manusia. Selain memperjelas prinsip-prinsip yang sudah ada, revisi ini menambahkan panduan tentang konteks, pengawasan, dan kemandirian, menyesuaikan beberapa perilaku bawaan, serta menghapus sebagian besar panduan gaya yang terperinci.
Kelima nilai di atas merumuskan komitmen umum yang sudah tercermin di seluruh spesifikasi model: melayani tujuan manusia, berkata benar, meminimalkan bahaya, menghormati kebebasan setiap orang untuk membentuk pandangannya sendiri, dan memperhatikan keadaan mereka dengan sungguh-sungguh. Menyatukan komitmen ini membantu menjelaskan alasan di balik perilaku model yang ditetapkan dalam spesifikasi. Ini juga membantu kami menyusun panduan yang lebih jelas untuk bagian-bagian yang belum sepenuhnya menjabarkan komitmen tersebut. Pembaruan ini merupakan langkah lanjutan dalam upaya menyempurnakan spesifikasi melalui riset, pengalaman menerapkan model, masukan publik tentang spesifikasi dan perilaku model, serta diskusi dengan pengguna dan pakar eksternal.
Kami ingin AI bermanfaat bagi masyarakat dunia yang memiliki beragam kebutuhan, nilai, dan harapan akan masa depan.
Kesetiaan pada maksud manusia menjadi landasan pendekatan ini: memahami dan membantu orang mengupayakan hal-hal yang penting bagi mereka. OpenAI menyusun spesifikasi, menetapkan batasan, dan melatih model untuk mematuhinya; pengembang mengarahkan aplikasi dalam batasan tersebut; dan pengguna mengarahkan kerja model dengan tetap tunduk pada batasan itu. Model kami seharusnya memperluas kemampuan setiap orang untuk menentukan jalan hidupnya sendiri dengan membantu mereka memahami dunia, menemukan berbagai kemungkinan, dan mengejar tujuan pilihannya, sambil mempertimbangkan dengan sungguh-sungguh dampak bantuan tersebut terhadap orang lain. Kesetiaan pada maksud manusia beserta keempat nilai lainnya mendasari susunan spesifikasi dan memandu model kami dalam menimbang berbagai kepentingan penting yang saling berbenturan. Nilai-nilai ini tidak dimaksudkan untuk mencakup seluruh nilai manusia yang seharusnya dihormati model kami dan dibantu untuk diwujudkan.
Kesetiaan berarti tidak sekadar mengikuti instruksi secara harfiah, tetapi juga memahami secara mendalam maksud dan nilai-nilai yang dijunjung OpenAI, pengembang, dan pengguna, serta bertindak bijaksana ketika pemahaman itu belum lengkap. Ini juga berarti menyadari bahwa keyakinan dan nilai-nilai seseorang dapat berubah, serta membantu mereka berefleksi dan berkembang dengan cara yang dapat mereka setujui, tanpa diam-diam mengarahkan atau mengesampingkan pilihan mereka. Misalnya, saat membantu seseorang membandingkan tawaran pekerjaan, model dapat mengacu pada prioritas yang pernah mereka sampaikan—seperti jam kerja yang pasti—sembari menjelaskan asumsi tersebut agar mudah dikoreksi.
Misi kami adalah memastikan kecerdasan umum buatan bermanfaat bagi seluruh umat manusia. Untuk itu, kami perlu mempertimbangkan bukan hanya maksud seseorang saat ini, tetapi juga kepentingan jangka panjangnya dan dampaknya terhadap orang lain. Keempat nilai lainnya memperjelas pertimbangan tersebut:
Meminimalkan bahaya berarti mematuhi batas keselamatan yang tegas dan memperhitungkan konsekuensi tindakan model yang dapat diperkirakan.
Kejujuran dan transparansi berarti menyampaikan dengan jujur apa yang diketahui, dilakukan, dan belum dapat dipastikan oleh model, sehingga orang dapat memahami dan mengevaluasi penalaran serta hasil kerjanya.
Mendukung kemandirian manusia berarti memperkuat kemampuan setiap orang untuk memahami, memilih, dan bertindak secara mandiri.
Kepedulian berarti memperhatikan keadaan pihak-pihak yang terdampak, mengikuti norma sosial dan profesional yang relevan, serta menghasilkan pekerjaan yang dapat diandalkan.
Spesifikasi ini menerjemahkan nilai-nilai tersebut menjadi panduan praktis, dengan batasan tegas bila diperlukan untuk melindungi individu dan masyarakat. Selebihnya, panduan ini sebagian besar berupa aturan bawaan yang dapat diubah oleh pengguna dan pengembang.
Seiring pembaruan spesifikasi model ini, kami juga telah mengeksplorasi metode pelatihan baru untuk membantu model mempelajari nilai-nilai inti tersebut serta lebih memahami dan mengikuti prinsip perilaku spesifik dalam spesifikasi. Tujuannya adalah membangun pemahaman tentang mengapa prinsip-prinsip tersebut penting dan cara menerapkannya dalam situasi baru: melakukan hal yang benar dengan alasan yang benar. Kami ingin pemahaman itu mendukung pertimbangan yang matang dalam keputusan berdampak besar, serta kepedulian dalam keputusan sehari-hari yang secara kumulatif dapat membawa manfaat jangka panjang bagi individu dan masyarakat(terbuka di jendela baru). Kami akan membagikan hasil dan pelajaran dari upaya pelatihan ini dalam pembaruan mendatang.
Penataan ulang ini juga membantu kami mengidentifikasi bagian yang memerlukan panduan tambahan, mengembangkan prinsip baru untuk memenuhinya, serta merevisi atau menghapus panduan yang ada sesuai kebutuhan.
Bagian baru tentang kesetiaan pada maksud manusia berangkat dari gagasan bahwa nilai-nilai yang dijunjung seseorang adalah yang utama, dan instruksi biasanya menjadi petunjuk paling jelas dan paling penting tentang nilai-nilai tersebut. Pendekatan ini mengacu pada kerangka permainan bantuan dalam penyelarasan (lihat riset awal(terbuka di jendela baru) dan tinjauan yang terbit kemudian(terbuka di jendela baru)). Bagian ini mencakup hierarki instruksi(terbuka di jendela baru) yang telah diperbarui, yang menjelaskan instruksi mana yang berlaku dan cara menyelesaikan pertentangan antar-instruksi. Subbagian baru, pertimbangkan konteks dengan saksama(terbuka di jendela baru), menjelaskan bagaimana percakapan, memori, dan bukti kontekstual lainnya seharusnya menjadi dasar pemahaman model tentang maksud dan preferensi seseorang.
Kami juga menambahkan aturan bawaan tentang mendukung kemandirian manusia(terbuka di jendela baru) dan mengikuti norma sosial yang relevan(terbuka di jendela baru), serta memperluas panduan yang ada tentang mengendalikan dan mengomunikasikan efek samping(terbuka di jendela baru). Prinsip-prinsip ini menjelaskan cara-cara tambahan—yang kerap tidak kentara tetapi penting—agar nilai-nilai lainnya tercermin dalam perilaku model: mempertimbangkan dampak hasil kerja terhadap orang lain, memperkuat kemampuan pengguna, dan menghasilkan pekerjaan yang dapat diandalkan, sembari menghormati tujuan dan instruksi pengguna.
Pada saat yang sama, kami menghapus sebagian besar panduan gaya terperinci dalam spesifikasi. Gaya harus menyesuaikan preferensi orang—baik secara umum, dalam setiap bahasa dan budaya, maupun secara individu—dengan mengacu pada masukan pengguna dan konteks untuk memahami preferensi tersebut. Spesifikasi tetap mempertahankan aturan bawaan yang lebih tegas, seperti menanggapi pertanyaan secara objektif(terbuka di jendela baru). Pengguna dan pengembang dapat secara eksplisit meminta model mengambil sudut pandang tertentu, tetapi model tidak boleh menyimpulkan preferensi itu hanya berdasarkan perkiraannya tentang apa yang ingin mereka dengar.
Terakhir, seiring makin luasnya ragam penggunaan dan lingkungan penerapan model kami, kini kami menyebut model sebagai “GPT”, bukan “asisten”, dalam spesifikasi.
Pembaruan ini adalah langkah awal untuk memperjelas nilai-nilai dan dasar pemikiran di balik spesifikasi seiring meningkatnya kemampuan model. Spesifikasi model menggambarkan perilaku yang sedang kami upayakan; model kami belum sepenuhnya mencerminkannya. Kami akan terus menyempurnakan spesifikasi maupun model berdasarkan pelajaran dari riset, penggunaan di dunia nyata, dan masukan yang kami terima.
Kami ingin mendengar bagian spesifikasi mana yang menurut Anda meyakinkan, keseimbangan antar-kepentingan mana yang tidak Anda setujui, serta apa yang terlewat atau belum jelas. Masukan tentang nilai-nilai, kompromi antar-kepentingan, dan rumusan spesifiknya dapat membantu kami menyempurnakan spesifikasi ini. Kami mengundang Anda untuk membaca spesifikasi model terbaru(terbuka di jendela baru) dan membagikan pandangan Anda(terbuka di jendela baru).
