Spesifikasi Model yang dikemas kini untuk AI yang lebih berupaya dan bermanfaat

Apabila model kami semakin pintar dan tindakannya semakin memberi kesan besar kepada dunia, semakin penting untuk model ini bukan sekadar mentafsir arahan khusus yang diterima. Model juga perlu memahami hasrat dan nilai manusia agar dapat menggunakan pertimbangan yang baik dalam situasi yang tidak dinyatakan secara jelas dalam arahan, sambil kekal setia pada hasrat manusia dan tertakluk pada pengawasan mereka.

Hari ini, kami mengemas kini Spesifikasi Model⁠(dibuka dalam tetingkap baru), iaitu penerangan terbuka kami tentang cara kami mahu model kami berkelakuan. Kemas kini ini menyusun semula panduannya berlandaskan lima nilai asas: kesetiaan pada hasrat manusia, meminimumkan kemudaratan, kejujuran dan ketelusan, autonomi manusia dan keprihatinan. Ini mencerminkan salah satu matlamat usaha kami dalam penjajaran nilai: membolehkan model memahami dan menerapkan nilai manusia dalam situasi yang belum pernah dihadapi, sambil kekal setia pada hasrat manusia. Selain memperjelas prinsip sedia ada, semakan ini menambah panduan tentang konteks, pengawasan dan autonomi, melaraskan beberapa tingkah laku lalai serta menamatkan sebahagian besar panduan gaya yang terperinci.

Lima nilai di atas menyatakan komitmen menyeluruh yang sudah pun dicerminkan dalam Spesifikasi Model: memenuhi tujuan manusia, berkata benar, meminimumkan kemudaratan, menghormati kebebasan setiap orang untuk membentuk pandangan sendiri dan mengambil serius keadaan mereka. Menghimpunkan komitmen ini membantu menjelaskan sebab Spesifikasi menetapkan tingkah laku sedemikian untuk model, serta membantu kami membangunkan panduan yang lebih jelas bagi aspek yang belum menyatakan komitmen tersebut dengan cukup menyeluruh. Kemas kini ini merupakan satu lagi langkah dalam usaha kami menambah baik Spesifikasi melalui penyelidikan, pengalaman melaksanakan model, maklum balas awam tentang Spesifikasi dan tingkah laku model, serta perbincangan dengan pengguna dan pakar luar.

Kami mahu AI memberi manfaat kepada masyarakat dunia yang mempunyai pelbagai keperluan, nilai dan harapan untuk masa hadapan.

Kesetiaan pada hasrat manusia ialah asas pendekatan ini: memahami dan membantu orang ramai mencapai perkara yang penting bagi mereka. OpenAI menulis Spesifikasi, menetapkan batasan dan melatih model untuk mematuhinya; pembangun menentukan cara aplikasi berfungsi dalam batasan tersebut; dan pengguna mengarahkan kerja model dengan tertakluk pada kekangan itu. Model kami seharusnya meningkatkan keupayaan orang ramai untuk membentuk kehidupan sendiri dengan membantu mereka memahami dunia, meneroka kemungkinan dan mengejar matlamat pilihan mereka, sambil mengambil serius kesan bantuan itu terhadap orang lain. Kesetiaan pada hasrat manusia dan empat nilai yang lain menjadi asas penyusunan Spesifikasi serta membimbing model kami dalam mengimbangi beberapa pertimbangan paling penting yang dihadapinya. Nilai-nilai ini tidak bertujuan merangkumi keseluruhan nilai manusia yang sepatutnya dihormati oleh model kami dan dibantu untuk direalisasikan.

Kesetiaan bukan sekadar mengikut arahan secara harfiah, tetapi memahami dengan mendalam hasrat dan nilai yang dipegang oleh OpenAI, pembangun dan pengguna, serta bertindak bijak apabila pemahaman itu belum lengkap. Ini juga bermakna mengakui bahawa kepercayaan dan nilai seseorang boleh berubah, serta membantu mereka membuat renungan dan berkembang dengan cara yang mereka sendiri setujui, tanpa mempengaruhi hala tuju mereka secara senyap atau mengetepikan pilihan mereka. Contohnya, ketika membantu seseorang membandingkan tawaran kerja, model mungkin menggunakan keutamaan yang pernah dikongsi oleh orang itu—seperti waktu kerja yang tetap—sambil menyatakan andaian tersebut dengan jelas agar mudah dibetulkan.

Misi kami adalah untuk memastikan kecerdasan am buatan memberi manfaat kepada seluruh umat manusia. Ini memerlukan pertimbangan bukan sahaja terhadap hasrat semasa seseorang, tetapi juga kepentingan jangka panjang mereka dan kesannya terhadap orang lain. Empat nilai yang lain menyatakan pertimbangan ini dengan jelas:

• Meminimumkan kemudaratan bermaksud mematuhi batasan keselamatan yang tegas dan mengambil kira akibat tindakan model yang dapat dijangka.

• Kejujuran dan ketelusan bermaksud berterus terang tentang perkara yang diketahui, dilakukan dan tidak dipastikan oleh model supaya orang ramai dapat memahami serta menilai penaakulan dan hasil kerjanya.

• Memudahkan autonomi manusia bermaksud memperkukuh keupayaan orang ramai untuk memahami, memilih dan bertindak sendiri.

• Keprihatinan bermaksud mengambil berat tentang keadaan mereka yang terkesan, mematuhi norma sosial dan profesional yang berkaitan, serta menghasilkan kerja yang boleh diandalkan.

Spesifikasi menterjemahkan nilai-nilai ini kepada panduan praktikal, dengan batasan tegas apabila diperlukan untuk melindungi orang ramai dan masyarakat, sebaliknya, kebanyakan panduan berbentuk ketetapan lalai yang boleh diubah oleh pengguna dan pembangun.

Seiring dengan kemas kini Spesifikasi Model ini, kami juga telah meneroka kaedah latihan baharu untuk membantu model kami mempelajari nilai teras ini serta lebih memahami dan mematuhi prinsip tingkah laku khusus dalam Spesifikasi. Matlamatnya adalah untuk membina pemahaman tentang sebab prinsip tersebut penting dan cara menerapkannya dalam situasi baharu: melakukan perkara yang betul atas sebab yang betul. Kami mahu pemahaman itu menyokong pertimbangan yang baik dalam keputusan yang membawa kesan besar, serta keprihatinan dalam keputusan harian yang secara terkumpul boleh membawa manfaat berkekalan kepada orang ramai dan masyarakat⁠(dibuka dalam tetingkap baru). Kami akan berkongsi hasil dan pengajaran daripada usaha latihan ini dalam kemas kini akan datang.

Penyusunan semula ini juga membantu kami mengenal pasti aspek yang memerlukan panduan tambahan, membangunkan prinsip baharu untuk menanganinya, serta menyemak atau menamatkan panduan sedia ada mengikut keperluan.

Bahagian baharu tentang kesetiaan pada hasrat manusia berasaskan gagasan bahawa perkara yang dihargai oleh manusia perlu diutamakan, dan arahan lazimnya merupakan petunjuk paling jelas dan paling penting tentang nilai-nilai tersebut. Pendekatan ini meminjam kerangka permainan bantuan dalam penjajaran (lihat hasil kerja awal⁠(dibuka dalam tetingkap baru) dan gambaran keseluruhan yang diterbitkan kemudian⁠(dibuka dalam tetingkap baru)). Bahagian ini merangkumi rantaian arahan⁠(dibuka dalam tetingkap baru) yang dikemas kini, yang menjelaskan arahan mana yang terpakai dan cara konflik diselesaikan. Subbahagian baharu, pertimbangkan konteks dengan teliti⁠(dibuka dalam tetingkap baru), menjelaskan cara perbualan, ingatan dan bukti kontekstual lain sepatutnya membentuk pemahaman model tentang hasrat dan keutamaan seseorang.

Kami juga telah menambah ketetapan lalai tentang menyokong autonomi manusia⁠(dibuka dalam tetingkap baru) dan mematuhi norma sosial yang berkaitan⁠(dibuka dalam tetingkap baru), serta memperluas panduan sedia ada tentang mengawal dan memaklumkan kesan sampingan⁠(dibuka dalam tetingkap baru). Prinsip-prinsip ini merangkumi cara tambahan yang sering kurang ketara tetapi penting untuk mencerminkan nilai-nilai lain dalam tingkah laku model: mempertimbangkan kesan kerja terhadap orang lain, memperkukuh keupayaan pengguna dan menghasilkan kerja yang boleh diandalkan, sambil menghormati matlamat dan arahan pengguna.

Pada masa yang sama, kami menggugurkan kebanyakan panduan gaya terperinci dalam Spesifikasi. Gaya seharusnya disesuaikan dengan cita rasa orang ramai—secara keseluruhan, mengikut bahasa dan budaya, serta bagi setiap individu—dengan maklum balas pengguna dan konteks menjadi petunjuk kepada cita rasa tersebut. Spesifikasi mengekalkan ketetapan lalai yang lebih tegas, seperti menangani soalan secara objektif⁠(dibuka dalam tetingkap baru). Pengguna dan pembangun boleh meminta model mengambil perspektif tertentu secara jelas, tetapi model tidak sepatutnya membuat kesimpulan tentang keutamaan itu hanya berdasarkan andaian tentang perkara yang ingin mereka dengar.

Akhir sekali, sejajar dengan kegunaan model kami dan persekitaran pelaksanaannya yang semakin pelbagai, kami kini merujuk model sebagai “GPT” dan bukannya “pembantu” dalam Spesifikasi.

Kemas kini ini ialah langkah pertama untuk menyatakan nilai dan penaakulan di sebalik Spesifikasi dengan lebih jelas seiring dengan peningkatan keupayaan model. Spesifikasi Model menerangkan tingkah laku yang sedang kami usahakan; model kami belum lagi mencerminkannya sepenuhnya. Kami akan terus menambah baik Spesifikasi dan model berdasarkan pembelajaran daripada penyelidikan, penggunaan sebenar dan maklum balas.

Kami ingin tahu bahagian Spesifikasi yang anda rasa meyakinkan, aspek yang anda tidak setuju dengan keseimbangan pertimbangannya, serta perkara yang terlepas pandang atau masih tidak jelas. Maklum balas tentang nilai, pertimbangan yang perlu diimbangi dan ungkapan khusus boleh membantu kami menambah baik Spesifikasi. Kami menjemput anda membaca Spesifikasi Model yang dikemas kini⁠(dibuka dalam tetingkap baru) dan berkongsi pandangan anda⁠(dibuka dalam tetingkap baru).