Paul Christiano menyertai Lembaga OpenAI Foundation
Paul Christiano juga akan menyertai Jawatankuasa Keselamatan dan Sekuriti Yayasan.
Kami mengumumkan pelantikan Paul Christiano ke Lembaga OpenAI Foundation. Beliau akan menjadi pemerhati tanpa hak mengundi dalam Lembaga OpenAI Group PBC.
Paul juga akan menyertai Jawatankuasa Keselamatan dan Sekuriti (SSC) Lembaga Yayasan serta bekerjasama dengan pengerusinya, Zico Kolter. SSC menyelia tadbir urus amalan keselamatan dan sekuriti di seluruh OpenAI, termasuk OpenAI Group PBC.
Paul membawa pengalaman berkhidmat dalam kerajaan merentasi dua pentadbiran menerusi tugasnya di Pusat Piawaian dan Inovasi AI(dibuka dalam tetingkap baru) (CAISI), di bawah Institut Piawaian dan Teknologi Kebangsaan (NIST), sebuah agensi di bawah Jabatan Perdagangan A.S., tempat beliau berkhidmat sebagai Penasihat Kanan Teknologi1. Sepanjang berkhidmat di CAISI dan organisasi pendahulunya, Institut Keselamatan AI A.S., Paul telah menjalankan penilaian terhadap model AI perbatasan, termasuk keupayaan yang mempunyai implikasi terhadap keselamatan negara, serta pendekatan untuk mengurangkan risiko keselamatan dan sekuriti yang berkaitan.
Paul juga merupakan pengasas Pusat Penyelidikan Penjajaran(dibuka dalam tetingkap baru) (ARC), sebuah organisasi penyelidikan bukan untung yang menumpukan usaha pada penjajaran sistem AI termaju dengan kepentingan manusia. Dari 2017 hingga 2021, Paul mengetuai penyelidikan penjajaran di OpenAI dan menyumbang kepada usaha asas dalam pembelajaran pengukuhan daripada maklum balas manusia (RLHF). Dalam peranan baharu ini, Paul membawa perspektif tersendiri yang berlandaskan kepakaran teknikal kepada keputusan tadbir urus OpenAI. Misi kami adalah untuk memastikan kecerdasan am buatan memberi manfaat kepada seluruh umat manusia.
“Paul telah membantu membentuk bidang penjajaran AI melalui kajian yang teliti dan tertumpu pada persoalan paling sukar yang ditimbulkan oleh sistem yang semakin berkeupayaan. Pengalamannya dalam aspek keselamatan dan piawaian AI perbatasan di sektor kerajaan, berserta pertimbangan teknikalnya, akan memperkukuh pengawasan Lembaga dan usaha Jawatankuasa Keselamatan dan Sekuriti ketika OpenAI terus membangunkan dan menggunakan AI perbatasan.”
“Keupayaan AI berkembang dengan amat pesat sepanjang tahun lalu, manakala penjajaran kekal sebagai masalah teknikal yang sukar. Oleh itu, tanggungjawab Jawatankuasa Keselamatan dan Sekuriti kini lebih penting dan lebih mencabar berbanding sebelum ini. Saya teruja untuk menyertai pasukan ini dan membantu mereka.”
AI sedang memasuki era keupayaan baharu. Oleh itu, kemajuan sistem ini semakin perlu disertai dengan langkah keselamatan, sekuriti, penjajaran dan tadbir urus yang kukuh. Sepanjang kerjayanya dalam penyelidikan penjajaran AI, Paul membawa perspektif yang memandang serius kemungkinan AI termaju boleh menimbulkan risiko bencana serta perlunya pembangun membuat persediaan sebelum sistem mencapai tahap keupayaan yang lebih berbahaya. Beliau sentiasa menyuarakan pandangan bebas tentang sama ada perlindungan industri ini sudah memadai. Kami percaya tadbir urus Yayasan menjadi lebih kukuh dengan adanya individu yang bersedia mencabar andaian lazim serta membantu memperkukuh bukti, perlindungan dan kebertanggungjawaban yang mendasari keputusan penting.
Pelantikan Paul meneruskan struktur tadbir urus yang diwujudkan melalui permodalan semula OpenAI pada Oktober 2025, termasuk komitmen berkaitan semakan selama setahun yang dijalankan oleh Peguam Negara California(dibuka dalam tetingkap baru) dan Peguam Negara Delaware(dibuka dalam tetingkap baru). Penglibatan mereka membantu memperkukuh rangka kerja tadbir urus.
Perihal OpenAI Foundation
OpenAI Foundation ialah organisasi kebajikan yang komited untuk memastikan AI memberi manfaat kepada seluruh umat manusia. Sebagai organisasi bukan untung yang berasingan, Yayasan menjalankan kegiatan kebajikannya sendiri, di samping mengekalkan kawalan dan memegang kepentingan ekuiti yang besar dalam OpenAI Group PBC. Yayasan menyokong inisiatif yang memajukan penemuan saintifik, memperkukuh masyarakat sivil dan membina daya tahan melalui AI yang bertanggungjawab. Melalui geran, perkongsian dan inisiatif kedermawanan lain, Yayasan membantu mempercepat usaha yang mewujudkan manfaat awam berkekalan serta meluaskan akses kepada potensi transformatif AI.
Yayasan mengawal OpenAI Group PBC, manakala Jawatankuasa Keselamatan dan Sekuriti merupakan sebuah jawatankuasa di bawah Lembaga Yayasan. Ketahui lebih lanjut di www.openaifoundation.org(dibuka dalam tetingkap baru).
