我們宣布委任Paul Christiano加入OpenAI Foundation董事會。他亦將出任OpenAI Group PBC董事會的無投票權觀察員。
Paul亦會加入Foundation董事會轄下的安全及系統防護委員會(SSC),與委員會主席Zico Kolter並肩工作。SSC負責監督整個OpenAI(包括OpenAI Group PBC)的安全及系統防護實務。
Paul曾在美國國家標準與技術研究院(NIST)轄下的AI標準與創新中心(在新視窗中開啟)(CAISI)工作,累積了橫跨兩屆政府的公職經驗;NIST是美國商務部轄下機構,他現於該處擔任高級科技顧問1。Paul任職CAISI及其前身美國AI安全研究所期間,曾參與評估前沿AI模型,包括可能影響國家安全的能力,並研究如何減低相關的安全及系統防護風險。
Paul亦創立了非牟利研究機構對齊研究中心(在新視窗中開啟)(ARC),專注研究如何使先進AI系統與人類利益保持一致。2017年至2021年間,Paul領導OpenAI的對齊研究,並為基於人類回饋的強化學習(RLHF)奠定基礎。Paul履任新職後,將為OpenAI的管治決策帶來獨到且具深厚技術基礎的觀點。我們的使命是確保通用人工智能惠及全人類。
“Paul以嚴謹的研究方式,專注探討能力日益強大的系統所帶來的最棘手問題,協助奠定AI對齊領域。他曾在政府參與前沿AI安全及標準工作,加上其技術判斷力,將在OpenAI持續開發及部署前沿AI之際,加強董事會的監督及安全及系統防護委員會的工作。”
“過去一年,AI能力突飛猛進,而對齊仍是棘手的技術問題,令安全及系統防護委員會的責任比以往任何時候都更重要,也更具挑戰性。我很高興能加入團隊,貢獻一己之力。”
AI正邁進能力新紀元,因此在推動這些系統進步的同時,建立健全的安全、系統防護、對齊及管治機制亦愈加重要。Paul多年來研究AI對齊,一直認真看待先進AI可能帶來災難性風險的可能性,並認為開發者必須在系統能力達到更危險水平前做好準備。對於業界的保障措施是否足夠,他一直敢於提出獨立見解。我們相信,讓勇於質疑主流假設的人參與Foundation管治,並協助鞏固關鍵決策所依據的證據、保障措施及問責機制,將使其管治更加健全。
Paul獲委任,是延續OpenAI於2025年10月資本重組後建立的管治架構,當中包括因應加州總檢察長(在新視窗中開啟)及特拉華州總檢察長(在新視窗中開啟)歷時一年審查而作出的承諾。他們的參與有助完善管治框架。
關於OpenAI Foundation
OpenAI Foundation是一個慈善組織,致力確保AI惠及全人類。Foundation是獨立的非牟利組織,在自行開展慈善工作的同時,亦維持對OpenAI Group PBC的控制權,並持有其重大股權。Foundation支持以負責任的AI推動科學發現、鞏固公民社會及提升韌性的倡議。Foundation透過撥款、合作夥伴關係及其他慈善項目,加快推動能夠創造長遠公共利益的工作,讓更多人受惠於AI的變革潛力。
Foundation控制OpenAI Group PBC,而安全及系統防護委員會則隸屬Foundation董事會。詳情請瀏覽www.openaifoundation.org(在新視窗中開啟)。


