폴 크리스티아노가 OpenAI Foundation 이사로 선임되었음을 알려드립니다. 그는 OpenAI Group PBC 이사회에서 의결권이 없는 참관인으로 활동합니다.
폴은 OpenAI Foundation 이사회의 안전 및 보안 위원회(SSC)에도 합류해 위원장인 지코 콜터와 함께 활동합니다. 안전 및 보안 위원회는 OpenAI Group PBC를 비롯한 OpenAI 전반의 안전 및 보안 관행을 감독합니다.
폴은 미국 상무부 산하 기관인 국립표준기술연구소(NIST)의 AI 표준 및 혁신 센터(새 창에서 열기)(CAISI)에서 근무하며 두 행정부에 걸쳐 정부 경험을 쌓았습니다. 그는 이곳에서 선임 기술 자문역을 맡고 있습니다1. 폴은 CAISI와 그 전신인 미국 AI 안전 연구소에서 국가 안보에 영향을 미치는 역량을 포함해 프런티어 AI 모델을 평가하고, 관련 안전 및 보안 위험을 완화하기 위한 방안을 연구해 왔습니다.
폴은 첨단 AI 시스템을 인간의 이익에 맞게 정렬하는 데 중점을 둔 비영리 연구 기관인 정렬 연구 센터(새 창에서 열기)(ARC)의 설립자이기도 합니다. 2017년부터 2021년까지 폴은 OpenAI에서 정렬 연구를 이끌었으며 인간 피드백 기반 강화학습(RLHF)의 토대를 마련하는 연구에 기여했습니다. 폴은 새로운 역할을 통해 기술적 전문성에 기반한 고유한 관점을 OpenAI의 거버넌스 의사 결정에 더할 것입니다. OpenAI의 사명은 범용 인공지능이 모든 인류에게 혜택을 주도록 하는 것입니다.
“폴은 엄밀한 연구를 바탕으로, 역량이 갈수록 고도화되는 시스템이 제기하는 가장 어려운 문제에 집중하며 AI 정렬 분야의 기틀을 세우는 데 기여했습니다. 정부에서 프런티어 AI의 안전과 표준을 다뤄 온 경험과 탁월한 기술적 판단력을 갖춘 폴은 OpenAI가 프런티어 AI를 계속 개발하고 배포해 나가는 과정에서 이사회의 감독 역량과 안전 및 보안 위원회의 업무를 한층 강화할 것입니다.”
“지난해 AI 역량은 매우 빠르게 발전했지만 정렬은 여전히 해결하기 어려운 기술적 과제로 남아 있어, 안전 및 보안 위원회의 책임은 그 어느 때보다 중요하고 막중해졌습니다. 이 일에 힘을 보태기 위해 팀에 합류하게 되어 기쁩니다.”
AI 역량이 새로운 시대로 접어들면서, 이러한 시스템의 발전과 함께 견고한 안전, 보안, 정렬 및 거버넌스를 갖추는 일이 갈수록 중요해지고 있습니다. AI 정렬을 연구해 온 폴은 첨단 AI가 재앙적 위험을 초래할 수 있다는 가능성을 진지하게 받아들이며, 시스템이 더 위험한 수준의 역량에 도달하기 전에 개발자가 대비해야 한다는 관점을 견지해 왔습니다. 그는 업계의 안전장치가 충분한지에 대해 독립적인 목소리를 내왔습니다. 통념에 기꺼이 의문을 제기하고 중대한 의사 결정의 토대가 되는 증거, 안전장치 및 책임성을 강화하는 데 기여할 인재가 함께할 때 OpenAI Foundation의 거버넌스도 더욱 탄탄해진다고 믿습니다.
폴의 선임은 OpenAI가 2025년 10월 자본 구조를 개편하며 수립한 거버넌스 구조를 한층 강화합니다. 여기에는 캘리포니아주 법무장관(새 창에서 열기)과 델라웨어주 법무장관(새 창에서 열기)이 1년에 걸쳐 진행한 검토와 관련해 OpenAI가 약속한 사항도 포함됩니다. 두 법무장관의 참여는 거버넌스 체계를 강화하는 데 기여했습니다.
OpenAI Foundation 소개
OpenAI Foundation은 AI가 모든 인류에게 혜택을 주도록 하는 데 전념하는 자선 단체입니다. 독립된 비영리 단체인 OpenAI Foundation은 자체적으로 자선 사업을 수행하는 동시에 OpenAI Group PBC에 대한 지배권과 상당한 지분을 보유합니다. OpenAI Foundation은 책임 있는 AI를 통해 과학적 발견을 촉진하고 시민사회를 강화하며 회복탄력성을 높이는 사업을 지원합니다. OpenAI Foundation은 보조금, 파트너십 및 기타 자선 활동을 통해 지속적인 공익을 창출하는 사업을 앞당기고 AI의 혁신적 잠재력을 더 많은 사람이 누릴 수 있도록 지원합니다.
OpenAI Foundation은 OpenAI Group PBC를 지배하며, 안전 및 보안 위원회는 OpenAI Foundation 이사회 산하 위원회입니다. 자세한 내용은 www.openaifoundation.org(새 창에서 열기)에서 확인하세요.
