Пол Кристиано вошел в совет OpenAI Foundation
Пол Кристиано также войдет в Комитет по безопасности и защите OpenAI Foundation.
Мы объявляем о назначении Пола Кристиано в совет OpenAI Foundation. Он станет наблюдателем без права голоса в совете OpenAI Group PBC.
Пол также войдет в Комитет по безопасности и защите при совете OpenAI Foundation и будет работать вместе с его председателем Зико Колтером. Комитет осуществляет надзор за практиками безопасности и защиты во всей OpenAI, включая OpenAI Group PBC.
Пол обладает опытом работы в государственных структурах при двух администрациях благодаря своей деятельности в Центре стандартов и инноваций в области ИИ(открывается в новом окне) (CAISI) при Национальном институте стандартов и технологий (NIST) — агентстве Министерства торговли США, где он занимает должность старшего технического советника1. За время работы в CAISI и его предшественнике — американском Институте безопасности ИИ — Пол занимался оценкой передовых моделей ИИ, включая возможности, имеющие значение для национальной безопасности, а также разработкой подходов к снижению связанных с ними рисков для безопасности и защиты.
Пол также основал Исследовательский центр по согласованию(открывается в новом окне) (ARC) — некоммерческую исследовательскую организацию, которая занимается согласованием передовых систем ИИ с интересами человека. С 2017 по 2021 год Пол руководил исследованиями по согласованию в OpenAI и внес основополагающий вклад в обучение с подкреплением на основе обратной связи от человека (RLHF). В новой роли Пол привнесет в принятие управленческих решений OpenAI особый взгляд, основанный на глубоких технических знаниях. Наша миссия — сделать так, чтобы общий искусственный интеллект приносил пользу всему человечеству.
“Пол внес значительный вклад в формирование области согласования ИИ благодаря тщательной работе, сосредоточенной на самых сложных вопросах, которые ставят перед нами все более способные системы. Его опыт работы в государственных структурах над безопасностью передового ИИ и соответствующими стандартами, а также его техническая компетентность усилят надзор со стороны совета и работу Комитета по безопасности и защите по мере того, как OpenAI продолжает разрабатывать и внедрять передовой ИИ.”
“За последний год возможности ИИ развивались очень быстро, а согласование по-прежнему остается сложной технической задачей, поэтому ответственность Комитета по безопасности и защите стала как никогда важной и непростой. Я рад присоединиться к команде и помочь в этой работе.”
ИИ вступает в новую эпоху развития возможностей, поэтому все важнее, чтобы совершенствование этих систем сопровождалось надежными мерами безопасности, защиты, согласования и управления. На протяжении всей своей карьеры в области согласования ИИ Пол серьезно относится к тому, что передовой ИИ может создавать катастрофические риски и что разработчики должны подготовиться к ним до того, как системы достигнут более опасного уровня возможностей. Он независимо высказывался о том, достаточны ли защитные меры, принятые в отрасли. Мы считаем, что система управления OpenAI Foundation становится сильнее благодаря людям, которые готовы подвергать сомнению общепринятые представления и укреплять доказательную базу, защитные меры и подотчетность, лежащие в основе важнейших решений.
Назначение Пола развивает структуру управления, созданную в ходе рекапитализации OpenAI в октябре 2025 года, включая обязательства, принятые в связи с проверками, которые в течение года проводили генеральный прокурор Калифорнии(открывается в новом окне) и генеральный прокурор Делавэра(открывается в новом окне). Их участие помогло укрепить систему управления.
Об OpenAI Foundation
OpenAI Foundation — благотворительная организация, призванная сделать так, чтобы ИИ приносил пользу всему человечеству. Будучи отдельной некоммерческой организацией, OpenAI Foundation самостоятельно ведет благотворительную деятельность, сохраняя контроль над OpenAI Group PBC и владея значительной долей ее капитала. OpenAI Foundation поддерживает инициативы, способствующие научным открытиям, укреплению гражданского общества и повышению устойчивости благодаря ответственному применению ИИ. Посредством грантов, партнерств и других благотворительных инициатив OpenAI Foundation помогает ускорять работу, которая приносит обществу долгосрочную пользу и расширяет доступ к преобразующему потенциалу ИИ.
OpenAI Foundation контролирует OpenAI Group PBC, а Комитет по безопасности и защите входит в структуру ее совета. Подробнее на сайте www.openaifoundation.org(открывается в новом окне).
