Пол Кристиано се присъединява към борда на OpenAI Foundation
Пол Кристиано ще се присъедини и към Комитета по безопасност и сигурност на OpenAI Foundation.
Обявяваме назначаването на Пол Кристиано в борда на OpenAI Foundation. Той ще бъде наблюдател без право на глас в борда на OpenAI Group PBC.
Пол ще се присъедини и към Комитета по безопасност и сигурност (SSC) към борда на OpenAI Foundation, където ще работи с председателя му Зико Колтър. Комитетът по безопасност и сигурност упражнява надзор върху практиките за безопасност и сигурност в цялата OpenAI, включително в OpenAI Group PBC.
Пол има опит в държавната администрация при две правителства благодарение на работата си в Центъра за стандарти и иновации в областта на ИИ(отваря се в нов прозорец) (CAISI) към Националния институт за стандарти и технологии (NIST), структура към Министерството на търговията на САЩ, където е старши технологичен съветник1. По време на работата си в CAISI и в неговия предшественик — американския Институт за безопасност на ИИ — Пол работи по оценяването на авангардни модели на ИИ, включително на възможности с последици за националната сигурност, както и по подходи за ограничаване на свързаните рискове за безопасността и сигурността.
Пол е и основател на Центъра за изследвания на съгласуването(отваря се в нов прозорец) (ARC) — изследователска организация с нестопанска цел, която работи за съгласуване на усъвършенстваните системи с ИИ с интересите на хората. От 2017 до 2021 г. Пол ръководи изследванията на OpenAI в областта на съгласуването и допринася с основополагаща работа по обучението с утвърждение на базата на отзиви от хора (RLHF). В новата си роля Пол внася отличителна и технически обоснована гледна точка в решенията за управлението на OpenAI. Нашата мисия е да гарантираме, че изкуственият общ интелект е от полза за цялото човечество.
“Със своята задълбочена работа, съсредоточена върху най-трудните въпроси, породени от все по-способните системи, Пол допринесе за утвърждаването на областта на съгласуването на ИИ. Опитът му в работата по безопасността и стандартите за авангарден ИИ в държавната администрация, съчетан с техническата му преценка, ще засили надзора на борда и работата на Комитета по безопасност и сигурност, докато OpenAI продължава да разработва и внедрява авангарден ИИ.”
“През последната година възможностите на ИИ се развиха изключително бързо, а съгласуването остава труден технически проблем. Затова отговорността на Комитета по безопасност и сигурност е по-важна и по-сериозна от всякога. Радвам се, че се присъединявам към екипа, за да помогна.”
ИИ навлиза в нова ера на своето развитие, което прави все по-важно напредъкът при тези системи да бъде съпътстван от надеждни мерки за безопасност, сигурност, съгласуване и управление. През цялата си кариера в изследването на съгласуването на ИИ Пол последователно отчита възможността усъвършенстваният ИИ да породи катастрофални рискове и необходимостта разработчиците да се подготвят, преди системите да достигнат по-опасни нива на способностите си. Той е независим глас в оценката дали защитните мерки в индустрията са достатъчни. Вярваме, че управлението на OpenAI Foundation е по-силно с хора, готови да оспорват преобладаващите допускания и да помагат за укрепването на доказателствата, защитните мерки и отчетността, върху които се основават критичните решения.
Назначаването на Пол надгражда структурата на управление, установена с рекапитализацията на OpenAI през октомври 2025 г., включително ангажиментите, поети във връзка с продължилите една година проверки на главния прокурор на Калифорния(отваря се в нов прозорец) и главния прокурор на Делауеър(отваря се в нов прозорец). Тяхното участие спомогна за укрепването на рамката за управление.
За OpenAI Foundation
OpenAI Foundation е благотворителна организация, посветена на това ИИ да бъде от полза за цялото човечество. Като отделна организация с нестопанска цел OpenAI Foundation осъществява собствена благотворителна дейност, като същевременно запазва контрола и притежава значителен дялов капитал в OpenAI Group PBC. OpenAI Foundation подкрепя инициативи, които допринасят за научни открития, укрепват гражданското общество и изграждат устойчивост чрез отговорно използване на ИИ. Чрез безвъзмездно финансиране, партньорства и други филантропски инициативи OpenAI Foundation ускорява работата, която създава трайна обществена полза и разширява достъпа до преобразяващия потенциал на ИИ.
OpenAI Foundation контролира OpenAI Group PBC, а Комитетът по безопасност и сигурност е комитет към нейния борд. Научете повече на www.openaifoundation.org(отваря се в нов прозорец).
