Пол Кристијано се приклучува на Одборот на OpenAI Foundation
Пол Кристијано ќе му се придружи и на Одборот за безбедност и сигурност на Фондацијата.
Го објавуваме назначувањето на Пол Кристијано во Одборот на OpenAI Foundation. Тој ќе биде набљудувач без право на глас во Одборот на OpenAI Group PBC.
Пол ќе му се придружи и на Одборот за безбедност и сигурност (SSC) при Одборот на Фондацијата, каде што ќе работи со неговиот претседател, Зико Колтер. SSC ги надгледува практиките за безбедност и сигурност во целиот OpenAI, вклучително и во OpenAI Group PBC.
Пол носи искуство од работата во владините институции за време на две администрации, стекнато преку неговиот ангажман во Центарот за стандарди и иновации во ВИ(се отвора во нов прозорец) (CAISI), во рамките на Националниот институт за стандарди и технологија (NIST), агенција на САД. Во Министерството за трговија тој е виш технички советник1. За време на работата во CAISI и во неговиот претходник, Институтот за безбедност на ВИ на САД, Пол работеше на процена на гранични модели на ВИ, вклучувајќи способности што имаат последици за националната безбедност, како и на пристапи за ублажување на поврзаните ризици по безбедноста и сигурноста.
Пол е и основач на Центарот за истражување на усогласувањето(се отвора во нов прозорец) (ARC), непрофитна истражувачка организација посветена на усогласување на напредните системи за ВИ со интересите на луѓето. Од 2017 до 2021 година, Пол ги предводеше истражувањата за усогласување во OpenAI и придонесе кон темелните истражувања за човечка повратна информација (RLHF). Во оваа нова улога, Пол придонесува кон одлуките за управување на OpenAI со посебна перспектива заснована на длабока техничка стручност. Нашата мисија е да обезбедиме општата вештачка интелигенција да му користи на целото човештво.
“Со својата темелна работа, насочена кон најтешките прашања што ги поставуваат сè поспособните системи, Пол помогна да се обликува областа на усогласувањето на ВИ. Неговото искуство во владините институции со безбедноста и стандардите за гранична ВИ, заедно со неговата техничка процена, ќе го зајакне надзорот на Одборот и работата на Одборот за безбедност и сигурност додека OpenAI продолжува да развива и применува гранична ВИ.”
“Способностите на ВИ многу брзо напредуваа во текот на изминатата година, а усогласувањето и понатаму е тежок технички проблем, поради што одговорноста на Одборот за безбедност и сигурност е поважна и попредизвикувачка од кога било. Ми претставува задоволство што ќе му се придружам на тимот и ќе помогнам.”
ВИ влегува во нова ера на способности, па затоа е сè поважно напредокот на овие системи да биде проследен со силна безбедност, сигурност, усогласување и управување. Во текот на својата кариера посветена на истражување на усогласувањето на ВИ, Пол застапува став што сериозно ја зема предвид можноста напредната ВИ да предизвика катастрофални ризици и потребата развивачите да се подготват пред системите да достигнат поопасни нивоа на способност. Тој е независен глас во процената дали заштитните мерки во индустријата се соодветни. Веруваме дека управувањето на Фондацијата е посилно кога во него учествуваат луѓе подготвени да ги преиспитуваат преовладувачките претпоставки и да помогнат во зајакнувањето на доказите, заштитните мерки и отчетноста врз кои се темелат клучните одлуки.
Назначувањето на Пол се надоврзува на структурата на управување воспоставена со докапитализацијата на OpenAI во октомври 2025 година, вклучувајќи ги обврските преземени во врска со едногодишните проверки спроведени од јавниот обвинител на Калифорнија(се отвора во нов прозорец) и јавниот обвинител на Делавер(се отвора во нов прозорец). Нивниот ангажман помогна да се зајакне рамката за управување.
За OpenAI Foundation
OpenAI Foundation е добротворна организација посветена на тоа ВИ да му користи на целото човештво. Како посебна непрофитна организација, Фондацијата спроведува сопствени добротворни активности, а истовремено ја задржува контролата и поседува значителен сопственички удел во OpenAI Group PBC. Фондацијата поддржува иницијативи што го унапредуваат научното откривање, го зајакнуваат граѓанското општество и градат отпорност преку одговорна ВИ. Преку грантови, партнерства и други филантропски иницијативи, Фондацијата помага да се забрза работата што создава трајна јавна корист и го проширува пристапот до преобразувачкиот потенцијал на ВИ.
Фондацијата го контролира OpenAI Group PBC, а Одборот за безбедност и сигурност е одбор при Одборот на Фондацијата. Дознајте повеќе на www.openaifoundation.org(се отвора во нов прозорец).
