Пол Кристијано се придружује Управном одбору организације OpenAI Foundation
Пол Кристијано ће се придружити и Одбору за безбедност и сигурност организације OpenAI Foundation.
Објављујемо именовање Пола Кристијана у Управни одбор организације OpenAI Foundation. Биће посматрач без права гласа у Управном одбору компаније OpenAI Group PBC.
Пол ће се придружити и Одбору за безбедност и сигурност организације OpenAI Foundation, у којем ће радити с његовим председником Зиком Колтером. Одбор за безбедност и сигурност надзире праксе безбедности и сигурности у целом OpenAI-ју, укључујући OpenAI Group PBC.
Пол доноси искуство из државне управе стечено током мандата двеју администрација, радећи у Центру за стандарде и иновације у области вештачке интелигенције(отвара се у новом прозору) (CAISI), при Националном институту за стандарде и технологију (NIST), агенцији америчког Министарства трговине, где ради као виши технички саветник1. Током рада у CAISI-ју и његовом претходнику, америчком Институту за безбедност вештачке интелигенције, Пол се бавио проценом граничних модела вештачке интелигенције, укључујући способности значајне за националну безбедност, као и приступима за ублажавање повезаних ризика по безбедност и сигурност.
Пол је и оснивач Центра за истраживање усклађивања(отвара се у новом прозору) (ARC), непрофитне истраживачке организације усмерене на усклађивање напредних система вештачке интелигенције с интересима људи. Од 2017. до 2021. Пол је предводио истраживања усклађивања у компанији OpenAI и допринео темељном раду на подстицајном учењу из повратних информација од људи (RLHF). У овој новој улози, Пол доноси посебну и технички утемељену перспективу у одлуке о управљању организацијом OpenAI. Наша мисија је да обезбедимо да општа вештачка интелигенција користи целом човечанству.
“Пол је својим темељним радом усмереним на најтежа питања која постављају све способнији системи допринео обликовању области усклађивања вештачке интелигенције. Његово искуство у раду на безбедности и стандардима граничне вештачке интелигенције у државној управи, заједно с његовим техничким расуђивањем, ојачаће надзор Управног одбора и рад Одбора за безбедност и сигурност док OpenAI наставља да развија и примењује граничну вештачку интелигенцију.”
“Способности вештачке интелигенције изузетно су брзо напредовале током протекле године, док усклађивање и даље представља тежак технички проблем, због чега је одговорност Одбора за безбедност и сигурност важнија и захтевнија него икада. Радујем се што ћу се придружити тиму и помоћи.”
Вештачка интелигенција улази у нову еру способности, па је све важније да напредак ових система прати снажна безбедност, сигурност, усклађеност и добро управљање. Током своје каријере у истраживању усклађивања вештачке интелигенције, Пол заступа становиште које озбиљно узима у обзир могућност да напредна вештачка интелигенција изазове катастрофалне ризике и да програмери морају да се припреме пре него што системи достигну опасније нивое способности. Независно је указивао на питање да ли су заштитне мере сектора одговарајуће. Верујемо да је управљање организацијом OpenAI Foundation снажније када укључује људе спремне да преиспитују преовлађујуће претпоставке и помогну у јачању доказа, заштитних мера и одговорности на којима почивају кључне одлуке.
Полово именовање надовезује се на структуру управљања успостављену докапитализацијом компаније OpenAI у октобру 2025. године, укључујући обавезе преузете у вези с једногодишњим поступцима провере које су спровели државни тужилац Калифорније(отвара се у новом прозору) и државни тужилац Делавера(отвара се у новом прозору). Њихово учешће помогло је да се ојача оквир управљања.
О организацији OpenAI Foundation
OpenAI Foundation је добротворна организација посвећена томе да вештачка интелигенција користи целом човечанству. Као засебна непрофитна организација, OpenAI Foundation самостално спроводи своје добротворне активности, а истовремено задржава контролу над компанијом OpenAI Group PBC и значајан власнички удео у њој. OpenAI Foundation подржава иницијативе које унапређују научна открића, јачају цивилно друштво и одговорном употребом вештачке интелигенције повећавају отпорност. Кроз грантове, партнерства и друге филантропске иницијативе, OpenAI Foundation помаже да се убрза рад који ствара трајну јавну корист и проширује приступ преображавајућем потенцијалу вештачке интелигенције.
OpenAI Foundation контролише OpenAI Group PBC, а Одбор за безбедност и сигурност делује као одбор у оквиру Управног одбора организације OpenAI Foundation. Сазнајте више на www.openaifoundation.org(отвара се у новом прозору).
