Paul Christiano csatlakozik az OpenAI Foundation igazgatótanácsához
Paul Christiano az Alapítvány Biztonsági és Védelmi Bizottságához is csatlakozik.
Bejelentjük, hogy Paul Christianót kineveztük az OpenAI Foundation igazgatótanácsába. Az OpenAI Group PBC igazgatótanácsában szavazati joggal nem rendelkező megfigyelőként vesz részt.
Paul emellett csatlakozik az Alapítvány igazgatótanácsának Biztonsági és Védelmi Bizottságához (SSC), ahol annak elnökével, Zico Kolterrel dolgozik együtt. Az SSC felügyeli az OpenAI egészének – köztük az OpenAI Group PBC-nek – a biztonsági és védelmi gyakorlatait.
Paul két kormányzati cikluson átívelő tapasztalatra tett szert a Nemzeti Szabványügyi és Technológiai Intézethez (NIST), az Egyesült Államok egyik szövetségi ügynökségéhez tartozó MI-szabványügyi és Innovációs Központnál(új ablakban nyílik meg) (CAISI) végzett munkája során. A Kereskedelmi Minisztériumnál vezető technológiai tanácsadóként dolgozik1. A CAISI-nél és annak elődjénél, az Egyesült Államok MI-biztonsági Intézeténél töltött ideje alatt Paul élvonalbeli MI-modellek értékelésén dolgozott – beleértve a nemzetbiztonsági vonatkozású képességeket is –, valamint az ezekhez kapcsolódó biztonsági és védelmi kockázatok mérséklésére szolgáló módszerekkel foglalkozott.
Paul alapította az Alignment Research Centert(új ablakban nyílik meg) (ARC) is, amely a fejlett MI-rendszerek emberi érdekekkel való összehangolására összpontosító nonprofit kutatószervezet. 2017 és 2021 között Paul vezette az OpenAI összehangolással kapcsolatos kutatásait, és alapvető munkával járult hozzá a Megerősítéses tanulás (RLHF) területéhez. Új szerepkörében Paul sajátos, szilárd műszaki alapokon nyugvó szemlélettel járul hozzá az OpenAI irányítási döntéseihez. Küldetésünk annak biztosítása, hogy a mesterséges általános intelligencia az egész emberiség javát szolgálja.
“Paul alapvető szerepet játszott az MI-összehangolás szakterületének kialakításában: munkája szigorú szakmai alapokra épül, és az egyre nagyobb képességű rendszerek által felvetett legnehezebb kérdésekre összpontosít. Az élvonalbeli MI biztonságával és szabványaival kapcsolatos kormányzati tapasztalata, valamint műszaki ítélőképessége erősíteni fogja az igazgatótanács felügyeleti tevékenységét és a Biztonsági és Védelmi Bizottság munkáját, miközben az OpenAI folytatja az élvonalbeli MI fejlesztését és bevezetését.”
“Az MI képességei rendkívül gyorsan fejlődtek az elmúlt évben, miközben az összehangolás továbbra is nehéz műszaki probléma, így a Biztonsági és Védelmi Bizottság felelőssége minden eddiginél fontosabb és nagyobb kihívást jelent. Örömmel csatlakozom a csapathoz, hogy segítsem ezt a munkát.”
Az MI képességei új korszakba lépnek, ezért egyre fontosabb, hogy e rendszerek fejlődését szigorú biztonsági, védelmi, összehangolási és irányítási elvek kísérjék. Paul az MI összehangolását kutató pályafutása során mindvégig komolyan számolt azzal, hogy a fejlett MI katasztrofális kockázatokat jelenthet, és hogy a fejlesztőknek még azelőtt fel kell készülniük, hogy a rendszerek képességei veszélyesebb szintet érnének el. Független véleményt képviselt arról, hogy megfelelőek-e az iparági biztosítékok. Meggyőződésünk, hogy az Alapítvány irányítása erősebb, ha olyanok is részt vesznek benne, akik készek megkérdőjelezni az uralkodó feltételezéseket, és segítenek megerősíteni a kulcsfontosságú döntéseket alátámasztó bizonyítékokat, biztosítékokat és elszámoltathatóságot.
Paul kinevezése az OpenAI 2025. októberi feltőkésítése során kialakított irányítási struktúrára épül. Ennek részét képezik azok a kötelezettségvállalások is, amelyek a kaliforniai főügyész(új ablakban nyílik meg) és a delaware-i főügyész(új ablakban nyílik meg) egy éven át tartó felülvizsgálataihoz kapcsolódtak. Közreműködésük segített megerősíteni az irányítási keretrendszert.
Az OpenAI Foundation bemutatása
Az OpenAI Foundation olyan jótékonysági szervezet, amely azért dolgozik, hogy az MI az egész emberiség javát szolgálja. Önálló nonprofit szervezetként az Alapítvány saját jótékonysági tevékenységet folytat, miközben fenntartja ellenőrzését az OpenAI Group PBC felett, amelyben jelentős tulajdonrésszel is rendelkezik. Az Alapítvány olyan kezdeményezéseket támogat, amelyek előmozdítják a tudományos felfedezéseket, erősítik a civil társadalmat, és a felelős MI révén növelik az ellenálló képességet. Támogatásokkal, partnerségekkel és más jótékonysági kezdeményezésekkel az Alapítvány felgyorsítja a tartós közhasznot teremtő munkát, és szélesíti a hozzáférést az MI átalakító lehetőségeihez.
Az Alapítvány ellenőrzi az OpenAI Group PBC-t, a Biztonsági és Védelmi Bizottság pedig az Alapítvány igazgatótanácsának bizottsága. További információ: www.openaifoundation.org(új ablakban nyílik meg).
