Paul Christiano sa stáva členom správnej rady OpenAI Foundation
Paul Christiano sa tiež pripojí k Výboru pre bezpečnosť a ochranu OpenAI Foundation.
Oznamujeme vymenovanie Paula Christiana do správnej rady OpenAI Foundation. V správnej rade OpenAI Group PBC bude pôsobiť ako pozorovateľ bez hlasovacieho práva.
Paul sa tiež pripojí k Výboru pre bezpečnosť a ochranu (SSC) správnej rady OpenAI Foundation, kde bude spolupracovať s jeho predsedom Zicom Kolterom. Výbor pre bezpečnosť a ochranu dohliada na postupy v oblasti bezpečnosti a ochrany v celej OpenAI vrátane OpenAI Group PBC.
Paul prináša skúsenosti z verejnej správy získané počas dvoch vládnych administratív vďaka práci v Centre pre štandardy a inovácie v oblasti AI(otvorí sa v novom okne) (CAISI), ktoré je súčasťou Národného inštitútu pre štandardy a technológie (NIST) patriaceho pod americké ministerstvo obchodu, kde pôsobí ako hlavný technický poradca1. Počas svojho pôsobenia v CAISI a jeho predchodcovi, americkom Inštitúte pre bezpečnosť AI, Paul pracoval na hodnotení prelomových modelov AI vrátane schopností s dosahom na národnú bezpečnosť a na prístupoch k zmierňovaniu súvisiacich rizík v oblasti bezpečnosti a ochrany.
Paul je tiež zakladateľom neziskovej výskumnej organizácie Alignment Research Center(otvorí sa v novom okne) (ARC), ktorá sa zameriava na zosúladenie pokročilých systémov AI so záujmami ľudí. V rokoch 2017 až 2021 Paul viedol výskum zosúlaďovania AI v OpenAI a podieľal sa na priekopníckej práci v oblasti učenia posilňovaním na základe ľudskej odozvy (RLHF). V tejto novej úlohe Paul prináša do rozhodovania o riadení OpenAI osobitý pohľad založený na hlbokých technických znalostiach. Naším poslaním je zabezpečiť, aby všeobecná umelá inteligencia prinášala úžitok celému ľudstvu.
“Paul pomáhal formovať oblasť zosúlaďovania AI dôslednou prácou zameranou na najťažšie otázky, ktoré prinášajú čoraz schopnejšie systémy. Jeho skúsenosti s bezpečnosťou a štandardmi prelomovej AI vo verejnej správe spolu s jeho odborným úsudkom posilnia dohľad správnej rady aj prácu Výboru pre bezpečnosť a ochranu, zatiaľ čo OpenAI pokračuje vo vývoji a nasadzovaní prelomovej AI.”
“Schopnosti AI za posledný rok veľmi rýchlo pokročili a jej zosúladenie zostáva náročným technickým problémom. Zodpovednosť Výboru pre bezpečnosť a ochranu je preto dôležitejšia a náročnejšia než kedykoľvek predtým. Teším sa, že sa pripojím k tímu a pomôžem mu.”
AI vstupuje do novej éry schopností, preto je čoraz dôležitejšie, aby pokrok týchto systémov sprevádzala dôsledná bezpečnosť, ochrana, zosúladenie a správa. Paul počas celej svojej kariéry vo výskume zosúlaďovania AI presadzuje pohľad, ktorý berie vážne možnosť, že pokročilá AI by mohla predstavovať katastrofické riziká a že vývojári sa musia pripraviť skôr, než systémy dosiahnu nebezpečnejšiu úroveň schopností. Nezávisle posudzoval, či sú ochranné opatrenia v odvetví dostatočné. Veríme, že riadenie OpenAI Foundation je silnejšie vďaka ľuďom, ktorí sú pripravení spochybňovať prevládajúce predpoklady a pomáhať zlepšovať dôkazy, ochranné opatrenia a zodpovednosť, o ktoré sa opierajú zásadné rozhodnutia.
Paulovo vymenovanie nadväzuje na štruktúru riadenia vytvorenú rekapitalizáciou OpenAI v októbri 2025 vrátane záväzkov prijatých v súvislosti s celoročnými preskúmaniami, ktoré vykonali generálny prokurátor Kalifornie(otvorí sa v novom okne) a generálna prokurátorka štátu Delaware(otvorí sa v novom okne). Ich zapojenie pomohlo posilniť rámec riadenia.
O OpenAI Foundation
OpenAI Foundation je dobročinná organizácia, ktorej cieľom je zabezpečiť, aby AI prinášala úžitok celému ľudstvu. Ako samostatná nezisková organizácia vykonáva OpenAI Foundation vlastnú dobročinnú činnosť, pričom si zachováva kontrolu nad OpenAI Group PBC a vlastní v nej významný majetkový podiel. OpenAI Foundation podporuje iniciatívy, ktoré urýchľujú vedecké objavy, posilňujú občiansku spoločnosť a zvyšujú odolnosť prostredníctvom zodpovednej AI. Prostredníctvom grantov, partnerstiev a ďalších filantropických iniciatív pomáha OpenAI Foundation urýchľovať prácu, ktorá prináša trvalý verejný prospech a rozširuje prístup k transformačnému potenciálu AI.
OpenAI Foundation kontroluje OpenAI Group PBC a Výbor pre bezpečnosť a ochranu je výborom jej správnej rady. Viac informácií nájdete na stránke www.openaifoundation.org(otvorí sa v novom okne).
