Paul Christiano dołącza do Rady OpenAI Foundation
Paul Christiano dołączy również do Komisji ds. bezpieczeństwa OpenAI Foundation.
Ogłaszamy powołanie Paula Christiano do Rady OpenAI Foundation. Będzie on obserwatorem bez prawa głosu w Radzie OpenAI Group PBC.
Paul dołączy również do Komisji ds. bezpieczeństwa (SSC) Rady OpenAI Foundation, gdzie będzie współpracował z jej przewodniczącym Zico Kolterem. SSC sprawuje nadzór nad praktykami w zakresie bezpieczeństwa w całej OpenAI, w tym w OpenAI Group PBC.
Paul wnosi doświadczenie z pracy w administracji publicznej obejmujące okres dwóch administracji, zdobyte w Centrum Standardów i Innowacji AI(otwiera nowe okno) (CAISI), działającym w ramach Narodowego Instytutu Standaryzacji i Technologii (NIST) — agencji federalnej należącej do amerykańskiego Departamentu Handlu, gdzie pełni funkcję starszego doradcy technicznego1. Podczas pracy w CAISI i jego poprzedniku, amerykańskim Instytucie Bezpieczeństwa AI, Paul zajmował się oceną pionierskich modeli AI, w tym ich możliwości mających znaczenie dla bezpieczeństwa narodowego, oraz metodami ograniczania związanych z nimi zagrożeń.
Paul jest również założycielem Alignment Research Center(otwiera nowe okno) (ARC), organizacji badawczej non-profit zajmującej się dostosowaniem zaawansowanych systemów AI do interesów ludzi. W latach 2017–2021 Paul kierował w OpenAI badaniami nad dostosowaniem AI i wniósł fundamentalny wkład w rozwój uczenia przez wzmacnianie w sprzężeniu zwrotnym z człowiekiem (RLHF). W tej nowej roli Paul wnosi do decyzji zarządczych OpenAI wyjątkową perspektywę opartą na wiedzy technicznej. Naszą misją jest zadbanie o to, aby ogólna sztuczna inteligencja przynosiła korzyści całej ludzkości.
“Paul pomógł ukształtować dziedzinę dostosowania AI dzięki rygorystycznym badaniom skupionym na najtrudniejszych pytaniach, jakie stawiają coraz bardziej zaawansowane systemy. Jego doświadczenie z pracy w administracji publicznej nad bezpieczeństwem i standardami pionierskich systemów AI, a także trafna ocena kwestii technicznych, wzmocnią nadzór Rady oraz prace Komisji ds. bezpieczeństwa w miarę dalszego rozwoju i wdrażania pionierskiej AI przez OpenAI.”
“W ostatnim roku możliwości AI rozwijały się bardzo szybko, a dostosowanie systemów AI wciąż pozostaje trudnym problemem technicznym. Dlatego odpowiedzialność Komisji ds. bezpieczeństwa jest dziś ważniejsza i bardziej wymagająca niż kiedykolwiek wcześniej. Cieszę się, że dołączam do zespołu, aby wesprzeć go w tej pracy.”
AI wkracza w nową erę możliwości, dlatego coraz ważniejsze jest, aby rozwojowi tych systemów towarzyszyły solidne zabezpieczenia, dostosowanie do ludzkich wartości i skuteczny nadzór. W swojej karierze badacza dostosowania AI Paul konsekwentnie uwzględniał możliwość, że zaawansowana AI może stwarzać katastrofalne zagrożenia, a jej twórcy muszą przygotować się, zanim systemy osiągną bardziej niebezpieczny poziom możliwości. Niezależnie oceniał, czy zabezpieczenia stosowane w branży są wystarczające. Uważamy, że nadzór sprawowany przez OpenAI Foundation jest skuteczniejszy dzięki osobom gotowym kwestionować powszechne założenia oraz wzmacniać podstawy dowodowe, zabezpieczenia i odpowiedzialność leżące u podstaw kluczowych decyzji.
Powołanie Paula jest kolejnym krokiem w rozwoju struktury zarządzania ustanowionej w ramach dokapitalizowania OpenAI w październiku 2025 roku. Obejmuje ona zobowiązania podjęte w związku z trwającymi rok przeglądami przeprowadzonymi przez prokuratora generalnego Kalifornii(otwiera nowe okno) i prokuratora generalnego stanu Delaware(otwiera nowe okno). Ich zaangażowanie pomogło wzmocnić ramy zarządzania.
O OpenAI Foundation
OpenAI Foundation jest organizacją charytatywną, której celem jest zapewnienie, aby AI przynosiła korzyści całej ludzkości. Jako odrębna organizacja non-profit OpenAI Foundation prowadzi własną działalność charytatywną, zachowując kontrolę nad OpenAI Group PBC i posiadając w niej znaczny udział kapitałowy. OpenAI Foundation wspiera inicjatywy przyspieszające odkrycia naukowe, wzmacniające społeczeństwo obywatelskie i zwiększające odporność dzięki odpowiedzialnemu wykorzystaniu AI. Poprzez granty, partnerstwa i inne inicjatywy filantropijne OpenAI Foundation pomaga przyspieszać działania, które przynoszą trwałe korzyści społeczne i poszerzają dostęp do transformacyjnego potencjału AI.
OpenAI Foundation kontroluje OpenAI Group PBC, a Komisja ds. bezpieczeństwa jest komisją jej Rady. Więcej informacji znajdziesz na stronie www.openaifoundation.org(otwiera nowe okno).
