Sumali si Paul Christiano sa OpenAI Foundation Board
Sasali rin si Paul Christiano sa Safety and Security Committee ng Foundation.
Inaanunsyo namin ang appointment kay Paul Christiano sa OpenAI Foundation Board. Magiging non-voting observer siya sa OpenAI Group PBC Board.
Sasali rin si Paul sa Safety and Security Committee (SSC) ng Foundation Board at makikipagtulungan sa chair nitong si Zico Kolter. Pinapangasiwaan ng SSC ang mga kagawian sa kaligtasan at seguridad sa buong OpenAI, kabilang ang OpenAI Group PBC.
May dalang karanasan si Paul sa pamahalaan sa ilalim ng dalawang administrasyon mula sa kanyang trabaho sa Center for AI Standards and Innovation(magbubukas sa bagong window) (CAISI) sa loob ng National Institute of Standards and Technology (NIST), isang ahensya ng U.S. Department of Commerce, kung saan isa siyang Senior Tech Advisor1. Habang nasa CAISI at sa predecessor nitong U.S. AI Safety Institute, nagsagawa si Paul ng mga evaluation sa mga frontier AI model, kabilang ang mga capability na may implikasyon sa pambansang seguridad, at bumuo ng mga pamamaraan para mabawasan ang mga kaugnay na risk sa kaligtasan at seguridad.
Si Paul din ang nagtatag ng Alignment Research Center(magbubukas sa bagong window) (ARC), isang nonprofit research organization na naka-focus sa pag-align ng mga advanced na system ng AI sa kapakanan ng tao. Mula 2017 hanggang 2021, pinangunahan ni Paul ang research sa alignment sa OpenAI at nag-ambag ng mahalagang saligang gawain sa reinforcement learning from human feedback (RLHF). Sa bago niyang tungkulin, magdadala si Paul ng natatangi at matibay na teknikal na pananaw sa mga pasya sa governance ng OpenAI. Misyon naming tiyaking nakikinabang ang buong sangkatauhan sa artificial general intelligence.
“Nakatulong si Paul na hubugin ang larangan ng alignment ng AI sa pamamagitan ng masusing gawaing nakatuon sa pinakamahihirap na tanong na dulot ng mga system na patuloy na humuhusay. Ang experience niya sa kaligtasan at mga pamantayan ng frontier AI sa pamahalaan, kasama ang kanyang teknikal na pagpapasya, ay magpapatibay sa pangangasiwa ng Board at sa gawain ng Safety and Security Committee habang patuloy na nagde-develop at nagde-deploy ang OpenAI ng frontier AI.”
“Napakabilis ng pag-advance ng mga capability ng AI nitong nakaraang taon, at nananatiling mahirap na teknikal na suliranin ang alignment. Dahil dito, higit na mahalaga at mas challenging kaysa dati ang responsibilidad ng Safety and Security Committee. Nasasabik akong sumali sa team at tumulong.”
Pumapasok ang AI sa bagong era ng capability, kaya lalong mahalagang sabayan ng matibay na kaligtasan, seguridad, alignment, at governance ang pagsulong ng mga system na ito. Sa buong karera ni Paul sa pag-research sa alignment ng AI, itinaguyod niya ang pananaw na dapat seryosohin ang posibilidad na magdulot ng mapaminsalang risk ang advanced AI at na dapat maghanda ang mga developer bago umabot ang mga system sa mas mapanganib na level ng capability. Naging malaya ang kanyang tinig sa usapin kung sapat ba ang mga pananggalang ng industriya. Naniniwala kaming mas matatag ang governance ng Foundation kapag may mga taong handang kuwestyunin ang mga umiiral na palagay at tumulong na patibayin ang ebidensiya, mga pananggalang, at pananagutang pinagbabatayan ng mahahalagang desisyon.
Ang appointment kay Paul ay nagpapatuloy sa istruktura ng governance na itinatag sa pamamagitan ng recapitalization ng OpenAI noong Oktubre 2025, kabilang ang mga commitment na ginawa kaugnay ng mga review na isinagawa sa loob ng isang taon ng California Attorney General(magbubukas sa bagong window) at Delaware Attorney General(magbubukas sa bagong window). Nakatulong ang kanilang pakikilahok para patibayin ang balangkas ng governance.
Tungkol sa OpenAI Foundation
Ang OpenAI Foundation ay isang charitable organization na nakatuon sa pagtiyak na nakikinabang ang buong sangkatauhan sa AI. Bilang hiwalay na nonprofit organization, nagsasagawa ang Foundation ng sarili nitong mga gawaing pangkawanggawa habang pinapanatili ang kontrol at ang malaking equity stake nito sa OpenAI Group PBC. Sinusuportahan ng Foundation ang mga inisyatibang nagpapasulong sa siyentipikong pagtuklas, nagpapatibay sa lipunang sibil, at bumubuo ng resilience sa pamamagitan ng responsableng AI. Sa pamamagitan ng mga grant, partnership, at iba pang inisyatibang pilantropiko, tumutulong ang Foundation na pabilisin ang gawaing lumilikha ng pangmatagalang benepisyo sa publiko at nagpapalawak ng access sa transformative na potensyal ng AI.
Kontrolado ng Foundation ang OpenAI Group PBC, at ang Safety and Security Committee ay isang committee ng Foundation Board. Alamin pa sa www.openaifoundation.org(magbubukas sa bagong window).
