Paul Christiano treedt toe tot bestuur OpenAI Foundation
Paul Christiano treedt ook toe tot de Safety and Security Committee van de Foundation.
We kondigen de benoeming aan van Paul Christiano tot het bestuur van OpenAI Foundation. Hij wordt een waarnemer zonder stemrecht in het bestuur van OpenAI Group PBC.
Paul treedt ook toe tot de Safety and Security Committee (SSC) van het bestuur van de Foundation, waar hij gaat samenwerken met voorzitter Zico Kolter. De SSC houdt toezicht op de veiligheids- en beveiligingspraktijken binnen heel OpenAI, waaronder OpenAI Group PBC.
Paul brengt overheidservaring uit twee regeringsperiodes mee dankzij zijn werk bij het Center for AI Standards and Innovation(opent in een nieuw venster) (CAISI), onderdeel van het National Institute of Standards and Technology (NIST), een agentschap van het Amerikaanse ministerie van Handel, waar hij Senior Tech Advisor is1. Tijdens zijn werk bij CAISI en de voorganger daarvan, het Amerikaanse AI Safety Institute, hield Paul zich bezig met de evaluatie van grensverleggende AI-modellen, waaronder capaciteiten met gevolgen voor de nationale veiligheid, en met manieren om de bijbehorende veiligheids- en beveiligingsrisico's te beperken.
Paul is ook oprichter van het Alignment Research Center(opent in een nieuw venster) (ARC), een non-profitonderzoeksorganisatie die zich richt op het afstemmen van geavanceerde AI-systemen op menselijke belangen. Van 2017 tot 2021 leidde Paul het alignmentonderzoek bij OpenAI en leverde hij fundamentele bijdragen aan reinforcement learning from human feedback (RLHF). In deze nieuwe rol brengt Paul een onderscheidend en technisch onderbouwd perspectief mee naar de bestuursbesluiten van OpenAI. Onze missie is ervoor te zorgen dat kunstmatige algemene intelligentie de hele mensheid ten goede komt.
“Paul heeft het vakgebied AI-alignment mede vormgegeven met gedegen onderzoek dat zich richt op de moeilijkste vraagstukken die steeds geavanceerdere systemen met zich meebrengen. Zijn overheidservaring met de veiligheid van grensverleggende AI en normen, in combinatie met zijn technische beoordelingsvermogen, zal het toezicht van het bestuur en het werk van de Safety and Security Committee versterken terwijl OpenAI grensverleggende AI blijft ontwikkelen en implementeren.”
“De mogelijkheden van AI zijn het afgelopen jaar zeer snel toegenomen en alignment blijft een lastig technisch probleem. Daardoor is de verantwoordelijkheid van de Safety and Security Committee belangrijker en uitdagender dan ooit. Ik kijk ernaar uit om het team te versterken en te helpen.”
AI gaat een nieuw tijdperk van mogelijkheden in. Daarom wordt het steeds belangrijker dat de vooruitgang van deze systemen gepaard gaat met solide veiligheid, beveiliging, alignment en goed bestuur. Door zijn jarenlange onderzoek naar AI-alignment heeft Paul een perspectief ontwikkeld waarin serieus rekening wordt gehouden met de mogelijkheid dat geavanceerde AI catastrofale risico's kan opleveren en ontwikkelaars zich moeten voorbereiden voordat systemen gevaarlijkere capaciteitsniveaus bereiken. Hij heeft zich onafhankelijk uitgesproken over de vraag of de waarborgen van de sector toereikend zijn. Wij geloven dat het bestuur van de Foundation sterker is met mensen die bereid zijn heersende aannames ter discussie te stellen en het bewijs, de waarborgen en de verantwoordingsplicht achter cruciale besluiten te versterken.
De benoeming van Paul bouwt voort op de bestuursstructuur die bij de herkapitalisatie van OpenAI in oktober 2025 is ingesteld. Daartoe behoren de toezeggingen die zijn gedaan in verband met de onderzoeken die gedurende een jaar zijn uitgevoerd door de procureur-generaal van Californië(opent in een nieuw venster) en de procureur-generaal van Delaware(opent in een nieuw venster). Hun betrokkenheid heeft bijgedragen aan een sterker bestuurskader.
Over OpenAI Foundation
OpenAI Foundation is een liefdadigheidsorganisatie die zich ervoor inzet dat AI de hele mensheid ten goede komt. Als afzonderlijke non-profitorganisatie voert de Foundation haar eigen liefdadigheidsactiviteiten uit, terwijl zij de zeggenschap over OpenAI Group PBC behoudt en daarin een aanzienlijk aandelenbelang heeft. De Foundation ondersteunt initiatieven die wetenschappelijke ontdekkingen bevorderen, het maatschappelijk middenveld versterken en met verantwoorde AI de weerbaarheid vergroten. Met subsidies, samenwerkingsverbanden en andere filantropische initiatieven helpt de Foundation werkzaamheden te versnellen die blijvend maatschappelijk nut opleveren en de toegang tot het transformerende potentieel van AI vergroten.
De Foundation heeft de zeggenschap over OpenAI Group PBC en de Safety and Security Committee is een commissie van het bestuur van de Foundation. Lees meer op www.openaifoundation.org(opent in een nieuw venster).
