Paul Christiano indtræder i bestyrelsen for OpenAI Foundation
Paul Christiano indtræder også i fondens Sikkerhedsudvalg.
Vi offentliggør nu udnævnelsen af Paul Christiano til bestyrelsen for OpenAI Foundation. Han bliver observatør uden stemmeret i bestyrelsen for OpenAI Group PBC.
Paul indtræder også i Sikkerhedsudvalget under fondens bestyrelse, hvor han skal arbejde sammen med udvalgets formand, Zico Kolter. Sikkerhedsudvalget fører tilsyn med sikkerhedspraksis i hele OpenAI, herunder OpenAI Group PBC.
Paul har erfaring fra to amerikanske regeringer gennem sit arbejde ved Center for AI Standards and Innovation(åbner i et nyt vindue) (CAISI), som hører under National Institute of Standards and Technology (NIST), et agentur under USA's handelsministerium, hvor han er ledende teknologisk rådgiver1. I sin tid hos CAISI og dets forgænger, USA's AI Safety Institute, har Paul arbejdet med at evaluere banebrydende AI-modeller, herunder kapaciteter med betydning for den nationale sikkerhed, og med metoder til at begrænse de tilknyttede sikkerhedsrisici.
Paul har også grundlagt Alignment Research Center(åbner i et nyt vindue) (ARC), en almennyttig forskningsorganisation, der arbejder på at tilpasse avancerede AI-systemer til menneskers interesser. Fra 2017 til 2021 ledede Paul forskningen i tilpasning hos OpenAI og bidrog med grundlæggende arbejde inden for forstærkende læring fra menneskelig feedback (RLHF). I denne nye rolle bidrager Paul med et særskilt og teknisk velfunderet perspektiv på beslutninger om ledelsen af OpenAI. Vores mission er at sikre, at kunstig generel intelligens kommer hele menneskeheden til gode.
“Paul har været med til at forme feltet AI-tilpasning gennem et grundigt arbejde med fokus på de vanskeligste spørgsmål, som stadig mere kapable systemer rejser. Hans erfaring med offentlig regulering af sikkerhed og standarder for banebrydende AI vil sammen med hans tekniske dømmekraft styrke bestyrelsens tilsyn og Sikkerhedsudvalgets arbejde, mens OpenAI fortsætter med at udvikle og implementere banebrydende AI.”
“AI-systemernes kapacitet er vokset meget hurtigt det seneste år, og tilpasning er fortsat et vanskeligt teknisk problem. Derfor er Sikkerhedsudvalgets ansvar vigtigere og mere udfordrende end nogensinde. Jeg glæder mig til at blive en del af teamet og bidrage.”
AI går ind i en ny æra med øget kapacitet, og derfor bliver det stadig vigtigere, at fremskridt i disse systemer ledsages af solid sikkerhed, tilpasning og ansvarlig ledelse. Gennem hele sin karriere med forskning i AI-tilpasning har Paul anlagt et perspektiv, der tager risikoen for, at avanceret AI kan få katastrofale følger, alvorligt, og som understreger, at udviklere skal forberede sig, før systemerne når farligere kapacitetsniveauer. Han har været en uafhængig stemme i debatten om, hvorvidt branchens sikkerhedsforanstaltninger er tilstrækkelige. Vi mener, at fondens ledelse står stærkere med personer, der er parate til at udfordre gængse antagelser og styrke det evidensgrundlag, de sikkerhedsforanstaltninger og den ansvarlighed, som afgørende beslutninger bygger på.
Udnævnelsen af Paul bygger videre på den ledelsesstruktur, der blev etableret ved rekapitaliseringen af OpenAI i oktober 2025. Det omfatter de tilsagn, der blev afgivet i forbindelse med de etårige gennemgange foretaget af Californiens statsadvokat(åbner i et nyt vindue) og Delawares statsadvokat(åbner i et nyt vindue). Deres engagement bidrog til at styrke rammerne for ledelsen.
Om OpenAI Foundation
OpenAI Foundation er en velgørende organisation, der arbejder for at sikre, at AI kommer hele menneskeheden til gode. Som en selvstændig almennyttig organisation driver fonden sine egne velgørende aktiviteter, samtidig med at den bevarer kontrollen over og ejer en betydelig aktiepost i OpenAI Group PBC. Fonden støtter initiativer, der fremmer videnskabelige opdagelser, styrker civilsamfundet og opbygger modstandskraft gennem ansvarlig AI. Gennem bevillinger, partnerskaber og andre filantropiske initiativer er fonden med til at fremskynde arbejde, der skaber varig samfundsværdi og giver flere adgang til AI's transformative potentiale.
Fonden kontrollerer OpenAI Group PBC, og Sikkerhedsudvalget er et udvalg under fondens bestyrelse. Læs mere på www.openaifoundation.org(åbner i et nyt vindue).
