Paul Christiano går inn i styret for OpenAI Foundation
Paul Christiano blir også medlem av Sikkerhets- og vernekomiteen i stiftelsen.
Vi kunngjør at Paul Christiano er utnevnt til styret i OpenAI Foundation. Han blir observatør uten stemmerett i styret for OpenAI Group PBC.
Paul blir også medlem av Sikkerhets- og vernekomiteen (SSC) i stiftelsens styre, der han skal arbeide sammen med komitéleder Zico Kolter. SSC fører tilsyn med praksisen for trygghet og sikkerhet i hele OpenAI, inkludert OpenAI Group PBC.
Paul har med seg erfaring fra offentlig forvaltning under to administrasjoner gjennom arbeidet ved Center for AI Standards and Innovation(åpnes i et nytt vindu) (CAISI), som er en del av National Institute of Standards and Technology (NIST), et organ under det amerikanske handelsdepartementet, der han er senior teknologirådgiver1. I tiden ved CAISI og forgjengeren, det amerikanske instituttet for KI-sikkerhet, har Paul arbeidet med å evaluere banebrytende KI-modeller, blant annet kapabiliteter med betydning for nasjonal sikkerhet, og med metoder for å redusere tilknyttet risiko for trygghet og sikkerhet.
Paul grunnla også Alignment Research Center(åpnes i et nytt vindu) (ARC), en ideell forskningsorganisasjon som arbeider for å innrette avanserte KI-systemer etter menneskelige interesser. Fra 2017 til 2021 ledet Paul forskningen på KI-tilpasning hos OpenAI og bidro til grunnleggende arbeid med forsterkende læring fra menneskelig tilbakemelding (RLHF). I denne nye rollen tilfører Paul OpenAIs styringsbeslutninger et særegent og solid teknisk perspektiv. Samfunnsoppdraget vårt er å sikre at kunstig generell intelligens kommer hele menneskeheten til gode.
“Paul har bidratt til å forme fagfeltet KI-tilpasning gjennom grundig arbeid rettet mot de vanskeligste spørsmålene stadig mer kapable systemer reiser. Hans erfaring med sikkerhet og standarder for banebrytende KI i offentlig forvaltning vil sammen med hans tekniske dømmekraft styrke styrets tilsyn og arbeidet til Sikkerhets- og vernekomiteen mens OpenAI fortsetter å utvikle og ta i bruk banebrytende KI.”
“KI-kapabilitetene har utviklet seg svært raskt det siste året, samtidig som tilpasning fortsatt er et vanskelig teknisk problem. Det gjør ansvaret til Sikkerhets- og vernekomiteen viktigere og mer krevende enn noen gang. Jeg ser frem til å bli med på laget og bidra.”
KI går inn i en ny æra av kapabilitet. Dermed blir det stadig viktigere at utviklingen av disse systemene ledsages av solid sikkerhet, sikring, tilpasning og styring. Gjennom hele karrieren som forsker på KI-tilpasning har Paul fremmet et perspektiv som tar på alvor at avansert KI kan innebære katastrofal risiko, og at utviklere må forberede seg før systemene når farligere kapabilitetsnivåer. Han har vært en uavhengig stemme i spørsmålet om bransjens sikkerhetstiltak er tilstrekkelige. Vi mener stiftelsens styring blir sterkere med mennesker som er villige til å utfordre rådende antakelser og bidra til å styrke kunnskapsgrunnlaget, sikkerhetstiltakene og ansvarligheten bak kritiske beslutninger.
Utnevnelsen av Paul bygger videre på styringsstrukturen som ble etablert gjennom OpenAIs rekapitalisering i oktober 2025. Dette omfatter forpliktelsene som ble inngått i forbindelse med de årelange gjennomgangene utført av Californias justisminister(åpnes i et nytt vindu) og Delawares justisminister(åpnes i et nytt vindu). Deres medvirkning bidro til å styrke rammeverket for styring.
Om OpenAI Foundation
OpenAI Foundation er en veldedig organisasjon som arbeider for at KI skal komme hele menneskeheten til gode. Som en selvstendig ideell organisasjon driver stiftelsen sin egen veldedige virksomhet, samtidig som den beholder kontrollen over og eier en betydelig eierandel i OpenAI Group PBC. Stiftelsen støtter initiativer som fremmer vitenskapelige oppdagelser, styrker sivilsamfunnet og bygger motstandskraft gjennom ansvarlig KI. Gjennom tilskudd, partnerskap og andre filantropiske initiativer bidrar stiftelsen til å fremskynde arbeid som skaper varig samfunnsnytte og gir flere tilgang til KIs transformative potensial.
Stiftelsen kontrollerer OpenAI Group PBC, og Sikkerhets- og vernekomiteen er en komité under stiftelsens styre. Les mer på www.openaifoundation.org(åpnes i et nytt vindu).
