Paul Christiano gengur í stjórn OpenAI Foundation
Paul Christiano mun einnig ganga til liðs við Öryggisnefnd OpenAI Foundation.
Við tilkynnum um skipun Paul Christiano í stjórn OpenAI Foundation. Hann verður áheyrnarfulltrúi án atkvæðisréttar í stjórn OpenAI Group PBC.
Paul mun einnig ganga til liðs við Öryggisnefnd stjórnar stofnunarinnar (Öryggisnefndin) og starfa þar með formanni hennar, Zico Kolter. Öryggisnefndin hefur yfirumsjón með öryggis- og verndarstarfsháttum hjá öllu OpenAI, þar á meðal OpenAI Group PBC.
Paul býr yfir reynslu af störfum hjá ríkinu sem spannar tvær ríkisstjórnir, í gegnum störf sín hjá Miðstöð fyrir staðla og nýsköpun í gervigreind(opnast í nýjum glugga) (CAISI) innan Þjóðarstofnunarinnar um staðla og tækni (NIST), sem er stofnun undir viðskiptaráðuneyti Bandaríkjanna, þar sem hann gegnir starfi háttsetts tækniráðgjafa1. Á meðan hann starfaði hjá CAISI og forvera þess, U.S. AI Safety Institute, hefur Paul unnið að mati á háþróuðustu gervigreindarlíkönunum, þar á meðal getu sem hefur þýðingu fyrir þjóðaröryggi, og aðferðum til að draga úr tengdri öryggis- og verndaráhættu.
Paul er einnig stofnandi rannsóknarmiðstöðvarinnar um samræmingu(opnast í nýjum glugga) (ARC), sjálfseignarstofnunar sem einbeitir sér að því að samræma háþróuð gervigreindarkerfi við hagsmuni fólks. Frá 2017 til 2021 stýrði Paul rannsóknum á samræmingu hjá OpenAI og lagði grunn að rannsóknum á styrkingarnámi með mannlegri endurgjöf (RLHF). Í þessu nýja hlutverki leggur Paul sérstakt sjónarhorn, byggt á tæknilegri þekkingu, til ákvarðana OpenAI um stjórnarhætti. Markmið okkar er að tryggja að almenn gervigreind gagnist öllu mannkyni.
“Paul hefur átt þátt í að móta svið samræmingar gervigreindar með vönduðu starfi sem beinist að erfiðustu spurningunum sem sífellt öflugri kerfi vekja upp. Reynsla hans af starfi við öryggi og staðla fyrir háþróaða gervigreind hjá stjórnvöldum, ásamt tæknilegri dómgreind hans, mun styrkja eftirlit stjórnarinnar og starf Öryggisnefndarinnar þegar OpenAI heldur áfram að þróa og innleiða háþróaða gervigreind.”
“Geta gervigreindar hefur aukist mjög hratt á síðasta ári og samræming hennar við mannleg markmið og gildi er enn vandasamt tæknilegt viðfangsefni, sem gerir ábyrgð Öryggisnefndarinnar mikilvægari og krefjandi en nokkru sinni fyrr. Ég hlakka til að ganga til liðs við teymið og hjálpa til.”
Gervigreind er að ganga inn í nýtt skeið aukinnar getu, sem gerir sífellt mikilvægara að öflugu öryggi, vernd, samhæfingu og stjórnarháttum fylgi framfarir í þessum kerfum. Paul hefur á ferli sínum við rannsóknir á samhæfingu gervigreindar lagt fram sjónarhorn sem tekur alvarlega þann möguleika að háþróuð gervigreind geti skapað skelfilega áhættu og að þróunaraðilar verði að undirbúa sig áður en kerfi ná hættulegri getustigum. Hann hefur verið sjálfstæð rödd í umræðunni um hvort varnir atvinnugreinarinnar séu fullnægjandi. Við teljum að stjórnarhættir stofnunarinnar séu sterkari með fólki sem er reiðubúið að véfengja ríkjandi forsendur og hjálpa til við að styrkja gögnin, varnaráðstafanirnar og ábyrgðina sem liggja til grundvallar mikilvægum ákvörðunum.
Skipun Pauls byggir á stjórnskipulaginu sem komið var á með endurfjármögnun OpenAI í október 2025, þar á meðal skuldbindingum sem gerðar voru í tengslum við úttektir sem ríkissaksóknari Kaliforníu(opnast í nýjum glugga) og ríkissaksóknari Delaware(opnast í nýjum glugga) framkvæmdu á eins árs tímabili. Aðkoma þeirra hjálpaði til við að styrkja stjórnunarumgjörðina.
Um OpenAI Foundation
OpenAI Foundation er góðgerðarstofnun sem vinnur að því að tryggja að gervigreind gagnist öllu mannkyni. Sem sjálfstæð sjálfseignarstofnun sinnir stofnunin eigin góðgerðarstarfsemi, jafnframt því að hafa yfirráð yfir og eiga verulegan eignarhlut í OpenAI Group PBC. Stofnunin styður frumkvæði sem stuðla að vísindalegum uppgötvunum, styrkja borgaralegt samfélag og auka viðnámsþrótt með ábyrgri gervigreind. Með styrkveitingum, samstarfi og öðrum góðgerðarverkefnum hjálpar stofnunin til við að flýta fyrir starfi sem skapar varanlegan ávinning fyrir almenning og eykur aðgang að umbreytandi möguleikum gervigreindar.
Stofnunin fer með yfirráð yfir OpenAI Group PBC og Öryggisnefndin er nefnd innan stjórnar stofnunarinnar. Kynntu þér málið nánar á www.openaifoundation.org(opnast í nýjum glugga).
