Paul Christiano, OpenAI Foundation Yönetim Kuruluna katıldı
Paul Christiano, Foundation'ın Güvenlik ve Koruma Komitesine de katılacak.
Paul Christiano'nun OpenAI Foundation Yönetim Kuruluna atandığını duyuruyoruz. Kendisi ayrıca OpenAI Group PBC Yönetim Kurulunda oy hakkı bulunmayan gözlemci olarak görev yapacak.
Paul, başkan Zico Kolter ile birlikte çalışmak üzere Foundation Yönetim Kurulunun Güvenlik ve Koruma Komitesine (SSC) de katılacak. Güvenlik ve Koruma Komitesi, OpenAI Group PBC dâhil olmak üzere OpenAI genelindeki emniyet ve güvenlik uygulamalarının yönetişimini sağlar.
Paul, ABD Ticaret Bakanlığına bağlı Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) bünyesindeki Yapay Zeka Standartları ve İnovasyon Merkezi(yeni bir pencerede açılır)nde (CAISI) yürüttüğü çalışmalar sayesinde iki yönetim dönemini kapsayan kamu deneyimine sahip. Burada Kıdemli Teknoloji Danışmanı olarak görev yapıyor1. Paul, CAISI ve onun selefi olan ABD Yapay Zeka Güvenliği Enstitüsündeki görevi sırasında, ulusal güvenliği etkileyebilecek yetenekler de dâhil olmak üzere en üst seviye yapay zeka modellerini değerlendirme ve bunlarla bağlantılı emniyet ve güvenlik risklerini azaltma yaklaşımları üzerinde çalıştı.
Paul ayrıca gelişmiş yapay zeka sistemlerini insanlığın çıkarlarıyla uyumlandırmaya odaklanan, kâr amacı gütmeyen bir araştırma kuruluşu olan Alignment Research Center(yeni bir pencerede açılır)'ın (ARC) kurucusudur. Paul, 2017-2021 yılları arasında OpenAI'da uyumlandırma araştırmalarına liderlik etti ve İnsan Geri Bildirimine Dayalı Pekiştirmeli Öğrenme (RLHF) konusunda temel çalışmalara katkıda bulundu. Paul, bu yeni görevinde OpenAI'ın yönetişim kararlarına farklı ve teknik temellere dayanan bir bakış açısı kazandıracak. Misyonumuz, genel yapay zekanın tüm insanlığa fayda sağlamasını güvence altına almaktır.
“Paul, titiz çalışmaları ve giderek daha yetenekli hâle gelen sistemlerin ortaya çıkardığı en zorlu sorulara odaklanmasıyla yapay zeka uyumlandırması alanının şekillenmesine katkıda bulundu. Kamuda en üst seviye yapay zeka güvenliği ve standartları üzerine çalışma deneyimi ile teknik muhakemesi, OpenAI en üst seviye yapay zeka geliştirmeye ve kullanıma sunmaya devam ederken Yönetim Kurulunun gözetimini ve Güvenlik ve Koruma Komitesinin çalışmalarını güçlendirecek.”
“Yapay zeka yetenekleri geçen yıl çok hızlı ilerledi ve uyumlandırma hâlâ zorlu bir teknik sorun. Bu da Güvenlik ve Koruma Komitesinin sorumluluğunu her zamankinden daha önemli ve güç hâle getiriyor. Destek olmak üzere ekibe katılacağım için heyecanlıyım.”
Yapay zeka, yetenekler açısından yeni bir çağa giriyor. Bu sistemlerdeki ilerlemelerin güçlü emniyet, güvenlik, uyumlandırma ve yönetişim uygulamalarıyla desteklenmesi giderek daha önemli hâle geliyor. Paul, yapay zeka uyumlandırmasını araştırdığı kariyeri boyunca gelişmiş yapay zekanın yıkıcı riskler doğurabileceği ihtimalini ciddiye alan ve geliştiricilerin sistemler daha tehlikeli yetenek düzeylerine ulaşmadan önce hazırlık yapması gerektiğini savunan bir bakış açısı ortaya koydu. Sektördeki koruyucu önlemlerin yeterli olup olmadığı konusunda bağımsız bir ses oldu. Yerleşik varsayımları sorgulamaya ve kritik kararların temelini oluşturan kanıtları, koruyucu önlemleri ve hesap verebilirliği güçlendirmeye hazır kişilerin Foundation'ın yönetişimini daha sağlam kıldığına inanıyoruz.
Paul'ün atanması, OpenAI'ın Ekim 2025'teki yeniden sermayelendirilmesiyle oluşturulan yönetişim yapısını temel alıyor. Buna California Başsavcısı(yeni bir pencerede açılır) ve Delaware Başsavcısı(yeni bir pencerede açılır) tarafından bir yıl boyunca yürütülen incelemeler kapsamında verilen taahhütler de dâhil. Katkıları, yönetişim çerçevesinin güçlenmesine yardımcı oldu.
OpenAI Foundation hakkında
OpenAI Foundation, yapay zekanın tüm insanlığa fayda sağlamasını güvence altına almaya adanmış bir yardım kuruluşudur. Ayrı ve kâr amacı gütmeyen bir kuruluş olan Foundation, kendi yardım faaliyetlerini yürütürken OpenAI Group PBC'nin kontrolünü ve şirketteki önemli bir sermaye payını elinde tutar. Foundation; bilimsel keşifleri ilerleten, sivil toplumu güçlendiren ve sorumlu yapay zeka aracılığıyla dayanıklılık oluşturan girişimleri destekler. Foundation; hibeler, ortaklıklar ve diğer hayırsever girişimler aracılığıyla kalıcı kamu yararı sağlayan çalışmaları hızlandırmaya ve yapay zekanın dönüştürücü potansiyeline erişimi genişletmeye yardımcı olur.
Foundation, OpenAI Group PBC'yi kontrol eder; Güvenlik ve Koruma Komitesi ise Foundation Yönetim Kurulunun bir komitesidir. Daha fazla bilgi için www.openaifoundation.org(yeni bir pencerede açılır) adresini ziyaret edin.
