Yapay zeka uyumu üzerine bağımsız araştırmaların ilerletilmesi

Yapay zeka sistemleri daha yetkin ve daha otonom hale geldikçe, uyum araştırmalarının hem bu hıza ayak uydurması hem de çeşitliliği artırması gerekir. OpenAI'da, misyonumuz için kritik olduğundan en üst seviye uyum ve güvenlik araştırmalarına ciddi yatırımlar yapıyoruz. Ayrıca, AGI'nın (genel yapay zeka) güvenli ve herkes için faydalı olmasını sağlamanın tek bir kuruluş tarafından başarılamayacağına inanıyoruz ve en üst seviye laboratuvarların dışında sürdürülebilecek bağımsız araştırmaları ve kavramsal yaklaşımları desteklemek istiyoruz. Yapay zekanın geleceğinin kimsenin tam olarak öngöremeyeceğine ve çok daha fazla insanın bu geleceği şekillendirmede söz sahibi olması gerektiğine inanıyoruz.

Bugün, Birleşik Krallık Yapay Zekâ Güvenlik Enstitüsü (UK AISI) tarafından oluşturulan, bağımsız uyum araştırmalarına yönelik küresel bir fon olan The Alignment Project⁠(yeni bir pencerede açılır)'e 7,5 milyon dolarlık bir hibe sağladığımızı duyuruyoruz. Renaissance Philanthropy, hibe yönetimini desteklemektedir. Bu katkı, The Alignment Project'i bugüne kadar bağımsız uyum araştırmalarına yönelik en büyük özel finansman girişimlerinden biri haline getiriyor ve daha geniş, bağımsız ekosistemi güçlendiriyor.

OpenAI gibi öncü laboratuvarlar, öncü modellere ve önemli hesaplama gücüne erişime bağlı olan uyum araştırmalarını sürdürmek için benzersiz bir konumdadır. Bu tür araştırmalar, bağımsız araştırmacılar için genellikle zorlu bir iştir. Şirket içi uyum çabalarımızın çoğunu, uyum sürecinin yeteneklerin gelişimiyle aynı hızda ilerlemesi için ölçeklenebilir yöntemler geliştirmeye ayırıyoruz. Yinelemeli dağıtımın (güvenlik önlemlerini güçlendirirken kademeli olarak yetenekleri artırma), sorunları erken aşamada ortaya çıkarmaya yardımcı olduğunu ve pratikte neyin işe yaradığına dair somut kanıtlar sağladığını düşünüyoruz. Ayrıca, sorumlu geliştirme için model oluşturma ve dağıtımla sıkı bir şekilde entegre edilmiş önemli uyum ve güvenlik çalışmaları gerektiğini düşünüyoruz.

Buna paralel olarak, bu alan, fikirlerin kapsamını genişleten ve yeni yönler ortaya çıkaran bağımsız, keşif amaçlı araştırmalara yapılan sürekli yatırımlardan da yararlanmaktadır. Bağımsız araştırmalar önemini korumaktadır; birçok faydalı araştırma türünde laboratuvarlar karşılaştırmalı bir avantaja sahip değildir. Sağlıklı bir uyum ekosistemi, bağımsız ekiplerin farklı varsayımları test etmesine, alternatif çerçeveler geliştirmesine ve herhangi bir kuruluşun yol haritasına tam olarak uymayabilecek kavramsal, kuramsal ve ufuk açıcı fikirleri keşfetmesine bağlıdır.

AGI'ya doğru ilerleme, nihayetinde uyum sorununu ve hangi yaklaşımların en yararlı olduğunu değiştiren temel atılımlarına bağlı olabileceğinden, bugünün baskın yöntemleri beklediğimiz şekilde ölçeklenemese bile önemli olacak araştırmaları desteklemek önemlidir. Bu dünyalarda, temel, kavramsal ve bağımsız çalışmalar yapan güçlü bir dış ekosisteme sahip olmak özellikle önemli hale gelir. Yapay zeka uyum ve güvenlik sorunu eşi benzeri görülmemiş bir öneme sahip ve yetenekler gelişmeye devam ederken hangi yaklaşımların en kalıcı olacağını henüz bilmediğimiz için herkesin elini taşın altına koyması gerekiyor.

Mevcut döviz kurlarına göre yaklaşık 5,6 milyon sterlin tutarındaki hibemiz, diğer kamu, hayırsever ve endüstri destekçileriyle birlikte The Alignment Project'e ortak finansman⁠(yeni bir pencerede açılır) sağlayacaktır. Toplam fon 27 milyon sterlinin üzerindedir ve hesaplamalı karmaşıklık teorisi, ekonomi teorisi ve oyun teorisi, bilişsel bilim, bilgi teorisi ve kriptografi gibi çok çeşitli konuları kapsayan, dünya çapında geniş bir uyum araştırma projeleri portföyünü desteklemek üzere tasarlanmıştır. Bireysel projeler genellikle 50.000 ila 1 milyon sterlin arasında finanse edilir ve isteğe bağlı olarak bilgi işlem kaynaklarına erişim ve uzman desteği de alabilirler.

Finansmanımız yeni bir program veya seçim süreci oluşturmaz, mevcut süreci etkilemez; mevcut turda finanse edilebilecek, önceden incelenmiş, yüksek kaliteli projelerin⁠(yeni bir pencerede açılır) sayısını artırır.

UK AISI, bu ölçekte ve kapsamda uyum finansmanını yönlendirmek için iyi bir konumdadır. Hükümet, akademi, hayırseverlik ve endüstriyi kapsayan köklü bir sektörler arası koalisyonun yanı sıra, halihazırda yürürlükte olan bir hibe programı ve uzmanlar tarafından incelenmiş çok sayıda teklif havuzu da beraberinde getiriyor. Bilim, İnovasyon ve Teknoloji Bakanlığı (DSIT) bünyesindeki bir Birleşik Krallık hükümeti araştırma kuruluşu olarak, ciddi yapay zeka risklerine odaklanan bir görevi de vardır ve araştırma fonlama programlarını yürütme konusunda deneyimlidir.

Yapay zekanın geleceği kimsenin tahmin ettiği gibi gelişmeyeceği ve çok hızlı ilerleyebileceği için, demokratikleşme, "yapay zeka dayanıklılığı" ve yinelemeli dağıtımın çok önemli olduğuna inanıyoruz. OpenAI'da en üst seviye uyum ve güvenlik araştırmalarımızı ilerletmeye devam ederken, yetenekler geliştikçe birbirini tamamlayan yaklaşımlar izleyen güçlü, çeşitli ve bağımsız bir ekosistemden sağlanacak ilerleme bu sürece katkı sağlayacaktır. Bu hibe, o hedefe doğru atılan bir adımdır. Bu alanın gelişmesiyle birlikte, daha geniş araştırma topluluğuyla işbirliğimizi sürdürmeyi sabırsızlıkla bekliyoruz.