Yapay zeka, toplumun birçok yönünü önemli ölçüde iyileştirme potansiyeline sahip.
Bu teknoloji de, kendisinden öncekiler gibi, insanlara daha fazla beceri ve özne olma gücü kazandıracak; insanların yapay zeka ile yapabilecekleri, buhar makineleri ya da elektriğin insanlara sağladıklarını gölgede bırakacak.
Bugün hayal etmesi zor olan ölçekte yaygın bir refahın olduğu ve bireysel potansiyelin, özne olma gücünün ve tatmin duygusunun belirgin biçimde arttığı bir dünya öngörüyoruz. Bilim kurguda ancak hayal etmeye izin verdiğimiz pek çok şey gerçeğe dönüşebilir ve çoğu insan, bugün çoğunun yaşayabildiğinden daha anlamlı hayatlar sürebilir.
Ama bu sonucun garantisi yok. Gelecekte güç ya süperzekayı kullanan ve kontrol eden küçük bir avuç şirketin elinde toplanabilir ya da insanlar arasında merkeziyetsiz bir şekilde dağıtılabilir. Biz ikincisinin çok daha iyi olduğuna inanıyoruz ve hedefimiz, gerçekten genel yapay zekayı mümkün olduğunca çok insanın eline ulaştırmak. Bugün olduğu gibi gelecek de bütünüyle kötü ya da bütünüyle iyi olmayacak; ancak şimdi aldığımız kararlar iyiyi en üst düzeye çıkarmaya yardımcı olabilir.
Misyonumuz, AGI’nin tüm insanlığa fayda sağlamasını güvence altına almaktır. Çalışmalarımıza yön veren ilkeler şunlar.
1. Demokratikleşme. Bu teknolojinin gücü az sayıda kişinin elinde toplama potansiyeline karşı koyacağız.
Bu, herkese yapay zekaya erişim sağlamanın yanı sıra, yapay zekaya ilişkin kilit kararların yalnızca yapay zeka laboratuvarları tarafından değil, demokratik süreçler ve eşitlikçi ilkeler doğrultusunda alınmasını da güvence altına almamız gerektiği anlamına geliyor.
2. Güçlendirme. Yapay zekanın herkesin hedeflerine ulaşmasına, daha çok öğrenmesine, daha mutlu ve daha tatmin olmuş hissetmesine ve hayallerinin peşinden gitmesine yardımcı olabileceğine; bunun da bir bütün olarak topluma fayda sağlayacağına inanıyoruz.
Bunu başarmak, önümüzde duran muazzam potansiyeli insanların keşfetmesine imkan vermeyi gerektiriyor; bunun önünü açan ürünler inşa etmemiz gerekiyor. Kullanıcılar, hizmetlerimizle giderek daha değerli görevleri güvenilir biçimde yerine getirebilmelidir.
Dünya çeşitlidir ve insanların ihtiyaçları farklıdır. Kullanıcılarımıza ihtiyaç duydukları özerkliği vermek ve makul ölçüde mümkün olan en geniş alanı tanımak istiyoruz.
Kullanıcılarımıza hizmetlerimizi nasıl kullanacakları konusunda çok geniş bir serbestlik tanımak istesek ve yapay zekanın genel olarak son derece faydalı olacağına güçlü biçimde inansak da, onu zararı en aza indirecek şekilde geliştirme ve kullanıma sunma sorumluluğumuz var. Buna elbette felaket boyutunda zararı önlemek de dahildir; ama aynı zamanda yerel zararları azaltmak ve toplum üzerinde aşındırıcı etkiler yaratma potansiyelinden kaçınmak da dahildir. Bu da belirsizlik karşısında temkinli davranmak ve daha fazla kanıt oldukça kısıtlamaları gevşetmek anlamına gelecek.
3. Evrensel refah. Herkesin mükemmel bir yaşama sahip olabildiği bir gelecek istiyoruz.
Kullanımı kolay, yüksek işlem gücüne sahip yapay zeka sistemlerini herkesin kullanımına sunarak insanların değer üretmenin yeni yollarını bulacağına ve özellikle yeni bilimin keşfiyle birlikte herkes için yaşam kalitesini büyük ölçüde artıracağına inanıyoruz.
Refahın tam olarak hayata geçmesi ve geniş biçimde paylaşılması için, 1) devletlerin, önümüzdeki değer yaratımına herkesin katılabilmesini sağlamak amacıyla yeni ekonomik modelleri değerlendirmesi gerekebileceğine ve 2) çok büyük miktarda yapay zeka altyapısı kurmamız ve bu altyapının maliyetlerini ciddi biçimde düşürecek yeni teknolojiler geliştirmemiz gerektiğine inanıyoruz.
Garip görünen pek çok şey yapıyoruz (gelirimiz görece küçükken çok büyük miktarda işlem gücü satın almamız, maliyetleri düşürmek ve teknolojimizi kullanmayı kolaylaştırmak için dikey entegrasyona gitmemiz, dünyanın dört bir yanında veri merkezleri kurmaya çalışmamız ve daha fazlası) ve bunların arkasında evrensel refah dolu bir geleceğe dair temel inancımız yatıyor.
4. Dayanıklılık. Yapay zeka yeni riskler ortaya çıkaracak ve bunları çözmek için diğer şirketlerle, ekosistemlerle, devletlerle ve toplumla birlikte çalışacağız. Bu çalışmayı desteklemek için Foundation kaynaklarımızı önemli ölçüde kullanacağız.
Hiçbir yapay zeka laboratuvarı tek başına iyi bir geleceği güvence altına alamaz. Çok açık bir örnek vermek gerekirse, yeni bir patojen üretmeyi kolaylaştıran son derece yetkin modeller olabilir ve buna karşı patojenden bağımsız karşı önlemlerle savunma geliştirmek için toplum çapında bir yaklaşıma ihtiyacımız var. Başka bir örnek olarak, modellerin siber güvenlik kabiliyetleri arttıkça, açık kaynaklı yazılımları ve kritik altyapıları güvence altına almaya yardımcı olmak için bu modelleri hızla kullanmamız; aynı zamanda da herkesin daha güvenli yazılım üretmesine yardımcı olacak şekilde modelleri eğitmemiz gerekiyor.
Bu, uzun süredir benimsediğimiz yinelemeli dağıtım stratejisinin bir genişlemesidir; toplumun yapay zeka kabiliyetlerinin art arda gelen her düzeyiyle yüzleşmesi, onu anlaması, entegre etmesi ve birlikte en iyi ileri yolu bulması gerektiğine inanıyoruz. Bu, toplumdan kopuk biçimde yapılamaz; toplum ve teknoloji birlikte evrilir ve bu zaman gerektirir.
Bunu tek güvenlik stratejimiz olarak kastetmiyoruz; ayrıca güvenli sistemler geliştirmemiz ve teknik hizalama konusunda çok iyi çalışmalar yapmayı sürdürmemiz gerekiyor.
Çalışmalarımızda daha ileri gitmeden önce ciddi hizalama, güvenlik sorunlarını veya toplumsal sorunları yeterince çözdüğümüzden emin olmak için devletlerle, uluslararası kuruluşlarla ve diğer AGI (genel yapay zeka) girişimleriyle iş birliği yapmamız gereken dönemler olacağını öngörüyoruz.
5. Uyarlanabilirlik. Çok öngörülemez bir geleceğin zorluklarıyla başa çıkmanın tek yolunun, daha fazlasını öğrendikçe duruşlarımızı güncellemeye hazır olmak olduğuna inanmaya devam ediyoruz. Ayrıca, OpenAI'ın birkaç yıl öncesine kıyasla dünyada çok daha büyük bir güç olduğunu kabul ediyoruz ve faaliyet ilkelerimizin ne zaman, nasıl ve neden değiştiği konusunda şeffaf olacağız. Somut bir örnek vermek gerekirse, evrensel refahın gerçekten çok önemli olmaya devam edeceğinden oldukça emin olsak da, gelecekte bazı dönemlerde daha fazla dayanıklılık için bir miktar güçlendirmeden ödün vermemiz gerekebileceğini öngörebiliyoruz.
Yapay zeka geliştirme süreci pek çok sürpriz getirdi; daha fazlası da yolda. Teknoloji ilerledikçe, ortaya çıkan davranışlarını öngörmek giderek zorlaşacak. Biz, kabiliyetleri dikkatli biçimde ilerleterek, sistemleri yinelemeli olarak kullanıma sunarak ve onların dünyayla etkileşimlerinden öğrenerek bu belirsizliği benimsiyoruz.
GPT‑2'nin ağırlıklarını yayımlama konusunda endişeli oluşumuz çok da eskiye dayanmıyor; çünkü bunun toplum üzerindeki etkilerinin ne olacağından emin değildik. Geriye dönüp bakınca bunun yersiz bir kaygı olduğu açık, ancak bu bizi yinelemeli dağıtım stratejisini keşfetmeye yöneltti; bu da ortaya koyduğumuz en önemli yaklaşımlardan biri oldu.
__
Teknoloji gelişmeye devam ederken çok etkili bir döneme giriyoruz. Bizi her kararımız üzerinden eleştirmek son derece makul; yaptığımız işin ağırlığı göz önüne alındığında çok yoğun bir incelemeyi hak ediyoruz. Her şeyi doğru yapamayacağız, ama hızlı öğrenecek ve rotamızı düzelteceğiz.
Geleceği geçmişten daha iyi kılmak için üzerimize düşeni yapmaya kararlıyız; böylesine önemli bir işi üstlenebildiğimiz için kendimizi şanslı hissediyoruz.
