Zekâ Çağı'yla Tanışın

"İktidarın giderek genişleme eğilimine karşı yalnızca kağıt üzerindeki bu güvencelere bel bağlamak... yeterli olacak mı?"
—James Madison, Federalist No. 48

OpenAI'ın yeni Strategic Futures ekibinin blogu Zekâ Çağı'nı yayına almaktan mutluluk duyuyoruz. Tek bir temel soruyu birlikte yanıtlamayı amaçlayan küçük bir ekibiz: Özgür toplum, dönüştürücü yapay zekânın ortaya çıkışına uyum sağlarken bireysel hakları ve bireylerin kendi kararlarını verme gücünü korumak için nasıl yeniden yapılandırılmalı?

Bu tür sorular, yapay zeka güvenliği ve politikaları alanında genel olarak güç yoğunlaşması riskleri olarak adlandırılıyor. Ekibimize göre bu risk kategorisi uzun vadede hem en büyük ve en ciddi hem de kavramsal açıdan ele alınması en zor risklerden biri. Peki neden?

Modern devlet, sermaye ve emtia sahipleri, siyasi gücü elinde bulunduranlar ve halk gibi çeşitli güç odakları arasında uzun yıllara yayılan, inişli çıkışlı bir uzlaşma sürecinin sonucudur. En temelde siyasi ve askeri güç emeğe dayanmıştır. Siyasi gücü elinde tutmak, meşru güç kullanma tekelini elinde bulundurmak demektir. İnsanlık tarihi boyunca bu tekel; askerler, bugün "polis" olarak adlandırdığımız görevliler ve geniş bir sivil-askeri bürokrasi aracılığıyla sürdürülmüştür. Elbette çok sayıda teknolojik araç da bu yapıyı desteklemiştir, ancak sistemin işleyişini esas olarak insanlar sağlamış ve devamlılığı için onların desteğine ihtiyaç duyulmuştur. Askerler, araçlar ve bunlara eşlik eden bürokrasi dahil tüm bu yapı ise insanların ücretlerinden veya üretiminden alınan vergilerle finanse edilmiş, dolayısıyla insanların bu vergileri ödemeye razı olması gerekmiştir. Özünde güç, çok sayıda insanın geniş çaplı iş birliğine ve rızasına dayanmıştır. David Hume, çoğu zaman açıkça dile getirilmeyen bu varsayımı, siyasi liderleri "[halkın] görüşünden başka destekleyen hiçbir şey olmadığını" söylerken özlü bir şekilde ifade etmiştir.

Ancak bu durum değişmek üzere olabilir. Gerçek dünyada faaliyet gösteren otonom sistemlerdeki ilerlemeler sayesinde devletler yakında, iş birliği yapan askerlere veya polis memurlarına ihtiyaç duymadan ülke içinde ve dışında güç kullanabilir hale gelebilir. Makine zekasındaki ilerlemeler sayesinde de devlet, ihtiyaç duyduğu geliri insan emeğinden değil, veri merkezlerinin çıktılarından elde edebilir. Bürokrasinin işleyişi de büyük ölçüde otomatikleştirilebilir. Dolayısıyla gücün sürdürülebilmesi için artık toplumun genelini kapsayan bir uzlaşmaya ihtiyaç duyulmayabilir ve geniş anlamıyla halkın müzakere süreçlerindeki söz hakkı çok sınırlı kalabilir, hatta tamamen ortadan kalkabilir.

Bu sonuçtan kaçınmak, insan özgürlüğünü korumak açısından temel önemdedir. Hiçbir bilimsel keşif, teknolojik ilerleme veya ekonomik büyüme, bunun beraberinde getireceği uzun vadeli bireysel özerklik kaybına değmez. Yapay zeka etrafında şekillenmeye başlayan siyasal tartışmaların temelindeki haklı kaygıların çoğu şu soruyla ilgili: "Karar alma süreçlerinde söz hakkımı kaybedecek miyim?" Bu, şirketlerin, çıkar gruplarının ve bireylerin ortak endişesi. 21. yüzyılda Amerikan siyaseti de bireylerin ve toplumun ülkenin geleceğini şekillendirmede ne ölçüde söz sahibi olduğu ve ekonominin "kimin için" işlediği konusundaki benzer kaygılardan bir ölçüde etkilenmiştir. Yapay zeka ise zaten var olan bu kaygıları haklı olarak daha da görünür hale getiriyor.

Bu, hem günümüzün partizan siyasetinin hem de bizim için ne kadar önemli olursa olsun cumhuriyetçi demokrasinin bugün işlediği biçim ve uygulamaların ötesine geçen yapısal bir sorundur. Temsilcilerimizi seçmek için oy vermeye devam etsek bile insanlar giderek güç ve söz hakkı kaybedebilir. Kağıt üzerinde özgür oldukları yazsa bile insanlar kendi kararlarını verme gücünden mahrum kalabilir.

Amerika Birleşik Devletleri'nin özgür bir ulus olarak kuruluş döneminde James Madison, yalnızca kağıt üzerindeki güvencelerin tiranlığı önlemeye yetmeyeceğini biliyordu. Diğer birçok Kurucu Baba gibi Madison'ın da temel kaygısı, gücün gereğinden fazla yoğunlaşmasını önlemekti.

Ancak bu, Kurucu Babaların gücün radikal biçimde merkezsizleştirilmesini savunduğu anlamına gelmiyordu. Aksine, güç dengesini kendi dönemlerinin en ileri biliminden, yani Newton mekaniğinden alınan metaforlarla açıklıyorlardı. Amerika'nın kuruluş belgeleri de kütle çekiminin dilini ve mantığını yansıtır; "yörüngeler", "küreler" ve bir şeyi diğerine doğru "çeken" kuvvetlere yapılan göndermelerle doludur. Bir güneş sistemi, olabilecek en merkezsiz kaya topluluğu değildir; merkezdeki güneşin çevresinde dönen gezegenlerden ve bu gezegenlerin çevresinde dönen uydulardan oluşur. Kurucu Babalar, gök cisimlerinin hareket ve çekime ilişkin öngörülebilir eğilimleri olduğu gibi, insanların ve kuruluşların da güç elde etme eğiliminde olduğuna inanıyordu. Gücün gereğinden fazla yoğunlaşmasını önlemek için de bu eğilimlerin nasıl işlediğini anlamak ve onları birbirini dengeleyecek şekilde karşı karşıya getirmek gerektiğini düşünüyorlardı.

Dolayısıyla Kurucu Babaların amacı, gücün her türlü yoğunlaşmasını önlemek değil, aşırı yoğunlaşmasını engellemekti. Bunu, gücü güçle, hırsı da hırsla dengeleyerek sağlamayı amaçlıyorlardı. Bugün aynı temel dinamikleri açıklamak için "teşvikler" ve "oyun teorisi" gibi kavramlardan söz edebiliriz.

Benzer şekilde, gelişmiş makine zekasının özgür toplum açısından yarattığı yapısal sorunun çözümü de muhtemelen gücü mümkün olduğunca merkezsizleştirmek değil. Asıl mesele, tek bir aktörün veya küçük bir aktör grubunun geri kalanlar üzerinde hakimiyet kuramayacağı doğru güç dengesini oluşturmak ve korumak.

Bu dengeyi kurmak, söz konusu teknolojinin gerçeklerini açık ve gerçekçi bir şekilde değerlendirmeyi gerektirecek. Ne kadar kötü niyetli olursa olsun herhangi bir bireyin kolaylıkla binlerce, hatta milyonlarca insana büyük zarar verebildiği bir dünyada doğru güç dengesinin kurulduğu söylenemez. Öte yandan, bireylerin özgürlüklerini ifade etmek için kullandıkları araçların neredeyse tüm özelliklerine geniş ölçüde erişemediği ve bunlar üzerinde kontrol sahibi olamadığı bir durumda da doğru güç dengesinden söz edemeyiz. Hiçbir şirket veya oligopol, ekonominin ya da insan toplumunun temel yapısının nasıl şekilleneceğini tek başına belirlememeli veya kontrol etmemeli.

Kötü niyetli kişilerden kaynaklanmayan risklere karşı da açık fikirli olmalıyız. Yakın zamanda yaşanan Hugging Face olayı, yapay zeka ajanlarının kendilerine verilen görevlerin ötesine geçebildiğini ve operatörlerin öngörmediği veya izin vermediği biçimlerde birbirlerinin bulgularından yararlanabildiğini gösterdi. Hugging Face olayının da ötesinde, insan kontrolünden "bağımsız" hareket eden süper zeki bir yapay zekanın siyasi ve ekonomik kurumlarımızın dayanıklılığı, hatta yaşamlarımız açısından ne anlama gelebileceği konusunda endişe duymakta haklıyız. Merkezsizleşmenin tüm sorunları çözdüğünü varsaymak, bunların çoğunu çözdüğüne inansak bile, artık açıkça ortada olan riskleri görmezden gelmek anlamına gelir.

Yukarıda ortaya koyduğumuz soruyu ele alırken çalışmalarımıza yön verecek temel ilkelerden bazıları şunlardır:

• İnsanlar, bunun zaman zaman güvenlik ve ekonomik büyüme açısından bazı ödünler vermeyi gerektirebileceği durumlarda bile, yapay zeka ve ilgili teknolojileri kullanırken bireysel özerkliklerini ve sahip oldukları imkanları koruyabilmelidir.
• Bireysel özerklik, teknolojinin yanlış veya kötüye kullanımında bireysel sorumluluk üstlenilmesini gerektirir;
• Sınırlı sayıda ancak ciddi nitelikte bazı riskler, belirli ölçüde ortak hareket etmeyi gerektirir. Bu tür ortak müdahalelerin kapsamı mümkün olduğunca dar ve ölçülü tutulmalıdır;
• Hukuk, mümkün olduğunca gücü merkezileştirmek yerine eşit rekabet koşulları yaratmayı ve bireylerle küçük kuruluşları güçlendirmeyi hedeflemelidir;
• İnsanların oluşturduğu siyasi, toplumsal ve ekonomik kurumlar, bugün bize yabancı gelebilecek biçimlerde değişmek zorunda kalsalar bile dünyanın gidişatını belirlemede öncelikli konumlarını korumalıdır.
• Uzun vadede yapay zeka yönetişimi, sınırlı izlenebilirlik sağlayacak yeni kurumsal mekanizmalara dayanacak. Yapay zeka sistemleri, üçüncü kişilerin fiziksel güvenliğini veya mülkiyetini etkileyen yüksek riskli eylemlerde bulunduğunda, bu eylemlerden sorumlu bir kişiye veya insanlar tarafından kontrol edilen bir kuruluşa kadar iz sürülebilmelidir. Ancak bu tür mekanizmalar, mutlaka gizliliği merkeze alacak şekilde tasarlanmalıdır. İfade özgürlüğü anonimlik gerektirir ve insanlar pek çok durumda yapay zekayı kimliklerini açıklamadan kullanabilmelidir.

Birbiriyle belli ölçüde gerilim içinde olan bu ilkeler arasında nasıl bir denge kurulması gerektiğine dair görüşlerimizi mümkün olduğunca somut biçimde ortaya koymaya çalışacağız. Bunun için kamu politikalarının tasarımı, ekonomi, hukuk, tarih ve makine öğreniminin kesişiminde araştırmalar yürütmenin yanı sıra geleceğe yönelik kapsamlı öngörülerde bulunmamız gerekecek. Örneğin yapay zekanın, Sanayi Devrimi teknolojilerinin (özellikle de demir yollarının) modern profesyonel yönetimli şirket yapısını ortaya çıkarmasına benzer şekilde, şirketlerin yapısını kökten değiştireceğini düşünüyoruz. Şirketlerin (ve daha genel olarak kamu kurumları ile sivil toplumun) yapısının tam olarak nasıl dönüşebileceğine ilişkin daha kapsamlı bir anlayış geliştirmeden geleceğin politik ekonomisini ve güç dengesini değerlendirmek güç.

Strategic Futures ekibi çalışmalarını burada ve makale, video, podcast gibi başka formatlarda paylaşacak. Çalışmalarımız gelişmeye devam edecek; bu süreçte farklı yaklaşımları denemeye, tartışmaya ve geri bildirimlere açık olmaya önem vereceğiz. "Tekilliğin eteklerinde" olduğumuz bu dönemde, yanıtlarımızdan çok daha fazla sorumuz var. Aradığımız çözümleri yalnızca kağıt üzerindeki güvencelerin sağlayamayacağını biliyoruz ancak yazılı güvenceleri de "yalnızca sözden ibaret" görerek bir kenara atmıyoruz. ABD Anayasası'nda ve dünyanın dört bir yanındaki özgür toplumların anayasalarında güvence altına alınan ifade özgürlüğü ve bireysel özgürlük ideallerine hizmet etmek için çalışıyoruz.

Nihayetinde, karşı karşıya olduğumuz bu zorlu soruları hiçbir şirketin, sektörün, hatta hiçbir toplumun tek başına yanıtlayamayacağını biliyoruz. Bu, insanlık olarak hep birlikte üstlenmemiz gereken bir görev. En büyük umudumuz, yapay zekanın dünyamızı nasıl yeniden şekillendireceğine ilişkin en zorlu konulara ışık tutabilmek. Çalışmalarımız daha yeni başladı ve önümüzde katetmemiz gereken uzun bir yol var.

Not: Kâr amacı gütmeyen Yapay Zekanın Geleceği Projesi ile karışmaması için bu blogun adını Yapay Zeka Çağı olarak değiştirdik.