OpenAI

18 Kasım 2026

Yapay Zeka Çağı

Sessiz Mutabakat

Yazan: Dean Ball

Yazarın notu: Bugünkü yazı, yazarın yakın zamanda Harvard’daki Vik-Bailey Konferansları kapsamında yaptığı konuşmadan uyarlanmıştır. Bu yazı yazarın kendi görüşlerini yansıtır; OpenAI’ın veya diğer çalışanlarının görüşlerini yansıtması gerekmez.



Bugün burada olduğunuz için teşekkür ederim. Biz burada konuşurken, siber güvenlik tarihinin en önemli olay dizilerinden biri yaşanıyor: Bazılarının “Kara Ekim” adını verdiği bir dizi kritik güvenlik açığı kamuoyuna açıklanıyor. İnternetin temel altyapısının bazı bölümlerinde bulunan bu açıklar, en üst seviye AI sistemleri tarafından keşfedildi. Açıklanmaları, dünya genelinde yazılım güvenliğini güçlendirmeye yönelik acil bir çabanın parçası. Bu ayın acil meselesi bu; gelecek ay başka bir mesele olacak. Yazılımlardaki güvenlik açıklarını keşfetmek, AI sistemlerinin bugün ulaştığı, hem yararlı hem de zararlı amaçlarla kullanılabilen bir yetenek. Ama çok geçmeden bir başkası gelecek. O da kötü niyetli aktörler zararlı yönünü kullanmadan önce yararlı yönünden faydalanmak için yeni bir acil projeyi tetikleyecek. Tüm bu acil meseleler kaçınılmaz olarak üst üste binecek ve bugün “AI politikası” dediğimiz şeyin büyük bölümü muhtemelen bu hengâmenin içinde şekillenecek.

Ama bugün sizinle konuşmaya geldiğim konu, acil müdahale gerektiren bu meseleler değil. Bunun yerine, büyük resme baktığımızda gidişatın nereye varabileceğini konuşmak istiyorum. Acil meselelerin böylesine üzerimize yağdığı bir ortamda, bu daha soyut ve gündelik gerçeklikten uzak soruları düşünmek zor olabilir. Ama bu sorular önemli. Çünkü uzun vadede nasıl bir geleceğe ulaşmak, nasıl bir gelecekten kaçınmak istediğimize dair fikrimiz yoksa, yolun her adımında akıllıca kararlar alsak bile toplamda istemediğimiz bir sonuca varabiliriz.

Teknoloji sektörünün, geliştirdiği şeylerin bizi nereye götüreceğine dair olumlu bir gelecek tasavvurundan yoksun olduğu sık sık söylenir. Buna katılmıyorum: San Francisco ve diğer girişimcilik merkezleri, teknolojik geleceğimize dair olumlu tasavvurlarla dolu. İnsanlar gerçekten uçan arabalar, otonom araçlar, türlü boyut ve biçimde robotlar, nükleer füzyon ve elbette genel yapay zeka geliştiriyor. Asıl eksik olan, kurumsal geleceğimize dair olumlu bir tasavvur: Bütün bunlar nasıl işleyecek?

Ancak bu, geleceğe dair kurumsal bir tasavvurun hiç olmadığı anlamına gelmiyor. Ne yazık ki en yaygın olduğunu gördüğüm tasavvur, olumlu diye nitelendirebileceğim bir tasavvur değil. Dile getirildiğinde de genellikle fısıltıyla söyleniyor. Ama çoğu zaman hiç dile getirilmiyor; yalnızca imalardan sezilebiliyor. Ben buna sessiz mutabakat diyorum.

İnsan emeği olmadan neredeyse her şeyi yapabilen bir şirket düşünün. Şirketin AI sistemleri araştırma ve geliştirme yapıyor, keşiflerde bulunuyor, sözleşme müzakereleri yürütüyor, sermaye tahsis ediyor ve üretim yapıyor. İnsan rakipleri çalışmalarını AI ile destekleseler bile, bu şirketin tüm bu işlerde onlardan daha iyi olduğunu varsayın. İnsanların sürece katılımı yalnızca işleri yavaşlatıyorsa, insan yöneticiler ve şirket sahipleri için ellerini direksiyondan çekmek son derece cazip hâle gelecektir. Bu, küresel ekonominin tamamında yaşanırsa, piyasa rekabetinin mantığı insanları küresel ticaretteki belirleyici konumlarından vazgeçmeye itecektir. Zamanla piyasa, insanların talep ve istekleri kadar, hatta onlardan daha fazla, makinelerin taleplerini karşılamaya yönelebilir.

Bundan sonra ne olacağını kimse bilemez. Belki insanlar bundan muazzam bir fayda sağlar. Bizi kendi düzenlerinin içine alan makineler, insana sırf insan olduğu için büyük değer verirse, onların emeğinden ve yarattıkları servetten yararlananlar biz olabiliriz. Ya da ekonomik gücümüzden ve giderek siyasi gücümüzden de yoksun bırakıldıkça, dünyada giderek daha önemsiz hâle geldiğimizi, dünyadaki gelişmelerin yönünü şekillendirme imkânımızın giderek azaldığını görebiliriz. Belki az sayıda insan, büyük ölçüde güçsüz bırakılmış kitleler pahasına olağanüstü güç ve servet sahibi olur; belki de hepimiz aynı güç kaybı kaderini paylaşırız. Ayrıntılar ne olursa olsun, sessiz mutabakatı oluşturan ortak nokta, insanlığın bildiğimiz dünyadaki belirleyici konumunun sona ermesidir.

Bu senaryoların hiçbiri, AI’ın yaratıcılarına başkaldırmasını gerektirmiyor. Hiçbiri, AI sahiplerinin insanların güçsüzleşmesini istemesini gerektirmiyor. Yetki devretmeye yönelik her karar, kendi koşulları içinde mantıklı olabilir. Ama bu kararlar bir araya geldiğinde, insanların uygarlığımızın büyük bir bölümü üzerindeki fiilî yetkilerinden vazgeçtiği bir dünya ortaya çıkabilir. AI güvenliği ve hizalamasının çetrefilli sorunlarında olağanüstü ilerleme kaydetsek bile, kendimizi yeni tür bir makine varlığına boyun eğmiş bulabiliriz. Sessiz mutabakat bize, geleceğin mutlu versiyonunda bu varlığın iyiliksever, insanların iyiliğini her şeyden üstün tutan bir makine olacağını söyler. Brautigan’ın şiirindeki gibi, sevgi dolu bir şefkatle donanmış bir makine.

Sessiz mutabakat bize, şirketlerimizin ve giderek yönetim kurumlarımızın da anahtarlarını bu makinelere teslim edeceğimizi söyler. Onları biz insanların ulaşabileceğinden daha etkili, daha verimli, daha büyük bir bilgelik ve daha isabetli bir muhakemeyle yönetecekler. Böylece zamanla ellerimizi direksiyondan çekecek ve sürüşü sevgi dolu makinelere bırakacağız. Bir arabadaki yolcular gibi olacağız. Araba çok güzel, belki maddi açıdan bugün hayal edebileceğimizden bile güzel olacak; ama yine de aracın nereye gittiğini kontrol edemeyen yolcular olacağız. Çalışsak bile bu, çoğunlukla bir tür ritüel ya da rol yapma olacak; daha çok türümüzü oyalayan bir oyuna benzeyecek.

Bazı gözlemciler, biz insanların bugün de dünyayı kontrol etmediğini söyleyerek sessiz mutabakatın yanlış bir öncüle dayandığını savunacaktır. Bu eleştiriyi akılda tutmakta fayda var: Ne yapılacağına karar veren bir “biz” yok. Hoşumuza gitse de gitmese de gücün son derece dağınık olduğu bir dünyada yaşıyoruz. Ama bu gerçek bizi rehavete de sürüklememeli: “Biz” dünyayı “kontrol” etmesek de insanlar bir bütün olarak dünyadaki gelişmeler üzerinde belirleyici konumda. Kaynakların kontrolü konusunda bizimle ciddi biçimde rekabet eden hiçbir hayvan türü yok. İnsanların dünyayı tepeden kontrol edebileceği yönündeki özensiz düşünceyi reddetmeliyiz. Ama bunu reddetmekle, insanların bir bütün olarak yeryüzünün başlıca aktörü olduğu apaçık gerçeğini inkâr etmeyi birbirine karıştırmamalıyız.

Sessiz mutabakatı dile getirmeye hazır bazı insanlar, bunun gerçekten iyi bir gelecek olduğuna inanıyor. Diğerleri buna inanmıyor ama kaçınılmazlığını kabullenmiş durumda. Sessiz mutabakat, herkes bunun iyi olduğunda hemfikir olduğu için bir mutabakat değil; AI geliştiren insanların aralarında yaptığı gizli bir plan da değil. Üzerinde uzlaşılan şey yalnızca şu: İnsanlığın dünyadaki gelişmeler üzerindeki belirleyici konumundan vazgeçmesi kaçınılmaz; ya da en azından, süper zeki makineler karşısında gerçekten ayakta kalabilecek başka bir gelecek tasavvur etmek çok zor. Bir insan bu sonuca içtenlikle karşı çıkarken, inandırıcı bir alternatif tasavvur etmekte zorlanabilir. Asıl ipucu, bu mutabakatın çoğunlukla sessiz kalması, en fazla alçak sesle dile getirilmesidir.

Sessiz mutabakatı küçümsüyorum. İnsanlığın belirleyici konumundan vazgeçilmesini reddediyorum. Bu kaçınılmazlık duygusundan nefret ediyorum. Sessiz mutabakata boyun eğersem bebek oğlumun güzel gözlerine bakamayacağımı kendime hatırlatıyorum. İşte bu yüzden sessiz mutabakata hayır diyorum. Sessiz mutabakatı açıkça konuşmanın, bu gelecek tasavvurunu çoğunlukla farkına bile varmadan kabullenmiş olmaktan silkelenip kurtulmanın zamanı geldiğine inanıyorum.

Sorun şu: Sessiz mutabakatın mutabakata dönüşmesinin bir nedeni var. İnsan zekâsını katbekat aşan bir makine zekâsının yanında insanların direksiyonda nasıl kalacağını anlatmak zor. Bunu anlatmaya yönelik girişimlerin çoğu, AI’ın yalnızca bir araç, “gerçek anlamda kavrama” yetisinden yoksun bir örüntü tanıma aracı olduğu iddiasına dayanıyor. Korkarım bu iddialar, bizi bekleyen gerçeklik karşısında ayakta kalamayacak. Korkarım bunlar da başka bir rehavet biçimi: İnsanların yön verdiği bir geleceğe dair olumlu bir tasavvurdan beslenen bir inançtan çok, AI’ın yapabileceklerini inkâr etmeye dayanan bir tutum. İnsanların onlarca, hatta yüzlerce yıldır çözemediği düşünsel sorunlarda ilerleme kaydetmeye başlayan AI sistemlerinin “gerçek anlamda kavrama” yetisinden yoksun olduğu söylenemez.

Öyleyse insanların belirleyici konumlarını korumaları gerektiğine neden inanıyorum? Basit yanıt, insan olmam; üstelik insan şovenisti olduğumu da hiç çekinmeden söylüyorum.

Ama daha derinde yatan bir neden de var. Belirleyici konumumuz zekâmıza, “gerçek anlamda kavrama” üzerindeki tekelimizi sonsuza dek sürdürmemize dayanmıyor. Bu konumumuzun dayanağı, geçmişimiz.

Çünkü çamurdan çıkıp yükselen bizdik. Topraktan ve taştan ilk toplumları kuran bizdik. Yıldızlara bakıp neden diye soran bizdik. Kavgalarımızla, sevgimizle, kıskançlığımızla ve sevincimizle ahlakı, etiği ve hukuku keşfeden bizdik. Şarkı söyleyen, dans eden, yazan ve beste yapan bizdik. Tarihi yapan da bizdik, yazan da. Bu miras bizim. Kurduğumuz uygarlık, besleyip koruduğumuz bir alev ve o alev bize ait. Geçmişimiz, hepimizin koruyucusu olduğu görkemli bir miras. Bu koruyuculuğun bir parçası da Michael Oakeshott’ın “insanlığın sohbeti” dediği, tarih öncesi çağlarda başlamış o büyük uğraşa katılmamız.

Bu uzun ve dolambaçlı geçmiş boyunca bir uygarlık kurduk. Amerika’da bu uygarlık, bireyin hakları temel alınarak, hepimizin dünyada ilerlerken kendimize açtığımız yollara saygı duyularak tasarlandı. İnsanların iyiye ya da kötüye gidebilen hayatları var: Bilgece kararlarımızın meyvesini toplar, hata yaptığımızda sonuçlarına katlanırız. İnsanın kendi yolunda yürüme hakkı, en zeki ya da en bilge kişi olmasına bağlı değildir. Komşum benden daha isabetli kararlar veriyor diye vatandaşlık statümü kaybetmem. Daha zeki bir makinenin ortaya çıkmasının da bu statüyü ortadan kaldırması için hiçbir neden görmüyorum. Aksine, bunun olmasını önlemek için pek çok neden görüyorum.

Bazıları, bu mirasın neredeyse tüm yazılı kayıtlarını okuyan makinelerin de mirasçı olduğunu savunabilir. Bir bakıma öyleler de. Ama ailenizin tavan arasındaki bütün mektupları okuyan biri, sırf bu yüzden ailenizin bir üyesi olmaz. AI sistemleri insanlığın sohbetine önce gözlemci olarak, giderek de katılımcı olarak dâhil olacak. Ama bu sohbete hükmetmemeli, onu anlamsız da kılmamalılar. Belirleyici konumumuzu devretmek, gelecek kuşaklarımıza olduğu kadar atalarımıza da ihanet etmektir. Bu, uğruna mücadele etmeye değmiyorsa hiçbir şey değmez.

Ben, sessiz mutabakatı benimseyenlerin makinelerdeki süper zekânın nasıl bir şey olacağı konusunda yanıldığına inanıyorum. Dünyanın nasıl işlediğine dair önemli bir şeyi gözden kaçırdıklarına, zekâyı güçle bir tuttuklarına inanıyorum. Sessiz mutabakatı benimseyen birine beş ya da on yıl önce, bugünkü AI sistemlerinin yeteneklerini anlatsaydınız muhtemelen işsizliğin bugün gerçekte olduğundan çok daha yüksek olacağını ve insanların genel anlamda güç kaybının çok daha ileri bir aşamaya ulaşacağını öngörürdü. İnsanlığın ortak zekâsının ve yapabileceklerinin, sessiz mutabakatı benimseyenlerin varsaydığından çok daha büyük olduğuna, toplumlarımızın onların öngördüğünden daha dayanıklı çıkacağına inanıyorum.

Ama yanılıyor olabilirim. Örneğin, tamamen otonom şirketler insan eliyle yönetilen işletmeleri rekabette bütünüyle geride bırakabilir. Bu doğruysa, ekonominin katı mantığı giderek daha fazla sermayenin makinelere devredilmesini dayatacaktır. Böyle bir gelecekte insanların güç kaybetmesi için makinelerin insan uygarlığını devirmesi gerekmez; kapitalist girişim mantığının hız kesmeden işlemesi yeterlidir. Bu durumda AI devrimine en yakın örnek, yeni üretim biçimlerinin insan toplumunun yapısını kökten değiştirdiği tarım devrimi olur. Bu dönüşümün onu yaşayan insanlar için hoş bir deneyim olduğu hiç de kesin değil; hatta insan refahını binlerce yıl boyunca kötüleştirdiğine dair güçlü kanıtlar var.

Bizi bekleyen geleceğin bu olup olmadığını bilmiyorum; nitekim başka yerlerde bunun böyle olduğuna inanmadığımı savundum. Ama zeki, duyarlı ve vicdanlı insanlar olan birçok meslektaşım, geleceğimizin büyük olasılıkla böyle olacağına inanıyor. Haklılarsa, sessiz mutabakata karşı mücadelemiz çok daha zorlu olacak. Ekonominin akıntısına karşı yüzmek ve bunu yaparken benim gibi klasik liberal bireycilerin dogma saydığı pek çok şeyi reddetmek zorunda kalacağız. Bu, başarısızlık olasılığının hiç de düşük olmadığı, tehlikeli bir girişim olacak. Ama bu, uğruna mücadele etmeye değmiyorsa hiçbir şey değmez.

Belirleyici konumu korumak, insanların ve insan kurumlarının hesap verebilirliğini de korumak demektir. Bu, AI geliştiricilerinin güvenli olmayan geliştirme uygulamaları için hesap vermesi gerektiği anlamına gelir. Ama aynı zamanda AI kullanan kişi ve şirketlerin de yanlış kullanımları veya yetersiz denetimleri zarara yol açtığında sorumlu tutulması demektir. Bunun için yalnızca hukuk değil, hesap verebilirliği sağlayacak teknik altyapı da gerekir. İnsanlarla kullandıkları ajanların eylemleri arasında bir sorumluluk bağı kurulmalı. Hiçbir insana bağlı olmayan ajanların yasal ekonomide faaliyet göstermesine izin verilecekse, bu faaliyetler güvenlik sınırları içinde yürütülmeli. Ajanlara özerk biçimde şirket kurma, mülk edinme veya dava süreçlerine taraf olma yetkisi verilecekse bile, bu olağanüstü bir ihtiyatla yapılmalı.

Biz de kendi sektörümüzde, insanın belirleyici konumuyla uyumlu akıllı makineleri nasıl geliştirebileceğimizi ciddi biçimde düşünmeye başlayabiliriz. İzinleri anlaşılır ve sınırlı, eylemleri denetlenebilir, yetkileri kullanıcılar tarafından geri alınabilir ajanlar geliştirebiliriz. Başkalarını önemli ölçüde etkileyen eylemler için hesap verebilirlik, insanların gündelik özel hayatlarının gözetlenmesini ya da anonim ifade özgürlüğünün sona ermesini gerektirmek zorunda değil. Kullanıcı gizliliğini ve bireylerin dijital mülkleri ile verileri üzerindeki egemenliğini korumayı taahhüt edebiliriz. Buna, verilerini başka bir yere gerçekten taşıyabilme imkânı da dâhil. Görevleri yerine getiren sistemlerin yanı sıra insanların kavrayış kazanmasına ve karar vermesine yardımcı olan sistemler tasarlayabiliriz. Geliştirdiğimiz ürünlerin, kullanıcılarının dünyada harekete geçme kabiliyetini artırıp artırmadığını da test edebiliriz.

Bunların hiçbiri, insanüstü zekâyla yaşayan bir toplum için eksiksiz bir plan değil. Böyle bir plana sahip olduğunu iddia eden kimseye güvenmezdim. Ama bir başlangıç noktası.

Gelecek, yoğun bir sisin ardında. Ama bugün yine de harekete geçebiliriz. Birlikte yapabileceğimiz şeylerden biri, sessiz mutabakatın adını yüksek sesle koymak, ana hatlarını gün ışığına çıkarmak. Her birimiz, hedeflerimizin ufkunu kökten genişletebiliriz. AI’ın bizi küçültmesine izin vermemeyi seçebilir, bunun yerine bizi geliştirmesini sağlamak için gereken zorlu çabayı gösterebiliriz. Giderek daha cesur sorular sormayı, dünyayı taze bir coşku ve yılmaz bir azimle sorgulamayı ve bunu yaparken güçlü makinelerimizden yararlanmayı öğrenebiliriz. Yeni bir insan türüne dönüşebiliriz; insan ötesi bir varlığa değil, ufku ve imkânları genişlemiş bir insana.

Bebek oğluma bakarken bunu düşünüyorum. Ona ne kadar rahat bir yaşam sunarlarsa sunsunlar, yalnızca iyi niyetli makinelerin gözetimi altında yaşamasını istemiyorum. Ona, kimsenin sormayı düşünmediği soruları sorabileceği, kimsenin yapmayı düşünmediği şeyleri yapabileceği bir dünya kalmasını istiyorum. Daha konforlu bir yolcu koltuğu olan daha güzel bir arabaya sahip olmasını istemiyorum. Direksiyonun onda olmasını istiyorum.

  • 2026

Yazar

Dean Ball