OpenAI

Sam Altman'ın Birleşmiş Milletler Güvenlik Konseyi konuşması

OpenAI CEO'su Sam Altman bugün Birleşmiş Milletler Güvenlik Konseyi'ne yapay zekâ hakkında hitap etti. Yapay zekânın fırsatları artırma potansiyelini, güçlü sistemleri insan kontrolünde tutmanın önemini ve yapay zekâ güvenliği konusunda uluslararası iş birliği ihtiyacını ele aldı.

Yapıldığı şekliyle konuşma metni

Sayın Başkan, saygıdeğer temsilciler, çok teşekkür ederim. Böylesine önemli bir dönemde burada bulunmak ve hepinize hitap edebilmek benim için büyük bir onur.

Yıllardır yapay zekâdan söz ediyoruz ancak son haftalarda ve aylarda durum farklı hissettirmeye başladı. Modellerin hızla ilerlemesi zaman çizelgesini kısaltırken potansiyel faydaları daha somut, sorumlulukları ve riskleri ise daha acil hâle getirdi.

Önümüzde bir seçim var. Yapay zekâ ya yeni bir yaratıcılık ve keşif Rönesansı'na ya da çalkantı ve düzensizlikle dolu yeni bir Sanayi Devrimi'ne benzeyebilir.

Rönesans, yeni araçların, fikirlerin ve kurumların insanların yapabileceklerine dair inançlarının sınırlarını genişlettiği bir dönemdi. Yapay zekâ da çağımızda bu rolü üstlenebilir. İnsanların sandıklarından çok daha yetenekli olduklarına inanıyorum. Ancak onları güçlendirmesi gerekirken dikkatlerini dağıtan ve çoğu zaman çalan sınırlı teknoloji, potansiyellerini engelledi.

Yapay zekânın en iyi hâli, insanları dev bir makinenin dişlilerine dönüştürmek veya hayatın her alanını insani unsurlar ortadan kalkana kadar optimize etmek değildir. Giderek karmaşıklaşan bir dünyada insanlara daha fazla inisiyatif vermektir: Öğrenme, üretme, keşfetme, inşa etme ve katılma imkânlarını artırmaktır. Yapay zekânın otomatikleştiremeyeceği ve otomatikleştirmemesi gereken pek çok şey var.

Yapay zekâ, makinelerin çarklarını sırf daha hızlı döndürmek için değil, insanlar için geliştirilmeli. Yapay zekâ geliştiren bazı kişilerin söyledikleri o kadar distopik ki kötü bilim kurgu filmlerinin konusunu andırıyor.

Bu kadar güçlü her şey aynı zamanda ürkütücüdür. Hem muazzam bir potansiyel hem de son derece anlaşılır bir kaygı hissettiğimiz bu dönem oldukça karmaşık.

Bu modeller; yeni ilaçlar, daha iyi sağlık hizmetleri ve daha güçlü eğitim gibi yeni bilgiler keşfetmeye ve daha üretken ekonomiler kurmaya yardımcı olabilir. İnsanların bugün ulaşılmaz görünen hayallerinin ve hedeflerinin peşinden gitmesini sağlayan yeni araçlar olabilirler. Ortalama bir insan için hayatın karmaşıklığı son derece hızlı arttı. Yapay zekâ, benzeri görülmemiş bir keşif ve inovasyon aracı olduğu kadar bu karmaşıklığa karşı bir savunma aracı da olabilir.

Öte yandan yapay zekâ sistemleri daha yetkin ve özerk hâle geldikçe kurumlarımızdan daha hızlı ilerleyebilir, gücü çok az kişinin elinde toplayabilir veya insanların artık anlayamadığı ya da kontrol edemediği kararlar alabilir.

Bu kaygı, genellikle kendi kendini iyileştirme döngüsü olarak adlandırılan, hem kendisini hem de gelecekteki sürümlerini geliştirebilen sistemlere yaklaştıkça özellikle önem kazanıyor. Yapay zekâ geliştirme süreci daha otomatik hâle geldikçe bu alandaki ilerleme de hızla ivme kazanabilir. Bu dönem son derece dikkatli olmamızı gerektiriyor.

Profesör Bengio'ya büyük ölçüde katılıyorum. Ancak üç yerine iki diyeceğim: Yapay zekâdaki ilerlemenin son derece kötü sonuçlanabileceği ve kaçınmamız gereken iki yol olduğuna inanıyorum.

Birincisi, geleceğin kontrolünü yapay zekâya kaptırabiliriz. Risk, o kadar hızlı ilerlemesidir ki insanlar artık neler olduğunu takip edemez veya gerektiğinde müdahale edemez hâle gelebilir. Bu elbette korkunç olurdu.

Sektör, sırf faydalar çok büyük diye veya sektördeki aktörler kendilerini yavaşlayamayacak kadar önemli gördükleri için aşırı teknolojik riskleri göze almamalı. Rekabette diğer şirketleri geride bırakma isteği, aceleci kararlar almak için gerekçe değildir. Üstelik bunu yapmamızı engelleyen bir yarışa mahkûm olduğumuza da inanmıyoruz. Geçmişte kendi kararımızla yavaşladık. Gelecekte de bunu yapacağız. Gerekli uyum, izlenebilirlik ve güvenlik güvencelerini sağlayamadığımız sistemler geliştirmek istemiyoruz; herkesin bu tür sistemleri geliştirmekten kaçınmasının önemli olduğunu düşünüyoruz.

Bu sistemlerin ne yaptığını anlamalı ve çok ama çok akıllı hâle gelseler bile insanların amaçladığı şekilde davranacaklarına dair güçlü kanıtlara sahip olmalıyız. Hatta özellikle çok ama çok akıllı hâle geldiklerinde. İnsanların felaket riskini %10, %1, %12 veya %0,1 olarak değerlendirmesinin önemi yok. Bu oranların hiçbiri kabul edilebilir düzeye yakın bile değil. İnsan kontrolünde tutabileceğimize dair son derece güçlü gerekçeler sunamadığımız modelleri eğitmemeliyiz.

İşlerin ters gidebileceği yollardan biri bu. Diğer yönde ise bu sistemler çok fazla gücü çok az kişinin elinde toplayabilir. Hiçbir kişi, şirket veya ülke, en güçlü yapay zekâ modellerini kendi dünya görüşünü başkalarına dayatmak için kullanamamalı. Bu teknolojinin yalnızca kendisine emanet edilebileceğine inanan bir şirket veya ülke, bu inancı neredeyse her şeyi meşrulaştırmak için kullanabilir. Tek bir aktörün işine gelse bile bu mantığı reddetmeliyiz.

Bu iki yaklaşımın arasından geçen uygulanabilir bir yol olduğuna inanıyorum. OpenAI olarak bu konulara net bir hedefle yaklaşıyoruz: Yapay zekâ, insanlara kendi hayatları üzerinde daha fazla söz hakkı vermeli. İstedikleri gibi yaşamak için daha fazla özgürlük sunmalı. Büyük veya küçük sorunları çözme ve içinde yaşadıkları toplulukları geliştirme becerilerini artırmalı. Kör iyimserlik tuzağına düşmek istemiyoruz. Felaket tellallığı tuzağına da düşmek istemiyoruz. Her iki uçtan birine savrulmak, önümüzdeki zorlukları başarıyla çözmemize yardımcı olmayacak. Özellikle de dünyanın ve insanların, bu teknolojinin çözümüne yardımcı olabileceği böylesine büyük sorunlarla karşı karşıya olduğu bir dönemde. Bu nedenle iki uç arasında orta yolu izlemeye çalışıyoruz.

Bizim için bu, üç ilke anlamına geliyor.

Birincisi, yapay zekâ daha yetkin hâle geldikçe insanlar, yapay zekâyla ilgili kararların merkezinde kalmalı. Uyum, soyut bir araştırma konusu değildir. Bu sistemlerin güvenilir biçimde insan kontrolünde kalmasını, insani değerleri yansıtmasını ve gelişimin sonraki aşamalarını insanların yönlendirmesine yardımcı olmasını sağlama çalışmasıdır. İnsan muhakemesini veya insani değerleri otomatikleştirmeye çalışmıyoruz; bunu yapmamalıyız da.

İkincisi, bilimsel ilerleme ile ekonomik büyümenin sağladığı faydalar insanlar tarafından ve insanlar için yaratılmalı. Yapay zekâ; araştırmacıların keşif yapmasına, doktorların hastaları tedavi etmesine, öğretmenlerin öğrencilere eğitim vermesine, girişimcilerin şirket kurmasına ve toplulukların daha önce çözülemez görünen sorunları çözmesine yardımcı olmalı; yapabilecekleri bunlarla da sınırlı değil. İnsanlığın kesintisiz ilerleme hikâyesi, araçların insanların iradesinin yerini alması değildir. Doğru araçların insanları daha yetkin kılmasıdır. Bunun bugün mümkün olduğunu düşündüğümüzden çok daha ileriye gideceğine inanıyorum.

Üçüncüsü, bu teknoloji bireyleri güçlendirmeli. Harika bir gelecek; insanların potansiyellerini gerçekleştirmesi ve kendileri, toplulukları, ülkeleri ve dünya için değer yaratmasıyla mümkün olacak. Bu teknolojiyi geliştirenlerden biri olabiliriz ama bu hikâyenin kahramanları biz değiliz. Bizim görevimiz, dünyanın dört bir yanındaki insanların önünü açmak ve insanlığın beceri ve yeteneklerindeki büyüye güvenmek.

Artık daha önce sahip olmadığımız bilgileri keşfedebilen modellerimiz var. Matematikte kaydettiğimiz ilerlemeyi düşünün. Üç yaz önce modellerimiz ilkokul düzeyindeki matematikte fena değildi. İki yaz önce lise düzeyindeki matematik yarışmalarında oldukça başarılıydılar. Geçen yaz, dünyanın en prestijli uluslararası matematik yarışmasında altın madalya düzeyine ulaştık. Bu yaz, yalnızca birkaç hafta önce modellerimizden biri Milenyum Ödülü Problemleri'nden Navier-Stokes denklemlerini çözdü.

Bu denklemler uçak tasarımında, hava tahminlerinde ve kan akışının incelenmesinde kullanılıyor. Matematik problemlerini yalnızca problem çözmüş olmak için çözmüyoruz. Amacımız, insanlara yeni bilgiler keşfetme ve bu bilgileri sağlık hizmetlerini iyileştirmek, yaşam standartlarını yükseltmek ve dünyanın dört bir yanında herkesin potansiyelini artırmak için kullanma gücü vermek. Keşfedilmeyi bekleyen daha çok şey var.

Ancak şirketlerin demokratik süreçlerin yerini almaması son derece önemli.

Yapay zekâ demokratik olacaksa en önemli kararları yalnızca San Francisco'daki laboratuvarlar veremez. Bu kararlar demokratik süreçlerle ve hizmet ettikleri halka karşı sorumlu hükûmetlerce şekillendirilmeli.

Uluslararası düzeyde ise bunun için iş birliği gerekecek. Tarih boyunca birbiriyle rekabet eden ve her zaman pek de iyi anlaşamayan ülkelerin, güçlü ve yeni bir teknoloji karşısında ortak çıkarlar ve toplum yararı için bir araya geldiği dönemler oldu. Bunun da o dönemlerden biri olması gerektiğine inanıyoruz.

Birbirini tamamlayan ulusal ve uluslararası en üst seviye yapay zekâ standartları için bir mekanizmaya ihtiyacımız var. Bu standartlar; kabiliyetlerin ölçülmesini, risklerin değerlendirilmesini, güvenlik önlemlerinin yeterli olup olmadığının belirlenmesini ve sistemler daha özerk hâle gelirken anlamlı insan gözetiminin korunmasını kapsamalı.

Ülkelerin kanıtları karşılaştırabilmesi, uyumluluğu doğrulayabilmesi ve yaşananlara ilişkin ortak bir dil ile anlayış geliştirebilmesi için ortak standartlara ihtiyacımız var.

Dünyanın, başarısızlıklar felakete dönüşmeden önce bunlardan ders çıkarabilmesi için doğru ve hızlı olay bildiriminin yanı sıra sınıflandırma ve raporlama protokollerine ihtiyacımız var.

Ayrıca ortaya çıkan güvenlik açıkları ile yeni tehditlerin paylaşılabilmesi için hükûmetler, kritik altyapı işletmecileri ve teknik uzmanlar arasında güvenli iletişim kanallarına ihtiyacımız var.

Elbette bu standartlar mevcut oyuncuların konumunu kalıcılaştırmamalı veya bir iş modelini diğerine tercih etmemeli. Açık ve kapalı model geliştiricilerini, yeni oyuncuları ve köklü laboratuvarları, ulusal yetkiyi ve uluslararası iş birliğini desteklemeliler. Her hükûmet, standartları kendi hukuk sistemine nasıl dâhil edeceğine kendisi karar vermeli. Ancak iyi kanıtların, etkili güvenlik önlemlerinin ve sağlıklı gözetimin küresel ölçekte nasıl olması gerektiği konusunda anlaşabilirsek hepimiz daha iyi bir konumda oluruz.

Tüm yanıtların bizde olmadığını biliyor, daha iyi her türlü fikre açık olduğumuzu belirtmek istiyoruz. Hepinizle birlikte çalışmaya ve izlenecek yolu belirlemek için elimizden geleni yapmaya hazırız.

Bir yol ayrımındayız. Yollardan biri; gücün belirli ellerde toplandığı, kararların şeffaf olmadığı ve insanların hayatlarının en önemli teknolojisinin kendilerine rağmen uygulandığını düşündüğü bir dünyaya çıkıyor. Diğer yol ise yapay zekânın insanlar için çalıştığı bir dünyaya çıkıyor; çünkü insanlar, demokratik kurumlar aracılığıyla onun nasıl geliştirilip yönlendirileceğine katkıda bulunuyor. Bilimsel ilerleme gerçek hayatları iyileştiriyor, geleceğe daha fazla insan katılabiliyor ve bu teknoloji, bireyler ile topluluklara hayatlarını istedikleri gibi yaşamaları için daha fazla güç vermeyi sürdürüyor. Bu, potansiyelin hayata geçtiği, heyecan ve hayranlık uyandıran bir gelecek.

Bizce inşa etmeye değer gelecek de bu. Çok teşekkür ederim.