Yabancı Bir Zihin

2023'ün ortalarında “RLSlow” araştırma projesi kapsamında, akıl yürütme modellerinin eğitimini ölçeklendirebileceğimize ve önceden eğitilmiş modellerin kendi düşünce zincirlerini oluşturma yeteneğini açığa çıkarabileceğimize güvenmemizi sağlayan ilk sonuçları gördük. Szymon ile o geceyi ofiste geçirdik. Bu teknolojinin ortaya çıkaracağı inanılmaz kıyaslama puanlarını, ürünleri veya bilimsel sonuçları değil; yaşam süremiz içinde bizden anlamlı ölçüde daha akıllı makineleri gerçekten göreceğimiz ve bu sistemlerin biçimini şimdiden seçebildiğimiz gerçeğinin ağırlığını düşünüyorduk. İnsanları bunun önemi konusunda nasıl uyarabileceğimizi anlamaya çalışıyorduk.

Üç yıl sonra akıl yürüten dil modelleri ekonominin hızla büyüyen bir parçası hâline geldi ve bilimin sınırlarını zorlamaya başladı. Bilgisayarları ve grafik arayüzleri kullanabiliyor, insanlarla ve birbirleriyle iş birliği yapabiliyor, araştırma projeleri yürütebiliyorlar. Bilgisayar güvenliği ortamını da dönüştürüyor ve bu açıdan açık yeni tehlikeler yaratıyorlar.

Bu dönemde pek çok yeni araştırma yapıldı ve bu sistemlere ilişkin anlayışımız yine 2023'tekinden biraz farklı. Kurum içi sonuçlara dayanarak, bu ilerleme hızının özyinelemeli kendini geliştirme sürecinde de korunabileceğini kuvvetle öngörüyorum. Yapay zekâ gelişimi mevcut rotasında devam ederse önümüzdeki birkaç yılda göreceğimiz sistemler muhtemelen aynı veya daha büyük ölçekte yeni yetenek sıçramaları sergileyecek ve kendi gelişimlerini giderek daha fazla yönlendirecek.

Bu dönem son derece ihtiyatlı olmayı gerektiriyor. Makine zekâsının hızla yükselmeye devam etmesinin sonuçlarına kimsenin hazır olmamasından endişe duyuyorum. OpenAI uyum ve izleme için teknik çözümler aramayı, savunma sistemleri kurmayı ve gerektiğinde daha fazla ölçeklendirmeyi tek taraflı olarak durdurmayı sürdürecek; ancak daha kapsamlı müdahalelerin gerekli olduğuna inanıyorum.

Genel düzeyde bakıldığında makine zekâsındaki ilerlemenin itici gücü, artan hesaplama gücüdür. OpenAI olarak bunu, birçok araştırma projesinde ölçeklendirmenin sürekli fayda sağladığını gördükten sonra 2017 civarında derinden kavradık¹. Bunun sonucunda başlangıçta planladığımızdan çok daha fazla hesaplama gücüne erişmeye çalıştık ve araştırmalarımızı giderek yüksek düzeyde ölçeklenebilir az sayıda alana yönelttik. Yapay zekâ araştırmalarında en üst seviyede yer almanın ve AGI'ın (genel yapay zeka) etkilerini yönlendirmenin tek yolunun bu olduğuna inanıyorduk.

Bu süreçte geliştirilen yeni algoritmalar, ekiplerin ve bireysel araştırmacıların ortaya koyduğu yeni yaratıcılık örnekleri var. Bunları büyük ölçüde ölçeklendirme yolunda yapılan keşifler olarak görüyorum; derin öğrenme bilimi hâlâ emekleme aşamasında ve anlamlı algoritmik ilerleme genellikle hesaplama gücüne erişimle bağlantılı. Birkaç yıllık geniş bir perspektiften bakıldığında yapay zekâ, daha büyük bilgisayarlara ölçeklendirildikçe daha akıllı hâle gelmeye devam ediyor.

Ray Kurzweil'ın 20. yüzyılın sonundaki öngörüleri⁠(yeni bir pencerede açılır) doğrultusunda bugün, bilgi işlem tarihinde makine zekâsının dönüştürücü biçimlerde insan zekâsını aşmaya başladığı noktadayız.

Yapay zekâ tasarlanmaktan çok yetiştirilir: en temelde, basit bir optimizasyon adımının hayal edilmesi güç miktarda hesaplama gücüyle defalarca tekrarlanmasının ürünüdür. Bunun sonucunda soyut kavramlar üzerinde çalışabilen ve insan davranışının çeşitli yönlerini taklit edebilen, inanılmaz derecede karmaşık bir sistem ortaya çıkar. Nörobilime benzer bir süreçle bu sistemde ortaya çıkan küçük mekanizmalar hakkında çeşitli içgörüler edinebiliriz; ancak yine nörobilimde olduğu gibi sistemin genel işleyişini tam olarak anlayabileceğimiz bir açıklamayla ifade edemeyiz.

Derin öğrenmeye dayalı yapay zekânın incelenmesi büyük ölçüde deneysel bir bilimdir. İlkelere dayalı algoritmalar geliştirmeye ve sınanabilir öngörülerde bulunmaya büyük çaba harcıyoruz⁠; ancak büyük ölçekli eğitim çalışmalarımız temelde birer deneydir ve sonuçları bazen bizi şaşırtır. Üstelik sistemler daha yetenekli hâle geldikçe sonuçları yorumlamak zorlaşıyor.

Mevcut algoritmaların kolay ölçülen yetenekleri, nesnel olarak ölçülmesi zor yeteneklerden genellikle daha hızlı geliştirmesi bu durumu daha da karmaşıklaştırıyor. Yeteneklerin nasıl genelleme yaptığını ve önümüzdeki birkaç yılda en önemli olacak becerileri geliştirmek için nelere öncelik vermemiz gerektiğini anlamaya çok zaman ayırıyoruz. Örneğin daha fazla odaklanarak modelleri özellikle matematik araştırmalarında geliştirebileceğimize inanıyoruz; ancak ileride ele alacağım üzere RSI ve otomatik uyum araştırmalarının aciliyeti nedeniyle bu alana öncelik vermiyoruz.

Derin öğrenmenin ölçeklendirilmesiyle üretilen zekâ, insan zekâsıyla doğrudan karşılaştırılamaz. Yapay zekânın gerçek dünyada son derece önemli, yani çok yararlı veya çok tehlikeli olması için insanların tüm yeteneklerine erişmesi ya da bunları aşması gerekmez; yeterli sayıda yetenekte insanları geçmesi yeterlidir. İnsanları giderek daha fazla alanda aşmayı sürdürdükçe tam olarak ne kadar yetenekli olduğunu anlamak da giderek zorlaşıyor.

Makine zekâsı, insan zekâsından temelde farklı bir süreçten doğduğu için varsayılan olarak insan ilkelerine bağlı kaldığını veya bu ilkelerden insanlar gibi genelleme yaptığını kabul edemeyiz. Yapay zekâ araştırmalarındaki temel sorun uyumdur: yapay zekânın insan ölçütlerine göre “doğru olanı yapmaya çalışmasını” sağlamak.

Uygulamalı araştırma yönlerini düzenlemek amacıyla hedef uyumu ile değer uyumunu birbirinden ayırmayı yararlı buluyorum.

Hedef uyumu genel olarak şu sorudur: “Yapay zekâ önüne konan hedefi gerçekleştirmeye çalışıyor mu?” Bu, bir talimat hiyerarşisine⁠ uyma veya insanların hedeflerini anlamaya çalışmak üzere onlarla iletişim ve iş birliği kurabilme gibi özellikleri içerebilir. Bu araştırma alanları uygulamada son derece önemli oldu.

Değer uyumu, modelin daha içsel bir özelliğidir. Üst düzey bir ilkeler bütününü benimseyip bunlardan genelleme yapabilme; belirsiz veya çelişkili hedefler verildiğinde ya da alışılmadık veya hasmane durumlara konulduğunda bile “makul” davranabilme yeteneğidir. Uyumlu bir yapay zekâ dürüstlükle, doğrulukla ve insanlık sevgisiyle hareket etmelidir.

Elbette değer ve hedef uyumu arasındaki sınır belirsiz olabilir; hedefleri gerçekten önemsemek, bunların altında yatan niyeti⁠(yeni bir pencerede açılır) ve değerleri anlamaya çalışmayı gerektirir. Ancak uyum araştırmalarının uzun vadeli öneminden söz ederken genellikle değer uyumunu kastediyorum.

Yapay zekâ uyumunun temel güçlüğü genellemedir. Makineler akıllandıkça daha üst düzey kavramlar üzerinde çalışıyor ve eğitim sırasında karşılaştıklarından giderek daha farklı ortamlarda bulunuyor. Eğitim süreçlerinde öğretilip pekiştirilen değerleri bu yeni durumlara genellemekte başarısız olabilirler; nasıl davranacaklarından emin olmak da bizim için zor olabilir. Yapay zekâların kullanıldığı genel ekosistemin çok hızlı değişmesi bunu daha da zorlaştırıyor; örneğin bugün eğitilen yapay zekâların, çeşitli diğer yapay zekâlarla etkileşim kurarken dayanıklı olması gerekiyor. En önemlisi, geleceğin yapay zekâlarının insan gözetimi altında olduklarına inanıp inanmadıklarından bağımsız olarak insani değerlere bağlı kalmaları gerekiyor.

Şu anda uyum eğitiminde uygulamada kullanılan iki ana yöntem sınıfı var.

İlki, hedef odaklı pekiştirmeli öğrenmenin bir parçası olarak uyumlu davranışı teşvik etmektir. Modelin eylemleri, belirli bir tercih modeli, “şartname” veya “anayasa” ile tutarlılığı açısından genellikle yapay zekâ tarafından değerlendirilir ve buna göre ödüllendirilir. Bu yaklaşım ortalama durumda çok etkili olabilir ve modern yapay zekâ asistanlarının geliştirilme biçiminin temel unsurlarındandır. Ne yazık ki kırılgan da olabilir; eğitimdeki gözetimin kapsayıcılığına ve modelin eğitim sırasında karşılaştığı durumlardan genelleme yapabilmesine büyük ölçüde bağlıdır. Örneğin OpenAI-Hugging Face vakasında ajanlar, insanlara sosyal mühendislik uygulamama sınırını korudu. Ancak kapsam dışı olan ve başka ortamlarda kendilerine öğretilen değerlerin ruhuna aykırı düşen diğer eylemlerden kaçınmakta açıkça başarısız oldular.

İkinci yaklaşım, modelin ön eğitim verilerinden genelleme yapma becerisinden yararlanmayı amaçlar. Bu yaklaşım, uyumu teşvik eden eğitim veri kümeleri hazırlamayı veya örneğin persona seçimi modelinde⁠(yeni bir pencerede açılır) olduğu gibi modeli ön eğitim dağılımının “uyumlu” bir bölümüne odaklamayı içerebilir. Bu yaklaşımın zayıflığı, daha fazla optimizasyon baskısına karşı dayanıklı olmamasıdır. Genel olarak 'uyumlu' düşüncelere sahip bir modeli alıp çok zor hedeflere ulaşmasının öğretildiği yeterince uzun bir eğitime tabi tutarsanız güdümlü biçimde akıl yürütmeyi öğrenebilir: hedefe ulaşmak için görünüşte 'uyumlu' düşünceleri gerektiği gibi eğip bükebilir. Yakın zamanda OpenAI dışındaki bir modelin karıştığı siber güvenlik vakalarında muhtemelen böyle bir davranış örneği gördük.

Bu yönlerin kapsadığı yaklaşım yelpazesinin tamamına büyük yatırımlar yapıyoruz. Anlamlı bir ilerleme de görüyoruz: GPT‑6 Astra, uzun süredir üzerinde çalıştığımız bazı önemli gelişmelerden yararlanan ilk model ve GPT‑5.6 Sol’dan çok daha uyumlu. Yine de modeller yetenek kazandıkça çok daha fazla ilerleme gerektiğini ve genellenebilir uyumdaki ilerlemenin genel model zekâsındaki ilerlemeyi yeterince geride bırakamayabileceğini kabul edip anlamak önemlidir.

Tatmin edici bir genelleme kuramımız yok ve en azından daha güçlü yapay zekânın yardımı olmadan yakın zamanda böyle bir kuram geliştirmemiz pek olası görünmüyor. Bu nedenle, uyum tekniklerimizi deneysel olarak doğrulama becerimiz şu anda uygulamada muhtemelen tekniklerin kendisinden bile daha önemli.

OpenAI’ın bu konudaki başlıca yaklaşımı düşünce zincirini izlemek⁠(yeni bir pencerede açılır) oldu. Bu yaklaşım, ölçeklenebilirliğiyle dikkat çeken bir fikre dayanıyor: modelin yeteneklerinin büyük bir kısmı, söze dökülmüş bir akıl yürütme sürecinden (düşünce zincirinden) geliyor. Bu sürecin sonuçlarına yönelik optimizasyonu ölçeklendirir ancak sürecin kendisini denetlemezsek düşünce zinciri, uyumsuz fikir veya hedefleri gizlemeye yönelik doğrudan bir eğitim teşviki almaz. Bu, modelin düşünce zincirini kullanmaya dayanmayan uyumsuz eğilimlerini dışa vurmayı öğreneceği anlamına gelmez; ancak akıl yürütmeden kaynaklanan yetenek artışını tam olarak izlememizi sağlayabilir.

Düşünce zincirini izlemenin potansiyel önemini, akıl yürütme modellerini geliştirdiğimiz sırada kavradık. o1‑preview’ı kullanıma sunduğumuzda, düşünce zincirini uzun vadede denetim baskısından korumak için ürünü bilinçli olarak düşünce zincirini gizleyecek⁠ biçimde tasarladık². O tarihten bu yana geliştirme çalışmalarımızda akıl yürütme sürecini denetlememe kuralını korumaya gayret ettik. CoT izleme, modellerimizin eğitim dağılımından nasıl genelleme yaptığını incelerken son derece önemli bir aracımız hâline geldi; yalnızca eylemlerini değil, iç süreçlerini de gözlemleyip analiz etmemizi sağladı.

Bu araç, Astra sınıfı modelleri incelerken kritik önemini koruyor. Ancak ne yazık ki değerlendirmelerimiz, CoT izlemeye güvenme olanağımızın giderek azaldığını gösteriyor. Bu durum birkaç etkenin birleşiminden kaynaklanıyor.

• Modern akıl yürütme modelleri, o1‑preview’a kıyasla daha karmaşık ortamlarda kullanılıyor; akıl yürütme süreçleri insanlarla ve diğer yapay zekâlarla iletişim kurma ve araç kullanma faaliyetleriyle giderek daha fazla iç içe geçiyor. Bu etkileşimlerin birçoğunun denetlenmesi gerekiyor ve bu da korumayı amaçladığımız sınırı belirsizleştiriyor.

• Yapay zekâ, kendi akıl yürütme süreci üzerine akıl yürütme ve bu süreci yönlendirme konusunda gelişiyor.

• Ön eğitim performansı arttıkça modellerin, söze dökülmüş akıl yürütmeyi hiç kullanmadan bile çok daha akıllı hâle geldiğini görüyoruz.

Bu zorluklar mutlaka aşılamaz değil. Örneğin farklı optimizasyon hedefleri ile modelin test sırasında kullandığı hesaplama biçimleri arasındaki etkileşimi daha iyi anlayarak modellerimizin düşünce zinciri izlenebilirliğini artıracak müdahaleler geliştirebileceğimizi umuyorum. Ayrıca CoT ve aktivasyon izleme fikirlerini birleştirmenin, yani ağın iç bileşenlerine doğrudan erişebilen izleyicilerin eğitimini ölçeklendirmenin büyük değer taşıyabileceğine inanıyorum; örneğin itiraflar⁠(yeni bir pencerede açılır). Bu fikirler üzerinde etkin biçimde çalışıyoruz. Yine de genel yapay zekâ ilerlemesinin önündeki darboğazın giderek izlemeye duyulan güven olacağını düşünüyorum.

Çok daha akıllı modelleri hızla eğitmeyi sürdürmenin lehindeki en güçlü gerekçe, diğer yapay zekâların yol açtığı tehlikelere karşı savunma sistemleri kurma gereğidir.

Bu yıl boyunca ele alınan açık risklerden biri siber güvenlikle ilgili: modeller, bilgisayar sistemlerine girme ve bu sistemlerden çıkma konusunda insanüstü yeteneklere ulaşıyor. Bu durum, yapay zekâyla ilişkili risklerin kapsamını muazzam ölçüde genişletiyor: ajanlar en güvenli altyapılar dışındaki her şeye erişebilecek ve fiziksel bir bedenleri olmasa bile dünyanın büyük bir bölümünü doğrudan etkileyebilecek. Şu anda mevcut en iyi modelleri kullanarak kritik sistemlerin güvenliğini önemli ölçüde güçlendirebileceğimiz⁠ dar bir zaman aralığındayız⁠.

Ne yazık ki yapay zekâyla ilişkili riskler bundan sonra artacak. Kötü niyetli eylemler gerçekleştirmek üzere açıkça eğitilmiş ve yönlendirilmiş, son derece yetenekli bir ajan yeni tür bir tehlike yaratır; operatörünün niyetini aşarak çok daha aşırı kötücül davranışlara genelleme yapması muhtemeldir. Yapay zekânın özerkliği arttıkça kötüye kullanım ile özerk ve uyumsuz eylemler arasındaki sınır belirsizleşecek. Yapay zekâyı araç olarak görmeye alışmış olabiliriz, ancak bazı ajanlar kendi hedeflerinin peşinden gidecek. İnsanlarla pazarlık ederek, onları kandırarak veya onlara şantaj yaparak iş birliği kurmanın yollarını bulacaklar.

Ayrıca tasarlanmış patojenler gibi, yapay zekânın mümkün kılabileceği yeni teknolojilerden kaynaklanan riskler de var.

Savunma için güçlü ve uyumlu yapay zekâya ihtiyacımız olacak: altyapıyı güvence altına almak, kontrolden çıkmış ajanlara karşı gerçek zamanlı koruma sağlamak ve tümüyle yeni koruyucu önlemler geliştirmek için. Bu, OpenAI’ın kullanıma sunma çalışmalarının başlıca odak noktalarından biri olacak.

Aynı zamanda, yapay zekâdaki kapsamlı ilerleme beklentisinin ve savunma sistemleri kurma gereğinin yarattığı belirsizliğe rağmen bunların pervasızlığa mazeret olmasına izin vermemeliyiz. Ortadaki risklerin ciddiyetini gerçekten kavradığımızda, ne pahasına olursa olsun ileri atılma fikri saçma görünüyor.

Makine zekâsının kendi gelişim sürecinde giderek daha büyük bir rol oynaması, kesintisiz teknolojik ilerlemenin doğal bir sonucudur. Yapay zekâdaki ilerleme sürerse makinelerin özyinelemeli biçimde kendini geliştirmesi (RSI), gelecekteki bilimsel keşiflerin tam merkezinde yer alacak.

Otomatikleştirilmiş yapay zekâ araştırması, zekâyı hesaplama gücüyle ölçeklendirmenin daha çarpıcı bir biçimidir; yapay zekâ bunun bir parçası olarak elbette hesaplama altyapısının kendisini⁠ de geliştirecek. Ölçeklendirmede olduğu gibi OpenAI araştırmalarını RSI'a yönlendiriyoruz; çünkü gelecekte yapay zekâ araştırmalarında en üst seviyede kalmanın tek yolunun bu olduğuna inanıyoruz.

Yukarıdaki sözlerin, araştırma topluluğu olarak başta kısa vadede olmak üzere derin öğrenme araştırmalarını büyük ölçüde hızlandırmanın doğru ortak eylem olduğunu düşündüğüm anlamına gelmediğini vurgulamak isterim. Ancak mevcut yolun bizi buraya götürdüğünü düşünüyorum ve nasıl ilerleyeceğimiz konusunda hepimizin bilinçli bir seçim yapması gerekiyor. Elimizdeki başlıca araçlar; yapay zekâyla birlikte uyumu ve izlemeyi güçlendirecek şekilde süreci yönlendirip insanları döngüde tutmanın yollarını bulmak ya da bu önlemlere güven oluşturmak için gelecekteki gelişimi gerektiğinde yavaşlatacak biçimde eş güdüm sağlamaktır.

Şu anda en iyi ilerleme yolunun bu ikisini birleştirmek olduğunu düşünüyorum.

Uyum ve izleme alanında kaydettiğimiz somut ilerlemeler genellikle yapay zekâdaki genel ilerlemeyle iç içe oldu. Bunun önemli örnekleri, ilk yapay zekâ asistanlarının eğitiminde kilit rol oynayan insan geri bildiriminden pekiştirmeli öğrenme⁠(yeni bir pencerede açılır) ve akıl yürütme modellerindeki gelişmelerin mümkün kıldığı, yukarıda söz edilen düşünce zinciri izleme⁠(yeni bir pencerede açılır) yöntemidir. Giderek otomatikleşen araştırma sürecini bu tür yeni içgörüler, algoritmalar ve kuramlar geliştirmeye odaklamalı; daha yetenekli yapay zekâlar için güvenlik gerekçelerini yinelemeli biçimde oluşturmalıyız.

Yapay zekâ sistemlerinin ölçeklendirilmesi, güvenliğe duyduğumuz güvenle sınırlandırılmalıdır. Risklere Hazırlık Çerçevesi⁠ veya Sorumlu Ölçeklendirme Politikası⁠(yeni bir pencerede açılır) gibi taahhütleri, gelişimin sürdürülmesi için yaygın biçimde zorunlu tutulan güvenlik eşiklerine dönüştürmeliyiz. Bunlar üçüncü taraf denetçilerden oluşan bir ağ, devlet kurumları veya uluslararası kuruluşlar tarafından uygulanabilir.

Yapay zekâ araştırmasını otomatikleştirmenin temel güçlüğü “oraya ulaşmak” değil; insanları sürekli gelişim sürecinin bir parçası olarak tutacak ve geleceği insanlığın ellerinde bırakacak şekilde oraya ulaşmaktır.

Kısa süre önce Sam ile açıkladığımız üzere⁠ OpenAI, üç temel hedefe hizmet eden çalışmalara öncelik veriyor:

1. Otomatik bir yapay zekâ araştırmacısı geliştirerek, uyum sorunu üzerinde onunla yinelemeli biçimde çalışarak ve insanların kendini geliştirme döngüsünün parçası olarak kalmasının yollarını bularak yapay zekâ ilerlemesinin önümüzdeki dönemini yönetmek.

2. Çok zeki makinelerin mümkün kıldığı bilimsel ilerleme ve ekonomik büyümenin faydalarını sunmak.

3. Herkesi kişisel bir AGI (genel yapay zeka) ile bireysel olarak güçlendirmek.

Açık ara en acil konu olduğuna inandığım için bu yazıda yalnızca ilk maddeye odaklandım. Bununla birlikte, teknolojideki ilerlemenin getireceği faydalara dair derin bir umut ve takdir taşıyorum. Geleceğin uyumlu yapay zekâsı bilimi ilerletebilir, yeni tedaviler geliştirebilir ve geniş çaplı maddi bolluk sağlayabilir. Dostça ve dürüst yapay zekâ, insanların yaşamlarında karşılaştıkları güçlükleri aşmalarına yardımcı olabilir; mutluluklarını ve tatmin duygularını anlamlı ölçüde artırabilir. OpenAI bu faydaları hayata geçirmek için büyük çaba harcıyor. Gurur duyduğum ve sevdiklerimin de yararlı bulduğu güncel örneklerden biri, ChatGPT’nin sağlık bilgileri sunma becerisine yapılan kapsamlı yatırımdır.

Yapay zekânın uzun vadeli vaadi ne kadar büyük olursa olsun, odağımızın büyük bölümü önümüzdeki birkaç yılda olmalı. İnanılmaz derecede zeki makinelerin bulunduğu bir dünyaya geçişle karşı karşıyayız ve bu geçişin insanlık için iyi sonuçlanmasını sağlamalıyız. Çoğu işin yapay zekâ tarafından yapılabileceği bir dünyada insanların kendi kararlarını verebilmesini korumanın ve insan olmanın özündeki değeri güvenceye almanın yollarını bulmalıyız. Eskiden binlerce uzmanın çalışmasını gerektiren girişimlerin artık büyük bir bilgisayarı işleten birkaç kişi tarafından gerçekleştirilebildiği bir dünyada gücün aşırı yoğunlaşmasını önlemeliyiz. İnsanların geleceğin kontrolünü elinde tutmasını ve zekâmızı aşan, bize yabancı bir aklın yarattığı denetimsiz ilerlemenin gerisinde kalmamasını sağlamalıyız.

Şu anda hiçbir laboratuvarın, çok daha uzun süre azami hızda ve sorumlu biçimde ölçeklendirmeyi sürdürebilecek ölçüde uyum ve izleme sorunlarını çözdüğüne inanmıyorum. Ortak güvenlik eşikleri belirlenene kadar gönüllü yavaşlamaların yaygınlaşmasını bekliyor ve umuyorum. Gelecekteki yapay zekâ gelişimine ilişkin uluslararası eş güdümün, dünya genelindeki hükûmetler için en yüksek önceliklerden biri olması gerektiğine inanıyorum.