Savaş Bakanlığı ile anlaşmamız

Dün, gelişmiş yapay zeka sistemlerinin gizli ortamlarda devreye alınmasına yönelik olarak Pentagon ile bir anlaşmaya vardık. Bu çerçevenin yalnızca bize özgü kalmamasını, sektördeki tüm yapay zeka şirketleri için geçerli standartlar oluşturmasını talep ettik.

Anlaşmamızın, Anthropic'in yaptığı anlaşma da dahil olmak üzere daha önce yapılan tüm gizli yapay zeka devreye alım anlaşmalarına kıyasla daha kapsamlı güvenlik önlemleri içerdiğine inanıyoruz. Bunun nedeni şu:

Savaş Bakanlığı ile çalışmalarımızı yönlendiren ve diğer bazı en üst seviye laboratuvarlar tarafından da büyük ölçüde paylaşılan üç temel kırmızı çizgimiz bulunmaktadır:

• OpenAI teknolojisinin kitlesel yurt içi gözetim amacıyla kullanılmaması.
• OpenAI teknolojisinin otonom silah sistemlerini kontrol etmek veya yönlendirmek için kullanılmaması. 
• OpenAI teknolojisinin yüksek riskli otomatik karar mekanizmalarında (örneğin, "sosyal kredi" benzeri sistemlerde) kullanılmaması.

Diğer bazı yapay zeka laboratuvarları, ulusal güvenlik kapsamındaki devreye alımlarda temel güvenlik katmanı olarak ağırlıklı biçimde kullanım politikalarına dayanmış; teknik güvenlik kontrollerini ise azaltmış veya tamamen devre dışı bırakmıştır. Biz, yaklaşımımızın kabul edilemez kullanımlara karşı daha güçlü ve sürdürülebilir koruma sağladığına inanıyoruz.

Anlaşmamız kapsamında kırmızı çizgilerimizi daha kapsamlı ve çok katmanlı bir çerçeveyle güvence altına alıyoruz. Güvenlik altyapımız üzerindeki nihai takdir yetkisini koruyoruz. Devreye alımları bulut tabanlı mimari üzerinden gerçekleştiriyoruz. Güvenlik iznine sahip OpenAI personeli sürece doğrudan dahil oluyor. Güçlü sözleşmesel güvenceler sağlıyoruz. Tüm bunlar, ABD hukukunda zaten mevcut olan yasal korumalara ek olarak uygulanmaktadır. 

Demokratik değerlere güçlü biçimde bağlıyız. Bu teknolojinin stratejik önemi göz önüne alındığında, yapay zeka geliştirme çalışmaları ile demokratik süreçler arasında derin ve sürekli bir iş birliğinin tek doğru yol olduğuna inanıyoruz. Aynı zamanda, teknolojimizin yeni risk alanları doğurabileceğinin farkındayız. Bu nedenle Amerika Birleşik Devletleri’ni savunan kişilerin en gelişmiş ve güvenilir araçlara sahip olmasını önemsiyoruz.

Anlaşmamızın kapsadığı başlıklar:

1. Devreye alım mimarisi. Bu anlaşma yalnızca bulut tabanlı devreye alımı kapsamaktadır. Uyguladığımız güvenlik altyapısı, belirtilen ilkelerin yanı sıra ek teknik ve yönetsel koruma katmanlarını da içerir. Savaş Bakanlığı'na "güvenlik korumaları devre dışı bırakılmış" veya güvenlik eğitimi uygulanmamış modeller sunmuyoruz. Modellerimizi uç cihazlarda, özellikle otonom ölümcül silah sistemleriyle ilişkilendirilebilecek ortamlarda, devreye almıyoruz. 

Devreye alım mimarimiz, sınıflandırıcıları çalıştırıp güncelleyerek kırmızı çizgilerin ihlal edilmediğini bağımsız biçimde doğrulamamıza olanak tanır. Bu yapı, teknik denetim ve politika uyumunun sürekliliğini güvence altına alacak şekilde tasarlanmıştır.

2. Sözleşmemiz. İlgili sözleşme hükmü özetle şu şekildedir:

Savaş Bakanlığı, yürürlükteki hukuk, operasyonel gereklilikler ve yerleşik güvenlik ile gözetim protokolleriyle uyumlu olmak kaydıyla Yapay Zeka Sistemini tüm yasal amaçlar doğrultusunda kullanabilir. Yapay Zeka Sistemi, hukukun, düzenlemelerin veya Bakanlık politikalarının insan kontrolü gerektirdiği hiçbir durumda otonom silahları bağımsız olarak yönlendirmek amacıyla kullanılmayacaktır. Aynı şekilde, insan karar vericinin onayını gerektiren diğer yüksek riskli kararları üstlenmek için de kullanılmayacaktır. 25 Ocak 2023 tarihli DoD Direktifi 3000.09 uyarınca, otonom ve yarı otonom sistemlerde yapay zeka kullanımı, devreye alım öncesinde gerçekçi operasyonel ortamlarda sıkı doğrulama, geçerlilik ve test süreçlerinden geçmelidir.

İstihbarat faaliyetleri kapsamında özel bilgilerin işlenmesi ise; ABD Anayasası'nın Dördüncü Değişikliği, 1947 tarihli Ulusal Güvenlik Yasası, 1978 tarihli Dış İstihbarat Gözetim Yasası (FISA), 12333 sayılı Başkanlık Kararnamesi ve Tanımlı bir dış istihbarat amacını zorunlu kılan ilgili DoD direktifleri ile tam uyum içinde yürütülecektir. Yapay Zeka Sistemi, bu yetkilerle uyumlu olmak kaydıyla, ABD vatandaşlarının özel bilgilerinin sınırsız biçimde izlenmesi için kullanılmayacaktır. Sistem ayrıca, Posse Comitatus Yasası ve diğer geçerli mevzuatın izin verdiği durumlar dışında, yurt içi kolluk faaliyetleri için de kullanılmayacaktır.

3. Yapay zeka uzmanlarının sürece dahil edilmesi. Hükümete destek olmak üzere, güvenlik iznine sahip ve sahada görevlendirilmiş OpenAI mühendislerimiz bulunacak; güvenlik ve uyum araştırmacılarımız da sürece dahil olacaktır. 

Bunu neden yapıyorsunuz? 

Öncelikle, ABD ordusunun özellikle yapay zeka teknolojilerini sistemlerine giderek daha fazla entegre eden potansiyel rakiplerden gelen artan tehditler karşısında görevlerini desteklemek için güçlü yapay zeka modellerine kesinlikle ihtiyaç duyduğunu düşünüyoruz. Başlangıçta gizli ortamlarda devreye alıma yönelik bir sözleşmeye girmedik; çünkü koruma mekanizmalarımızın ve sistemlerimizin hazır olduğunu düşünmüyorduk. Kırmızı çizgilerin aşılmamasını güvence altına alacak önlemlerle gizli bir devreye alımın gerçekleşebilmesini sağlamak için yoğun şekilde çalıştık. 

Ulusal güvenlik çalışmalarında performansı artırmak adına temel teknik güvenlik önlemlerini kaldırmaya istekli değildik ve olmamaya da devam ediyoruz. ABD ordusunu desteklemenin doğru yolu bu değildir. 

İkinci olarak, Savaş Bakanlığı ile ABD'deki yapay zeka laboratuvarları arasında oluşan gerilimi azaltmayı amaçladık. Sağlıklı ve sürdürülebilir bir gelecek, hükümet ile yapay zeka laboratuvarları arasında gerçek, yapısal ve derin bir iş birliği gerektirir. Bu anlaşma kapsamında, aynı koşulların tüm yapay zeka laboratuvarlarına sunulmasını talep ettik. Özellikle hükümetin Anthropic ile yaşanan durumu çözmeye yönelik adımlar atmasını istedik; zira mevcut tablo, kamu ile yapay zeka laboratuvarları arasındaki iş birliğinin bir sonraki aşamasına geçmek için sağlıklı bir başlangıç noktası oluşturmamaktadır.

Anthropic’in başaramadığı bir anlaşmaya siz nasıl ulaştınız? Onların imzalamadığı anlaşmayı siz mi imzaladınız?

Bildiğimiz kadarıyla sözleşmemiz, önceki anlaşmalara (Anthropic'in ilk sözleşmesi dahil) kıyasla daha güçlü güvenceler ve daha kapsamlı, sorumlu güvenlik önlemleri içermektedir. Kırmızı çizgilerimizin bu çerçevede daha uygulanabilir olduğunu düşünüyoruz. Bunun nedeni; devreye alımın uç cihazlarda değil, yalnızca bulut ortamıyla sınırlı olması; güvenlik altyapımızın tam kapasiteyle çalışmasına olanak tanıması ve güvenlik iznine sahip OpenAI personelinin sürece aktif biçimde dahil edilmesidir.

Anthropic'in neden benzer bir anlaşmaya ulaşamadığını bilmiyoruz. Ancak onların ve diğer laboratuvarların da bu çerçeveyi değerlendirmesini umuyoruz.

Anthropic'in bir "tedarik zinciri riski" olarak tanımlanması gerektiğini düşünüyor musunuz?

Hayır. Bu konudaki görüşümüzü hükümete açık ve net biçimde ilettik.

Bu anlaşma, Savaş Bakanlığı'nın OpenAI modellerini otonom silahları desteklemek için kullanmasına olanak sağlayacak mı? 

Hayır. Anlaşma, OpenAI modellerinin otonom silah sistemlerini bağımsız biçimde yönlendirmesine veya insan denetimi gerektiren yüksek riskli kararları üstlenmesine izin vermez. Ek bir güvence olarak, güvenlik iznine sahip OpenAI personeli de sürece dahil olacaktır.  

Bu anlaşma, Savaş Bakanlığı'nın OpenAI modellerini ABD vatandaşları üzerinde kitlesel gözetim amacıyla kullanmasına olanak tanıyor mu?

Hayır. Güvenlik altyapımız, sözleşme hükümleri ve Savaş Bakanlığı'nın yurt içi gözetim faaliyetlerini ciddi biçimde sınırlandıran mevcut yasal çerçeveyi temel alarak bunun mümkün olmayacağından eminiz. Ek bir güvence olarak, güvenlik iznine sahip OpenAI personeli de sürece dahil olacaktır.  

Güvenlik altyapısı olmadan modelleri devreye almanız gerekiyor mu?

Hayır. Devreye aldığımız güvenlik altyapısı üzerinde tam kontrolü koruyoruz ve güvenlik koruma mekanizmaları olmadan hiçbir devreye alım gerçekleştirmeyeceğiz. Ayrıca güvenlik ve uyum araştırmacılarımız, sürece aktif biçimde katılacak ve sistemlerin zaman içinde sürekli iyileştirilmesine katkı sağlayacaktır. Bazı yapay zeka laboratuvarlarının model koruma katmanlarını azalttığını ve birincil güvenlik önlemi olarak yalnızca kullanım politikalarına dayandığını biliyoruz. Buna karşılık, çok katmanlı yaklaşımımızın kabul edilemez kullanımlara karşı daha güçlü ve dayanıklı bir koruma sağladığına inanıyoruz.

Hükümet, sözleşme şartlarını ihlal ederse ne olur?

Her sözleşmede olduğu gibi, karşı taraf yükümlülüklerini ihlal ederse sözleşmeyi feshetme hakkımız bulunmaktadır. Böyle bir durumun ortaya çıkmasını beklemiyoruz.

Peki ya hükümet yasayı veya mevcut Savaş Bakanlığı politikalarını değiştirirse?

Bu tür değişiklikler olması durumunda, yürürlükteki yasal çerçeve ve sözleşmesel hükümler doğrultusunda pozisyonumuzu yeniden değerlendiririz. Kırmızı çizgilerimiz ve güvenlik ilkelerimiz temel referans noktası olmaya devam eder. Yasal veya politika değişiklikleri bu ilkelerle uyumlu değilse, gerekli sözleşmesel ve operasyonel adımları atma hakkımız saklıdır. 

Anthropic'in Savaş Bakanlığı ile yaptığı görüşmelere ilişkin blog yazısındaki⁠(yeni bir pencerede açılır) argümanlara nasıl yanıt veriyorsunuz?

Anthropic, ilgili yazısında iki kırmızı çizgi tanımlamaktadır. Biz de aynı iki kırmızı çizgiyi benimsiyoruz; buna ek olarak üçüncü bir kırmızı çizgimiz daha bulunmaktadır: yüksek riskli otomatik karar alma sistemleri.Anthropic, o dönemde Savaş Bakanlığı'ndan gördükleri sözleşme taslaklarında bu kırmızı çizgilerin yeterince korunmadığını düşündüklerini belirtmektedir. Aşağıda, aynı kırmızı çizgilerin bizim sözleşmemizde neden geçerli ve uygulanabilir olduğunu düşündüğümüzü açıklıyoruz:

• Kitlesel yurt içi gözetim. Görüşmelerimiz sırasında, Savaş Bakanlığı'nın kitlesel yurt içi gözetimi hukuka aykırı olarak değerlendirdiği ve böyle bir kullanım planının bulunmadığı açıkça ifade edilmiştir. Ayrıca, bu tür bir kullanımın hukuka uygun kullanım kapsamına girmediğini sözleşmemizde açık biçimde güvence altına aldık.
• Tam otonom silahlar. Sözleşmemizin kapsadığı yalnızca bulut tabanlı devreye alım mimarisi, tam otonom silah sistemlerinin işletilmesine teknik olarak olanak tanımaz. Zira bu tür bir kullanım, modellerin uç cihazlarda devreye alınmasını gerektirir, ki bu açıkça kapsam dışıdır. 

Bu korumaların yanı sıra sözleşmemiz, güvenlik altyapımız ve sürece dahil olan OpenAI teknik uzmanları gibi çok katmanlı ek güvenlik önlemleri sağlamaktadır.