Ulusal güvenlikte demokratik denetimi güçlendirmek

Yapay zekâ, demokratik yönetimlerin halklarını koruma biçimini değiştiriyor. Siber saldırıları durdurmaya, kritik altyapıyı güvence altına almaya, tehditleri daha erken tespit etmeye ve kriz anlarında kamu görevlilerine daha net bir tablo sunmaya yardımcı olabilir. Doğru kullanıldığında bu araçlar ulusal güvenliği güçlendirebilir.

Demokratik denetim, kamu gücünün kullanımında halka karşı hesap verebilirliğin korunmasına yardımcı olur. Yapay zekâ ulusal güvenlik çalışmalarını hızlandırıp daha etkin hâle getirirken bu çalışmaları denetlemekle görevli kurumların da aynı tempoya ayak uydurması gerekiyor. Yapay zekâ; eksik veya güncelliğini yitirmiş bağlam, yanlış yapılandırılmış hedefler ya da birbiriyle uyuşmayan varsayımlar doğrultusunda hızla ve geniş ölçekte hareket edebilir. Bu da hatalar yayılmadan önce bunların manuel olarak tespit edilmesini zorlaştırır. Ulusal güvenlikte yapay zekâ kullanımında denetim özellikle önemlidir; çünkü kararların gizlilik içinde alınması gerekebilir ve sonuçları ciddi olabilir.

Ulusal Güvenlik İlkelerimiz doğrultusunda, özellikle sonuçları ciddi olabilecek ortamlardaki ulusal güvenlik uygulamalarında güvenlik önlemlerini, anlamlı insan muhakemesini ve uygun denetimi esas alıyoruz. Bu ilkeler ayrıca denetimden sorumlu kurumların, yapay zekâ kullanımını hızına ve ölçeğine uygun biçimde denetleyebilme kapasitesini geliştirmesine yardımcı olmayı öncelik hâline getiriyor.

Kamu kurumları, ulusal güvenlik faaliyetlerini denetlemek üzere hâlihazırda belirlenmiş yetki ve sorumluluklara sahip. Yapay zekâ bu faaliyetlere katkıda bulunduğunda denetimin de gelişmesi gerekebilir. Geleneksel denetim yoğun emek gerektirir. Kâğıt çağından kalma yöntemleri kullanan küçük ekiplerden makine hızında çalışan sistemleri incelemeleri istendiğinde ise neredeyse imkânsız hâle gelir.

OpenAI, daha yetenekli sistemlerin daha güçlü denetim gerektirdiğine inanıyor ve bu ilkeyi kendisine de uyguluyor. Risklere Hazırlık Çerçevemiz kapsamında gelişmiş modeller, yeteneklerinin anlaşılması ve güvenlik önlemlerinin yeterli olup olmadığının belirlenmesi için kullanıma sunulmadan önce titizlikle incelenir. Bu inceleme, kullanıma sunulduktan sonra da sürekli izleme ve olay değerlendirmeleriyle devam eder. Edindiğimiz bilgiler, daha güçlü güvenlik önlemlerine ve gelecekteki model geliştirme çalışmalarına yön verir.

OpenAI, kamu kurumları üzerinde bir denetim rolü üstlenmez; üstlenmemelidir de. Bu sorumluluk, seçilmiş yetkililere ve bu amaçla oluşturulmuş kamu kurumlarına aittir. Biz ise mevcut görevlerini yerine getirirken denetim kurumlarını teknolojimizle destekleyebiliriz.

Bu çalışmaya üç ilke yön verecek.

Birincisi, yapay zekâ insan ve kurum muhakemesinin yerini almamalı, onu güçlendirmelidir. Kamu faaliyetlerinin hukuka uygun, yerinde ve geçerli kural ve politikalarla uyumlu olup olmadığına ilişkin kararlar, yetkili kurumlara ve yasal olarak oluşturulmuş denetim organlarına aittir.

İkincisi, kamunun yapay zekâ kullanımı yetkili denetim mercileri tarafından izlenebilir ve anlaşılabilir olmalıdır. İncelemeyi yapanlar; gizli, özel ve güvenlik açısından hassas bilgileri korurken yapay zekânın bir karara nasıl katkıda bulunduğunu anlayabilmelidir.

Üçüncüsü, yapay zekâ demokratik denetim kurumlarını güçlendirmek için kullanılmalıdır. Kamuda yapay zekâ kullanımının manuel olarak denetlenmesi geniş ölçekte sürdürülemez. Yapay zekâ ulusal güvenlikte ve ciddi sonuçlar doğurabilecek diğer kamu çalışmalarında benimsenirken denetim organları da onu görevleri doğrultusunda, sorumlu ve anlaşılır bir biçimde kullanmalıdır.

Önümüzdeki yıl bu girişimi şu yollarla ilerletmeyi planlıyoruz:

• Yapay zekâ araçlarının veya teknik desteğin denetimi daha etkili kılabileceği somut fırsatları belirlemek için yetkili kişilerle çalışacağız.

• Yapay zekâ araçlarının sorumlu biçimde benimsenmesini ve değerlendirilmesini desteklemek amacıyla demokratik kamu denetim organlarına eğitim, teknik destek ve OpenAI kredileri için 5 milyon dolar sağlayacağız.

• Yetkili inceleme görevlilerinin; ilgili girdiler, çıktılar ve araç kullanımı dâhil olmak üzere yapay zekâ destekli kamu kararlarına ilişkin kayıtları incelemesine yardımcı olacak araçları denetim kurumlarıyla birlikte pilot olarak uygulayacağız. Böylece yapay zekânın sonuçları nasıl etkilediğinin daha iyi anlaşılmasını sağlayacağız. Araçlar, mümkün olduğu ölçüde birlikte çalışabilir veya modelden bağımsız olacaktır. Kanıtların, çıktıların ve bulguların kontrolü OpenAI'da değil, katılımcı kurumlarda kalacak ve bunlara yalnızca yetkili kamu görevlileri erişebilecektir.

• Bakış açılarının OpenAI'ın bu araçları geliştirme ve beraberinde gelen sorumlulukları ele alma biçimine yön vermesi için sivil toplum ve teknik uzmanlarla iş birliği yapacağız.

Yapay zekâ gücü belli ellerde toplayabilir veya demokratik kurumların gücü daha etkili biçimde kullanmasına ve denetlemesine yardımcı olabilir. Nasıl bir geleceğe ulaşacağımızı teknoloji tek başına belirlemeyecek; ancak insan kurumlarının ve şirketlerin bugün yaptığı tercihler belirleyecek.

Bu girişimin ilerlemesini, yetkili inceleme görevlilerinin yükümlülüklerini daha iyi yerine getirip getiremediğine ve kamuoyunun kamudaki yapay zekâ sistemlerinin amaçlandığı şekilde kullanıldığına güvenmek için daha güçlü gerekçelere sahip olup olmadığına göre değerlendireceğiz.

Kamunun yapay zekâ kullanımı geliştikçe OpenAI, bu kullanımı denetlemekten sorumlu kurumları desteklemeyi sürdürecek.