Hükümet ve ulusal güvenlik ortaklıklarına yaklaşımımız
Hükümetler, ulusal güvenlik de dahil giderek daha önemli işler için en üst seviye yapay zekâ sistemlerini kullanmaya başlıyor. Bu durum, yapay zekâ laboratuvarlarının, hükümetlerin ve sivil toplumun, bu araçların hassas ortamlarda nasıl kullanılması gerektiği konusunda birlikte çalışmasını zorunlu kılıyor.
Demokratik toplumların; insanları korumak, kritik altyapıyı savunmak, kamu hizmetleri sunmak ve yeni ortaya çıkan tehditlere yanıt vermek için yapay zekâyı kullanabilmesi gerektiğine inanıyoruz. Buna, yapay zekânın savunma tarafına anlamlı bir avantaj sağlayabildiği siber savunma ve biyolojik güvenlik gibi alanlar da dahildir. Ancak giderek daha yetkin hâle gelen yapay zekâ sistemleri, demokratik hesap verebilirliği, anlamlı insan muhakemesini ve hukukun üstünlüğünü güçlendirecek; gücü yoğunlaştırmak yerine demokratik kurumları destekleyecek biçimde kullanıma sunulmalıdır.
Bugün, hükümet ortaklıklarına ve teknolojimizin ulusal güvenlik amaçlı kullanımına nasıl yaklaştığımız konusunda şeffaflık sağlamak için OpenAI’ın Ulusal Güvenlik İlkeleri’ni yayımlıyoruz.
Bu ilkeler, teknolojimiz gelişmeye devam ederken ulusal güvenlik ve kolluk kuvvetleri alanındaki çalışmalarımıza daha kapsamlı bir yaklaşım geliştirmek için şirket genelinde yürütülen bir çabayı yansıtıyor. Süreci kolaylaştırması ve bağımsız değerlendirmesini sunması için önde gelen bir ulusal güvenlik uzmanı olan David Kris ile çalıştık; şirket genelinde dinleme oturumları düzenledik ve araştırma ile güvenlikten politika ve hükümet ortaklıklarına kadar çeşitli ekipleri temsil eden çalışanların katkılarını aldık.
Özellikle siber güvenlik ve biyogüvenlik olmak üzere kritik savunma alanlarında ABD hükümeti ve müttefik ortaklarla çalışmalarımızı genişletirken bu ilkeleri şimdi yayımlıyoruz. Geçtiğimiz ay, Daybreak siber savunma programımız kapsamında Avustralya, Kanada, Japonya, Kore Cumhuriyeti, Fransa, Almanya, Polonya, Hollanda ve ENISA gibi AB kurumlarıyla Siber Güvenilir Erişim ortaklıkları kurduk. Birleşik Krallık hükümetiyle de siber alan, test ve değerlendirme konularında büyüyen, güvene dayalı bir ortaklığımız var. Biyogüvenlik alanında da benzer bir yaklaşım benimsiyoruz. Geçen ay ayrıca, kamu sağlığı ve biyosavunma görevlerini destekleyen belirli ABD hükümeti ve müttefik ortaklar için GPT‑Rosalind modelimize güvenilir erişimi genişlettiğimizi duyurduk.
Bu ilkeler, Savaş Bakanlığı ile mevcut çalışmalarımız da dahil olmak üzere mevcut ve gelecekteki ulusal güvenlik ve kolluk kuvvetleri ortaklıklarımız için geçerlidir. Bu yılın başlarında anlaşmamızı duyurduğumuzda, sözleşmeye dayalı bazı kısıtlamaları ortaya koymuştuk: OpenAI teknolojisinin ülke içinde kitlesel gözetim amacıyla kullanılmaması, otonom silah sistemlerini yönlendirmek için kullanılmaması ve yüksek riskli otomatik kararlar için kullanılmaması. Bu kısıtlamalar, bugün paylaştığımız ilkelerle uyumludur.
Doğru olanın, teknolojimizin nasıl kullanılabileceği ve nasıl kullanılamayacağı konusunda net olmak ve bu konuda şeffaf davranmak olduğuna inanıyoruz. Ancak yapay zekânın hükümette, özellikle de ulusal güvenlik alanında kullanımına ilişkin en önemli soruların birçoğu demokratik süreç yoluyla yanıtlanmalıdır. Bizim gibi şirketlerin rolü, bu kararları tek başına almak değil, bu kararların şekillenmesine bilgi sağlamaktır. Bu nedenle, ülke içi gözetim, otonom silah sistemleri ve ABD ulusal güvenliğini doğrudan etkileyen diğer yüksek riskli kullanımlar dahil olmak üzere yapay zekânın en yüksek riskli bazı askerî kullanımlarına yönelik koruma önlemleri oluşturmayı amaçlayan yasama çalışmalarını destekliyoruz.
İlkeleri buradan(yeni bir pencerede açılır) okuyun.
