Gelişmiş AI için ortak standartlar oluşturmaya yardımcı olmak

Giderek daha yetenekli hale gelen modeller siber savunmayı güçlendirebilir, bilimsel keşifleri hızlandırabilir ve uzmanlığa erişimi genişletebilir. Ancak yetenekleri yanlış anlaşılırsa, koruma önlemleri yetersiz kalırsa ya da hükümetler yanıt vermek için ihtiyaç duydukları bilgilere sahip olmazsa emniyet ve güvenlik riskleri de yaratabilirler. Toplumların bu faydaları güvenli ve kendinden emin biçimde gerçekleştirebilmesi için, giderek daha yetenekli hale gelen sistemleri değerlendirecek, güvence altına alacak ve yönetecek teknik ve yönetişim kapasitesine sahip kurumlara ihtiyacı olacak.

OpenAI’ın Linux Foundation ev sahipliğindeki Appia Foundation⁠(yeni bir pencerede açılır)ın kuruluşuna katkı sunmasının nedenlerinden biri de budur. Appia, uluslararası standartları ve yerleşik çerçeveleri AI değer zinciri genelinde pratik değerlendirme ölçütlerine dönüştürmeyi amaçlayan açık ve modüler şartnameler geliştirecek. Bu çalışma, modeller, altyapı ve uygulamalar farklı kuruluşlar tarafından geliştirildiğinde üçüncü tarafların standartlara uygunluğu denetlemesini sağlayan; daha net ve yeniden kullanılabilir kanıtlar üreten, eksik olan kritik bir güven katmanının geliştirilmesine yardımcı olabilir. Appia, bu çalışmayı yürütürken ulusal ve uluslararası kurumların birbirlerinin çalışmalarına güvenmesini sağlayacak ortak bir teknik dil oluşturulmasına yardımcı olacak.

Bu çabayı, gelişmiş AI sistemleri için gerekli kurumları, standartları ve değerlendirme uygulamalarını güçlendirmeye yönelik daha geniş bir çalışma bütününün önemli bir sonraki adımı olarak görüyoruz.

En üst seviye AI’ın demokratik yönetişimine ilişkin yakın tarihli taslağımız, bu çalışma için bir yol haritası sunuyor. Bu taslak, kalıcı bir ABD çerçevesi, güçlendirilmiş bir AI Standartları ve İnovasyon Merkezi (CAISI) ve hükümet genelinde daha kapsamlı bir dayanıklılık stratejisi çağrısında bulunuyor. Ayrıca en üst seviye model risklerinin kapsam bakımından uluslararası olduğunu kabul ediyor. Ülkeler, uyumlu güvenlik çerçeveleri, risk bulgularının paylaşımı için güvenilir kanallar ve olaylara yönelik koordineli müdahaleler geliştirmek üzere birlikte çalışmalıdır.

Ulusal kapasite ile uluslararası iş birliği birbirini güçlendirmelidir. CAISI gibi güçlü kurumlar teknik uzmanlık geliştirebilir, en üst seviye sistemleri değerlendirebilir ve bağımsız bir değerlendirme ekosistemini destekleyebilir. Yetkin ulusal kurumlardan oluşan bir ağ da ortak yöntemler oluşturabilir, güvenilir kanıtları tanıyabilir ve hükümetlere birlikte hareket etmek için gereken ortak teknik anlayışı kazandırabilir.

Standartlar bu çabanın merkezindedir ve güvenilir değerlendirme uygulamalarına ve teknik titizliğe dayanmalıdır. Güvenilir üçüncü taraf değerlendirmeleri için ortak rehberimizde, en üst seviye değerlendirmelerin giderek daha fazla neleri açıklaması gerektiğini ortaya koyduk: test edilen sistem, sistemin araç erişimi ve değerlendirme düzeneği, yetenekleri ortaya çıkarmak için kullanılan yöntemler, mevcut kaynaklar ve sonuçları doğrulamak için yapılan kontroller. Bu ilkeleri ayrıca ABD CAISI ve Birleşik Krallık AISI ile test ortaklıkları aracılığıyla uygulamaya geçirdik; bu kurumların en üst seviye yetenek değerlendirmeleri ve biyolojik kötüye kullanıma yönelik koruma önlemleri konusundaki çalışmaları sistemlerimizde somut iyileştirmeler sağladı. Bu çalışma, performansın karşılaştırılabilir biçimde denetlenmesi için standartlaştırılabilecek uygulamaların temelini oluşturma açısından önemli bir işlev görür.

Bu uygulamalar, OpenAI’ın daha geniş güvenlik altyapısını tamamlar. Preparedness Framework’ümüz, dahili uygulamalarımız da dahil olmak üzere gelişmiş AI sistemlerinden kaynaklanan en ciddi riskleri yönetme yaklaşımımızı nasıl tanımlayıp uygulamaya geçirdiğimizin temelini oluşturur. En Üst Seviye Yönetişim Çerçevemiz, bu yaklaşımın ilgili bölümlerini risk değerlendirmesi, model raporlaması, güvenlik kontrolleri, olaylara müdahale ve dış uzman görüşlerinin dahil edilmesi gibi belirli düzenleyici yükümlülüklere odaklanan kamuya açık bir yönetişim belgesine uygular. Bu belgeler birlikte, geniş kapsamlı taahhütlerin doğrulanıp iyileştirilebilecek operasyonel uygulamalara dönüştürülmesine yardımcı olur.

Appia’nın çalışması bir sonraki zorluğa yöneliktir: bu uygulamaları kuruluşlar, yargı alanları ve tedarik zinciri genelinde birlikte işler hale getirmek.

OpenAI, standartlar ve standardizasyon öncesi çalışmaların daha geniş ekosistemine hâlihazırda katkı sağlıyor. Uluslararası Standardizasyon Örgütü ve Uluslararası Elektroteknik Komisyonu Ortak Teknik Komitesi 1, Yapay Zekâ Alt Komitesi 42⁠(yeni bir pencerede açılır) ile Ulusal Standartlar ve Teknoloji Enstitüsü öncülüğündeki Yapay Zekâ Konsorsiyumu⁠(yeni bir pencerede açılır) çalışmalarına katılıyoruz; En Üst Seviye Model Forumu ve Linux Foundation’ın Ajan Tabanlı Yapay Zekâ Vakfı⁠(yeni bir pencerede açılır)nın kuruluşuna katkı sunduk; Güvenli Yapay Zekâ Koalisyonu⁠(yeni bir pencerede açılır)na katılıyoruz; İçerik Kökeni ve Özgünlüğü Koalisyonu⁠(yeni bir pencerede açılır)nun yürütme komitesinde görev alıyoruz; birlikte çalışabilir teknik standartları ilerletmek için İnternet Mühendisliği Görev Gücü⁠(yeni bir pencerede açılır) ve Çevrim İçi Hızlı Kimlik İttifakı⁠(yeni bir pencerede açılır) süreçlerinde yer alıyoruz.

Appia aracılığıyla yürütülenler de dahil olmak üzere bu forumların tamamında amacımız, en ileri geliştirme çalışmalarından edinilen dersleri; hükümetlerin, şirketlerin ve bağımsız değerlendiricilerin farklı yargı alanlarında kullanabileceği açık, teknik temelli uygulamalara dönüştürmektir.