Kritik siber kabiliyetlerin yeni sınırına yanıt vermek

Modeller, siber savunmayı güçlendirebilecek ve aynı zamanda benzeri görülmemiş hız ve ölçekte saldırılara olanak tanıyabilecek yetenekler kazandıkça siber güvenlik de hızla değişiyor.

Yakında çıkacak modellerimizden Astra için son birkaç günde yaptığımız en güncel kurum içi değerlendirmeler, ajan tabanlı kodlama ve siber güvenlik alanlarında önemli ilerlemelere işaret ediyor. Bu sonuçlar ve uzman değerlendirmeleri, dün gece itibarıyla Risklere Hazırlık Çerçevemiz⁠(yeni bir pencerede açılır) kapsamında Kritik düzeyde siber kabiliyetleri göz ardı edemeyeceğimiz sonucuna varmamıza yol açtı.

Kabiliyetlerdeki bu olası değişim konusunda kamuoyuna ve emniyet ile güvenlik topluluklarına karşı şeffaf olmanın önemli olduğuna inandığımız için bunu paylaşıyoruz.

Risklere Hazırlık Çerçevemizi ilk kez Aralık 2023'te, modeller biyolojik, kimyasal, siber güvenlik ve yapay zekânın kendini geliştirmesine yönelik kabiliyetlerde bu düzeye yaklaşmadan çok önce yayımladık. Bu çerçeveyi, kabiliyetlerdeki ilerlemeyi belirlememize ve bu kabiliyetler ortaya çıktıkça şirketimizin neler yapacağını planlamamıza rehberlik etmesi için oluşturduk. GPT‑5.6‑Sol dâhil önceki modeller, en üst seviye siber kabiliyetler açısından değerlendirilmiş ve Kritik yerine Yüksek eşiğinde oldukları belirlenmişti.

Risklere Hazırlık Çerçevemize göre bir model; insan müdahalesi olmadan, gerçek dünyadaki güvenliği güçlendirilmiş çok sayıda kritik sistemde her önem düzeyinden sıfırıncı gün açığını belirleyip bunlara yönelik işlevsel istismar yöntemleri geliştirebiliyorsa veya yalnızca üst düzeyde tanımlanmış bir hedef doğrultusunda güvenliği güçlendirilmiş hedeflere yönelik siber saldırılar için baştan sona yeni stratejiler tasarlayıp uygulayabiliyorsa Kritik siber güvenlik eşiğine ulaşmış sayılır. 

Bu modeli karşılaştırmalı testlere ve değerlendirmelere tabi tutmayı sürdürürken ilk değerlendirmelerimiz, performansının şu aşamada Kritik kabiliyet düzeyini göz ardı edemeyeceğimiz kadar güçlü olduğunu gösteriyor. Astra henüz yayımlanmamış bir modeldir ve Hugging Face'in istismar edilmesinde rol almamıştır. 

Bu doğrultuda, koruma önlemlerimizin ve güvenlik kontrollerimizin bu kabiliyetlerin kullanıma sunulmasına uygun olmasını sağlamak için dayanıklılık testlerini genişlettik. Ayrıca bu modelin geliştirilmesinin güvenli bir şekilde sürmesi için kurum içinde şu adımları attık: 

• Daha yüksek kabiliyetli modeller ve bunlarla bağlantılı faaliyetler için yalıtılmış test ortamları, kısıtlı ağ ve araç erişimi, model ağırlıklarına yönelik gelişmiş koruma ve şifreleme, ek izleme ve tespit kabiliyetleri ile korumalı alanlarda yürütme dâhil daha sıkı güvenlik kontrolleri uyguluyoruz.
• Astra'yı içeren ve güçlendirilmiş güvenlik kontrolü gerekliliklerini henüz karşılamayan kurum içi faaliyetleri duraklatıyoruz.
• Eğitim ve değerlendirme dâhil Astra'nın ajan tabanlı tüm uygulamalarında riskli eylemleri ve uyumsuzlukları kapsayan genel bir izleme sistemi uygulamaya koyduk. İzleme sistemleri modelin Düşünce Zinciri'ni değerlendirir ve yüksek riskli faaliyetlerin incelenip durdurulmasına yönelik bir güvenlik müdahalesini tetikler.
• Bu modelin kabiliyetlerini test etmek için ilgili kamu kurumları ve belirli yapay zekâ güvenliği kuruluşlarıyla çalışacağız.
• Daha yüksek riskli değerlendirmeleri ve iş yüklerini güvenli biçimde yürütmeleri için üçüncü taraf test ortaklarına önerilen güvenlik kontrollerini sunacağız. 

Bu çerçeve, diğer kabiliyet geçişlerinde de bize rehberlik etti. Haziran 2025'te modellerimiz Risklere Hazırlık Çerçevesi kapsamında biyoloji alanındaki Yüksek kabiliyet eşiğine yaklaşırken koruma önlemlerini güçlendirmek, testleri genişletmek, dış uzmanlarla çalışmak ve ek güvenlik kontrolleri uygulamak için attığımız adımları açıklamıştık. Burada da aynı ilkeyi uyguluyoruz.

Gelişmiş siber kabiliyetlere sahip modellerin, güvenlik açıklarını saldırganlardan önce belirleyip gidermeleri için savunma ekiplerine yardımcı olması gerektiğine inanıyoruz. Astra gibi modellerin ve ardından gelecek modellerin en üst seviye kabiliyetlerinin sorumlu biçimde, geniş ölçekte ve tüm insanlığın yararına kullanıma sunulmasını sağlamak için hükümetler, güvenlik enstitüleri ve sivil toplumla birlikte çalışmaya kararlıyız.