Block, OpenAI teknolojisiyle yapay zekâ destekli güvenlik kuruyor

Square, Cash App ve Afterpay’in arkasındaki şirket olan Block’un güvenlik ekibi, OpenAI Defense Factory’den yararlanıyor. Burada yapay zekâ, güvenlik açığı keşfi, tespit ve müdahale çalışmalarını hiçbir insan ekibinin yetişemeyeceği bir ölçekte yürütüyor. Block, OpenAI Daybreak’in de aralarında bulunduğu yapay zekâ sistemleriyle eskiden haftalar süren işleri artık yalnızca birkaç saatte tamamlıyor.

Block’un güvenlik ekibi, kod üretiminden güvenlik operasyonlarına kadar tüm iş akışlarında yapay zekâyı sorumlu bir şekilde kullanmaya odaklanıyor. Bilgi Güvenliği Direktörü James Nettesheim, “Asıl mesele, işinizin ölçeğini birlikte büyütebileceğiniz yeni bir ekip arkadaşına sahip olmak” diyor. “Her adımı tek tek tanımlamanız gereken geleneksel otomasyona benzemiyor. Ona, durumunuza özgü, belirsizlikler içeren bir problem verip çözüm üzerinde birlikte çalışabiliyorsunuz.”

Bir yazılım hatasını incelemek veya bir günlük kaydını ayrıştırmak gibi işler günler, hatta haftalar sürebiliyordu. Artık ekip bu işleri çok daha kısa sürede tamamlayabiliyor; üstelik her sonuç yine bir insan tarafından doğrulanıyor.

Örneğin, tespit ayarlarını iyileştirmek için her incelemenin ham sorgu kanıtları saklanıyor. Böylece ekip, önerilen bir tespit değişikliğini yedi aylık üretim ortamı telemetri verisi üzerinde bir saatten kısa sürede yeniden test edebiliyor. Eskiden bunun için yüzlerce eski vakayı elle yeniden sorgulamak gerekiyordu. Bu işlem çok zaman aldığından uygulamada nadiren yapılıyordu.

Ekip, hangi işte hangi modeli kullanacağı konusunda da daha seçici hâle geldi. Nettesheim, “Eskiden en yeni modeli kullanırdık ama artık buna gerek yok” diyor. “Farklı görevler için farklı modeller seçmeyi zamanla öğrendik.” Block’un güvenlik düzeneği, görevleri doğru modele yönlendirmeye yardımcı olmak için Daybreak üzerine kurulu. Ayrıca insanların görevleri devralmasını veya ajanların birbirlerinin çalışmalarını doğrulamasını sağlayan mekanizmalar içeriyor. Ekip, bu sistemleri kurum içi kıyaslama testleri ve gerçek kullanım performansları üzerinden sürekli değerlendiriyor ve gerektiğinde yaklaşımını değiştiriyor. Sorumlu yaklaşım bunu gerektirdiğinde işleri insan incelemesine yönlendiriyor.

Otomatik ön değerlendirme sistemi sayesinde daha fazla iş, daha hızlı tamamlanıyor. Block’un güvenlik ekibinin ön değerlendirmedeki işlem kapasitesi %50, istihbarat toplama ve inceleme faaliyetleri de %50 arttı. Ekip ayrıca tamamen yeni bir otonom tehdit avcılığı yeteneği kazandı. Nettesheim şöyle diyor: “Bu sistem her çeyrekte yaklaşık 1.100 analist-saatlik inceleme yapıyor, çünkü artık her uyarı, ilgili tüm unsurlar ele alınarak eksiksiz ve derinlemesine inceleniyor. Sistemimiz her uyarıyı, sanki o gün aldığımız tek uyarı oymuş gibi ele alıyor.”

Geleneksel tarama araçları güvenlik açıklarını tek tek, birbirinden bağımsız olarak işaretlerken Block’un güvenlik ekibi Daybreak ile bunun çok ötesine geçebiliyor. Model, saldırı örüntüleri hakkında hipotezler geliştirmeye ve bir dizi saldırıyı birbirine bağlayarak sistemi uçtan uca ele geçirmeye uzanan bir yol oluşturmaya yardımcı oluyor. Böylece yıllardır var olabilecek güvenlik açıklarını ortaya çıkarıyor.

Bir vakada, tek bir dizüstü bilgisayardan gelen uyarı, kendi başına küçük bir politika ihlali gibi görünüyordu. Ancak çapraz inceleme sırasında model, kanıtlarda yalnızca tesadüfen yer alan bir göstergenin izini sürdü, bunu Block’un kimlik günlükleriyle ilişkilendirdi ve çok daha geniş kapsamlı sorunlar ortaya çıkardı. “Rutin bir uç nokta uyarısı, bir saldırı kampanyasının çökertilmesini sağladı. Hiçbir araç bu bağlantıyı tek başına kuramıyor. Bu sinyal ancak iki ürünün günlükleri bir araya getirildiğinde ortaya çıkıyor” diyor James.

Daybreak’in fayda sağladığı bir başka örnek, yakın zamanda yapılan bir red teaming tatbikatıydı. Modele kurum içi bir sistem hakkında birkaç ipucu verildi. Model yaklaşık iki saat içinde SQL enjeksiyonu, yetki yükseltme, sistemde tutunma, kimlik bilgilerini listeleme ve diğer sistemlere sıçrama adımlarını birleştirerek eksiksiz bir saldırı yolu oluşturdu. Bir red teaming uzmanının aynı işi yapması normalde birkaç gün sürerdi. Son red teaming tatbikatlarında, bir güvenlik açığının genel hatlarıyla bildirilmesinden otomatik yama önerisinin oluşturulmasına kadar geçen süre 18 dakikaydı.

Güvenlik açıklarını bulmak, ancak onları giderebildiğiniz ölçüde değer taşıyor. Nettesheim, ekibinin her bulguda izlediği süreci şöyle anlatıyor: Önce sorunun kodun neresinde olduğunu ve kimlerin sorumluluğunda bulunduğunu belirlemek, ardından sorunu gidermeye geçmek. “Bir yama öneriyorsunuz, açığın istismar edilebilirliğini doğruluyorsunuz ve ardından açığı giderdiğinizden emin oluyorsunuz. Sürece dâhil olan bir insan da çalışmayı yönlendiriyor ve kod değişikliklerini devreye alıyor.”

Ajanlar teknik açıdan yetkin olsa da bir kuruluşun kendine özgü koşullarını veya geçmiş kararların arkasındaki gerekçeleri bilmiyor. Bu bağlamı ve stratejiyi bir insan sağlıyor. Nettesheim’ın ekibi de tam bu noktada devreye girerek insan denetimini üstleniyor. Nettesheim, yapay zekânın muhakemesi uygulamada kendini kanıtladıkça “risk düzeyini kademeli olarak artırıp onu daha hassas sistemlerde kullanacağız” diyor.

• Önerilen bir tespit değişikliğini yedi aylık telemetri verisi üzerinde yeniden test etme süresi bir saatin altında.

• Son red teaming tatbikatlarında, bir güvenlik açığının genel hatlarıyla bildirilmesinden otomatik yama önerisine kadar geçen süre 18 dakika.

• Yanlış pozitiflerin ön değerlendirmesinde her çeyrekte yaklaşık 600 analist-saat tasarruf.

• Her çeyrekte yaklaşık 1.100 analist-saatlik inceleme tamamlanıyor.

• Ön değerlendirmede işlem kapasitesinde %50 artış.

• İstihbarat toplama ve inceleme faaliyetlerinde %50 artış.

Yalnızca tespit ve müdahale çalışmaları sayesinde, daha önce yanlış pozitiflerin ön değerlendirmesine ayrılan yaklaşık 600 analist-saatlik süre her çeyrekte geri kazanıldı. Ekip, kazandığı bu zamanı daha derinlemesine incelemelere ve sorumlu bir yaklaşımla daha fazla otomasyon geliştirmeye ayırıyor.

Saldırıların hızı artarken ve yapay zekâ modelleri gelişmeye devam ederken Nettesheim, güvenlik açıklarını daha oluşmadan azaltmak için bir fırsat görüyor. Böylece güvenlik ekipleri yamalara daha az, önleyici ve stratejik çalışmalara ise daha fazla zaman ayırabilecek.

Nettesheim, “OpenAI, bu gelişmiş yetenekleri herkesin erişimine açarak avantajı savunma ekiplerine geçiriyor” diyor. “Bu yetenekler genellikle yalnızca önde gelen teknoloji şirketlerinin ve devletlerin elindeydi. Ancak artık kritik altyapı kuruluşları, okullar ve küçük işletmeler dâhil herkes, ağlarını savunmak için bu teknolojiden yararlanmaya başlayabilir.”