Doppel'in AI savunma sistemi, saldırıları yayılmadan durduruyor

Sahte bir sitenin erişime açılması, binlerce kullanıcıyı hedef alması ve tamamen ortadan kaybolması bir saatten kısa süre içinde gerçekleşebilir. Bu, bir saldırganın ciddi bir zarar vermesi için gayet yeterli bir süre. Üstelik, üretken araçlarla bunun gibi yüzlercesini daha hızla oluşturabilirler.

Doppel'in kuruluş amacı, kurumları deepfake ve çevrimiçi kimlik taklidi saldırılarına karşı korumaktı. Ama yapay zekanın bu tehditlerin sınırsız bir şekilde yayılmasına sebep olabileceğini fark etmede geç kalmadı. Saldırganlar artık dolandırıcılık yapmak için gerekenleri tek tek hazırlamak zorunda bile değil. Sadece saniyeler içinde kimlik avı saldırıları için sınırsız varyant, sahte alan adları ve sahte kimlikli hesaplar oluşturabiliyorlar.

Doppel bu tehditlerin önüne geçmek için OpenAI'ın GPT‑5 ve o4-mini modellerini kullanan yeni bir tür toplum mühendisliği savunma sistemi geliştirdi. Doppel’ın sunduğu platform; tehditleri otonom bir biçimde algılıyor, sınıflandırıyor ve ortadan kaldırıyor. Böylece analistlerin iş yükünü %80 oranında azaltırken tehditleri ele alma kapasitesini üç katına çıkarıyor ve yanıt verme süresini de saatlerden dakikalara indiriyor.

Geleneksel dijital risk koruma sistemleri; sahte sitelerin, kimlik avı saldırısı için kullanılan alan adlarının, sosyal medya profillerinin ve gönderilerinin insanlar tarafından manuel bir şekilde analiz edilmesini gerektiriyordu. Doppel, bu çalışma modelinin artık işe yaramamaya başladığını fark etti. Çünkü saldırganlar otomasyon kullanarak tehditleri çok daha hızlı bir şekilde, çok daha fazla ortama yayabiliyordu. İnsanların bu hıza yetişmesi çok zordu.

Bu hız, bir tehdidi doğrulamak için saatlerce bekleme lüksü olmayan Doppel müşterileri için kritik önem taşıyor. Doppel'in sistemi, tehditlerin büyük bölümünü otomatik olarak sınıflandırıyor; akıl yürütme için OpenAI modellerini kullanırken, modeli zaman içinde geliştirmek için pekiştirmeli öğrenmeye dayalı ince ayar (RFT) olarak bilinen yapılandırılmış bir geri bildirim döngüsünden yararlanıyor. RFT tekniğinde, insan geri bildirimi, derecelendirilmiş örnekler olarak kullanılır ve modellerin kendi başına tutarlı ve açıklanabilir kararlar almayı öğrenmesini sağlar.

Doppel'in algılama sisteminin merkezinde LLM tabanlı bir süreç yer alır. Sinyaller toplanıp filtrelendikten sonra sistem hedefe yönelik bir dizi akıl yürütme görevi yürütür: Olası tehditler hakkında akıl yürütür, niyeti belirler ve sınıflandırmaya ilişkin kararları yönlendirir. Her aşamada hız, doğruluk ve tutarlılık dengesi korunurken analistlerin insan muhakemesi gerektiren uç vakalara odaklanması sağlanır.

Sistemin işleyişi şu şekilde özetlenebilir:

• Sinyal filtreleme ve özellik ayıklama: Doppel sistemleri her gün milyonlarca alan adını, URL'yi ve hesabı tarar. Buluşsal yöntemlerle birlikte kullanılan OpenAI o4-mini, gereksiz veriyi filtreler ve yapılandırılmış özellikleri ortaya çıkarır. Böylece, sonraki aşamalarda çalışan model değerlendirme süreçlerine yön verir.
• Paralel tehdit doğrulaması: Her sinyal, farklı tehdit türlerinin analizi için özel olarak oluşturulmuş birden çok GPT‑5 isteminden geçer. Bu istemler; kimlik taklidi riski, markanın kötüye kullanılması veya toplum mühendisliği kalıpları gibi faktörleri değerlendirir.
• Tehdit sınıflandırması: O4-mini'nin RFT versiyonu, önceki doğrulamaları sentezleyerek tehditleri "kötü niyetli", "zararsız" ya da "belirsiz" şeklinde yapılandırılmış etiketlerle sınıflandırır ve bunu canlı ortamda kullanılabilecek düzeyde tutarlılıkla yapar.
• Son doğrulama: İkinci bir GPT‑5 analizi, modelin kararını doğrular ve doğal dille ifade edilmiş bir gerekçe üretir. Güven düzeyi, belirlenen eşiği aşarsa sistem otomatik olarak bir aksiyonu başlatır.
• İnsan incelemesi: Güven düzeyi düşük veya çelişkili sonuçlar analistlerin değerlendirmesine sunulur. Analistlerin kararları kaydedilir ve modelin tutarlılığını sürekli iyileştirmek için RFT döngüsüne geri bildirim olarak iletilir.

Doppel, LLM ile güçlendirilmiş özgün uçtan uca tespit sürecinden zaten kayda değer kazanımlar elde etmişti; ancak aynı tehdidin analiste bağlı olarak farklı değerlendirilebildiği durumlar söz konusu olduğunda, tutarlılık sınırlayıcı unsur haline geldi.

Bu tutarlılığı sağlamak için, Doppel kendi analistlerinden gelen verileri geri bildirim kaynağı olarak RFT'ye uyguladı. Bir alan adını kötü amaçlı, zararsız ya da belirsiz olarak sınıflandırmak için verilen her karar, değerlendirilmiş bir örnek olarak kullanıldı. Bu sınıflandırma örnekleri modeli eğiterek modelin belirsiz görünen uç durumlarda bile uzman görüşünü taklit edebilmesini sağladı.

OpenAI'ın uygulamalı mühendislik ekibi ile yakın bir şekilde çalışarak Doppel sadece doğruluk açısından değil aynı zamanda açıklama kalitesi açısından da değerlendirme sunan işlevler tasarladı. Böylece sadece doğru değil aynı zamanda net bir şekilde akıl yürütebilen model öne çıktı. Analistlerden gelen geri bildirimleri yapılandırılmış eğitim verilerine dönüştüren Doppel, RFT'nin otomasyonlu algılama sürecini nasıl daha tutarlı ve güvenilir hale getirebileceğini gösterdi.

Hiperparametre ayarlamaları ve yinelemeli değerlendirmeler, modelin insan düzeyinde bir tutarlılığa yaklaşmasını sağladı. Ancak Doppel için, otomasyonun son aşamasını tamamlamak, kararların hemen anlaşılabilir olmasını sağlamak anlamına da geliyordu.

Artık otomasyonla ortadan kaldırılan her tehditle birlikte, yapay zeka tarafından üretilen ve tehdidin neden ortadan kaldırıldığını açıklayan bir gerekçe de yer alıyor. Bu sayede müşteriler daha önceden analist müdahalesi gerektiren bir eylemin neden gerçekleştiğine dair hemen bilgi sahibi olabiliyor.

Bu görünürlük, güveni artırır; bu da Doppel kullanıcıları için kritik bir faktördür. Gerçekleşen bir eylemden sadece haberdar olmakla kalmayıp bu eylemin neden gerçekleştiğini de öğrenebilmek, ekiplere hızlı yanıt verme konusunda güven kazandırıyor, ayrıca hem kurum içindekilere hem de paydaşlara bu kararlar hakkında açıklama yapmak için bağlam sağlıyor.

• %80 oranında azalan analist iş yükü
• Saatlerden dakikalara inen tehdit müdahale süresi
• Üç katına çıkan tehdit ele alma kapasitesi
• Tehditlerin çoğunun otomatik olarak sınıflandırılabilmesi

Alan adlarıyla ilişkili kimlik avı ve kimlik taklidi tehditlerinde neredeyse tam otomasyona geçmeyi başaran Doppel, şimdi aynı model odaklı yaklaşımı yüksek değişkenlikli diğer kanallara da uyguluyor.

Madduluri, "Alan adları, muhtemelen uğraştığımız en zor kanal," diyor ve şöyle açıklıyor: "Sinyaller karmaşık, içerik sürekli değişiyor ve tehditler aynı anda birçok ortamda hızla evriliyor. Uçtan uca otomatikleştirme yapabiliyorsak bunu her şeye uygulayabiliriz: sosyal medya, ücretli reklamlar, aklınıza ne gelirse..."

Sonraki aşama; RFT veri setlerini yaklaşık on kat büyütmeyi, yeni değerlendirme stratejilerini denemeyi ve GPT‑5'i erken aşamada özellik ayıklamak için kullanmayı içeriyor. Bu değişiklikler, Doppel’ın işlem hattındaki aşamaları birleştirmesini ve daha karmaşık tehdit göstergeleri hakkında çok daha erken aşamada akıl yürütebilmesini sağlayacak.

Her yeni sürümle, Doppel güvenin tehdit altında olduğu tüm dijital platformlarda gerçeği savunan bir sistem inşa etme hedefine biraz daha yaklaşıyor.