Sistem pertahanan AI Doppel menyetop serangan sebelum menyebar

Satu situs peniruan identitas dapat meluncur, menargetkan ribuan pengguna, dan menghilang dalam waktu kurang dari satu jam. Itu waktu yang lebih dari cukup bagi penyerang untuk menimbulkan kerusakan nyata. Dan dengan alat generatif, mereka dapat memulai ratusan serangan yang serupa.

Doppel dibangun untuk melindungi organisasi dari deepfake dan peniruan identitas di dunia maya, tetapi dengan cepat menyadari bahwa AI berarti ancaman dapat berkembang tanpa batas. Penyerang tidak lagi perlu membuat scam; mereka dapat membuat varian kit phishing, domain palsu, dan akun untuk peniruan identitas tanpa batas dalam hitungan detik.

Agar selangkah lebih maju, Doppel mengembangkan sistem pertahanan terhadap rekayasa sosial yang dibangun berdasarkan model OpenAI GPT‑5 dan o4-mini. Platform Doppel mendeteksi, mengklasifikasi, dan mengatasi ancaman secara otonom, mengurangi beban kerja analis sebesar 80%, meningkatkan kapasitas penanganan ancaman sebesar tiga kali lipat, dan mengurangi waktu respons dari hitungan jam menjadi menit.

Perlindungan risiko digital tradisional mengandalkan manusia untuk meninjau situs peniruan identitas, domain phishing, serta profil dan postingan media sosial secara manual. Doppel melihat model tersebut tidak mempan lagi saat penyerang beralih ke otomatisasi, melancarkan ancaman lebih cepat, dan di lebih banyak platform, dari yang dapat dievaluasi manusia.

Kecepatan tersebut sangat penting bagi pelanggan Doppel, organisasi yang tidak dapat menunggu selama berjam-jam untuk mengonfirmasi ancaman. Sistem Doppel mengklasifikasikan sebagian besar ancaman secara otomatis, menggunakan model OpenAI untuk penalaran dan siklus umpan balik terstruktur yang dikenal sebagai reinforcement fine-tuning (RFT) untuk meningkatkan model seiring waktu. Dalam RFT, umpan balik dari manusia digunakan sebagai contoh berjenjang, membantu model belajar untuk mengambil sendiri keputusan yang konsisten dan dapat dijelaskan.

Alur yang didukung LLM dari Doppel berada di pusat struktur deteksinya. Setelah sinyal diambil dan disaring, sistem melakukan serangkaian tugas penalaran yang terarah: menalar potensi ancaman, mengonfirmasi niat, serta memandu keputusan klasifikasi. Setiap tahap dirancang untuk menyeimbangkan kecepatan, akurasi, dan konsistensi, sekaligus membuat analis tetap berfokus pada kasus yang jarang terjadi yang memerlukan penilaian manusia.

Berikut adalah cara kerjanya:

• Penyaringan sinyal dan ekstraksi fitur: Sistem Doppel menerima jutaan domain, URL, dan akun setiap hari. Gabungan heuristis dan OpenAI o4-mini menyaring noise dan mengekstrak fitur terstruktur untuk memandu evaluasi model hilir.
• Konfirmasi ancaman paralel: Setiap sinyal dilewati beberapa prompt GPT‑5 yang dibangun untuk beragam jenis analisis ancaman. Prompt ini menilai berbagai faktor, seperti risiko peniruan identitas, penyalahgunaan merek, atau pola rekayasa sosial.
• Klasifikasi ancaman: RFT versi o4-mini menyintesis konfirmasi sebelumnya untuk memberikan label terstruktur—ganas, jinak, atau ambigu—dengan konsistensi tingkat produksi.
• Verifikasi akhir: Pemeriksaan kedua GPT‑5 memvalidasi keputusan model dan membuat justifikasi dalam bahasa alami. Jika tingkat keyakinan melampaui ambang batas, sistem secara otomatis memulai penegakan.
• Peninjauan manusia: Keyakinan yang rendah atau hasil yang bertentangan diarahkan ke analis manusia. Keputusan-keputusan mereka dicatat dan dimasukkan kembali ke dalam siklus RFT guna terus meningkatkan konsistensi model.

Doppel telah melihat peningkatan yang signifikan dari pusat struktur deteksi orisinalnya yang ditingkatkan dengan LLM, namun dalam kasus-kasus di mana ancaman yang sama dapat dinilai secara berbeda bergantung pada analisnya, konsistensi menjadi faktor pembatas.

Untuk membangun konsistensi tersebut, Doppel menerapkan RFT menggunakan data analisnya sendiri sebagai sumber umpan balik. Setiap keputusan yang mengklasifikasikan domain sebagai ganas, jinak, atau tidak jelas menjadi contoh berjenjang. Contoh-contoh yang dilabeli tersebut melatih model untuk mereplikasi penilaian ahli, bahkan pada kasus ambigu yang jarang terjadi.

Bekerja sama dengan tim rekayasa terapan OpenAI, Doppel merancang fungsi pemberi nilai yang tidak hanya mengevaluasi akurasi, tetapi juga kualitas penjelasan, yang memberikan penghargaan kepada model yang melakukan penalaran dengan jelas, bukan hanya dengan benar. Dengan mengubah umpan balik analis menjadi data pelatihan terstruktur, Doppel membantu menunjukkan bagaimana RFT dapat melakukan deteksi otomatis dengan lebih konsisten dan dapat diandalkan.

Penyesuaian hiperparameter dan evaluasi berulang membuat model tersebut semakin mendekati konsistensi manusia. Tetapi bagi Doppel, menyelesaikan tugas otomatisasi terakhir juga berarti pengambilan keputusan dapat segera dipahami.

Setiap penghapusan otomatis kini menyertakan justifikasi yang dibuat AI yang menjelaskan mengapa ancaman disingkirkan, memberikan wawasan langsung kepada pelanggan tentang alasan pengambilan tindakan—sesuatu yang sebelumnya memerlukan intervensi analis.

Visibilitas tersebut meningkatkan kepercayaan, yang merupakan faktor penting bagi pengguna Doppel. Dengan adanya tindakan yang diambil serta alasannya, tim menjadi percaya diri untuk merespons dengan cepat dan memiliki konteks untuk menjelaskan keputusan tersebut secara internal atau kepada pemangku kepentingan.

• Kurangi beban kerja analis sebesar 80%
• Mengurangi waktu respons ancaman dari hitungan jam menjadi hitungan menit
• Kapasitas penanganan ancaman tiga kali lipat
• Sebagian besar ancaman diklasifikasikan secara otomatis

Setelah mencapai otomatisasi yang hampir menyeluruh untuk domain phishing dan peniruan identitas, Doppel kini menerapkan kerangka kerja berbasis model yang sama pada saluran-saluran lain yang memiliki variabilitas tinggi.

“Domain kemungkinan besar saluran yang paling sulit yang kami tangani,” kata Madduluri. “Sinyalnya berantakan, konten terus berubah, dan ancaman berkembang cepat di beberapa platform sekaligus. Jika kita dapat mengotomatisasi hal tersebut secara menyeluruh, kita dapat melakukannya untuk apa pun: media sosial, iklan berbayar, apa saja.”

Tonggak pencapaian berikutnya mencakup pengembangan kumpulan data RFT dalam skala besar, melakukan percobaan dengan strategi penilaian baru, dan menggunakan GPT‑5 untuk ekstraksi fitur hulu. Perubahan ini akan memungkinkan Doppel untuk mengonsolidasikan tahapan alur dan melakukan penalaran atas indikator ancaman yang lebih kompleks lebih dini dalam prosesnya.

Dengan setiap iterasi, Doppel membangun sistem yang melindungi hal yang nyata di setiap platform tempat kepercayaan diserang.