ระบบป้องกันด้วย AI ของ Doppel หยุดการโจมตีก่อนจะมีการแพร่กระจาย

เว็บไซต์เลียนแบบเพียงหนึ่งเว็บมีศักยภาพในการเข้าถึงเหยื่อหลายพันราย และอันตรธานหายไปได้อย่างไร้ร่องรอยโดยใช้เวลาไม่ถึงชั่วโมง นั่นเป็นเวลามากเกินพอที่ผู้โจมตีจะก่อความเสียหายร้ายแรงได้ เครื่องมือ AI ช่วยให้ผู้ไม่หวังดีผลิตเว็บไซต์ปลอมเพิ่มขึ้นได้อีกหลายร้อยแห่งในรูปแบบเดียวกันอย่างรวดเร็ว

Doppel เริ่มต้นธุรกิจด้วยการปกป้ององค์กรจาก Deepfake และการสวมรอยออนไลน์ แต่ในไม่ช้าก็ตระหนักว่า AI ช่วยให้ภัยคุกคามเหล่านี้ขยายตัวได้อย่างไร้ขีดจำกัด ผู้โจมตีไม่จำเป็นต้องสร้างกลโกงขึ้นมาเองทีละชิ้นอีกต่อไป เพราะพวกเขาสามารถสร้างชุดเครื่องมือฟิชชิง โดเมนปลอม และบัญชีปลอมตัวในรูปแบบต่างๆ ได้ไม่รู้จบภายในไม่กี่วินาที

Doppel พัฒนาระบบป้องกันการโจมตีแบบวิศกรรมสังคมรูปแบบใหม่โดยใช้โมเดล OpenAI GPT‑5 และ o4-mini เพื่อก้าวทันภัยคุกคามล่วงหน้าอยู่เสมอ แพลตฟอร์มของ Doppel ตรวจจับ จัดประเภท และกำจัดภัยคุกคามได้โดยอัตโนมัติ ช่วยลดภาระงานของนักวิเคราะห์ลง 80% เพิ่มขีดความสามารถในการรับมือภัยคุกคามได้ 3 เท่า และลดเวลาตอบสนองจากระดับชั่วโมงเหลือเพียงไม่กี่นาที

ระบบคุ้มครองความเสี่ยงทางดิจิทัลแบบดั้งเดิมต้องพึ่งพาพนักงานในการตรวจสอบเว็บไซต์แอบอ้าง โดเมนฟิชชิง รวมถึงโปรไฟล์และโพสต์บนโซเชียลมีเดียด้วยตัวเอง Doppel เห็นว่ารูปแบบการป้องกันแบบเก่าเริ่มใช้ไม่ได้ผล หลังจากมิจฉาชีพหันไปพึ่งพาเทคโนโลยีอัตโนมัติเพื่อส่งภัยร้ายออกไปในวงกว้างและรวดเร็วกว่าขีดความสามารถของคน

ความรวดเร็วนี้มีความหมายอย่างยิ่งต่อลูกค้าของ Doppel ซึ่งเป็นองค์กรที่ไม่สามารถปล่อยเวลาให้ล่วงเลยไปหลายชั่วโมงเพียงเพื่อรอการยืนยันภัยคุกคาม ระบบของ Doppel จัดประเภทภัยคุกคามส่วนใหญ่โดยอัตโนมัติ โดยใช้โมเดลของ OpenAI สำหรับการให้เหตุผล และวงจรข้อเสนอแนะที่มีโครงสร้างซึ่งเรียกว่า การปรับแต่งแบบเสริมกำลัง (RFT) เพื่อปรับปรุงโมเดลให้ดีขึ้นเมื่อเวลาผ่านไป ระบบ RFT นำความคิดเห็นจากมนุษย์มาใช้เป็นตัวอย่างการให้คะแนน เพื่อช่วยให้โมเดลเรียนรู้การตัดสินใจที่สมเหตุสมผลและสม่ำเสมอได้ด้วยตนเอง

ระบบประมวลผลที่ขับเคลื่อนด้วย LLM ของ Doppel ทำหน้าที่เป็นหัวใจหลักในชุดเครื่องมือตรวจจับภัยคุกคาม หลังจากรวบรวมและคัดกรองสัญญาณต่าง ๆ แล้ว ระบบจะเริ่มกระบวนการใช้เหตุผลเชิงลึกเพื่อวิเคราะห์ภัยคุกคาม ยืนยันเจตนา และตัดสินใจแยกประเภทข้อมูล แต่ละขั้นตอนได้รับการออกแบบมาเพื่อสร้างสมดุลระหว่างความเร็ว ความแม่นยำ และความสม่ำเสมอ ขณะเดียวกันก็ช่วยให้นักวิเคราะห์มุ่งความสนใจไปที่กรณีพิเศษที่ต้องอาศัยวิจารณญาณของมนุษย์

กระบวนการทำงานมีดังนี้:

• การกรองสัญญาณและการแยกคุณลักษณะ: ระบบของ Doppel นำเข้าโดเมน URL และบัญชีหลายล้านรายการในแต่ละวัน การทำงานร่วมกันของระบบ Heuristics และ OpenAI o4-mini ช่วยคัดกรองข้อมูลรบกวน พร้อมทั้งสกัดคุณลักษณะสำคัญออกมาเพื่อนำทางไปสู่การประเมินผลของโมเดลในลำดับถัดไป
• การยืนยันภัยคุกคามแบบขนาน: สัญญาณแต่ละรายการจะถูกส่งผ่านคำสั่ง GPT‑5 หลายชุดที่ออกแบบมาโดยเฉพาะสำหรับการวิเคราะห์ภัยคุกคามแต่ละประเภท คำสั่งเหล่านี้ใช้ประเมินปัจจัยต่างๆ เช่น ความเสี่ยงจากการสวมรอย การใช้แบรนด์ในทางที่ผิด หรือรูปแบบของวิศวกรรมสังคม
• การจัดประเภทภัยคุกคาม: ระบบ RFT ของ o4-mini ทำหน้าที่ประมวลผลข้อมูลยืนยันก่อนหน้าเพื่อระบุสถานะอย่างเป็นระบบ ไม่ว่าจะเป็นอันตราย ปลอดภัย หรือคลุมเครือ ด้วยมาตรฐานความแม่นยำระดับใช้งานจริง
• การตรวจสอบขั้นสุดท้าย: การประมวลผลรอบที่สองของ GPT‑5 จะยืนยันการตัดสินใจของโมเดลและสร้างคำอธิบายเหตุผลในภาษาที่เป็นธรรมชาติ หากค่าความเชื่อมั่นเกินเกณฑ์ที่กำหนด ระบบจะเริ่มการบังคับใช้งานโดยอัตโนมัติ
• การตรวจสอบโดยมนุษย์: ผลลัพธ์ที่มีความเชื่อมั่นต่ำหรือขัดแย้งกันจะถูกส่งต่อไปยังนักวิเคราะห์ที่เป็นมนุษย์ ระบบบันทึกการตัดสินใจและส่งข้อมูลกลับเข้าสู่ลูป RFTเพื่อปรับปรุงความสอดคล้องของโมเดลอย่างต่อเนื่อง

แม้ระบบตรวจจับที่ใช้ LLM ของ Doppel จะให้ผลลัพธ์ที่ดีในตอนแรก แต่ความไม่แน่นอนในการตัดสินใจของนักวิเคราะห์แต่ละคนต่อภัยร้ายรูปแบบเดียวกัน กลับกลายเป็นอุปสรรคต่อมาตรฐานการทำงาน

Doppel นำระบบ RFT มาปรับใช้โดยใช้ข้อมูลจากนักวิเคราะห์ของตนเองเป็นแหล่งข้อมูลป้อนกลับ เพื่อสร้างความสม่ำเสมอในการทำงานให้เกิดขึ้น การตัดสินใจแต่ละครั้งในการจัดประเภทโดเมนว่าเป็นอันตราย ไม่เป็นอันตราย หรือไม่ชัดเจน จะกลายเป็นตัวอย่างที่มีการให้คะแนน ตัวอย่างที่มีการกำกับป้ายกำกับเหล่านั้นใช้เทรนโมเดลให้เลียนแบบการตัดสินของผู้เชี่ยวชาญได้ แม้ในกรณีขอบที่คลุมเครือ

Doppel ได้ออกแบบฟังก์ชันการให้คะแนนโดยทำงานอย่างใกล้ชิดกับทีมวิศวกรรมประยุกต์ของ OpenAI ซึ่งประเมินไม่เพียงแค่ความแม่นยำเท่านั้น แต่ยังรวมถึงคุณภาพของการอธิบายด้วย โดยให้รางวัลแก่โมเดลที่ให้เหตุผลได้อย่างชัดเจน ไม่ใช่เพียงตอบได้ถูกต้อง ด้วยการเปลี่ยนข้อเสนอแนะจากนักวิเคราะห์ให้เป็นข้อมูลการฝึกที่มีโครงสร้าง Doppel จึงช่วยแสดงให้เห็นว่า RFT สามารถทำให้การตรวจจับอัตโนมัติมีความสม่ำเสมอและเชื่อถือได้มากขึ้น

การปรับจูนไฮเปอร์พารามิเตอร์ (Hyperparameter) และการประเมินผลซ้ำช่วยให้โมเดลมีความสม่ำเสมอใกล้เคียงกับระดับที่มนุษย์ทำได้ สำหรับ Doppel แล้ว การบรรลุเป้าหมายสูงสุดของระบบอัตโนมัติ คือการสร้างความชัดเจนเพื่อให้ทุกคนเข้าใจที่มาของการตัดสินใจได้โดยไม่ต้องเสียเวลาตีความ

ปัจจุบันการสั่งปิดเว็บไซต์อัตโนมัติทุกครั้งจะมาพร้อมกับเหตุผลประกอบจาก AI เพื่ออธิบายสาเหตุที่กำจัดภัยคุกคามนั้นออกไป ช่วยให้ลูกค้าเข้าใจที่มาของการตัดสินใจได้ทันที จากเดิมที่ต้องรอเจ้าหน้าที่มาสรุปผล

ความโปร่งใสนั้นช่วยเสริมสร้างความไว้วางใจ ซึ่งเป็นปัจจัยสำคัญสำหรับผู้ใช้ของ Doppel การได้รับรู้เหตุผลเบื้องหลังการดำเนินการว่า ดำเนินการอะไร และ ทำไปทำไม ช่วยให้ทีมงานมีความมั่นใจในการตอบโต้อย่างรวดเร็ว และมีข้อมูลประกอบเพื่อชี้แจงต่อคนในองค์กรหรือผู้มีส่วนได้ส่วนเสีย

• ลดภาระงานของนักวิเคราะห์ลง 80%
• ลดเวลาการตอบสนองต่อการรับมือภัยคุกคามจากหลายชั่วโมงเหลือเพียงไม่กี่นาที
• เพิ่มความสามารถในการรับมือภัยคุกคามขึ้น 3 เท่า
• ภัยคุกคามส่วนใหญ่ถูกจำแนกประเภทโดยอัตโนมัติ

หลังจากประสบความสำเร็จในการใช้ระบบอัตโนมัติเกือบเต็มรูปแบบกับโดเมนฟิชชิงและเว็บไซต์แอบอ้าง ปัจจุบัน Doppel กำลังนำโครงสร้างการทำงานที่ขับเคลื่อนด้วยโมเดลแบบเดียวกันนี้ไปปรับใช้กับช่องทางอื่นๆ ที่มีความผันผวนสูง

“โดเมนน่าจะเป็นช่องทางที่ยากที่สุดที่เราดูแล” Madduluri กล่าว “สัญญาณข้อมูลมีความสับสนวุ่นวาย เนื้อหาเปลี่ยนแปลงอยู่ตลอดเวลา และภัยคุกคามก็พัฒนาอย่างรวดเร็วผ่านช่องทางที่หลากหลายพร้อมกัน หากเราสามารถวางระบบอัตโนมัติได้ตั้งแต่ต้นจนจบ เราก็สามารถประยุกต์ใช้กับอะไรก็ได้ ไม่ว่าจะเป็นโซเชียลมีเดีย โฆษณา หรือช่องทางอื่น ๆ ตามต้องการ”

เป้าหมายถัดไปของ Doppel คือการขยายขนาดชุดข้อมูล RFT ให้มากกว่าเดิมถึงสิบเท่า พร้อมทั้งทดลองกลยุทธ์การให้คะแนนแบบใหม่ และนำ GPT‑5 มาใช้คัดกรองข้อมูลตั้งแต่ต้น การเปลี่ยนแปลงเหล่านี้จะช่วยให้ Doppel สามารถรวมขั้นตอนของไปป์ไลน์และวิเคราะห์ตัวบ่งชี้ภัยคุกคามที่ซับซ้อนมากขึ้นได้ตั้งแต่ช่วงต้นของกระบวนการ

ในแต่ละขั้นตอนของการพัฒนา Doppel กำลังมุ่งสร้างระบบที่ทำหน้าที่ปกป้องความถูกต้องในทุกพื้นที่ที่ความไว้วางใจกำลังถูกโจมตี