Doppel-ийн AI хамгаалалт халдлагыг тархахаас нь өмнө зогсооно

Ганцхан дүр эсгэсэн сайт нээгдэж, мянга мянган хэрэглэгчийг онилж, нэг цаг хүрэхгүй хугацаанд алга болж чадна. Энэ нь халдагч бодит хохирол учруулахад хангалттай хугацаа юм. Мөн үүсгэгч хэрэгслүүдийн тусламжтайгаар тэд үүнтэй адил дахин хэдэн зууг бий болгож чадна.

Doppel нь байгууллагуудыг deepfake болон онлайн дүр эсгэлтээс хамгаалахаар бүтээгдсэн ч AI нь аюулыг хязгааргүйгээр тэлж чадна гэдгийг хурдан ойлгосон. Халдагчид залиланг гараар нэг бүрчлэн хийх шаардлагагүй болсон; тэд фишингийн хэрэгсэл, хуурамч домэйн, дүр эсгэсэн аккаунтын төгсгөлгүй хувилбаруудыг хэдхэн секундэд үүсгэж чаддаг болсон.

Урьдчилан сэргийлэхийн тулд Doppel OpenAI GPT‑5 болон o4-mini загварууд дээр суурилсан сошиал инженерчлэлийн хамгаалалтын шинэ төрлийн системийг хөгжүүлсэн. Doppel-ийн платформ аюулыг бие даан илрүүлж, ангилж, устгадаг бөгөөд шинжээчийн ажлын ачааллыг 80%-иар бууруулж, аюул зохицуулах хүчин чадлыг гурав дахин нэмэгдүүлж, хариулах хугацааг цагаас минут болгон багасгасан.

Уламжлалт дижитал эрсдэлийн хамгаалалт нь дүр эсгэсэн сайт, фишингийн домэйн, сошиал медиагийн профайл болон нийтлэлүүдийг хүмүүсээр гараар хянадаг байв. Халдагчид автоматжуулж эхэлснээр, хүмүүсийн үнэлж амжихаас илүү хурдан бөгөөд илүү олон гадаргуу дээр аюул үүсгэж эхлэхэд энэ загвар нурж байгааг Doppel олж харсан.

Энэ хурд нь аюулыг баталгаажуулахын тулд хэдэн цагаар хүлээх боломжгүй Doppel-ийн харилцагч байгууллагуудад маш чухал. Doppel-ийн систем ихэнх аюулыг автоматаар ангилдаг бөгөөд OpenAI загваруудыг сэтгэн бодох чадварт нь ашиглаж, загварыг хугацааны явцад сайжруулахын тулд бататгах нарийн тохиргоо (RFT) хэмээх бүтэцтэй буцаан холбооны мөчлөгийг ашигладаг. RFT-д хүний санал хүсэлтийг үнэлгээтэй жишээ болгон ашигладаг бөгөөд энэ нь загваруудад тогтвортой, тайлбарлах боломжтой шийдвэрийг бие даан гаргаж сурахад тусалдаг.

Doppel-ийн LLM-д тулгуурласан явц нь түүний илрүүлэх стекийн төвд байрладаг. Дохионуудыг цуглуулж, шүүсний дараа систем зорилтот сэтгэн бодох хэд хэдэн даалгавар гүйцэтгэдэг: болзошгүй аюулыг тунгаан бодох, санаа зорилгыг батлах, ангиллын шийдвэрийг хөтлөх. Шат бүр нь хурд, нарийвчлал, тогтвортой байдлыг тэнцвэржүүлэхээр зохион бүтээгдсэн бөгөөд шинжээчдийг хүний дүгнэлт шаардлагатай онцгой тохиолдлуудад төвлөрүүлэхэд чиглэдэг.

Энэ нь дараах байдлаар ажилладаг:

• Дохио шүүх ба шинж олборлох: Doppel-ийн системүүд өдөр бүр сая сая домэйн, URL, аккаунтыг хүлээн авдаг. Эвристик аргууд болон OpenAI o4-mini-ийн хослол нь шуугианыг шүүж, дараагийн загварын үнэлгээг чиглүүлэх бүтэцтэй шинжүүдийг гаргаж авдаг.
• Зэрэгцээ аюул баталгаажуулалт: Дохио бүрийг аюулын шинжилгээний өөр өөр төрөлд зориулан тусгайлан боловсруулсан хэд хэдэн GPT‑5 өгөгдлөөр дамжуулдаг. Эдгээр өгөгдөл нь дүр эсгэлтийн эрсдэл, брэндийн буруу ашиглалт, эсвэл сошиал инженерчлэлийн хэв маяг зэрэг хүчин зүйлсийг үнэлдэг.
• Аюулын ангилал: o4-mini-ийн RFT хувилбар нь өмнөх баталгаажуулалтуудыг нэгтгэн, production түвшний тогтвортой байдлаар бүтэцтэй шошго—хортой, хоргүй, эсвэл хоёрдмол—оноодог.
• Эцсийн баталгаажуулалт: GPT‑5-аар хийсэн хоёр дахь шалгалт нь загварын шийдвэрийг баталгаажуулж, байгалийн хэл дээр тайлбар үүсгэдэг. Хэрэв итгэлийн түвшин босгоос давбал систем хэрэгжилтийг автоматаар эхлүүлнэ.
• Хүний хяналт: Итгэл багатай эсвэл зөрчилтэй үр дүнг хүний шинжээчид рүү чиглүүлдэг. Тэдний шийдвэрийг бүртгэж, загварын тогтвортой байдлыг тасралтгүй сайжруулахын тулд RFT мөчлөгт буцаан оруулдаг.

Doppel анхны Том хэлний загвар (LLM)-аар сайжруулсан илрүүлэх явцаасаа аль хэдийн утга учиртай ахиц харсан байсан ч ижил аюулыг шинжээчээс хамааран өөрөөр дүгнэх тохиолдлуудад тогтвортой байдал нь хязгаарлагч хүчин зүйл болсон.

Энэ тогтвортой байдлыг бий болгохын тулд Doppel өөрийн шинжээчдийн өгөгдлийг буцаан холбооны эх сурвалж болгон ашиглаж RFT хэрэглэсэн. Домэйныг хортой, хоргүй, эсвэл тодорхойгүй гэж ангилах шийдвэр бүр үнэлгээтэй жишээ болсон. Эдгээр шошголсон жишээнүүд нь бүрхэг захын тохиолдлуудад ч мэргэжилтний дүгнэлтийг давтахад загварыг сургасан.

OpenAI-ийн хэрэглээний инженерийн багтай нягт хамтран ажиллахдаа Doppel зөвхөн нарийвчлалыг бус, тайлбарын чанарыг ч үнэлдэг grader функцуудыг зохиосон бөгөөд зөвхөн зөв хариулсан биш, тодорхой сэтгэн бодсон загваруудад урамшуулал өгдөг байв. Шинжээчдийн санал хүсэлтийг бүтэцтэй сургалтын өгөгдөл болгон хувиргаснаар Doppel автомат илрүүлэлтийг илүү тогтвортой, найдвартай болгож болохыг харуулахад тусалсан.

Гиперпараметрийн тохируулга болон давтагдсан үнэлгээнүүд загварыг хүний түвшний тогтвортой байдалд улам ойртуулсан. Гэхдээ Doppel-ийн хувьд автоматжуулалтын сүүлийн милийг дуусгана гэдэг нь шийдвэрүүдийг тэр даруй ойлгомжтой болгоно гэсэн үг байв.

Одоо автомат устгал бүр аюул яагаад устгагдсаныг тайлбарласан AI-ээр үүсгэсэн үндэслэлтэй ирдэг болсон бөгөөд энэ нь яагаад арга хэмжээ авсныг харилцагчдад шууд ойлгуулдаг—өмнө нь үүнд шинжээчийн оролцоо шаардлагатай байв.

Энэ харагдах байдал нь итгэлийг нэмэгдүүлдэг бөгөөд энэ нь Doppel-ийн хэрэглэгчдийн хувьд чухал хүчин зүйл юм. Зөвхөн ямар арга хэмжээ авсныг бус, яагаад гэдгийг харах нь багуудад хурдан хариулах итгэл өгч, эдгээр шийдвэрийг дотооддоо эсвэл оролцогч талуудад тайлбарлах нөхцөлийг бүрдүүлдэг.

• Шинжээчийн ажлын ачааллыг 80%-иар бууруулсан
• Аюулд хариулах хугацааг цагаас минут болгож бууруулсан
• Аюул зохицуулах хүчин чадлыг гурав дахин нэмэгдүүлсэн
• Ихэнх аюулыг автоматаар ангилдаг болсон

Фишинг болон дүр эсгэсэн домэйнуудын бараг бүрэн автоматжуулалтад хүрсний дараа Doppel одоо ижил загварт тулгуурласан хүрээг хэлбэлзэл ихтэй бусад сувгуудад хэрэглэж байна.

«Домэйн бол бидний ажилладаг хамгийн хэцүү суваг байх магадлалтай,» гэж Madduluri хэлэв. «Дохионууд эмх замбараагүй, контент байнга өөрчлөгддөг, аюул хэд хэдэн гадаргуу дээр нэгэн зэрэг хурдан хувьсдаг. Хэрэв бид үүнийг төгсгөлөөс төгсгөл хүртэл автоматжуулж чадвал юунд ч хийж чадна: сошиал медиа, төлбөртэй зар сурталчилгаа гээд юу ч байж болно.»

Дараагийн гол үе шатуудад тэдний RFT өгөгдлийн санг арав дахин өсгөх, шинэ үнэлгээний стратеги турших, мөн дээд урсгалын шинж олборлолтод GPT‑5 ашиглах багтана. Эдгээр өөрчлөлт нь Doppel-д явцын үе шатуудыг нэгтгэж, илүү төвөгтэй аюулын үзүүлэлтүүд дээр үйл явцын эрт шатанд сэтгэн бодох боломж олгоно.

Давталт бүрээр Doppel итгэлцэл халдлагад өртөж буй бүх орчинд бодит зүйлийг хамгаалдаг системийг бүтээж байна.