Doppel-ов AI одбрамбени систем зауставља нападе пре ширења

Један сајт за лажно представљање може да се покрене, циља хиљаде корисника и нестане за мање од сат времена. То је више него довољно времена да нападач направи стварну штету. А уз генеративне алате, могу да покрену још стотине таквих.

Doppel је настао да би штитио организације од deepfake садржаја и онлајн лажног представљања, али је брзо схватио да AI значи да претње могу бесконачно да се скалирају. Нападачи више нису морали ручно да праве преваре; могли су за неколико секунди да генеришу бескрајне варијанте phishing комплета, лажираних домена и налога за лажно представљање.

Да би остао испред, Doppel је развио нову врсту система одбране од друштвеног инжењеринга заснованог на моделима OpenAI GPT‑5 и o4-mini. Doppel платформа аутономно открива, класификује и уклања претње, смањује оптерећење аналитичара за 80%, утростручује капацитет обраде претњи и скраћује време одговора са сати на минуте.

Традиционална заштита од дигиталних ризика ослањала се на људе који ручно прегледају сајтове за лажно представљање, phishing домене и профиле и објаве на друштвеним мрежама. Doppel је видео да се тај модел урушава како су нападачи почели да аутоматизују, покрећући претње брже и на више површина него што су људи могли да их процене.

Та брзина је критична за Doppel кориснике, организације које не могу да приуште да чекају сатима на потврду претње. Doppel систем већину претњи класификује аутоматски, користећи OpenAI моделе за резоновање и структурисану повратну петљу познату као подстицајно фино подешавање (RFT) да временом унапреди модел. У RFT-у се људска повратна информација користи као оцењени примери, помажући моделима да сами доносе доследне и објашњиве одлуке.

Doppel-ов канал откривања вођен великим језичким моделима (LLM) налази се у средишту његовог стека за откривање. Након прикупљања и филтрирања сигнала, систем изводи низ циљаних задатака резоновања: разматра потенцијалне претње, потврђује намеру и покреће одлуке о класификацији. Свака фаза је осмишљена да уравнотежи брзину, тачност и доследност, док аналитичаре држи усмереним на граничне случајеве који захтевају људску процену.

Ево како то функционише:

• Филтрирање сигнала и издвајање карактеристика: Doppel системи свакодневно уносе милионе домена, URL-ова и налога. Комбинација хеуристика и OpenAI o4-mini уклања шум и издваја структурисане карактеристике које усмеравају даље процене модела.
• Паралелна потврда претњи: Сваки сигнал пролази кроз више GPT‑5 инструкција посебно направљених за различите врсте анализе претњи. Те инструкције процењују факторе као што су ризик од лажног представљања, злоупотреба бренда или обрасци друштвеног инжењеринга.
• Класификација претњи: RFT верзија o4-mini синтетизује претходне потврде како би доделила структурисану ознаку — злонамерно, бенигно или двосмислено — уз доследност спремну за production.
• Завршна верификација: Други GPT‑5 пролаз потврђује одлуку модела и генерише образложење на природном језику. Ако поузданост пређе праг, систем аутоматски покреће спровођење.
• Људски преглед: Резултати са ниском поузданошћу или конфликтни резултати усмеравају се људским аналитичарима. Њихове одлуке се бележе и враћају у RFT петљу ради сталног побољшања доследности модела.

Doppel је већ видео значајна побољшања од свог првобитног канала откривања унапређеног великим језичким моделима (LLM), али када је реч о случајевима у којима иста претња може бити различито процењена у зависности од аналитичара, доследност је постала ограничавајући фактор.

Да би изградио ту доследност, Doppel је применио RFT користећи сопствене податке аналитичара као извор повратних информација. Свака одлука да се домен класификује као злонамеран, бениган или нејасан постала је оцењени пример. Ти означени примери обучили су модел да реплицира стручну процену, чак и у двосмисленим граничним случајевима.

У блиској сарадњи са OpenAI тимом за примењени инжењеринг, Doppel је осмислио grader функције које су процењивале не само тачност већ и квалитет објашњења, награђујући моделе који су јасно резоновали, а не само били у праву. Претварањем повратних информација аналитичара у структурисане податке за обучавање, Doppel је помогао да се покаже како RFT може аутоматизовано откривање да учини доследнијим и поузданијим.

Подешавање хиперпараметара и итеративне евалуације приближили су модел доследности на нивоу човека. Али за Doppel, довршавање последње миље аутоматизације значило је и да одлуке одмах постану разумљиве.

Свако аутоматизовано уклањање сада укључује образложење које је генерисао AI, а које објашњава зашто је претња уклоњена, дајући корисницима одмах увид у то зашто је предузета акција — нешто што је некада захтевало интервенцију аналитичара.

Та видљивост јача поверење, што је критичан фактор за Doppel кориснике. Видети не само која је акција предузета већ и зашто, даје тимовима самопоуздање да брзо реагују и контекст да те одлуке објасне интерно или заинтересованим странама.

• Смањено оптерећење аналитичара за 80%
• Време одговора на претње смањено са сати на минуте
• Утростручен капацитет обраде претњи
• Већина претњи класификована аутоматски

Пошто је достигао скоро потпуну аутоматизацију за phishing и домене лажног представљања, Doppel сада примењује исти оквир вођен моделима и на друге канале велике варијабилности.

„Домени су вероватно најтежи канал којим се бавимо“, рекао је Madduluri. „Сигнали су неуредни, садржај се стално мења, а претње се брзо развијају на више површина истовремено. Ако то можемо да аутоматизујемо од почетка до краја, можемо за било шта: друштвене мреже, плаћене огласе, шта год пожелите.“

Следеће прекретнице укључују повећање њиховог RFT скупа података за ред величине, експериментисање са новим стратегијама оцењивања и коришћење GPT‑5 за upstream издвајање карактеристика. Ове промене ће омогућити Doppel-у да консолидује фазе канала и резонује над сложенијим индикаторима претњи раније у процесу.

Са сваком итерацијом, Doppel гради систем који штити оно што је стварно на свакој површини на којој је поверење под нападом.