Doppelന്റെ AI പ്രതിരോധം ആക്രമണം വ്യാപിക്കുന്നതിന് മുമ്പ് തടയുന്നു

ഒരു ആൾമാറാട്ട സൈറ്റിന് ആരംഭിക്കാനും, ആയിരക്കണക്കിന് ഉപയോക്താക്കളെ ലക്ഷ്യമിടാനും, ഒരു മണിക്കൂറിനുള്ളിൽ അപ്രത്യക്ഷമാകാനും കഴിയും. അത് ഒരു ആക്രമണം നടത്തുന്നയാൾക്ക് യഥാർത്ഥ നാശനഷ്ടം വരുത്താൻ ആവശ്യത്തിലധികം സമയമാണ്. ജനറേറ്റീവ് ടൂളുകൾ ഉപയോഗിച്ച്, അതുപോലുള്ളവ നൂറുകണക്കിന് കൂടുതൽ സൃഷ്ടിച്ചെടുക്കാനും അവർക്ക് കഴിയും.

Doppel ഡീപ്ഫേക്കുകളും ഓൺലൈൻ ആൾമാറാട്ടങ്ങളും നിന്ന് സ്ഥാപനങ്ങളെ സംരക്ഷിക്കാൻ രൂപകൽപ്പന ചെയ്തതാണ്, എന്നാൽ ഉടൻ തന്നെ AI ഭീഷണികൾ അനന്തമായി വ്യാപിക്കാനാകുമെന്ന് തിരിച്ചറിഞ്ഞു. ആക്രമികൾക്ക് ഇനി തട്ടിപ്പുകൾ കൈകൊണ്ട് തയ്യാറാക്കേണ്ട ആവശ്യമില്ല; അവർക്ക് ഫിഷിംഗ് കിറ്റുകൾ, വ്യാജ ഡൊമെയ്നുകൾ, ആൾമാറാട്ട അക്കൗണ്ടുകൾ എന്നിവയുടെ അനന്തമായ വകഭേദങ്ങൾ നിമിഷങ്ങൾക്കകം സൃഷ്ടിക്കാനാകും.

മുൻതൂക്കം നിലനിർത്താൻ, OpenAI GPT‑5, o4-mini മോഡലുകളെ അടിസ്ഥാനമാക്കി Doppel ഒരു പുതിയ തരത്തിലുള്ള സോഷ്യൽ എഞ്ചിനീയറിംഗ് പ്രതിരോധ സംവിധാനം വികസിപ്പിച്ചു. Doppel-ന്റെ പ്ലാറ്റ്ഫോം ഭീഷണികളെ സ്വയം കണ്ടെത്തുകയും വർഗ്ഗീകരിക്കുകയും നിഷ്ക്രിയമാക്കുകയും ചെയ്യുന്നു. ഇതിലൂടെ അനലിസ്റ്റുകളുടെ ജോലിഭാരം 80% കുറയുന്നു, ഭീഷണികൾ കൈകാര്യം ചെയ്യാനുള്ള ശേഷി മൂന്നിരട്ടിയാകുന്നു, പ്രതികരണസമയം മണിക്കൂറുകളിൽ നിന്ന് മിനിറ്റുകളിലേക്കായി ചുരുങ്ങുന്നു.

പരമ്പരാഗത ഡിജിറ്റൽ റിസ്ക് സംരക്ഷണം, ആൾമാറാട്ട സൈറ്റുകൾ, ഫിഷിംഗ് ഡൊമെയ്നുകൾ, സോഷ്യൽ മീഡിയ പ്രൊഫൈലുകളും പോസ്റ്റുകളും സ്വമേധയാ അവലോകനം ചെയ്യുന്നതിനായി മനുഷ്യരെ ആശ്രയിച്ചിരുന്നു. ആക്രമികൾ ഓട്ടോമേറ്റ് ചെയ്യാൻ തുടങ്ങുകയും, മനുഷ്യർക്ക് അവ വിലയിരുത്താനാകുന്നതിലും വേഗത്തിലും കൂടുതൽ ഉപരിതല മേഖലകളിലുമായി ഭീഷണികൾ ആരംഭിക്കുകയും ചെയ്തതോടെ, ആ മോഡൽ തകരുന്നതായി Doppel കണ്ടു.

ആ വേഗത Doppelയുടെ ഉപഭോക്താക്കൾക്ക് നിർണായകമാണ്, അതായത് ഒരു ഭീഷണി സ്ഥിരീകരിക്കാൻ മണിക്കൂറുകളോളം കാത്തിരിക്കാനാവാത്ത സ്ഥാപനങ്ങൾക്ക്. Doppel-ന്റെ സിസ്റ്റം മിക്ക ഭീഷണികളെയും സ്വയമേവ തരംതിരിക്കുന്നു, റീസണിംഗിനായി OpenAI മോഡലുകളും കാലക്രമേണ മോഡൽ മെച്ചപ്പെടുത്തുന്നതിനായി റീഇൻഫോഴ്സ്മെന്റ് ഫൈൻ-ട്യൂണിംഗ് (RFT) എന്നറിയപ്പെടുന്ന ഒരു ഘടനാപരമായ ഫീഡ്ബാക്ക് ലൂപ്പും ഉപയോഗിക്കുന്നു. RFT-യിൽ, മനുഷ്യ ഫീഡ്ബാക്ക് ഗ്രേഡുചെയ്ത ഉദാഹരണങ്ങളായി ഉപയോഗിക്കുന്നു, ഇത് മോഡലുകൾക്ക് സ്വതന്ത്രമായി സ്ഥിരതയുള്ളതും വിശദീകരിക്കാവുന്നതുമായ തീരുമാനങ്ങൾ എടുക്കാൻ പഠിക്കാൻ സഹായിക്കുന്നു.

Doppel-ന്റെ LLM-പ്രേരിത പൈപ്പ്ലൈൻ അതിന്റെ ഡിറ്റക്ഷൻ സ്റ്റാക്കിന്റെ കേന്ദ്രമായി പ്രവർത്തിക്കുന്നു. സിഗ്നലുകൾ ശേഖരിച്ച് ഫിൽട്ടർ ചെയ്ത ശേഷം, സിസ്റ്റം ലക്ഷ്യബോധമുള്ള യുക്തിസഹമായ ജോലികളുടെ ഒരു പരമ്പര നിർവഹിക്കുന്നു: സാധ്യതയുള്ള ഭീഷണികളിലൂടെ റീസണിംഗ് ചെയ്യുക, ഉദ്ദേശ്യം സ്ഥിരീകരിക്കുക, വർഗ്ഗീകരണ തീരുമാനങ്ങൾ നയിക്കുക. ഓരോ ഘട്ടവും വേഗത, കൃത്യത, സ്ഥിരത എന്നിവ തമ്മിൽ തുലനം ചെയ്യുന്നതിനായി രൂപകൽപ്പന ചെയ്തതാണ്, അതേസമയം മനുഷ്യ വിധിന്യായം ആവശ്യമായ എഡ്ജ് കേസുകളിൽ വിശകലന വിദഗ്ധർ ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നതും ഉറപ്പാക്കുന്നു.

ഇത് എങ്ങനെ പ്രവർത്തിക്കുന്നു എന്ന് ഇവിടെ കാണാം:

• സിഗ്നൽ ഫിൽറ്ററിംഗും ഫീച്ചർ എക്സ്ട്രാക്ഷനും: Doppel-ന്റെ സിസ്റ്റങ്ങൾ ദിവസേന ദശലക്ഷക്കണക്കിന് ഡൊമെയ്നുകളും URL-കളും അക്കൗണ്ടുകളും സ്വീകരിക്കുന്നു. ഹ്യൂറിസ്റ്റിക്കുകളും OpenAI o4-miniയും ചേർന്ന ഒരു സംയോജനം ശബ്ദം ഫിൽറ്റർ ചെയ്ത് നീക്കം ചെയ്യുകയും, തുടർന്ന് നടക്കുന്ന മോഡൽ മൂല്യനിർണയങ്ങളെ നയിക്കാൻ ഘടനാപരമായ സവിശേഷതകൾ പുറത്തെടുക്കുകയും ചെയ്യുന്നു.
• സമാന്തര ഭീഷണി സ്ഥിരീകരണം: ഓരോ സിഗ്നലും വ്യത്യസ്ത തരത്തിലുള്ള ഭീഷണി വിശകലനങ്ങൾക്കായി പ്രത്യേകമായി രൂപകൽപ്പന ചെയ്ത ഒന്നിലധികം GPT‑5 പ്രോംപ്റ്റുകളിലൂടെ കടത്തിവിടുന്നു. ഈ പ്രോംപ്റ്റുകൾ ആൾമാറാട്ട അപകടസാധ്യത, ബ്രാൻഡ് ദുരുപയോഗം, അല്ലെങ്കിൽ സോഷ്യൽ എഞ്ചിനീയറിംഗ് മാതൃകകൾ പോലുള്ള ഘടകങ്ങളെ വിലയിരുത്തുന്നു.
• ഭീഷണി വർഗ്ഗീകരണം: o4-mini-യുടെ RFT പതിപ്പ്, മുമ്പുള്ള സ്ഥിരീകരണങ്ങളെ സംയോജിപ്പിച്ച്, ഘടനാപരമായ ഒരു ലേബൽ—ദോഷകരം, ഹാനിയില്ലാത്തത്, അല്ലെങ്കിൽ അവ്യക്തം—പ്രൊഡക്ഷൻ-നിലവാരത്തിലുള്ള സ്ഥിരതയോടെ നൽകുന്നു.
• അന്തിമ സ്ഥിരീകരണം: രണ്ടാമത്തെ GPT‑5 പാസ് മോഡലിന്റെ തീരുമാനം സ്ഥിരീകരിക്കുകയും സ്വാഭാവിക-ഭാഷാ ന്യായീകരണം സൃഷ്ടിക്കുകയും ചെയ്യുന്നു. ആത്മവിശ്വാസം പരിധി കവിയുന്നുവെങ്കിൽ, സിസ്റ്റം സ്വയമേവ എൻഫോഴ്സ്മെന്റ് ആരംഭിക്കുന്നു.
• മനുഷ്യ അവലോകനം: കുറഞ്ഞ വിശ്വാസ്യതയുള്ള അല്ലെങ്കിൽ പരസ്പരവിരുദ്ധമായ ഫലങ്ങൾ മനുഷ്യ വിശകലന വിദഗ്ധരിലേക്ക് അയയ്ക്കപ്പെടുന്നു. അവരുടെ തീരുമാനങ്ങൾ ലോഗ് ചെയ്യപ്പെടുകയും മോഡലിന്റെ സ്ഥിരത തുടർച്ചയായി മെച്ചപ്പെടുത്താൻ RFT ലൂപ്പിലേക്ക് തിരിച്ചുനൽകപ്പെടുകയും ചെയ്യുന്നു.

Doppel അതിന്റെ ആദ്യകാല LLM-മെച്ചപ്പെടുത്തിയ ഡിറ്റക്ഷൻ പൈപ്പ്ലൈൻ വഴി ഇതിനകം തന്നെ കാര്യമായ നേട്ടങ്ങൾ കണ്ടിരുന്നു, എന്നാൽ അതേ ഭീഷണിയെ വിശകലന വിദഗ്ധനെ ആശ്രയിച്ച് വ്യത്യസ്തമായി വിലയിരുത്താൻ സാധ്യതയുള്ള സാഹചര്യങ്ങളിൽ, സ്ഥിരതയാണ് പരിമിതപ്പെടുത്തുന്ന ഘടകമായി മാറിയത്.

ആ സ്ഥിരത കൈവരിക്കാൻ, Doppel സ്വന്തം അനലിസ്റ്റ് ഡാറ്റയെ ഫീഡ്ബാക്ക് ഉറവിടമായി ഉപയോഗിച്ച് RFT പ്രയോഗിച്ചു. ഒരു ഡൊമെയ്നെ ദോഷകരം, നിർദ്ദോഷകരം, അല്ലെങ്കിൽ അവ്യക്തം എന്ന് വർഗ്ഗീകരിക്കുന്ന ഓരോ തീരുമാനവും ഒരു ഗ്രേഡുചെയ്ത ഉദാഹരണമായി മാറി. ആ ലേബൽ ചെയ്ത ഉദാഹരണങ്ങൾ, അവ്യക്തമായ അതിരുകേസുകളിലും പോലും, വിദഗ്ദ്ധരുടെ വിധിനിർണയം പുനരാവിഷ്കരിക്കാൻ മോഡൽ പരിശീലിപ്പിച്ചു.

OpenAI-യുടെ അപ്ലൈഡ് എഞ്ചിനീയറിംഗ് ടീമുമായി അടുത്ത് സഹകരിച്ച്, Doppel കൃത്യത മാത്രമല്ല, വിശദീകരണത്തിന്റെ ഗുണനിലവാരവും വിലയിരുത്തുന്ന ഗ്രേഡർ ഫംഗ്ഷനുകൾ രൂപകൽപ്പന ചെയ്തു. മോഡൽ വെറും ശരിയായ ഉത്തരങ്ങൾ നൽകുന്നതിന് മാത്രമല്ല, വ്യക്തമായി യുക്തിചിന്ത നടത്തുന്നതിനും പ്രതിഫലം ലഭിച്ചു. അനലിസ്റ്റുകളുടെ ഫീഡ്ബാക്കിനെ ഘടനാപരമായ പരിശീലന ഡാറ്റയായി മാറ്റി, സ്വയമേറ്റ കണ്ടെത്തലിനെ കൂടുതൽ സ്ഥിരതയുള്ളതും വിശ്വസനീയവുമായതാക്കാൻ RFT എങ്ങനെ സഹായിക്കാമെന്ന് Doppel തെളിയിച്ചു.

ഹൈപ്പർപാരാമീറ്റർ ട്യൂണിംഗും ആവർത്തിച്ചുള്ള മൂല്യനിർണ്ണയവും മോഡലിനെ മനുഷ്യ-തല സ്ഥിരതയിലേക്ക് കൂടുതൽ അടുത്താക്കി. എന്നാൽ Doppel-നുവേണ്ടി, ഓട്ടോമേഷന്റെ അവസാന ഘട്ടം പൂർത്തിയാക്കുക എന്നത് തീരുമാനങ്ങൾ ഉടൻ മനസ്സിലാക്കാവുന്നതാക്കുന്നതാണ്.

ഇപ്പോൾ ഓരോ സ്വയമേവ നടത്തുന്ന നീക്കംചെയ്യലിലും, ഒരു ഭീഷണി എന്തുകൊണ്ടാണ് നീക്കംചെയ്തതെന്ന് വിശദീകരിക്കുന്ന AI സൃഷ്ടിച്ച ഒരു ന്യായീകരണം ഉൾപ്പെടുന്നു. ഇതിലൂടെ നടപടി സ്വീകരിച്ചതിന്റെ കാരണം ഉപഭോക്താക്കൾക്ക് ഉടനടി മനസ്സിലാക്കാൻ സഹായിക്കുന്നു. മുമ്പ് ഇതിന് അനലിസ്റ്റിന്റെ ഇടപെടൽ ആവശ്യമായിരുന്ന ഒരു കാര്യം.

ആ ദൃശ്യത വിശ്വാസം വർധിപ്പിക്കുന്നു, ഇത് Doppel-ന്റെ ഉപയോക്താക്കൾക്ക് നിർണായകമാണ്. എന്ത് നടപടി സ്വീകരിച്ചു എന്നത് മാത്രമല്ല, എന്തുകൊണ്ടാണ് അത് സ്വീകരിച്ചത് എന്നതും കാണുന്നത് ടീമുകൾക്ക് വേഗത്തിൽ പ്രതികരിക്കാനുള്ള ആത്മവിശ്വാസവും, ആ തീരുമാനങ്ങൾ വിശദീകരിക്കാൻ ആവശ്യമായ സന്ദർഭവും നൽകുന്നു.

• അനലിസ്റ്റുകളുടെ ജോലിഭാരം 80% വരെ കുറയ്ക്കുക
• ഭീഷണി പ്രതികരണ സമയങ്ങൾ മണിക്കൂറുകളിൽ നിന്ന് മിനിറ്റുകളിലേക്കായി ചുരുക്കി
• ഭീഷണികൾ കൈകാര്യം ചെയ്യാനുള്ള ശേഷി മൂന്നിരട്ടി
• മിക്ക ഭീഷണികളും സ്വയമേവ തരംതിരിക്കപ്പെടുന്നു

ഫിഷിംഗും ആൾമാറാട്ട ഡൊമെയ്നുകളും സംബന്ധിച്ച് ഏകദേശം പൂർണ്ണമായ ഓട്ടോമേഷൻ കൈവരിച്ച ശേഷം, Doppel ഇപ്പോൾ അതേ മോഡൽ-അധിഷ്ഠിത ചട്ടക്കൂട് ഉയർന്ന വ്യതിയാനമുള്ള മറ്റ് ചാനലുകളിൽ പ്രയോഗിക്കുന്നു.

“ഡൊമെയ്നുകൾ തന്നെയാണ് ഞങ്ങൾ കൈകാര്യം ചെയ്യുന്ന ഏറ്റവും പ്രയാസമുള്ള ചാനൽ,” എന്ന് Madduluri പറഞ്ഞു. “സിഗ്നലുകൾ അവ്യവസ്ഥിതമാണ്, ഉള്ളടക്കം നിരന്തരം മാറുന്നു, കൂടാതെ ഭീഷണികൾ ഒരേസമയം പല പ്ലാറ്റ്-ഫോമുകളിലാകെ അതിവേഗം മാറിമാറി വളരുന്നു. നമുക്ക് ആ എൻഡ്-ടു-എൻഡ് ഓട്ടോമേറ്റ്ചെ യ്യാൻ കഴിയുമെങ്കിൽ, സോഷ്യൽ മീഡിയ, പണമടച്ചുള്ള പരസ്യങ്ങൾ എന്നിങ്ങനെ എന്തിനും നമുക്ക് അത് ചെയ്യാൻ കഴിയും.

അടുത്ത നാഴികക്കല്ലുകളിൽ അവരുടെ RFT ഡാറ്റാസെറ്റ് ഒരു ക്രമം വരെ വർദ്ധിപ്പിക്കൽ, പുതിയ ഗ്രേഡിംഗ് തന്ത്രങ്ങൾ പരീക്ഷിക്കൽ, കൂടാതെ അപ്സ്ട്രീം ഫീച്ചർ എക്സ്ട്രാക്ഷനായി GPT‑5 ഉപയോഗിക്കൽ എന്നിവ ഉൾപ്പെടുന്നു. ഈ മാറ്റങ്ങൾ Doppel-ന് പൈപ്പ്ലൈൻ ഘട്ടങ്ങളെ ഏകീകരിക്കാനും പ്രക്രിയയുടെ തുടക്കത്തിൽ കൂടുതൽ സങ്കീർണ്ണമായ ഭീഷണി സൂചകങ്ങളെ വിശകലനം ചെയ്യാനും അനുവദിക്കും.

ഓരോ ആവർത്തനത്തോടെയും, വിശ്വാസം ആക്രമിക്കപ്പെടുന്ന എല്ലാ ഇടങ്ങളിലുമായി യഥാർത്ഥമായതിനെ സംരക്ഷിക്കുന്ന ഒരു സംവിധാനത്തിലേക്ക് Doppel മുന്നേറിക്കൊണ്ടിരിക്കുന്നു.