Doppel ની AI ડિફેન્સ સિસ્ટમ હુમલા ફેલાય તે પહેલાં અટકાવે છે

માત્ર એક નકલખોરી વેબસાઇટ શરૂ થઈ શકે છે, હજારો વપરાશકર્તાઓને નિશાન બનાવી શકે છે અને એક કલાકથી પણ ઓછા સમયમાં ગાયબ થઈ શકે છે. હુમલાખોર માટે વાસ્તવિક નુકસાન કરવા એટલો સમય પૂરતો છે. અને જનરેટિવ ટૂલ્સ સાથે, તેઓ આવી જ સૈંકડો વધુ સાઇટ્સ ઉભી કરી શકે છે.

Doppel સંસ્થાઓને ડીપફેક અને ઑનલાઇન નકલખોરીથી બચાવવા માટે બનાવાયું હતું, પરંતુ જલદી સમજાયું કે AI નો અર્થ હતો કે ખતરાઓ અનંત પ્રમાણમાં વધી શકે. હુમલાખોરોને હવે ઠગાઈઓ હાથથી બનાવવાની જરૂર નહોતી. તેઓ સેકંડોમાં ફિશિંગ કિટ્સ, સ્પૂફ્ડ ડોમેન્સ અને નકલખોરી એકાઉન્ટ્સના અનંત પ્રકારો બનાવી શકતા હતા.

આગળ રહેવા માટે, Doppel એ OpenAI GPT‑5 અને o4-mini મોડલો પર આધારિત સોશિયલ એન્જિનિયરિંગ ડિફેન્સ સિસ્ટમનો નવો પ્રકાર વિકસાવ્યો. Doppel નું પ્લેટફોર્મ સ્વાયત્ત રીતે ખતરાઓ શોધે છે, વર્ગીકૃત કરે છે અને દૂર કરે છે, જેના કારણે વિશ્લેષકોનો કામનો ભાર 80% ઘટે છે, ખતરા-હેન્ડલિંગ ક્ષમતા ત્રણ ગણીએ વધે છે અને પ્રતિસાદ સમય કલાકોથી મિનિટોમાં ઘટે છે.

પરંપરાગત ડિજિટલ રિસ્ક પ્રોટેક્શન નકલખોરી સાઇટ્સ, ફિશિંગ ડોમેન્સ અને સોશિયલ મીડિયા પ્રોફાઇલ્સ તથા પોસ્ટ્સની હસ્તચાલિત સમીક્ષા કરવા માનવો પર નિર્ભર હતું. Doppel એ જોયું કે આ મોડલ તૂટી રહ્યું હતું, કારણ કે હુમલાખોરોએ ઓટોમેશન શરૂ કર્યું અને મનુષ્યો તેમની મૂલ્યાંકન કરી શકે તેનાથી વધુ ઝડપે અને વધુ સપાટી વિસ્તારોમાં ખતરાઓ શરૂ કરવા લાગ્યા.

આ ગતિ Doppel ના ગ્રાહકો માટે નિર્ણાયક છે, એવી સંસ્થાઓ માટે જે ખતરની પુષ્ટિ કરવા કલાકો રાહ જોઈ શકતી નથી. Doppel ની સિસ્ટમ મોટાભાગના ખતરાઓનું સ્વચાલિત વર્ગીકરણ કરે છે, રિઝનિંગ માટે OpenAI મોડલોનો ઉપયોગ કરે છે અને સમય જતાં મોડલને સુધારવા માટે રીઇન્ફોર્સમેન્ટ ફાઇન-ટ્યુનિંગ (RFT) તરીકે ઓળખાતો સંરચિત ફીડબેક લૂપ વાપરે છે. RFT માં, માનવીય પ્રતિસાદને ગ્રેડેડ ઉદાહરણો તરીકે વાપરવામાં આવે છે, જે મોડલોને પોતાના બળે સંગ્રહિત અને સમજાવી શકાય એવા નિર્ણયો લેવાનું શીખવામાં મદદ કરે છે.

Doppel ની LLM-સંચાલિત પાઇપલાઇન તેની ડિટેક્શન સ્ટેકના કેન્દ્રમાં બેસે છે. સંકેતો મેળવ્યા અને ફિલ્ટર થયા પછી, સિસ્ટમ લક્ષિત રિઝનિંગ કાર્યોની શ્રેણી કરે છે: સંભવિત ખતરાઓ પર વિચારવું, ઇરાદાની પુષ્ટિ કરવી અને વર્ગીકરણના નિર્ણયો આગળ ધપાવવું. દરેક તબક્કો ઝડપ, ચોકસાઈ અને સાતત્ય વચ્ચે સંતુલન રાખવા માટે રચાયેલો છે, સાથે જ વિશ્લેષકોને એવી એજ કેસિસ પર કેન્દ્રિત રાખે છે જ્યાં માનવીય નિર્ણય જરૂરી હોય છે.

આ રીતે તે કામ કરે છે:

• સંકેત ફિલ્ટરિંગ અને ફીચર એક્સ્ટ્રેક્શન: Doppel ની સિસ્ટમો દરરોજ લાખો ડોમેન્સ, URLs અને એકાઉન્ટ્સ ઇન્જેસ્ટ કરે છે. હ્યુરિસ્ટિક્સ અને OpenAI o4-mini નું સંયોજન અવાજને ફિલ્ટર કરે છે અને નીચેની મોડલ મૂલ્યાંકનોને માર્ગદર્શન આપવા માટે સંરચિત ફીચર્સ કાઢે છે.
• સમાંતર ખતરા પુષ્ટિ: દરેક સંકેતને જુદા જુદા પ્રકારના ખતરા વિશ્લેષણ માટે ખાસ બનાવાયેલા અનેક GPT‑5 પ્રોમ્પ્ટ્સમાંથી પસાર કરવામાં આવે છે. આ પ્રોમ્પ્ટ્સ નકલખોરી જોખમ, બ્રાન્ડના દુરુપયોગ અથવા સોશિયલ એન્જિનિયરિંગ પેટર્ન જેવા પરિબળોનું મૂલ્યાંકન કરે છે.
• ખતરા વર્ગીકરણ: o4-mini નું RFT સંસ્કરણ પહેલાની પુષ્ટિઓનું સંકલન કરીને દુર્ભાવનાપૂર્ણ, નિર્દોષ અથવા અસ્પષ્ટ એવું સંરચિત લેબલ પ્રોડક્શન-ગ્રેડ સાતત્ય સાથે સોંપે છે.
• અંતિમ ચકાસણી: બીજો GPT‑5 પાસ મોડલના નિર્ણયને માન્ય કરે છે અને કુદરતી ભાષામાં કારણ પણ બનાવે છે. જો વિશ્વાસ થ્રેશહોલ્ડ કરતાં વધુ હોય, તો સિસ્ટમ સ્વચાલિત રીતે અમલ શરૂ કરે છે.
• માનવીય સમીક્ષા: ઓછા વિશ્વાસવાળા અથવા પરસ્પર વિરોધાભાસી પરિણામોને માનવીય વિશ્લેષકો પાસે મોકલવામાં આવે છે. તેમના નિર્ણયો લોગ થાય છે અને મોડલ સાતત્ય સતત સુધારવા માટે RFT લૂપમાં પાછા ફીડ થાય છે.

Doppel એ તેની મૂળ LLM-સક્ષમ ડિટેક્શન પાઇપલાઇનમાંથી પહેલેથી જ અર્થપૂર્ણ લાભો જોયા હતા, પરંતુ જ્યાં એક જ ખતરા વિશેનો નિર્ણય વિશ્લેષક પર આધાર રાખીને જુદો હોઈ શકે, ત્યાં સાતત્ય મર્યાદાકારી પરિબળ બન્યું.

એ સાતત્ય બનાવવા માટે, Doppel એ પોતાના વિશ્લેષક ડેટાને ફીડબેક સ્ત્રોત તરીકે વાપરી RFT લાગુ કર્યું. કોઈ ડોમેનને દુર્ભાવનાપૂર્ણ, નિર્દોષ અથવા અસ્પષ્ટ તરીકે વર્ગીકૃત કરવાનો દરેક નિર્ણય ગ્રેડેડ ઉદાહરણ બન્યો. એ લેબલ કરાયેલા ઉદાહરણોએ મોડલને નિષ્ણાત નિર્ણયની નકલ કરવી શીખવી, અસ્પષ્ટ એજ કેસિસમાં પણ.

OpenAI ની એપ્લાઇડ એન્જિનિયરિંગ ટીમ સાથે નજીકથી કામ કરતાં, Doppel એ એવા ગ્રેડર ફંક્શન્સ ડિઝાઇન કર્યા કે જે ફક્ત ચોકસાઈ જ નહીં પરંતુ સમજૂતીની ગુણવત્તાનું પણ મૂલ્યાંકન કરતા હતા, અને માત્ર સાચો નહીં પરંતુ સ્પષ્ટ રીતે રિઝનિંગ કરનાર મોડલોને ઇનામ આપતા હતા. વિશ્લેષક પ્રતિસાદને સંરચિત ટ્રેનિંગ ડેટામાં ફેરવી, Doppel એ બતાવવામાં મદદ કરી કે RFT સ્વચાલિત ડિટેક્શનને વધુ સાતત્યપૂર્ણ અને વિશ્વસનીય કેવી રીતે બનાવી શકે.

હાઇપરપેરામીટર ટ્યુનિંગ અને પુનરાવર્તિત ઇવેલ્સે મોડલને માનવીય સ્તરના સાતત્યની નજીક લાવ્યો. પરંતુ Doppel માટે, ઓટોમેશનના અંતિમ તબક્કાને પૂર્ણ કરવાનો અર્થ નિર્ણયો તરત સમજાય એવા બનાવવાનો પણ હતો.

હવે દરેક સ્વચાલિત ટેકડાઉનમાં AI-જનરેટેડ કારણસમજૂતી શામેલ હોય છે, જે સમજાવે છે કે ખતરો શા માટે દૂર કરવામાં આવ્યો, અને ગ્રાહકોને તરત જ સમજ આપે છે કે કાર્યવાહી શા માટે કરવામાં આવી. અગાઉ માટે વિશ્લેષકના હસ્તક્ષેપની જરૂર પડતી હતી.

આ દેખાવ વિશ્વાસ વધારે છે, જે Doppel ના વપરાશકર્તાઓ માટે અગત્યનો પરિબળ છે. ફક્ત કઈ કાર્યવાહી કરવામાં આવી તે જ નહીં, પરંતુ શા માટે, તે જોવાથી ટીમોને ઝડપથી પ્રતિસાદ આપવા આત્મવિશ્વાસ મળે છે અને આ નિર્ણયોને આંતરિક રીતે અથવા સ્ટેકહોલ્ડર્સને સમજાવવા માટે સંદર્ભ પણ મળે છે.

• વિશ્લેષકોનો કામનો ભાર 80% ઘટાડ્યો
• ખતરા પ્રતિસાદ સમય કલાકોથી મિનિટોમાં ઘટાડ્યો
• ખતરા-હેન્ડલિંગ ક્ષમતા ત્રણ ગણીએ વધારી
• મોટાભાગના ખતરાઓનું સ્વચાલિત વર્ગીકરણ થયું

ફિશિંગ અને નકલખોરી ડોમેન્સ માટે લગભગ સંપૂર્ણ ઓટોમેશન સુધી પહોંચ્યા પછી, Doppel હવે એ જ મોડલ-સંચાલિત ફ્રેમવર્કને અન્ય ઊંચી-પરિવર્તનશીલ ચેનલોમાં લાગુ કરી રહ્યું છે.

“ડોમેન્સ કદાચ અમે સંભાળતા સૌથી મુશ્કેલ ચેનલ છે,” Madduluri એ કહ્યું. “સંકેતો ગૂંચવણભર્યા છે, સામગ્રી સતત બદલાય છે, અને ખતરાઓ એક સાથે અનેક સપાટીઓ પર ઝડપથી વિકસે છે. જો અમે તેને એક છેડેથી બીજા છેડે સુધી સ્વચાલિત કરી શકીએ, તો અમે કંઈપણ માટે કરી શકીએ: સોશિયલ મીડિયા, પેઇડ એડ્સ, તમે જે કહો તે.”

આગામી માઇલસ્ટોન્સમાં તેમના RFT ડેટાસેટને દસ ગણો વધારવો, નવી ગ્રેડિંગ વ્યૂહરચનાઓ સાથે પ્રયોગ કરવો અને અપસ્ટ્રીમ ફીચર એક્સ્ટ્રેક્શન માટે GPT‑5 નો ઉપયોગ કરવો શામેલ છે. આ ફેરફારો Doppel ને પાઇપલાઇનના તબક્કાઓ એકીકૃત કરવા અને પ્રક્રિયામાં પહેલાં વધુ જટિલ ખતરા સૂચકો પર રિઝનિંગ કરવાની મંજૂરી આપશે.

દરેક પુનરાવર્તન સાથે, Doppel એવી સિસ્ટમ તરફ આગળ વધી રહ્યું છે જે વિશ્વાસ પર હુમલો થાય છે એવી દરેક સપાટી પર ખરેખર જે વાસ્તવિક છે તેનું રક્ષણ કરે છે.