Mfumo ulinzi AI wa Doppel huzuia mashambulizi kabla hayajasambaa

Tovuti moja ya uigaji inaweza kuzindua, kulenga maelfu ya watumiaji, na kutoweka ndani ya saa moja. Huo ni zaidi ya muda wa kutosha kwa mshambuliaji kusababisha madhara halisi. Na kwa kutumia zana zalishi, wanaweza kuunda mamia zaidi kama hizo.

Doppel iliundwa kulinda mashirika dhidi ya deepfake na uigaji wa utambulisho mtandaoni, lakini ilitambua haraka kuwa AI ilimaanisha vitisho vinaweza kuongezeka bila kikomo. Washambuliaji hawakuhitaji tena kutengeneza ulaghai kwa mikono; wangeweza kutoa aina nyingi za vifaa vya ulaghai, vikoa vilivyodanganywa, na akaunti za uigaji kwa sekunde chache.

Ili kuendelea kuwa mbele, Doppel ilitengeneza aina mpya ya mfumo wa ulinzi dhidi ya kuhadaa watu uliojengwa kwenye mfumo wa OpenAI GPT‑5 na o4-mini. Jukwaa la Doppel hugundua, huainisha na kuondoa vitisho kiotomatiki, hupunguza taratibu za kazi kwa wachambuzi kwa asilimia 80, huongeza mara tatu uwezo wa kushughulikia vitisho, na kupunguza muda wa mwitikio kutoka saa hadi dakika.

Ulinzi wa jadi dhidi ya hatari za kidijitali ulitegemea binadamu kukagua kwa mikono tovuti za kuiga wengine, vikoa vya kuhadaa, na wasifu na machapisho ya mitandao ya kijamii. Doppel iliona kwamba muundo huo ulikuwa unaanza kushindwa kufanya kazi wakati washambuliaji walipoanza kutumia uwekaji otomatiki, wakianzisha vitisho kwa kasi zaidi, na katika maeneo mengi zaidi ya mashambulizi, kuliko ambavyo binadamu wangeweza kuvitathmini.

Kasi hiyo ni muhimu sana kwa wateja wa Doppel, yaani mashirika ambayo hayawezi kusubiri kwa saa nyingi ili kuthibitisha tishio. Mfumo wa Doppel huainisha vitisho vingi kiotomatiki, kwa kutumia miundo ya OpenAI kwa uwazaji na mchakato wenye muundo wa maoni unaojulikana kama miundo ya uimarishaji (RFT) ili kuboresha muundo kadri muda unavyopita. Katika RFT, maoni ya binadamu hutumiwa kama mifano iliyopangwa kwa viwango, na kusaidia muundo kujifunza kufanya maamuzi thabiti na yanayoweza kuelezwa yenyewe.

Mchakato wa Doppel unaoendeshwa na LLM uko katikati ya safu yake ya ugunduzi. Baada ya ishara kupatikana na kuchujwa, mfumo hutekeleza mfululizo wa kazi kadhaa mahususi za uwazaji: kuwaza kuhusu vitisho vinavyoweza kutokea, kuthibitisha nia, na kuongoza maamuzi ya uainishaji. Kila hatua imeundwa kusawazisha kasi, usahihi, na uthabiti, huku ikiwafanya wachambuzi waendelee kuzingatia visa vigumu vinavyohitaji maamuzi ya kibinadamu.

Hivi ndivyo inavyofanya kazi:

• Uchujaji wa ishara na uopoaji wa vipengele: Mifumo ya Doppel hupokea mamilioni ya vikoa, URL na akaunti kila siku. Mchanganyiko wa mbinu za kiheuristiki na OpenAI o4-mini huondoa kelele na kuchimbua vipengele vilivyopangwa ili kuongoza tathmini za muundo inayofuata.
• Uthibitishaji sambamba wa vitisho: Kila ishara hupitishwa kupitia madokezo mengi ya GPT‑5 yaliyoundwa mahususi kwa aina tofauti za uchambuzi wa vitisho. Madokezo haya hutathmini vipengele kama vile hatari ya uigaji, matumizi mabaya ya chapa, au mifumo ya kuhadaa watu.
• Uainishaji wa Vitisho: Toleo la RFT la o4-mini linaunganisha uthibitisho wa awali ili kutoa lebo iliyopangiliwa—hasidi, isiyo na madhara, au yenye utata—kwa uthabiti wa kiwango cha uzalishaji.
• Uthibitishaji wa mwisho: Hatua ya pili ya GPT‑5 inathibitisha uamuzi wa muundo na kutoa ufafanuzi kwa lugha ya kawaida. Ikiwa kiwango cha uhakika kinazidi kizingiti, mfumo huanzisha utekelezaji kiotomatiki.
• Ukaguzi wa kibinadamu: Matokeo yenye uhakika mdogo au yanayokinzana huelekezwa kwa wachambuzi wa kibinadamu. Maamuzi yao yanawekwa kwenye kumbukumbu na yanarudishwa kwenye mzunguko wa RFT ili kuendelea kuboresha uthabiti wa muundo.

Doppel ilikuwa tayari imeona mafanikio makubwa kutoka kwa michakato yake ya awali ya ugunduzi iliyoboreshwa na LLM, lakini ilipofikia hali ambapo tishio lilelile lingeweza kutathminiwa tofauti kulingana na mchambuzi, uthabiti ukawa kikwazo kikuu.

Ili kujenga uthabiti huo, Doppel ilitumia RFT kwa kutumia data za wachambuzi wake kama chanzo rasmi cha maoni. Kila uamuzi wa kuainisha kikoa kama chenye nia mbaya, kisicho na madhara, au kisichoeleweka ukawa mfano uliopimwa. Mifano hiyo yenye lebo iliufunza muundo kuiga maamuzi ya kitaalamu, hata katika hali za zisizoeleweka.

Kwa kufanya kazi kwa karibu na timu ya uhandisi wa matumizi ya OpenAI, Doppel ilibuni utendaji wa mchambuzi ambao ulitathmini si usahihi pekee bali pia ubora wa maelezo, na kutuza muundo uliowaza kwa uwazi, si kwa usahihi tu. Kwa kubadilisha maoni ya wachambuzi kuwa data ya mafunzo iliyopangwa, Doppel ilisaidia kuonyesha jinsi RFT ingeweza kufanya utambuzi wa kiotomatiki kuwa thabiti zaidi na wa kuaminika zaidi.

Urekebishaji wa vigezo vya juu na upimaji wa mara kwa mara ulileta muundo karibu na uthabiti wa kiwango cha binadamu. Lakini kwa Doppel, kukamilisha hatua ya mwisho otomatiki pia kulimaanisha kufanya maamuzi yaeleweke mara moja.

Kila uondoaji wa kiotomatiki sasa unajumuisha ufafanuzi uliotolewa na AI unaoeleza kwa nini tishio liliondolewa, na kuwapa wateja ufahamu wa papo hapo kuhusu kwa nini hatua ilichukuliwa—jambo ambalo hapo awali lilihitaji uingiliaji wa mchambuzi.

Mwonekano huo unaongeza imani, jambo ambalo ni muhimu sana kwa watumiaji wa Doppel. Kuona si tu hatua gani ilichukuliwa, bali pia kwa nini, huzipa timu uhakika wa kujibu haraka na muktadha wa kuelezea maamuzi hayo ndani ya shirika au kwa wadau.

• Punguza mzigo wa kazi wa wachambuzi kwa asilimia 80
• Muda wa majibu kwa vitisho ulipungua kutoka saa hadi dakika
• Uwezo wa kushughulikia vitisho mara tatu
• Vingi vya vitisho vilivyoainishwa kiotomatiki

Baada ya kufikia uendeshaji wa kiotomatiki ulio karibu kukamilika kwa nyanja za hadaa na uigaji wa utambulisho, Doppel sasa inatumia mfumo huohuo unaoendeshwa na muundo kwa njia nyingine zenye utofauti mkubwa.

“Vikoa huenda ndiyo njia ngumu zaidi tunazoshughulikia,” alisema Madduluri. “Ishara hizo ni chafu, maudhui hubadilika kila mara, na vitisho hubadilika haraka katika sehemu mbalimbali kwa wakati mmoja. Ikiwa tunaweza kuendesha hilo kiotomatiki kutoka mwanzo hadi mwisho, tunaweza kufanya hivyo kwa chochote: mitandao ya kijamii, matangazo ya kulipia, chochote unachotaja.

Hatua zinazofuata ni pamoja na kuongeza seti ya data ya RFT kwa mpangilio wa ukubwa, kujaribu mikakati mipya ya uainishaji, na kutumia GPT‑5 kwa ajili ya uopoaji wa vipengele vya juu. Mabadiliko haya yataruhusu Doppel kuimarisha hatua zinazopangiwa na kufikiria viashiria vya vitisho ngumu zaidi mapema katika mchakato.

Kwa kila marudio, Doppel inaendelea kujenga mfumo unaolinda yaliyo halisi katika kila sehemu ambapo uaminifu unashambuliwa.