„Gradient Labs“ banko klientams suteikia DI paskyros vadybininką

Bankininkystėje kliento problemos sprendimas retai būna paprastas. Tokie atvejai kaip sukčiavimas ar užblokuoti mokėjimai reikalauja griežtai laikytis sudėtingų procedūrų, apimančių kelias komandas. Kai sistemos nepakankamos, klientai perduodami iš vienos komandos kitai, laukia eilėse ir patiria vėlavimus būtent tada, kai statymai yra didžiausi.

„Gradient Labs“⁠(atsidaro naujame lange)sukurta šiam sudėtingumui valdyti. Londone įsikūrusi bendrovė kuria DI agentus, suteikiančius kiekvienam banko klientui asmeninio paskyros vadybininko patirtį. Įkurta komandos, anksčiau vadovavusios DI ir duomenų iniciatyvoms „Monzo“, bendrovės platforma paremta „OpenAI“ modeliais, o dabar gamybinis srautas perkeliamas į „GPT‑5.4 mini“ ir „nano“.

„Su „GPT‑5.4 mini“ ir „nano“ matome 500 milisekundžių vėlavimą, o būtent to mums reikia natūraliems pokalbiams balsu“, – sako Danai Antoniou, „Gradient Labs“ viena iš įkūrėjų ir vyriausioji mokslininkė. „Perkeliame reikšmingą dalį savo apkrovos.“

Bankininkystėje klientų sąveikas reguliuoja standartinės veiklos procedūros (SVP), kurios apibrėžia, kas turi įvykti kiekviename žingsnyje.

Toliau pateiktas tipinės kliento sąveikos pavyzdys.

1. Klientas paskambina pranešti apie pavogtą kortelę.
2. Sistema patikrina jo tapatybę, realiuoju laiku tvarkydama pataisymus ir pertraukimus.
3. Patikrinus tapatybę, ji užšaldo kortelę ir inicijuoja pakeitimą.
4. Ji atsako į tolesnius klausimus, pavyzdžiui, apie pristatymo laiką, ir pasiūlo kitus veiksmus.

Kiekvienas žingsnis atliekamas pagal apibrėžtą procedūrą, o sprendimai realiuoju laiku priimami remiantis naudotojo įvestimi, kontekstu, veikiančiomis apsaugos ribomis ir kliento bei agento atsakymais, kad būtų užtikrinta atitiktis.

„Modelis turi išlaikyti procedūros būseną nepaisant pertraukimų, trumpų įterpinių ir temos pasikeitimų, kartu išlaikydamas greitą atsakymų generavimą“, – sako Antoniou. „Dauguma teikėjų net negalėjo to pabandyti.“

„Gradient Labs“ lygina teikėjus pagal sudėtingiausias jų procedūras ir vertina juos pagal tai, ką jie vadina trajektorijos tikslumu: ar sistema nuo pradžios iki pabaigos laikosi teisingo kelio.

Viename iš pradinių vertinimų GPT‑4.1 buvo vienintelis modelis, pasiekęs 97 proc. trajektorijos tikslumą ir nuoseklumą. Artimiausias kitas teikėjas pasiekė 88 proc.

„Finansinių paslaugų srityje tai yra skirtumas tarp skambučio išsprendimo ir atitikties incidento sukėlimo“, – sako Antoniou.

Šis rezultatas nulėmė, kaip „Gradient Labs“ suprojektavo savo sistemą. Komanda sukūrė hibridinę architektūrą, kuri naudoja „OpenAI“ modelius daug protavimo reikalaujantiems žingsniams ir mažesnius modelius greitesnėms, deterministinėms užduotims, o maršrutizavimas prisitaiko pagal sudėtingumą ir vėlavimo apribojimus.

Viduje sistemą sudaro specializuoti gebėjimai, orkestruojami centrinio protavimo agento, todėl sudėtingi atvejai gali judėti per darbo eigas neprarasdami konteksto. 

Kiekvienai sąveikai lygiagrečiai veikia daugiau nei 15 apsaugos ribų sistemų, užtikrinančių, kad pokalbiai neperžengtų nustatytų procedūrų ir atitikties ribų, įskaitant finansinių patarimų aptikimą, pažeidžiamumo signalus, skundus ir bandymus apeiti tapatybės patvirtinimą ar pasiekti neskelbtinus duomenis.

Finansų institucijos tokių sistemų neįdiegia vien tikėdamos. Joms reikia matyti žingsnis po žingsnio, kad sistema tinkamai veikia realiomis sąlygomis.

„Architektūrą reikia kurti nuo pamatų taip, kad nebūtų pramanų“, – sako Antoniou. „Tai turi būti pagrindinis principas kuriant.“

Vertindama tiek naujus, tiek esamus modelius, komanda atkuria tikrus klientų pokalbius ir lygina sistemos elgesį su tikėtina procedūra. Ji taip pat generuoja sintetinius pokalbius, kad prieš diegiant bet ką būtų išbandyti kraštiniai atvejai ir reti scenarijai.

„Gradient Labs“ taip pat suteikia komandoms kontrolę, kaip sistema pristatoma. Jie analizuoja istorinius pagalbos duomenis, kad nustatytų, kokio tipo klientų problemas bankas sprendžia ir kaip dažnai jos pasitaiko. Tuomet komandos gali pasirinkti, kurias kategorijas turėtų tvarkyti DI, pradedant mažesnės rizikos darbo eigomis ir laikui bėgant plečiant apimtį.

Prieš paleidžiant sistemą, klientai gali simuliuoti pokalbius ir peržiūrėti, kaip sistema reaguoja įvairiais scenarijais, taip stiprindami pasitikėjimą, kad ji veiks taip, kaip tikimasi. 

Diegimas paprastai pradedamas nuo nedidelės srauto dalies, o nuolatinė stebėsena ir automatizuotos patikros pažymi pokalbius, kuriems gali prireikti žmogaus peržiūros. Laikui bėgant aprėptis plečiama, sistemai demonstruojant nuoseklų veikimą.

„Gradient Labs“ klientai praneša net apie 98 proc. CSAT rodiklius, o kai kuriais atvejais pranoksta geriausius savo žmonių agentus. Dauguma diegimų jau pirmą dieną pradeda nuo daugiau nei 50 proc. išsprendimo rodiklio, net ir sudėtingoms darbo eigoms, tokioms kaip ginčai, paskyros patvirtinimas ir sukčiavimas.

Šis poveikis atsispindi bendrovės augime. Per pastaruosius metus „Gradient Labs“ pajamas padidino daugiau nei 10 kartų, plėsdama veiklą nuo gaunamos pagalbos iki išeinančių ir vidinių procesų.

Žvelgdama į priekį, „Gradient Labs“ daugiausia dėmesio skiria sistemoms, galinčioms išlaikyti kontekstą tarp sąveikų: suprasti kliento istoriją, sekti vykstančias problemas ir tęsti ten, kur baigėsi ankstesni pokalbiai. Ši kryptis glaudžiai sutampa su tuo, kaip „Gradient Labs“ vertina savo ilgalaikę partnerystę su „OpenAI“.

Kadangi modeliai toliau tobulėja, saugiai automatizuojamų procedūrų spektras plečiasi. „Gradient Labs“ tai reiškia artėjimą prie sistemos, kurioje kiekviena kliento sąveika valdoma taip pat nuosekliai, apgalvotai ir nenutrūkstamai kaip aukščiausio lygio žmogaus agento.