Gradient Labs i jep çdo klienti banke një menaxher llogarie AI

Në sektorin bankar, zgjidhja e një problemi të klientit rrallëherë është e thjeshtë. Raste si mashtrimi ose pagesat e bllokuara kërkojnë respektim të rreptë të procedurave komplekse në disa ekipe. Kur sistemet nuk mjaftojnë, klientët kalohen nga një ekip tek tjetri, presin në radhë dhe përballen me vonesa pikërisht kur situata është më kritike.

Gradient Labs⁠(hapet në një dritare të re) është ndërtuar për ta përballuar këtë kompleksitet. Kompania me bazë në Londër po ndërton agjentë AI që i japin çdo klienti banke përvojën e një menaxheri të dedikuar llogarie. E themeluar nga një ekip që më parë udhëhoqi nismat e AI dhe të dhënave në Monzo, platforma e kompanisë ndërtohet mbi modelet e OpenAI dhe tani po zhvendos trafikun e prodhimit te GPT‑5.4 mi dhe nano.

"Po shohim vonesë prej 500 milisekondash me GPT‑5.4 mi dhe nano, që është pikërisht ajo që na duhet për biseda natyrale me zë," thotë Danai Antoniou, bashkëthemeluese dhe kryeshkencëtare në Gradient Labs. "Po zhvendosim një pjesë të konsiderueshme të ngarkesës sonë të punës."

Në sektorin bankar, ndërveprimet me klientët rregullohen nga procedurat standarde të punës (SOP) që përcaktojnë çfarë duhet të ndodhë në çdo hap.

Një ndërveprim tipik me klientin mund të duket kështu:

1. Një klient telefonon për të raportuar një kartë të vjedhur.
2. Sistemi verifikon identitetin e tij, duke trajtuar korrigjimet dhe ndërprerjet në kohë reale.
3. Pasi verifikohet, ai e bllokon kartën dhe nis zëvendësimin.
4. I përgjigjet pyetjeve pasuese, si p.sh. koha e dorëzimit, dhe sugjeron hapat e ardhshëm.

Çdo hap ndjek një procedurë të përcaktuar, me vendime të marra në kohë reale bazuar në inputin e përdoruesit, kontekstin, guardrails në funksionim dhe përgjigjet si të klientit ashtu edhe të agjentit për të siguruar përputhshmërinë.

"Modeli duhet të ruajë gjendjen e procedurës gjatë ndërprerjeve, backchannels dhe ndërrimeve të temës, ndërsa mban gjenerimin e përgjigjeve të shpejtë," thotë Antoniou. "Shumica e ofruesve as që mund ta provonin."

Gradient Labs i krahason ofruesit sipas procedurave të tyre më sfiduese dhe i vlerëson mbi atë që e quajnë saktësi e trajektores: nëse sistemi ndjek rrugën e duhur nga fillimi në fund.

Në një nga vlerësimet e tyre fillestare, GPT‑4.1 ishte i vetmi model që arriti 97% saktësi dhe konsistencë të trajektores. Ofruesi më i afërt pas tij ishte në 88%.

"Në shërbimet financiare, ky është dallimi mes zgjidhjes së një telefonate dhe krijimit të një incidenti përputhshmërie," thotë Antoniou.

Ky rezultat ndikoi në mënyrën se si Gradient Labs e projektoi sistemin e vet. Ekipi ndërtoi një arkitekturë hibride që përdor modelet e OpenAI për hapa me intensitet të lartë arsyetimi dhe modele më të vogla për detyra më të shpejta, deterministe, me routing që përshtatet sipas kompleksitetit dhe kufizimeve të vonesës.

Brenda organizatës, sistemi përbëhet nga aftësi të specializuara të orkestruara nga një agjent qendror arsyetimi, duke lejuar që rastet komplekse të lëvizin mes flukseve të punës pa humbur kontekstin. 

Për çdo ndërveprim, mbi 15 sisteme guardrail funksionojnë paralelisht për të siguruar që bisedat të mbeten brenda procedurave të përcaktuara dhe kufijve të përputhshmërisë, duke përfshirë zbulimin e këshillimit financiar, sinjalet e dobësisë, ankesat dhe përpjekjet për të anashkaluar verifikimin ose për të hyrë në të dhëna delikate. 

Institucionet financiare nuk vendosin sisteme të tilla vetëm me besim. Ato duhet të shohin, hap pas hapi, që ai sillet siç duhet në kushte reale.

"Duhet të projektosh nga themeli për zero halucinacione," thotë Antoniou. "Ky duhet të jetë parimi udhëheqës gjatë ndërtimit."

Për të vlerësuar si modelet e reja ashtu edhe ato ekzistuese, ekipi riluan biseda reale me klientët dhe krahason sjelljen e sistemit me procedurën e pritur. Ata gjithashtu gjenerojnë biseda sintetike për të testuar rastet e skajshme dhe skenarët e rrallë përpara se të vendoset çfarëdo gjëje në prodhim.

Gradient Labs gjithashtu u jep ekipeve kontroll mbi mënyrën se si prezantohet sistemi. Ata analizojnë të dhënat historike të mbështetjes për të hartëzuar llojet e problemeve të klientëve që trajton një bankë dhe sa shpesh ndodhin ato. Ekipet mund të zgjedhin më pas cilat kategori duhet të trajtojë AI, duke filluar me flukse pune me rrezik më të ulët dhe duke u zgjeruar me kalimin e kohës.

Përpara se të dalin në produksion, klientët mund të simulojnë biseda për të shqyrtuar si përgjigjet sistemi në skenarë të ndryshëm, duke krijuar besim se ai sillet siç pritet. 

Vendosja zakonisht fillon me një përqindje të vogël të trafikut, me monitorim të vazhdueshëm dhe kontrolle të automatizuara që sinjalizojnë bisedat që mund të kërkojnë rishikim nga njeriu. Me kalimin e kohës, mbulimi zgjerohet ndërsa sistemi demonstron performancë të qëndrueshme.

Klientët e Gradient Labs raportojnë rezultate CSAT deri në 98% dhe në disa raste tejkalojnë agjentët e tyre më të mirë njerëzorë. Shumica e vendosjeve nisin me norma zgjidhjeje mbi 50% që në ditën e parë, edhe për flukse pune komplekse si mosmarrëveshjet, verifikimi i llogarisë dhe mashtrimi. 

Ky ndikim pasqyrohet në rritjen e kompanisë. Gradient Labs ka rritur të ardhurat me më shumë se 10 herë gjatë vitit të kaluar, duke u zgjeruar nga mbështetja hyrëse në procese dalëse dhe procese back-office.

Duke parë përpara, Gradient Labs është i përqendruar te sistemet që mund të mbajnë kontekstin nëpër ndërveprime: duke kuptuar historikun e klientit, duke ndjekur çështjet në vazhdim dhe duke rifilluar aty ku mbetën bisedat e mëparshme. Ky drejtim përputhet ngushtë me mënyrën se si Gradient Labs e mendon partneritetin e vet afatgjatë me OpenAI.

Ndërsa modelet vazhdojnë të përmirësohen, zgjerohet edhe gama e procedurave që mund të automatizohen në mënyrë të sigurt. Për Gradient Labs, kjo do të thotë t'i afrohet më shumë një sistemi ku çdo ndërveprim me klientin trajtohet me të njëjtën qëndrueshmëri, gjykim dhe vazhdimësi si nga një agjent njerëzor i nivelit më të lartë.