Sa Gradient Labs, bawat customer ng bangko may AI account manager

Sa banking, bihirang maging simple ang paglutas sa mga issue ng customer. Kapag may mga kaso na gaya ng pandaraya (fraud) o na-block na payments, kailangang sumunod sa masasalimuot na procedure sa maraming iba't ibang team. Kapag hindi mahusay ang mga system, naipapasa-pasa ang mga customer sa iba’t ibang team, naghihintay sa mga pila, at nade-delay sa mga panahong kailangang-kailangan nila ng tulong.

Binuo angGradient Labs⁠(magbubukas sa bagong window) para harapin ang ganitong masalimuot na sitwasyon. Ang kumpanyang ito na naka-based sa London ay nag-build ng mga AI agent na ipinapa-experience sa bawat customer ng bangko ang magkaroon ng dedicated na account manager. Itinatag ito ng isang team na dating nanguna sa AI at data efforts sa Monzo, ang platform ng kumpanya ay dinivelop gamit ang mga OpenAI model at ngayon, inililipat na sa GPT‑5.4 mini at nano ang production traffic.

“Nakakakita kami ng 500-millisecond na latency sa GPT‑5.4 mini at nano, at 'yan mismo ang kailangan namin sa natural na mga voice conversation,” ang sabi ni Danai Antoniou, Co-Founder at Chief Scientist sa Gradient Labs. “Inililipat na namin doon ang malaking portion ng workload namin.”

Sa banking, may sinusunod na mga standard operating procedure (SOP) sa pakikipag-interact sa customer, ang mga ito ang magkakapagsabi ng dapat mangyari sa bawat step.

Ganito ang tipikal na nangyayari sa pakikipag-interact sa customer:

1. Tumatawag ang customer para i-report ang isang nanakaw na card.
2. Vine-verify ng system ang identity niya, habang hina-handle nang real-time ang mga correction at interruption.
3. Kapag na-verify na, ifi-freeze nito ang card at sisimulan ang replacement o pagpapalit.
4. Sinasagot nito ang mga follow-up na tanong, gaya ng kailan ang delivery, at nagsa-suggest ng mga susunod na step.

May sinusunod na naka-define na procedure ang bawat step, at ang mga desisyon ay ginagawa nang real time batay sa input ng user, context, mga gumaganang guardrail, at mga response ng customer at ng agent para matiyak ang compliance o pagsunod.

“Kailangang ma-maintain ng model ang status ng procedure kahit may mga interruption, backchannel, at nagbabago-bago ang topic habang mabilis na nagge-generate ng response, sabi ni Antoniou. “Karamihan sa mga provider, hindi man lang kayang subukan ito.”

Sinukat ng Gradient Labs ang mga provider batay sa mga pinaka-challeging na procedure ng mga ito at ini-evaluate ang mga ito ayon sa tinatawag nilang trajectory accuracy: kung sinusunod ba ng system ang tamang path mula sa umpisa hanggang sa dulo.

Sa isa sa unang evaluation nila, ang GPT‑4.1 lang ang model na naka-97% sa trajectory accuracy at consistency. Ang sumunod na provider na pinakamalapit dito ay 88%.

“Sa financial service, iyon ang difference sa pagitan ng pag-resolve sa call at paggawa ng compliance incident,” sabi ni Antoniou.

Ang resultang ito ang humubog kung paano dinisenyo ng Gradient Labs ang system nito. Nag-build ang team ng hybrid architecture na gumagamit ng mga OpenAI model para sa mga step na kailangan ng intensive na reasoning at mas maliliit na model para sa mas mabibilis at deterministic na task, na may routing na nakakapag-adapt batay sa complexity at mga latency constraint.

Sa loob, ang system ay binubuo ng mga specialized skill na inoorganisa ng isang central reasoning agent, kaya nagmo-move sa mga workflow ang masasalimuot na kaso nang hindi nawawalan ng context. 

Sa bawat interaction, 15+ na guardrail system ang sabay-sabay na gumagana para matiyak na nananatili ang mga pag-uusap sa naka-define na mga procedure at mga compliance boundary, kasama na rito ang pag-detect ng financial advice, mga vulnerability signal, complaint o reklamo, at mga attempt na i-bypass ang verification o mag-access ng sensitibong data. 

Hindi basta-basta nagde-deploy ng ganitong mga system ang mga financial institution dahil lang sa tiwala. Kailangan nilang makita nang step by step na gumagana ito nang tama sa totoong mga sitwasyon.

“Kailangan idisenyo mo 'yon mula sa pinakapundasyon pataas para walang mga hallucination,” sabi ni Antoniou. “'Yan ang kailangang maging guiding principle habang nagbi-build ka.”

Para ma-evaluate ang mga bago at existing na model, nire-replay ng team ang mga totoong pakikipag-usap ng customer at ikinukumpara ang behavior ng system sa inaasahang procedure. Nagge-generate din sila ng mga synthetic na pag-uusap para ma-test ang mga edge case at mga bihira o rare na mga scenario bago mag-deploy ng kahit ano.

Binibigyan din ng Gradient Labs ng kontrol ang mga team kung paano i-introduce ang system. Nag-analyze sila ng mga dating data ng support para mai-map ang mga uri ng customer issue na hina-handle ng bangko at gaano kadalas nangyayari ang mga iyon. Kaya mapipili ng mga team kung aling mga category ang dapat i-handle ng AI, simula sa mga workflow na mas mababa ang risk hanggang sa lumawak ito sa paglipas ng panahon.

Bago mag-live, puwedeng i-simulate ng mga customer ang mga pag-uusap para ma-review kung paano nagre-respond ang system sa iba’t ibang scenario, kaya nabubuo ang kumpiyansang kikilos ito ayon sa inaasahan. 

Karaniwan na, sinisimulan ang deployment sa maliit na percentage ng traffic, at may patuloy na monitoring at automated na mga check na nagfa-flag ng mga pag-uusap na baka kailangang i-review ng isang tao. Sa paglipas ng panahon, lumalawak ang coverage nito habang kinakikitaan ng consistent na performance ang sytem.

Nag-report ang mga customer ng Gradient Labs ng mga CSAT score na umaabot ng 98%, at sa ilang kaso, nahigitan nito ang performance ng pinakamahuhusay na human agent nila. Karamihan sa mga deployment, sa unang araw pa lang ay may mahigit nang 50% na resolution rate sa umpisa, kahit sa masasalimuot na workflow gaya ng mga dispute, account verification, at fraud. 

Kitang-kita ang impact na ito sa paglago ng kumpanya. Napataas ng Gradient Labs ang revenue nang mahigit 10x kumpara sa nakaraang taon, dahil sa paglawak mula sa inbound support tungo sa outbound support at mga back-office process.

Habang nakatingin sa hinaharap, naka-focus ang Gradient Labs sa mga system na kayang mag-maintain ng context sa iba’t ibang interaction dahil kaya nitong unawain ang history ng customer, i-track ang mga ongoing issue, at ituloy ang mga dating pag-uusap kung saan ito nagtapos. Ang direksyong ito ay kaayon na kaayon ng iniisip ng Gradient Labs sa long-term partnership nila ng OpenAI.

Habang patuloy na nai-improve ang mga model, lumalawak din ang range ng mga procedure na safe na mai-o-automate. Para sa Gradient Labs, nangangahulugan ito na malapit na sila sa isang system kung saan ang bawat pakikipag-interact sa customer ay naha-handle nang may consistency, judgment, at continuity na gaya ng pag-handle ng isang napakagaling na human agent.