Gradient Labs katram klientam nodrošina AI konta pārvaldnieku

Banku nozarē klienta problēmas atrisināšana reti ir vienkārša. Tādi gadījumi kā krāpšana vai bloķēti maksājumi prasa stingru sarežģītu procedūru ievērošanu vairākās komandās. Kad sistēmas nespēj tikt galā, klienti tiek pārsūtīti no vienas komandas uz citu, gaida rindās un saskaras ar aizkavēšanos izšķirošā brīdī.

Gradient Labs⁠(atveras jaunā logā) ir izveidots, lai tiktu galā ar šo sarežģītību. Londonā bāzētais uzņēmums veido AI aģentus, kas katram bankas klientam sniedz īpaša konta pārvaldnieka pieredzi. Uzņēmumu dibināja komanda, kas iepriekš vadīja AI un datu iniciatīvas Monzo, un tā platforma ir veidota uz OpenAI modeļiem, bet tagad ražošanas plūsmu pārorientē uz GPT‑5.4 mini un nano.

“Mēs redzam 500 milisekunžu latentumu ar GPT‑5.4 mini un nano, un tas ir tieši tas, kas mums vajadzīgs dabiskām balss sarunām,” saka Danai Antoniou, Gradient Labs līdzdibinātāja un galvenā zinātniece. “Mēs uz to pārceļam ievērojamu daļu savas slodzes.”

Banku nozarē klientu mijiedarbību nosaka standarta darbības procedūras (SOP), kas definē, kam jānotiek katrā solī.

Tipiska klienta mijiedarbība varētu izskatīties šādi:

1. Klients zvana, lai ziņotu par nozagtu karti.
2. Sistēma pārbauda viņa identitāti, reāllaikā apstrādājot labojumus un pārtraukumus.
3. Pēc pārbaudes tā iesaldē karti un uzsāk nomaiņu.
4. Tā atbild uz papildu jautājumiem, piemēram, par piegādes laiku, un iesaka nākamos soļus.

Katrs solis seko noteiktai procedūrai, un lēmumi tiek pieņemti reāllaikā, pamatojoties uz lietotāja ievadi, kontekstu, aktīvajiem aizsargmehānismiem un gan klienta, gan aģenta atbildēm, lai nodrošinātu atbilstību.

“Modelim ir jāsaglabā procedūras stāvoklis pārtraukumu, fona apstiprinājumu un tēmas maiņas laikā, vienlaikus saglabājot ātru atbilžu ģenerēšanu,” saka Antoniou. “Lielākā daļa piegādātāju to pat nespēja mēģināt.”

Gradient Labs salīdzina piegādātājus, izmantojot viņu vissarežģītākās procedūras, un novērtē tos pēc tā, ko viņi sauc par trajektorijas precizitāti: vai sistēma no sākuma līdz beigām ievēro pareizo ceļu.

Vienā no sākotnējiem novērtējumiem GPT‑4.1 bija vienīgais modelis, kas sasniedza 97% trajektorijas precizitāti un konsekvenci. Nākamais tuvākais piegādātājs sasniedza 88%.

“Finanšu pakalpojumos tā ir atšķirība starp zvana atrisināšanu un atbilstības incidenta radīšanu,” saka Antoniou.

Šis rezultāts ietekmēja to, kā Gradient Labs izstrādāja savu sistēmu. Komanda izveidoja hibrīdarhitektūru, kas izmanto OpenAI modeļus soļiem, kas prasa augstu spriestspēju, un mazākus modeļus ātrākiem, deterministiskiem uzdevumiem, ar maršrutēšanu, kas pielāgojas sarežģītības un latentuma ierobežojumiem.

Iekšēji sistēmu veido specializētas prasmes, ko koordinē centrālais spriestspējas aģents, ļaujot sarežģītiem gadījumiem pārvietoties starp darbplūsmām, nezaudējot kontekstu.

Katrā mijiedarbībā paralēli darbojas vairāk nekā 15 aizsargmehānismu sistēmas, lai nodrošinātu, ka sarunas paliek noteikto procedūru un atbilstības robežās, tostarp finanšu konsultāciju noteikšana, ievainojamības signāli, sūdzības un mēģinājumi apiet verifikāciju vai piekļūt sensitīviem datiem.

Finanšu iestādes neievieš šādas sistēmas tikai uz ticības pamata. Tām soli pa solim ir jāpārliecinās, ka tā reālos apstākļos darbojas pareizi.

“Arhitektūra ir jāveido no pašiem pamatiem, lai nebūtu halucināciju,” saka Antoniou. “Tam jābūt vadošajam principam visā izstrādes procesā.”

Lai novērtētu gan jaunus, gan esošus modeļus, komanda atkārtoti izspēlē reālas klientu sarunas un salīdzina sistēmas uzvedību ar sagaidāmo procedūru. Viņi arī ģenerē sintētiskas sarunas, lai pirms jebkā ieviešanas pārbaudītu robežgadījumus un retus scenārijus.

Gradient Labs arī sniedz komandām kontroli pār to, kā sistēma tiek ieviesta. Viņi analizē vēsturiskos atbalsta datus, lai kartētu bankas apstrādāto klientu problēmu veidus un to biežumu. Pēc tam komandas var izvēlēties, kuras kategorijas AI vajadzētu apstrādāt, sākot ar zemāka riska darbplūsmām un laika gaitā paplašinot tvērumu.

Pirms palaišanas klienti var simulēt sarunas, lai pārskatītu, kā sistēma reaģē dažādos scenārijos, tādējādi veidojot pārliecību, ka tā darbojas, kā paredzēts.

Ieviešana parasti sākas ar nelielu datplūsmas daļu, nepārtrauktai uzraudzībai un automatizētām pārbaudēm atzīmējot sarunas, kurām var būt nepieciešama cilvēka pārskatīšana. Laika gaitā pārklājums paplašinās, sistēmai demonstrējot konsekventu veiktspēju.

Gradient Labs klienti ziņo par CSAT rādītājiem līdz pat 98%, dažos gadījumos pārspējot viņu labākos cilvēku aģentus. Lielākā daļa ieviešanu sākas ar vairāk nekā 50% atrisinājuma rādītāju jau pirmajā dienā, pat sarežģītām darbplūsmām, piemēram, strīdiem, konta verifikācijai un krāpšanai.

Šī ietekme atspoguļojas uzņēmuma izaugsmē. Gradient Labs pēdējā gada laikā ir palielinājis ieņēmumus vairāk nekā 10 reizes, paplašinoties no ienākošā atbalsta uz izejošajiem un biroja aizmugures procesiem.

Raugoties nākotnē, Gradient Labs koncentrējas uz sistēmām, kas spēj saglabāt kontekstu starp mijiedarbībām: izprast klienta vēsturi, izsekot notiekošajām problēmām un turpināt no vietas, kur beidzās iepriekšējās sarunas. Šis virziens cieši atbilst tam, kā Gradient Labs domā par savu ilgtermiņa partnerību ar OpenAI.

Modeļiem turpinot uzlaboties, paplašinās to procedūru klāsts, kuras var droši automatizēt. Gradient Labs tas nozīmē tuvināšanos sistēmai, kurā katra klienta mijiedarbība tiek apstrādāta ar tādu pašu konsekvenci, spriestspēju un nepārtrauktību kā augstākās klases cilvēka aģentam.