Gradient Labs daje svakom klijentu banke AI menadžera računa

U bankarstvu, rešavanje problema korisnika retko je jednostavno. Slučajevi kao što su prevara ili blokirana plaćanja zahtevaju strogo pridržavanje složenih procedura kroz više timova. Kada sistemi zakažu, korisnici se prebacuju između timova, čekaju u redovima i suočavaju se sa kašnjenjima baš u trenucima kada je ulog najveći.

Gradient Labs⁠(отвара се у новом прозору) je napravljen da se nosi sa ovom složenošću. Kompanija sa sedištem u Londonu gradi AI agente koji svakom klijentu banke pružaju iskustvo posvećenog menadžera računa. Osnovao ju je tim koji je prethodno vodio AI i podatkovne inicijative u Monzu, a platforma kompanije zasnovana je na OpenAI modelima i sada prebacuje produkcioni saobraćaj na GPT‑5.4 mini i nano.

„Vidimo latenciju od 500 milisekundi sa GPT‑5.4 mini i nano, što je upravo ono što nam je potrebno za prirodne glasovne razgovore”, kaže Danai Antoniou, suosnivačica i glavna naučnica u kompaniji Gradient Labs. „Prebacujemo značajan deo opterećenja.”

U bankarstvu, interakcije sa korisnicima uređene su standardnim operativnim procedurama (SOP) koje definišu šta treba da se desi u svakom koraku.

Tipična interakcija sa korisnikom može izgledati ovako:

1. Korisnik zove da prijavi ukradenu karticu.
2. Sistem proverava njegov identitet, uz obradu ispravki i prekida u realnom vremenu.
3. Kada se identitet potvrdi, blokira karticu i pokreće izdavanje zamenske.
4. Odgovara na dodatna pitanja, kao što je vreme isporuke, i predlaže sledeće korake.

Svaki korak prati definisanu proceduru, pri čemu se odluke donose u realnom vremenu na osnovu unosa korisnika, konteksta, aktivnih zaštitnih ograničenja i odgovora i korisnika i agenta kako bi se obezbedila usklađenost.

„Model mora da održava stanje procedure kroz prekide, usputne potvrde i promene teme, a da pritom generisanje odgovora ostane brzo”, kaže Antoniou. „Većina provajdera nije mogla ni da pokuša.”

Gradient Labs upoređuje provajdere na njihovim najzahtevnijim procedurama i procenjuje ih prema onome što nazivaju tačnošću putanje: da li sistem prati ispravan tok od početka do kraja.

U jednoj od njihovih početnih procena, GPT‑4.1 je bio jedini model koji je dostigao 97% tačnosti i doslednosti putanje. Sledeći najbliži provajder bio je na 88%.

„U finansijskim uslugama, to je razlika između rešavanja poziva i stvaranja incidenta usklađenosti”, kaže Antoniou.

Ovaj rezultat oblikovao je način na koji je Gradient Labs dizajnirao svoj sistem. Tim je izgradio hibridnu arhitekturu koja koristi OpenAI modele za korake intenzivne po rezonovanje i manje modele za brže, determinističke zadatke, uz rutiranje koje se prilagođava na osnovu složenosti i ograničenja latencije.

Interno, sistem se sastoji od specijalizovanih veština kojima upravlja centralni agent rezonovanja, što omogućava da se složeni slučajevi kreću kroz tokove rada bez gubitka konteksta. 

Za svaku interakciju, više od 15 sistema zaštitnih ograničenja radi paralelno kako bi se obezbedilo da razgovori ostanu u okviru definisanih procedura i granica usklađenosti, uključujući otkrivanje finansijskog savetovanja, signale ranjivosti, pritužbe i pokušaje zaobilaženja verifikacije ili pristupa osetljivim podacima. 

Finansijske institucije ne uvode ovakve sisteme na osnovu vere. Moraju da vide, korak po korak, da se ponaša ispravno u uslovima iz stvarnog sveta.

„Morate da projektujete od samog početka tako da nema halucinacija”, kaže Antoniou. „To mora da bude vodeći princip dok gradite.”

Da bi procenio i nove i postojeće modele, tim ponovo reprodukuje stvarne razgovore sa korisnicima i upoređuje ponašanje sistema sa očekivanom procedurom. Takođe generišu sintetičke razgovore kako bi testirali granične slučajeve i retke scenarije pre nego što bilo šta bude pušteno u rad.

Gradient Labs timovima takođe daje kontrolu nad time kako se sistem uvodi. Analiziraju istorijske podatke podrške da bi mapirali vrste korisničkih problema kojima se banka bavi i koliko često se javljaju. Timovi zatim mogu da izaberu koje kategorije AI treba da obrađuje, počevši od tokova rada nižeg rizika i šireći se vremenom.

Pre puštanja uživo, korisnici mogu da simuliraju razgovore kako bi pregledali kako sistem odgovara u različitim scenarijima, čime grade poverenje da se ponaša očekivano. 

Primena obično počinje sa malim procentom saobraćaja, uz kontinuirani nadzor i automatizovane provere koje označavaju razgovore koji mogu zahtevati ljudski pregled. Vremenom se obuhvat širi kako sistem pokazuje dosledne performanse.

Klijenti Gradient Labs-a prijavljuju CSAT rezultate i do 98%, a u nekim slučajevima nadmašuju svoje najbolje ljudske agente. Većina primena počinje sa stopama rešavanja većim od 50% prvog dana, čak i za složene tokove rada kao što su sporovi, verifikacija računa i prevare. 

Taj uticaj se ogleda u rastu kompanije. Gradient Labs je povećao prihod više od 10 puta tokom protekle godine, šireći se sa dolazne podrške na odlazne i back-office procese.

Gledajući unapred, Gradient Labs je fokusiran na sisteme koji mogu da prenose kontekst kroz interakcije: da razumeju istoriju korisnika, prate tekuće probleme i nastavljaju tamo gde su prethodni razgovori stali. Ovaj pravac je usko usklađen sa načinom na koji Gradient Labs razmišlja o svom dugoročnom partnerstvu sa OpenAI.

Kako modeli nastavljaju da se poboljšavaju, širi se opseg procedura koje mogu bezbedno da se automatizuju. Za Gradient Labs to znači približavanje sistemu u kojem se svaka interakcija sa korisnikom obrađuje sa istom doslednošću, prosuđivanjem i kontinuitetom kao kod vrhunskog ljudskog agenta.