Gradient Labs zapewnia klientom banku menedżera AI

W bankowości rozwiązanie problemu klienta rzadko jest proste. Przypadki takie jak oszustwa czy zablokowane płatności wymagają ścisłego przestrzegania złożonych procedur przez wiele zespołów. Gdy systemy zawodzą, zestresowani klienci są przekazywani między zespołami i czekają w kolejkach.

Gradient Labs⁠(otwiera nowe okno) powstał w celu uproszczenia tej złożoności. Ta londyńska firma tworzy agentów AI, którzy zapewniają każdemu klientowi banku dedykowanego opiekuna konta. Platforma ta założona przez zespół, który wcześniej kierował pracami nad AI i danymi w Monzo, opiera się na modelach OpenAI i obecnie przenosi ruch produkcyjny na GPT‑5.4 mini i nano.

Obserwujemy opóźnienia na poziomie 500 milisekund w przypadku GPT‑5.4 mini i nano – są to wartości wystarczające do zapewnienia naturalnych konwersacji głosowych”, mówi Danai Antoniou, współzałożycielka i główna naukowczyni w Gradient Labs. „Przenosimy na nie znaczną część naszego obciążenia”

W bankowości interakcje z klientami są regulowane przez standardowe procedury operacyjne (SOP), które określają, co powinno się wydarzyć na każdym etapie.

Typowa interakcja z klientem może wyglądać tak:

1. Klient dzwoni, aby zgłosić kradzież karty.
2. System weryfikuje jego tożsamość, obsługując poprawki i przerwania w czasie rzeczywistym.
3. Po weryfikacji blokuje kartę i rozpoczyna wydanie zastępczej.
4. Odpowiada na pytania uzupełniające, takie jak termin dostawy, i sugeruje kolejne działania.

Każdy etap przebiega według określonej procedury, a decyzje są podejmowane w czasie rzeczywistym na podstawie danych od użytkownika, kontekstu, działających zabezpieczeń oraz odpowiedzi klienta i agenta w celu zapewnienia zgodności z procedurami.

„Model musi trzymać się procedur mimo przerwań, krótkich potwierdzeń i zmian tematu, a jednocześnie szybko generować odpowiedzi. Większość dostawców nie była nawet w stanie podjąć się realizacji takiego zadania”, mówi Antoniou.

Gradient Labs porównuje dostawców na podstawie ich najbardziej wymagających procedur i ocenia ich z użyciem miernika nazywanego dokładnością trajektorii, który bada, czy podczas realizacji całej procedury system podąża właściwą ścieżką.

W jednej z pierwszych ocen GPT‑4.1 okazał się jedynym modelem, który osiągnął 97% dokładności i spójności trajektorii. Najbliższy konkurent uzyskał wynik 88%.

„W usługach finansowych taka rozbieżność oznacza różnicę między rozwiązaniem zgłoszenia a wywołaniem incydentu zgodności”, mówi Antoniou.

Ten wynik wpłynął na sposób, w jaki Gradient Labs zaprojektowało swój system. Zespół stworzył architekturę hybrydową, która wykorzystuje modele OpenAI do etapów wymagających intensywnego rozumowania, a mniejsze modele do szybszych, deterministycznych zadań, z przekazywaniem zadań dostosowującym się do złożoności i ograniczeń opóźnień.

Sam system składa się z wyspecjalizowanych umiejętności, którymi zarządza centralny agent rozumujący, co pozwala rozwiązywać skomplikowane problemy bez utraty kontekstu. 

Podczas każdej interakcji równolegle działa ponad 15 systemów zabezpieczeń, które zapewniają, że rozmowy zamykają się w obrębie zdefiniowanych procedur i granic zgodności, co obejmuje wykrywanie porad finansowych, sygnałów podatności, skarg oraz prób obejścia weryfikacji lub uzyskania dostępu do danych wrażliwych. 

Instytucje finansowe nie wdrażają takich systemów na wiarę. Muszą krok po kroku sprawdzić, czy rozwiązanie zachowuje się poprawnie w warunkach rzeczywistych.

„Takie systemy trzeba projektować od podstaw, zawsze mając na uwadze unikanie halucynacji. To najważniejsza zasada”, mówi Antoniou.

Aby oceniać zarówno nowe i istniejące modele, zespół odtwarza prawdziwe rozmowy z klientami oraz porównuje zachowanie systemu z oczekiwaną procedurą. Przed wdrożeniem dowolnego elementu generuje też syntetyczne rozmowy, by testować przypadki brzegowe i rzadkie scenariusze.

Gradient Labs daje też zespołom kontrolę nad sposobem wdrażania systemu. Analizują historyczne dane działu pomocy technicznej, aby określić typy problemów zgłaszane przez klientów i częstotliwość ich występowania. Zespoły mogą potem wybrać, które kategorie ma obsługiwać AI, zaczynając od procesów o niższym ryzyku i rozszerzając zakres z czasem.

Przed uruchomieniem klienci mogą symulować rozmowy, aby sprawdzić, jak system odpowiada w różnych scenariuszach, upewniając się, że działa on zgodnie z oczekiwaniami. 

Wdrożenie zwykle zaczyna się od niewielkiego zakresu, który stale jest monitorowany, a automatyczne kontrole pozwalają oznaczać rozmowy, które mogą wymagać interwencji człowieka. Z czasem zakres ten rośnie, gdy system wykazuje stałą jakość działania.

Klienci Gradient Labs zgłaszają wyniki CSAT sięgające 98%, a w niektórych przypadkach przewyższające ich najlepszych ludzkich konsultantów. Większość wdrożeń zaczyna się od poziomu rozwiązania spraw przekraczającego 50% już pierwszego dnia, nawet w złożonych procesach, takich jak spory, weryfikacja konta i oszustwa. 

Ten wpływ znajduje odzwierciedlenie w rozwoju firmy. Gradient Labs zwiększyło przychody ponad 10-krotnie w ciągu ostatniego roku, rozszerzając działalność z obsługi przychodzącej na procesy wychodzące i back-office.

W przyszłość Gradient Labs chce skoncentrować się na systemach, które potrafią przenosić kontekst między interakcjami: rozumieć historię klienta, śledzić trwające sprawy i wracać do miejsca, gdzie zakończyły się poprzednie rozmowy. Ten kierunek jest ściśle zgodny z tym, jak Gradient Labs postrzega swoje długoterminowe partnerstwo z OpenAI.

W miarę ulepszania modeli, poszerza się też zakres procedur, które można bezpiecznie automatyzować. Dla Gradient Labs oznacza to zbliżanie się do systemu, w którym każda interakcja z klientem jest obsługiwana z taką samą spójnością, trafnością osądu i ciągłością jak przez najlepszego konsultanta obsługującego tego typu zadania.