Gradient Labs дає кожному клієнту банку ШІ-менеджера

У банківській сфері вирішення проблеми клієнта рідко буває простим. Такі випадки, як шахрайство чи заблоковані платежі, вимагають суворого дотримання складних процедур за участю кількох команд. Коли системи не справляються, клієнтів перекидають між командами, вони чекають у чергах і стикаються із затримками саме тоді, коли ставки найвищі.

Gradient Labs⁠(відкривається у новому вікні) створено для роботи з цією складністю. Компанія з Лондона розробляє ШІ-агентів, які дають кожному клієнту банку досвід персонального менеджера. Заснована командою, яка раніше очолювала напрями ШІ та даних у Monzo, платформа компанії побудована на моделях OpenAI і зараз переводить робочий трафік на GPT‑5.4 mini та nano.

«Ми бачимо затримку 500 мілісекунд із GPT‑5.4 mini та nano, а це саме те, що нам потрібно для природного голосового діалогу», — каже Данаї Антоніу, співзасновниця та головна наукова співробітниця Gradient Labs. «Ми переводимо на них значну частину нашого навантаження».

У банківській сфері взаємодія з клієнтами регулюється стандартними операційними процедурами (СОП), які визначають, що має відбуватися на кожному етапі.

Типова взаємодія з клієнтом може виглядати так:

1. Клієнт телефонує, щоб повідомити про викрадену картку.
2. Система перевіряє його особу, обробляючи уточнення та переривання в реальному часі.
3. Після підтвердження вона блокує картку та ініціює заміну.
4. Вона відповідає на додаткові запитання, наприклад про строки доставки, і пропонує наступні кроки.

Кожен етап відбувається за визначеною процедурою, а рішення ухвалюються в реальному часі на основі введення користувача, контексту, активних захисних механізмів, а також відповідей клієнта й агента для забезпечення відповідності вимогам.

«Модель має зберігати стан процедури попри переривання, фонові репліки та перемикання тем, одночасно підтримуючи швидке генерування відповідей», — каже Антоніу. «Більшість провайдерів навіть не могли цього спробувати».

Gradient Labs порівнює провайдерів за їхніми найскладнішими процедурами та оцінює їх за тим, що вони називають точністю траєкторії: чи проходить система правильний шлях від початку до кінця.

В одному з початкових оцінювань GPT‑4.1 була єдиною моделлю, що досягла 97% точності траєкторії та узгодженості. Найближчий конкурент мав 88%.

«У фінансових послугах це різниця між успішним вирішенням дзвінка та створенням інциденту з комплаєнсом», — каже Антоніу.

Цей результат визначив те, як Gradient Labs спроєктувала свою систему. Команда побудувала гібридну архітектуру, яка використовує моделі OpenAI для кроків, що потребують інтенсивних міркувань, і менші моделі для швидших детермінованих завдань, із маршрутизацією, що адаптується залежно від складності та обмежень затримки.

Внутрішньо система складається зі спеціалізованих навичок, якими керує центральний агент міркування, що дає змогу складним кейсам переходити між робочими процесами без втрати контексту. 

Для кожної взаємодії паралельно працює понад 15 систем захисних механізмів, щоб розмови залишалися в межах визначених процедур і комплаєнс-обмежень, зокрема для виявлення фінансових порад, сигналів вразливості, скарг і спроб обійти верифікацію або отримати доступ до чутливих даних. 

Фінансові установи не впроваджують такі системи наосліп. Їм потрібно бачити крок за кроком, що система поводиться правильно в реальних умовах.

«Треба проєктувати з нуля так, щоб не було галюцинацій», — каже Антоніу. «Це має бути головним принципом під час розробки».

Щоб оцінити як нові, так і наявні моделі, команда відтворює реальні розмови з клієнтами й порівнює поведінку системи з очікуваною процедурою. Вони також придумують розмови, щоб тестувати граничні випадки та рідкісні сценарії до будь-якого розгортання.

Gradient Labs також дає командам контроль над тим, як саме впроваджується система. Вони аналізують попередні дані підтримки, щоб визначити типи клієнтських проблем, з якими працює банк, і частоту їх виникнення. Потім команди можуть обрати, які категорії має обробляти ШІ, починаючи з менш ризикових процесів і поступово розширюючи охоплення.

Перед запуском клієнти можуть симулювати розмови, щоб переглянути, як система відповідає в різних сценаріях, і переконатися в тому, що вона працює очікуваним чином. 

Розгортання зазвичай починається з невеликої частки трафіку, а безперервний моніторинг і автоматизовані перевірки позначають розмови, які можуть потребувати людського перегляду. Із часом охоплення розширюється, коли система демонструє стабільні результати.

Клієнти Gradient Labs повідомляють про CSAT (рівень задоволеності сервісом) до 98%, а в деяких випадках зазначають, що ШІ-агенти перевершують найкращих людських агентів. Більшість розгортань починаються з рівня вирішення понад 50% уже в перший день, навіть у складних випадках, як-от спори, верифікація облікового запису та шахрайство. 

Цей вплив відображається в зростанні компанії. За минулий рік Gradient Labs збільшила дохід більш ніж у 10 разів, розширившись із вхідної підтримки на вихідні та бек-офісні процеси.

Забігаючи наперед, Gradient Labs зосереджується на системах, які можуть зберігати контекст між взаємодіями — розуміти історію клієнта, відстежувати поточні проблеми та продовжувати з того місця, де завершилися попередні розмови. Цей напрям тісно узгоджується з тим, як Gradient Labs бачить своє довгострокове партнерство з OpenAI.

У міру того як моделі розвиваються, розширюється й перелік процедур, які можна безпечно автоматизувати. Для Gradient Labs це означає наближення до системи, у якій кожна взаємодія з клієнтом обробляється з такою самою послідовністю, виваженістю та безперервністю, яку б забезпечив агент-професіонал.