Gradient Labs әр банк клиентіне AI шот менеджерін ұсынады

Банк саласында клиент мәселесін шешу сирек жағдайда оңай болады. Алаяқтық немесе бұғатталған төлемдер сияқты жағдайлар бірнеше команда арасындағы күрделі рәсімдерді қатаң сақтауды талап етеді. Жүйелер жеткіліксіз болғанда, клиенттер командалар арасында ауыстырылып, кезекте күтіп, ең маңызды сәттерде кідіріске тап болады.

Gradient Labs⁠(жаңа терезеде ашылады) осы күрделілікті еңсеру үшін құрылған. Лондонда орналасқан компания әр банк клиентіне жеке шот менеджерінің тәжірибесін беретін AI агенттерін жасап жатыр. Бұған дейін Monzo-да AI және деректер бағытын басқарған топ негізін қалаған бұл компанияның платформасы OpenAI модельдеріне құрылған және қазір өндірістік трафикті GPT‑5.4 mini мен nano-ға көшіруде.

«Біз GPT‑5.4 mini мен nano арқылы 500 миллисекунд кідірісті көріп отырмыз, бұл табиғи дауыс арқылы сөйлесу үшін бізге дәл қажет нәрсе», — дейді Gradient Labs компаниясының тең құрылтайшысы және бас ғалымы Данай Антониу. «Жүктемеміздің елеулі бөлігін соған көшіріп жатырмыз.»

Банк саласында клиентпен өзара әрекеттесу әр қадамда не болуы керегін анықтайтын стандартты операциялық рәсімдермен (SOP) реттеледі.

Клиентпен әдеттегі өзара әрекеттесу мынадай болуы мүмкін:

1. Клиент ұрланған картасы туралы хабарлау үшін қоңырау шалады.
2. Жүйе оның жеке басын тексереді, түзетулер мен үзілістерді нақты уақытта өңдейді.
3. Тексеру аяқталған соң, ол картаны бұғаттап, жаңасын шығаруды бастайды.
4. Ол жеткізу мерзімі сияқты кейінгі сұрақтарға жауап беріп, келесі қадамдарды ұсынады.

Әр қадам белгіленген рәсімге сай жүреді, ал шешімдер пайдаланушы енгізген деректерге, контекстке, жұмыс істеп тұрған қорғаныс шектеулеріне және сәйкестікті қамтамасыз ету үшін клиент пен агент жауаптарына сүйене отырып нақты уақытта қабылданады.

«Жауап генерациясын жылдам ұстай отырып, модель үзілістер, жанама репликалар және тақырып ауысулары кезінде рәсім күйін сақтай алуы керек», — дейді Антониу. «Көп провайдер мұны тіпті байқап көруге де қауқарсыз болды.»

Gradient Labs провайдерлерді ең күрделі рәсімдері бойынша салыстырып, оларды өздері траектория дәлдігі деп атайтын көрсеткішпен бағалайды: жүйе басынан аяғына дейін дұрыс жолмен жүре ме, жоқ па.

Алғашқы eval-дарының бірінде 97% траектория дәлдігі мен тұрақтылыққа жеткен жалғыз модель GPT‑4.1 болды. Одан кейінгі ең жақын провайдер 88% көрсетті.

«Қаржы қызметтерінде бұл қоңырауды шешу мен сәйкестік инцидентін тудырудың арасындағы айырмашылық», — дейді Антониу.

Бұл нәтиже Gradient Labs өз жүйесін қалай жобалағанына әсер етті. Команда ой қорытуға көп күш түсетін қадамдар үшін OpenAI модельдерін, ал жылдамырақ әрі детерминделген тапсырмалар үшін шағын модельдерді қолданатын гибридті архитектура құрды; бағыттау логикасы күрделілік пен кідіріс шектеулеріне қарай бейімделеді.

Ішкі жағынан жүйе орталық ойлайтын модель агенті үйлестіретін маманданған дағдылардан тұрады, бұл күрделі жағдайлардың контексті жоғалтпай әртүрлі процестер арасында ауысуына мүмкіндік береді. 

Әр өзара әрекеттесу кезінде 15-тен астам guardrail жүйесі қатар жұмыс істеп, әңгімелердің белгіленген рәсімдер мен сәйкестік шекараларынан шықпауын қамтамасыз етеді; бұған қаржылық кеңес беруді анықтау, осалдық белгілері, шағымдар және тексеруді айналып өту не сезімтал деректерге қол жеткізу әрекеттері кіреді. 

Қаржы ұйымдары мұндай жүйелерді жай сенімге сүйеніп енгізбейді. Оларға оның нақты жағдайларда қалай дұрыс жұмыс істейтінін қадам-қадаммен көру қажет.

«Сәулетті ең басынан галлюцинациясыз болатындай етіп құру керек», — дейді Антониу. «Құрылыс барысында осы жетекші қағида болуы тиіс.»

Жаңа да, қолданыстағы да модельдерді бағалау үшін команда нақты клиент сөйлесулерін қайта ойнатып, жүйенің мінез-құлқын күтілетін рәсіммен салыстырады. Сондай-ақ олар кез келген нәрсе енгізілмей тұрып, шеткі жағдайлар мен сирек сценарийлерді сынау үшін синтетикалық сөйлесулерді жасайды.

Gradient Labs командаларға жүйені қалай енгізуді бақылауға да мүмкіндік береді. Олар банктің қандай клиент мәселелерімен айналысатынын және олардың қаншалық жиі болатынын картаға түсіру үшін тарихи қолдау деректерін талдайды. Одан кейін командалар AI қай санаттарды өңдеу керегін таңдай алады: төмен тәуекелді процестерден бастап, уақыт өте аясын кеңейтеді.

Тікелей іске қоспас бұрын, клиенттер жүйенің әртүрлі сценарийлерде қалай жауап беретінін қарап шығу үшін сөйлесулерді модельдей алады, бұл оның күткендей әрекет ететініне сенім қалыптастырады. 

Енгізу әдетте трафиктің шағын пайызынан басталады, ал үздіксіз мониторинг пен автоматтандырылған тексерулер адам қарап шығуын қажет етуі мүмкін сөйлесулерді белгілейді. Уақыт өте жүйе тұрақты нәтиже көрсеткен сайын қамту ауқымы кеңейеді.

Gradient Labs клиенттері CSAT көрсеткіштері 98%-ға дейін жеткенін хабарлайды, кей жағдайларда олар өздерінің ең үздік адам агенттерінен де асып түседі. Көп енгізулер алғашқы күннің өзінде 50%-дан жоғары шешу көрсеткіштерімен басталады, тіпті даулар, шотты растау және алаяқтық сияқты күрделі процестерде де. 

Бұл әсер компанияның өсуінен де көрінеді. Өткен жылда Gradient Labs кірісін 10 еседен астам өсіріп, кіріс қолдауынан шығыс және бэк-офис процестеріне дейін кеңейді.

Алға қарай Gradient Labs өзара әрекеттесулер арасында контексті сақтай алатын жүйелерге назар аударып отыр: клиент тарихын түсіну, жалғасып жатқан мәселелерді қадағалау және алдыңғы сөйлесулер тоқтаған жерден жалғастыру. Бұл бағыт Gradient Labs-тың OpenAI-пен ұзақ мерзімді серіктестік туралы ойлауымен тығыз үйлеседі.

Модельдер жақсара берген сайын, қауіпсіз автоматтандыруға болатын рәсімдер ауқымы да кеңейеді. Gradient Labs үшін бұл әр клиентпен өзара әрекеттесу жоғары деңгейлі адам агентіндей бірдей тұрақтылықпен, пайыммен және үздіксіздікпен өңделетін жүйеге жақындай түсу дегенді білдіреді.