Gradient Labs'den her banka müşterisine bir AI hesap yöneticisi

Bankacılıkta müşteri sorununu çözmek o kadar basit değildir. Dolandırıcılık veya ödemelerin bloke edilmesi gibi durumlar, birden fazla ekip arasında karmaşık süreçlere titizlikle uyulmasını gerektirir. Sistemler yetersiz kaldığında müşteriler bir ekipten başk bir ekibe yönlendirilir, kuyruklarda bekler ve en kritik anlarda gecikmelerle karşılaşır.

Gradient Labs⁠(yeni bir pencerede açılır) bu karmaşıklığın üstesinden gelecek şekilde tasarlandı. Londra merkezli şirket, her banka müşterisine özel bir müşteri temsilcisi deneyimi sunan yapay zeka ajanları geliştiriyor. Daha önce Monzo'da yapay zeka ve veri çalışmalarına liderlik etmiş bir ekip tarafından kurulan platform, OpenAI modelleri üzerine inşa edildi ve üretim trafiğini giderek GPT‑5.4 mini ve nano modellerine kaydırıyor.

Gradient Labs Kurucu Ortağı ve Bilim Direktörü Danai Antonio "GPT‑5.4 mini ve nano ile 500 milisaniyelik gecikme görüyoruz; doğal sesli sohbetler için ihtiyacımız olan şey tam olarak bu" diyor ve ekliyor "İş yükümüzün önemli bir kısmını buraya taşıyoruz."

Bankacılıkta müşteri etkileşimleri, her adımda ne olması gerektiğini tanımlayan standart işletim prosedürleriyle (SOP) yönetilir.

Tipik bir müşteri etkileşimi şöyle görünebilir:

1. Bir müşteri çalınan kartını bildirmek için arar.
2. Sistem, müşterinin kimliğini doğrular; düzeltmeleri ve kesintileri gerçek zamanlı olarak yönetir.
3. Doğrulama tamamlandığında kartı dondurur ve yeni kartı düzenleme işlemini başlatır.
4. Teslimat zamanı gibi takip sorularını yanıtlar ve sonraki adımları önerir.

Her adım tanımlı bir prosedürü izler; kararlar, uyumluluğu sağlamak için kullanıcı girdisi, bağlam, çalışan koruma sistemleri ve hem müşteri hem de ajan yanıtlarına göre gerçek zamanlı alınır.

Antoniou, "Modelin, yanıt üretimini hızlı tutarken kesintiler, araya giren konuşmalar ve konu değişimleri boyunca süreç durumunu koruması gerekir. Çoğu sağlayıcı bunu denemeye bile yaklaşamıyordu" diyor.

Gradient Labs, sağlayıcıları en zorlu süreçler üzerinden değerlendirir ve bunu, sistemin baştan sona doğru adımları izleyip izlemediğini ölçen süreç doğruluğu metriğiyle analiz eder.

İlk değerlendirmelerinden birinde GPT‑4.1, %97 süreç doğruluğu ve tutarlılık oranına ulaşan tek model oldu; en yakın rakip sağlayıcı ise %88’de kaldı.

Antoniou, "Finansal hizmetlerde, bir çağrıyı başarıyla çözmek ile bir uyum ihlali yaratmak arasındaki fark işte bu" diyor.

Bu sonuç, Gradient Labs'in sistem tasarımını doğrudan şekillendirdi. Ekip, muhakeme gerektiren adımlarda OpenAI modellerini, daha hızlı ve öngörülebilir görevlerde ise daha küçük modelleri kullanan hibrit bir mimari geliştirdi; yönlendirme ise karmaşıklık ve gecikme gereksinimlerine göre dinamik olarak uyarlanıyor.

Sistem, dahili olarak merkezi bir muhakeme ajanı tarafından orkestre edilen uzmanlaşmış yeteneklerden oluşur ve bu sayede karmaşık vakalar, bağlam kaybı yaşamadan iş akışları arasında ilerleyebilir. 

Her etkileşimde, finansal tavsiye tespiti, hassasiyet sinyalleri, şikayetler ve doğrulamayı aşma ya da hassas verilere erişim girişimleri dahil olmak üzere, konuşmaların tanımlı süreçler ve uyum sınırları içinde kalmasını sağlamak için 15'ten fazla koruma sistemi paralel olarak çalışır. 

Finans kuruluşları bu tür sistemleri güvene dayalı olarak devreye almaz. Sistemin gerçek yaşam koşullarında doğru çalıştığını adım adım görmeleri gerekir.

Antoniou, "Sistemi halüsinasyon üretmeyecek şekilde temelden kurgulamak gerekir; geliştirme sürecinin yol gösterici ilkesi bu olmalıdır" diyor.

Yeni ve mevcut modelleri değerlendirmek için ekip, gerçek müşteri konuşmalarını yeniden oynatır ve sistemin davranışını beklenen süreçle karşılaştırır. Ayrıca devreye almadan önce uç durumları ve nadir senaryoları test etmek için sentetik konuşmalar oluşturur.

Gradient Labs, ekiplerin sistemin nasıl devreye alınacağını kontrol etmesine de olanak tanır. Bankanın ele aldığı müşteri sorunlarının türlerini ve görülme sıklıklarını belirlemek için geçmiş destek verilerini analiz eder. Ekipler ise yapay zekanın hangi kategorileri üstleneceğini seçebilir; düşük riskli iş akışlarıyla başlayıp zamanla kapsamı genişletebilir.

Canlıya geçmeden önce müşteriler, farklı senaryolarda sistemin nasıl yanıt verdiğini görmek için konuşmaları simüle edebilir ve sistemin beklendiği gibi çalıştığına dair güven oluşturabilir. 

Dağıtım genellikle trafiğin küçük bir yüzdesiyle başlar; sürekli izleme ve otomatik kontroller, insan incelemesi gerektirebilecek konuşmaları işaretler. Zamanla sistem tutarlı performans gösterdikçe kapsam genişler.

Gradient Labs müşterileri, bazı durumlarda en iyi insan temsilcilerini geride bırakarak %98’e varan CSAT skorları bildiriyor. Çoğu devreye alım; ihtilaflar, hesap doğrulama ve dolandırıcılık gibi karmaşık iş akışlarında bile ilk günden %50'nin üzerinde çözüm oranıyla başlıyor. 

Bu etki şirketin büyümesine de yansıyor. Gradient Labs son bir yılda gelirini 10 kattan fazla artırdı; gelen destekten giden süreçlere ve arka ofis süreçlerine doğru genişledi.

İleriye bakıldığında Gradient Labs, etkileşimler arasında bağlamı sürdürebilen sistemlere odaklanıyor; müşterinin geçmişini anlayan, devam eden konuları takip eden ve önceki konuşmaların kaldığı yerden devam edebilen yapılar... Bu yaklaşım, Gradient Labs'in OpenAI ile uzun vadeli iş birliğine bakış açısıyla da yakından örtüşüyor.

Modeller gelişmeye devam ettikçe güvenle otomatikleştirilebilen süreçlerin kapsamı da genişliyor. Gradient Labs için bu, her müşteri etkileşiminin üst düzey bir insan temsilcisiyle aynı tutarlılık, muhakeme ve süreklilikle ele alındığı bir sisteme yaklaşmak anlamına geliyor.