Liwati menyang isi utama
OpenAI

Ada nggunakake GPT‑4 kanggo ngasilake standar anyar layanan pelanggan

Logo Ada ditumpangake ing lukisan abstrak kanthi sapuan kuas biru lan ungu sing mencolok.
Lagi dimuat…

Ada lagi nyurung pergeseran $100B(mbukak ing jendhela anyar) ing belanja layanan pelanggan, lan ing garis ngarep transisi iki ana platform otomasi layanan pelanggan native-AI duweke. Didegaké ing 2016, Ada(mbukak ing jendhela anyar) saiki dinilai $1.2B kanthi total pendanaan $200M; pelanggané kalebu Verizon, YETI, Canva, lan Square.

Ada dudu pemain anyar ing AI—wiwit awal dheweke wis dadi platform native-AI. Generasi pisanan produke dibangun nganggo model Natural Language Processing (NLP) kustom sing dikembangaké lan dilatih dhewe. Nanging dheweke weruh ana jarak antarane pira pitakon pelanggan sing bisa ditangani platforme, lan pira pitakon sing tenan bisa dirampungaké kanthi marem.

“Kita dadi semangat banget karo OpenAI lan apa sing kedadeyan ing industri iki. Ing 2022, kita mutusaké kanggo total lan mbangun ulang produk nggunakake kemampuan nalar saka LLM.”
Mike Gozzo, Chief Product and Technology Officer

Ngembangaké metrik anyar layanan pelanggan: tingkat resolusi

Metrik standar industri kanggo layanan pelanggan, containment rate, ngukur jumlah pitakon pelanggan sing ditangani sakabehé déning chatbot lan ora tau tekan agen manungsa. Yen sampeyan nambah containment rate, sacara teori sampeyan bakal nyuda biaya operasional ing layanan pelanggan. Nanging tim ing Ada weruh ana masalah karo metrik iki.

“Akeh solusi, kalebu Ada, gampang waé bisa menehi containment rate 80–100%, nanging yen sampeyan mbukak transkrip obrolan kuwi lan maca pengalaman sing dialami pelanggan, kualitasé jebulé kurang apik,” ujare Gozzo.

Kanthi fokus marang sepira apik obrolan kuwi tenan bisa dirampungaké, tim ing Ada ngerti yen dheweke bisa netepaké standar anyar ing industri layanan pelanggan.

Awalé nggunakaké GPT‑4, digabung karo data historisé, Ada mbangun kerangka evaluasi anyar sing bisa netepaké sepira apik obrolan dirampungaké kanthi otomatis. Sistem Ada menehi rating saben obrolan adhedhasar sepira apik pelanggan nampa wangsulan sing relevan, akurat, lan aman—tanpa campur tangan manungsa. “Ing pengujian kita, sistem kita nggayuh kesepakatan 80–90% karo manungsa sing maca obrolan,” ujare Gozzo.

Gambar kasebut nuduhake obrolan email antarane Alice Carson lan Milo saka layanan pelanggan CoolShop. Alice njaluk kabar anyar babagan status pesanane, lan Milo mangsuli yen pesenane wis dikirim nganggo nomer pelacakan lan dijadwal tekan Senin ngarep.

Nguji tangguh model lan milih OpenAI

Kanthi mangerteni tingkat resolusi, Ada nduweni panuntun utama kanggo produke. Saliyane nggunakake API OpenAI kanggo evaluasi, dheweke mutusaké kerja bareng OpenAI kanggo mbangun generasi anyar AI Agent-é.

Ada wis tau nggunakake model OpenAI sadurungé, umume kanggo ngasilaké data latihan kanggo model NLP-é. Nalika nguji API OpenAI kanggo use case anyar, Ada nyathet sawetara pambeda utama:

  • Kualitas inferensi: Ada wis mbangun kerangka tes sintetis sing nyimulasikaké atusan ewu pelanggan pungkasan sing ngobrol karo sisteme, mula dheweke nguji ketahanan model saka sisi skalabilitas lan kualitas. “Kita ngevaluasi saben model utama kanthi rutin, sajrone sawetara minggu sawisé dirilis, lan nganti saiki durung ana sing ngluwihi OpenAI ing set evaluasi kita,” ujare Gozzo.
  • Latensi: Kanggo njamin kinerja paling apik kanggo use case swara Ada, model latensi rendah kuwi kunci. “Kanggo nalar wektu nyata, kita ndeleng lompatan gedhe ing latensi lan kualitas sakabèhé nganggo GPT‑4o,” ujare Gozzo.
  • Fine-tuning: Ada nggunakake API fine-tuning OpenAI kanggo menehi skor kapercayan babagan tingkat halusinasi ing sawijining respons, lan nggunakake skor kasebut ing rantai alat liyane kanggo nyilikaké jumlah halusinasi ing sistem. “Kita uga seneng karo kemungkinan mbesuk kanggo nggunakake fine tuning supaya luwih ningkataké kemampuan sistem kita kanggo nalar, lan potensi teknik iki supaya model sing luwih cilik lan luwih murah bisa niru kinerja model tercanggih,” ujare Gozzo.

Ngganda tingkat resolusi nganggo OpenAI

Dina iki, AI Agent Ada nggunakake konfigurasi multi-agen, kanthi agen perencanaan pusat lan kumpulan subagen, kabeh didhukung API OpenAI. “Saben wektu sampeyan komunikasi karo bisnis sing nggunakake Ada, pitakon sampeyan bakal diproses liwat pirang-pirang giliran model OpenAI, dipahami, dipikiraké maneh, nggunakaké alat, lan nggawa kawruh nganti jawabané digawé,” jelas Gozzo.

Versi sadurungé saka produk Ada nduweni containment rate 70%, nanging resolution rate 30%. Saka pelanggan sing dipindhah Ada menyang sistem anyar, asil containment-é padha, nanging biasané ndeleng resolution rate nganti 60%, lan pelanggan kanthi kinerja paling dhuwur ngluwihi 80%.

“Saka siji teknologi menyang teknologi sabanjuré, kita wis ngganda jumlah obrolan sing bisa kita rampungaké kanthi otomatis kanthi pengalaman sing apik,” ujare Gozzo. Kanggo pelanggan Ada, metrik iki nduweni dampak hilir sing gedhé marang ROI, kalebu penghematan full time equivalent (FTE), kepuasan pelanggan, retensi, lan pendaftaran anyar.

Gambar kasebut nuduhake interaksi chat antarane pangguna lan “Fintech Bot.” Pangguna kandha, “Aku ora sengaja mbayar tagihan saka akun sing salah.” Bot nanggapi kanthi njaluk ngapura lan menehi pranala kanggo sinau luwih lengkap babagan mbayar tagihan.

Status: Ora Rampung
Alesan: Bot menehi pranala sing ora relevan lan ora ngrampungaké masalah pelanggan.

Gambar kasebut nuduhake obrolan chat antarane pangguna lan “Milo, AI Agent.” Pangguna ora sengaja mbayar tagihan saka akun sing salah. Milo mbantu pangguna mlebu, njaluk konfirmasi akun, lan nawakake mbatalake pembayaran $325.

Status: Rampung
Alesan: AI Agent njupuk tumindak sing pas kanggo ngrampungaké pitakon pelanggan.

Resolusi 100% bisa digayuh nganggo AI

Ada pancen yakin karo kemampuané kanggo ngrampungaké pitakon pelanggan, mula dheweke masang target tingkat resolusi 100%, sing sawetara taun kepungkur mesthi katon kaya fantasi. “Saiki, resolusi 100% iku masalah kapan, dudu apa,” ujare Gozzo.

Pasar uga wis owah—Ada ora kerep nemoni skeptisisme nalika ngomongaké resolusi otomatis. “Perusahaan gedhé saiki saya luwih paham,” ujare Gozzo. “Dheweke tenan mikir babagan strategi AI, lan ndhukung nggawa teknologi kaya iki menyang operasionalé.” Pelanggan bisa onboarding, ngukur, lan melatih AI Agent berbasis LLM duweke Ada kaya agen manungsa. Tujuan Ada kanggo 12 wulan sabanjuré yaiku nambah kanthi drastis transparansi produke lan tuas kontrol sing ditawakké marang pelanggan.

Rasa kemungkinan iki padha dirasakké loro pihak. “Siji bab sing paling katon ing OpenAI dibandhingaké karo pihak liya sing kita ajak kerja bareng yaiku rasa semangat lan penasaran sing gedhé banget,” ujare Gozzo. “Rasané saben wong ing tim iki tenan semangat banget soal iki. Ngluwihi hubungan bisnis, iki soal carané kita mbangun soko bebarengan, lan kuwi nyegeraké banget.”

Kepengin sinau luwih akeh babagan ChatGPT kanggo bisnis?