Ada fa servir GPT‑4 per oferir un nou estàndard d’atenció al client

Ada està impulsant un canvi de 100.000 M$⁠(s'obre en una finestra nova) en la despesa d’atenció al client, i al capdavant d’aquesta transició hi ha la seva plataforma d’automatització de l’atenció al client nativa d’IA. Fundada el 2016, Ada⁠(s'obre en una finestra nova) està valorada ara en 1.200 M$, amb un finançament total de 200 M$; entre els seus clients hi ha Verizon, YETI, Canva i Square.

Ada no és nova en IA: ha estat una plataforma nativa d’IA des dels inicis. La primera generació del producte es va crear amb models personalitzats de Processament del Llenguatge Natural (NLP) desenvolupats i entrenats internament. Però van detectar una bretxa entre quantes preguntes de clients podia gestionar la seva plataforma i quantes consultes es resolien realment de manera satisfactòria.

La mètrica estàndard del sector per a l’atenció al client, la taxa de contenció, mesura el nombre de consultes de clients que gestiona íntegrament un xatbot i que mai no arriben a un agent humà. Si augmentes la taxa de contenció, teòricament reduiràs les despeses operatives en atenció al client. Però l’equip d’Ada va detectar un problema amb aquesta mètrica. 

«Moltes solucions, inclosa Ada, podien oferir fàcilment taxes de contenció del 80–100%, però si realment obríeu les transcripcions d’aquestes converses i llegíeu les experiències que havien tingut els clients, eren força dolentes», va dir Gozzo. 

En centrar els seus esforços en com es resolien realment les converses, l’equip d’Ada sabia que podia establir un nou estàndard en el sector de l’atenció al client.

Inicialment amb GPT‑4, combinat amb les seves dades històriques, Ada va construir un nou marc d’avaluació capaç d’avaluar les converses segons com de bé es resolien automàticament. El sistema d’Ada puntua cada conversa segons com de bé els clients reben respostes rellevants, precises i segures, sense intervenció humana. «A les nostres proves, el nostre sistema va assolir un 80–90% de coincidència amb una persona que llegia la conversa», va dir Gozzo.

En entendre la taxa de resolució, Ada tenia una estrella polar per al seu producte. A més d’utilitzar l’API d’OpenAI per a l’avaluació, van decidir treballar amb OpenAI per construir la nova generació del seu agent d’IA. 

Ada ja havia utilitzat abans els models d’OpenAI, sobretot per generar dades d’entrenament per als seus models de NLP. En posar a prova l’API d’OpenAI per als seus nous casos d’ús, Ada va destacar diversos factors diferencials: 

• Qualitat de la inferència: Ada ha creat un marc de proves sintètiques que simula centenars de milers de clients finals parlant amb el seu sistema, de manera que sotmeten els models a proves d’estrès en escalabilitat i qualitat. «Avaluem regularment tots els models principals, poques setmanes després que es llancin, i fins ara ningú no ha superat OpenAI en el nostre conjunt d’avaluació», va dir Gozzo. 
• Latència: Per garantir el millor rendiment per als casos d’ús de veu d’Ada, els models de baixa latència són clau. «Per al raonament en temps real, hem vist un gran salt en latència i qualitat general amb GPT‑4o», va dir Gozzo.
• Ajust fi: Ada utilitza l’API d’ajust fi d’OpenAI per proporcionar una puntuació de confiança sobre el nivell d’al·lucinacions en una resposta determinada, i fa servir aquesta puntuació a la resta de la cadena d’eines per minimitzar el nombre d’al·lucinacions del sistema. «També ens entusiasma la possibilitat, amb el temps, d’utilitzar l’ajust fi per millorar encara més la capacitat de raonament del nostre sistema, i el potencial de la tècnica per permetre que models més petits i menys costosos imitin el rendiment dels models d'avantguarda», va dir Gozzo.

Avui, l’agent d’IA d’Ada utilitza una configuració multiagent, amb un agent central de planificació i una col·lecció de subagents, tots impulsats per l’API d’OpenAI. «Sempre que et comuniques amb una empresa que utilitza Ada, la teva pregunta passarà per múltiples torns dels models d’OpenAI, que l’entendran, hi reflexionaran, invocaran eines i incorporaran coneixement fins que es generi la resposta», va explicar Gozzo. 

La versió anterior del producte d’Ada tenia una taxa de contenció del 70%, però una taxa de resolució del 30%. Entre els clients que Ada ha passat al nou sistema, obtenen resultats de contenció similars, però normalment veuen una taxa de resolució de fins al 60%, amb els clients de millor rendiment per sobre del 80%. 

«D’una tecnologia a la següent, hem duplicat la quantitat de converses que podem resoldre automàticament amb una gran experiència», va dir Gozzo. Per als clients d’Ada, aquesta mètrica té un impacte enorme en cadena sobre el ROI, incloent-hi estalvis en equivalents a temps complet (FTE), satisfacció del client, retenció i noves altes. 

Ada confia tant en la seva capacitat per resoldre consultes de clients que s’ha fixat com a objectiu una taxa de resolució del 100%, cosa que fa només uns anys hauria semblat fantasia. «Ara, una resolució del 100% és qüestió de quan, no de si», va dir Gozzo. 

El mercat també ha canviat: Ada gairebé no troba escepticisme quan parla de resolució automatitzada. «Les empreses són cada cop més expertes», va dir Gozzo. «Realment estan pensant en estratègies d’IA i impulsant la incorporació d’aquesta mena de tecnologia a les seves operacions». Els clients poden incorporar, mesurar i entrenar els agents d’IA basats en LLM d’Ada igual que un agent humà. Els objectius d’Ada per als pròxims 12 mesos són augmentar de manera dràstica la transparència del seu producte i els mecanismes de control que ofereixen als clients. 

La sensació de possibilitat és mútua. «Una cosa que destaca a OpenAI en comparació amb altres equips amb què treballem és una enorme sensació d’entusiasme i curiositat», va dir Gozzo. «Sembla que tothom de l’equip sent una autèntica passió per això. Més enllà de la relació comercial, es tracta de com estem construint alguna cosa plegats, i això és realment refrescant».