Ada usa GPT‑4 para ofrecer un servicio sin precedentes a sus clientes

Ada está impulsando un cambio de 100 000 millones de dólares⁠(se abre en una ventana nueva) en su gasto en atención al cliente, cuyo protagonista es la adopción de una plataforma de automatización de la atención al cliente basada en la IA. Ada⁠(se abre en una ventana nueva) se fundó en 2016 y, actualmente, tiene un valor de 1200 millones de dólares, con un total de 200 millones de dólares en financiación. Entre sus clientes destacan Verizon, YETI, Canva y Square.

Esta no es la primera vez que Ada trata con la IA, puesto que es una plataforma completamente basada en esta tecnología. La primera generación del producto se desarrolló empleando modelos de procesamiento del lenguaje natural (NLP, por sus siglas en inglés) que se desarrollaron y entrenaron internamente. Sin embargo, vieron que había una gran diferencia entre la cantidad de preguntas de usuarios que la plataforma podía soportar y la cantidad de solicitudes que se resolvían satisfactoriamente.

La métrica estándar en el sector de la atención al cliente, la tasa de contención, mide el número de consultas de clientes que gestiona completamente un chatbot sin necesidad de intervención humana. En teoría, cuanto más alta es la tasa de contención, menos será el gasto operativo en atención al cliente. Sin embargo, el equipo de Ada encontró un problema con esta métrica. 

«Muchas soluciones, entre las que se encontraba Ada, ofrecían una tasa de contención de entre el 80 y el 100 %. No obstante, si se revisaban las transcripciones de las conversaciones, era fácil ver que la experiencia de los clientes no era buena», comenta Gozzo. 

El equipo de Ada se centró en cómo se resolvían estas interacciones para establecer un nuevo estándar en el sector de la atención al cliente.

Combinando GPT‑4 con sus datos históricos, lograron desarrollar un nuevo marco de evaluación capaz de evaluar automáticamente las conversaciones según lo bien que se resolvían. Este sistema puntúa cada interacción teniendo en cuenta la relevancia, la exactitud y la seguridad de las respuestas que reciben los clientes sin necesidad de que intervenga un humano. «En nuestra fase de pruebas, el sistema alcanzó entre un 80 y un 90 % de concordancia con un humano leyendo la conversación», dice Gozzo.

La tasa de resolución fue el punto de referencia de Ada a la hora de desarrollar su producto. Además de usar la API de OpenAI para las evaluaciones, trabajaron con la empresa para elaborar la nueva generación de su agente de IA. 

Ada ya había utilizado los modelos de OpenAI con anterioridad, principalmente para generar datos de entrenamiento para sus modelos de NLP. Tras empezar a probar la API con los nuevos casos de uso, vieron varios diferenciadores: 

• Calidad de inferencia: Ada desarrolló un marco de prueba artificial que simula las conversaciones de cientos de miles de clientes con su sistema para llevar a cabo pruebas de estrés en términos de escalabilidad y calidad. «Evaluamos cada modelo principal periódicamente, a las pocas semanas de lanzarlos. Hasta el momento, nada ha superado a OpenAI en nuestro conjunto de evaluaciones», declara Gozzo. 
• Latencia: Para asegurar un rendimiento óptimo de Ada en los casos en los que se usa la voz, los modelos de baja latencia son esenciales. «En lo referente al razonamiento en tiempo real, hemos visto una mejora impresionante tanto en la latencia como en la calidad usando GPT‑4o», comenta Gozzo.
• Optimización: Ada se sirve de la API de optimización de OpenAI para obtener una puntuación de confianza sobre el nivel de alucinaciones del modelo en una respuesta concreta. Luego, esta puntuación se utiliza en el resto de la cadena de herramientas para reducir el número de alucinaciones del sistema. «También nos entusiasma poder optimizar el sistema a lo largo del tiempo para mejorar su capacidad de razonamiento. Por otro lado, esta técnica tiene el potencial de hacer que modelos más pequeños y baratos puedan estar a la par de los modelos más punteros», dice Gozzo.

Hoy en día, el agente de IA de Ada usa una configuración multiagente, que consta de un agente central dedicado a la planificación y una serie de subagentes. Todo ello utilizando la API de OpenAI. «Siempre que te comuniques con una empresa que use Ada, tu consulta pasará por diversos modelos de OpenAI que la comprenderán. Luego, reflexionarán sobre ella, activarán diferentes herramientas y recopilarán información para generar una respuesta», explica Gozzo. 

La versión anterior de Ada ofrecía un 70 % de tasa de contención y una tasa de resolución de tan solo el 30 %. Sin embargo, todos los clientes que usan el modelo nuevo mantienen una tasa de contención similar, con tasas de resolución que llegan hasta el 60 % (y que superan el 80 % en el caso de los clientes con mayor rendimiento). 

«Pasando de una versión a otra hemos logrado duplicar la cantidad de incidencias que podemos resolver automáticamente a la vez que ofrecemos una experiencia excepcional», comenta Gozzo. Para los clientes de Ada, esta métrica ha supuesto un antes y un después en su ROI, destacando un ahorro en equivalente a tiempo completo (FTE, por sus siglas en inglés), una mayor satisfacción de los clientes, una mayor retención y nuevas altas. 

Ada confía en su habilidad para resolver las consultas de los clientes. Tanto es así, que su objetivo es ofrecer una tasa de resolución del 100 %, algo totalmente impensable hace unos años. «Ahora mismo, la cuestión no es si lograremos ofrecer una tasa de resolución del 100 %, sino cuándo lo haremos», cuenta Gozzo. 

Por otro lado, el sector también ha cambiado, y el escepticismo con el que la empresa se encontraba al hablar de resoluciones automatizadas es casi inexistente. «Cada vez son más las empresas que lo comprenden», declara Gozzo. «Ahora buscan estrategias que se sirvan de la IA y apoyan el uso de este tipo de tecnología en sus operaciones». Los clientes pueden incorporar, medir y formar a los agentes de IA basados en LLM de Ada tal como lo harían con un agente humano. El objetivo de Ada en los próximos doce meses es aumentar significativamente la transparencia de su producto y los mecanismos de control que ofrecen a sus clientes. 

La sensación de posibilidad es mutua. «Si hay algo que diferencia a OpenAI de otras empresas con las que trabajamos, es su entusiasmo y curiosidad», dice Gozzo. «Parece que todo el equipo siente una verdadera pasión por lo que hace. No se trata de una simple relación comercial; se trata de algo que estamos construyendo juntos, y eso es muy estimulante».