Zendesk bruger OpenAI til at bygge adaptive serviceagenter med fokus på løsninger

Zendesk har hjulpet virksomheder med at levere gode kundeoplevelser i over et årti. Dets platform driver mere end 4,6 milliarder løsninger hvert år.

I begyndelsen af 2023 begyndte Zendesk at arbejde tæt sammen med OpenAI for at undersøge, hvordan AI kunne omforme service- og produktudvikling. I dag afprøver de en ny klasse af AI-agenter⁠(åbner i et nyt vindue), drevet af OpenAI-modeller, som ikke kun håndterer hele samtaler, men også planlægger og udfører svar autonomt: 

• Reducerer opsætningstid fra dage til minutter
• Øger automatiseringsgrader mod 80 %
• Giver teams fuld kontrol over, hvordan AI opfører sig

Selv de mest sofistikerede serviceplatforme møder begrænsninger, når det gælder traditionel automatisering. Standardmodellen byggede på hensigtsklassificering: Forudsig en hensigt, udløs en foruddefineret dialog eller et workflow, og håb, at kunden fulgte manuskriptet.

Denne opsætning fungerede til strukturerede interaktioner, men brød hurtigt sammen ved nuancer, opfølgende spørgsmål eller særlige tilfælde.

“I den gamle verden kom der en besked ind, og et svar ud,” siger Adrian McDermott, CTO hos Zendesk. “Rigtige kunder skifter mening, stiller opklarende spørgsmål og forventer, at AI følger naturligt med. I service er det eneste resultat, der betyder noget, løsning, og indtil nu har bots været noget begrænsede i deres evne til at opnå det.”

Zendesk begyndte at arbejde med OpenAI for at anvende en generativ tilgang med Retrieval-Augmented generation (RAG) til grundlæggende FAQ-interaktioner. I dag er deres fokus flyttet til generativt ræsonnement, som gør AI-agenter i stand til at planlægge og udføre opgaver selvstændigt.

Zendesks nye klasse af agentiske AI-agenter er specialbygget til service. Drevet af OpenAI-modeller som GPT‑4o besvarer agenterne ikke bare spørgsmål, de leder samtaler, ræsonnerer ud fra kontekst og arbejder målrettet mod en løsning.

Platformen udnytter en multi-agent-arkitektur bestående af specialiserede agenter såsom:

• Agent til opgaveidentifikation: I stedet for at være afhængig af manuel træning fører denne AI-agent en rigtig samtale for at forstå, hvad brugeren har brug for, stiller opklarende spørgsmål og afklarer lignende problemstillinger.
• Konversationel RAG-agent: Udvider traditionel RAG ved at forankre den i en samtale i flere omgange. Når en bruger for eksempel spørger om betalingsmuligheder, kan agenten følge op og spørge, hvor brugeren befinder sig, før den henter regionsspecifikke politikker.
• Agent til procedurekompilering: Ved at balancere handlefrihed med kontrol konverterer Zendesks agent for procedureoverholdelse forretningsregler fra naturligt sprog til et struktureret flow, så AI forstår og visuelt afspejler, hvordan virksomhedens procedurer skal udføres.
• Agent til procedureudførelse: Udfører handlinger ved at kalde API'er, udløse workflows og opdatere systemer, alt sammen inden for den logik, virksomheden har defineret.

Ved at kombinere RAG med ræsonnement kan Zendesks AI-agenter nu indgå i samtaler i flere trin, stille opfølgende spørgsmål og tilpasse svar baseret på brugerinput. Det gør platformen i stand til at løse komplekse problemer autonomt uden at være afhængig af stive dialogflows.

“Vi har givet botten mere handlekraft i at styre samtalen, samtidig med at den opererer inden for Zendesks værn for kvalitet og nøjagtighed,” siger McDermott. “Processen begyndte med at forstå kundens problem med et stærkt fokus på at bevæge sig mod en løsning.”

Et af de største skift i Zendesks udvikling af AI-agenter har været overgangen til en hybrid udviklingsmodel, hvor agenter nemt kan bevæge sig mellem dialogflows og generative procedurer i én og samme samtale.

Med den nye AI-agentbygger kan virksomheder definere procedurer i naturligt sprog. AI-agenten planlægger derefter et handlingsforløb ved hjælp af adaptivt ræsonnement og viser en forhåndsvisning af sine foreslåede trin, før den går live. 

Kontroller for AI-ræsonnement giver indsigt i realtid i, hvordan AI-agenter tænker, så teams kan auditere hver samtale ved at gennemgå agentens chain of thought (CoT) for at forstå, hvordan beslutninger blev truffet.

Dette skift reducerer opsætningstiden fra dage til minutter og gør generativ automatisering tilgængelig for en langt bredere gruppe af Zendesk-kunder.

Bag kulisserne kører Zendesk et strengt internt benchmarkprogram for at vælge og implementere de bedste modeller og finjustere prompts til hvert anvendelsestilfælde. Teamet vurderer latenstid, omkostninger og kvalitet og tester nye modeller som OpenAIs o3‑mini på tværs af use cases fra RAG til bagvedliggende ræsonnementopgaver.

Denne proces gør det muligt for Zendesk at evaluere, teste og implementere nye modeller på under 24 timer.

Zendesk tracker ydeevnen både før og efter implementering ved hjælp af offline-evalueringer og live-målinger som løsningsrate, redigeringsrate og latenstid. Hver modelbeslutning dokumenteres og kan auditeres, hvilket sikrer transparens og pålidelighed, i takt med at systemet udvikler sig.

I år planlægger Zendesk at gå et skridt videre: at udrulle en selvbetjenings-benchmarkplatform, så ethvert Zendesk-ingeniørteam kan teste og implementere modeller uden praktisk støtte fra eksperter i maskinlæring.

Zendesk afprøver i øjeblikket den nye agentiske AI-platform med kunder, der er på forkant med udviklingen. Platformen er designet til nemt at integrere med eksisterende opsætninger og fremskynder kundernes vej mod 80 % automatisering, uden at de skal genopbygge alt fra bunden.

Selvom bredere målinger først kommer senere i 2025, har den tidlige feedback været stærk: hurtigere opsætning, mere præcise svar og mere nemmere brugerrejser på tværs af alle kanaler.