Verbetering van de ondersteuning bij elke interactie op OpenAI

Dit artikel maakt deel uit van onze serie over hoe OpenAI eigen oplossingen bouwt op basis van eigen technologie.

Ondersteuning stond vroeger voor wachtrijen, tickets en doorvoer. Maar bij OpenAI volstond dat niet. We zijn honderden miljoenen gebruikers van dienst, verwerken miljoenen verzoeken per jaar en zien dat volume jaarlijks met een veelvoud toenemen.

Veel organisaties hebben te maken met schaalvergroting. Maar er zijn minder organisaties die te maken hebben met schaalvergroting en hypergroei. Bijna geen enkele organisatie heeft met allebei te maken en werkt daarbij ook nog aan de technologie om dit goed aan te pakken. Die combinatie gaf ons een unieke positie om ondersteuning vanaf de grond af aan opnieuw vorm te geven.

Bij ondersteuning zit de uitdaging 'm niet zozeer in het volume. Het is eerder een uitdaging voor wat betreft engineering en operationeel ontwerp. Dus hebben we iets anders gebouwd: een bedrijfsmodel waarin elke interactie de volgende verbetert.

Het Ops-team wilde veel meer dan alleen een chatbot om ondersteuningsvragen op te vangen. Het team heeft een visie: het wilde ondersteuning opnieuw vormgeven als een AI-bedrijfsmodel dat voortdurend leert en verbetert.

Er staan drie bouwstenen centraal:

• Oppervlakken. Waar ondersteuningssystemen worden gebruikt. Chat, e-mail en telefoon, maar in toenemende mate ook hulp die rechtstreeks in het product is ingebouwd.
• Kennis. Niet alleen statische documenten, maar levendige en voortdurend verbeterde richtlijnen die zijn gebaseerd op echte gesprekken, beleidsregels en context.
• Evaluaties en classificaties. Gedeelde definities van kwaliteit, gezamenlijk opgesteld door software en mensen, plus tools om feedback te meten, te verbeteren en te benadrukken.

Deze onderdelen staan niet op zichzelf. Ze vormen een lus. Een patroon dat in een zakelijk gesprek wordt opgemerkt, kan worden gebruikt als informatie voor een ontwikkelaar van veelgestelde vragen. Een evaluatie die voor één case is geschreven, versterkt het model voor duizenden andere cases. En omdat dezelfde basiselementen elk oppervlak aandrijven (chat, e-mail, spraak), worden verbeteringen automatisch doorgevoerd in alle kanalen.

De rol van een ondersteuningsmedewerker verandert. Ons doel is om het model te verschuiven van een primaire focus op het verwerken van transacties naar een onderdeel van de algehele structuur. Medewerkers worden in staat gesteld om bij te dragen aan de architectuur zelf, zowel direct door het bottom-up doorvoeren van wijzigingen als indirect door de natuurlijke bewegingen van hun dagelijkse werkzaamheden.

Medewerkers markeren interacties die testcases zouden moeten worden, stellen classificaties voor wanneer ze nieuwe patronen zien, en maken zelfs prototypen van lichtgewicht automatiseringen om hiaten in de workflow binnen enkele dagen te dichten. Ook training verandert. Het gaat niet alleen om beleidsregels, maar ook om het evalueren van interacties, het identificeren van structurele hiaten en het doorvoeren van verbeteringen.

De nieuwe aanpak streeft ernaar dat ondersteuningsmedewerkers zowel bouwers als respondenten zijn.

Het resultaat is een ondersteunende organisatie die minder wordt bepaald door doorvoer en meer door het vermogen om te evolueren. Iedereen is niet gebruikers van dienst, maar werkt ook actief aan het verbeteren van de machines die alle gebruikers bedienen.

Op deze manier ondersteuning opbouwen is alleen mogelijk met een fundament in de stack van OpenAI.

• Agents SDK biedt ons standaard traceringen en waarneembaarheid op stapniveau. We kunnen uitvoeringen opnieuw afspelen, toolaanroepen inspecteren en de onderliggende oorzaken van fouten direct oplossen.
• Responses API ondersteunt classificaties voor toon, correctheid en naleving van beleid.
• Realtime API maakt spraakondersteuning mogelijk.
• Het Evals-dashboard van OpenAI maakt kwaliteit meetbaar en gemakkelijk te visualiseren in de loop van de tijd.

Omdat de platformprimitieven kant-en-klaar zijn, besteden we minder tijd aan het samenvoegen van systemen en meer tijd aan het werk dat ertoe doet: definiëren wat goed is, het meten en het verbeteren.

We zijn begonnen met een eenvoudige vraag-en-antwoord-functie die goed werkte. Met Agents SDK hebben we onze activiteiten snel uitgebreid naar dynamische handelingen voor zaken als terugbetalingen, facturen en het opzoeken van incidenten. Naarmate de modellen steeds beter worden met grotere contextvensters, diepgaand onderzoek en sterkere mogelijkheden voor agents, kunnen we die vooruitgang onmiddellijk toepassen.

Evals verandert alledaagse gesprekken in productietests. Ze codificeren wat ‘geweldig’ betekent: niet alleen het probleem oplossen, maar dat ook beleefd, duidelijk en consistent doen. Medewerkers spelen hier een directe rol door sterke en zwakke voorbeelden te markeren die evals worden. Deze evals worden continu uitgevoerd in productie om het gedrag van het model te sturen.

“Als je een probleem hebt, wil je meestal gewoon zo snel mogelijk hulp. Door onze AI-tools te gebruiken, kunnen we die reacties veel sneller krijgen - en niet minder belangrijk: we weten wanneer het model geen antwoord moet geven", zegt Jay Patel, Software Engineer, Support Automation.

Leren houdt niet op bij het nemen van een besluit. Patronen worden teruggekoppeld naar kennis, automatisering en productontwerp. Het systeem stapelt alles op elkaar: snellere antwoorden voor gebruikers, strakkere feedbackloops voor bouwers en een consistent hogere kwaliteitsnorm op elk gebied.

En het is niet alleen de AI die leert. De organisatie leert mee. Specialisten zien waar modellen tekortschieten, ontwikkelen nieuwe classificaties en leveren datasets voor fijnafstemming. Waarneembaarheidsdashboards maken kwaliteit meetbaar en laten zien hoe de prestaties in de loop van de tijd verbeteren.

De meest ingrijpende verandering is niet de tooling, maar de mensen en de manier waarop de organisatie succes meet. Ondersteuningsspecialisten worden niet alleen erkend voor het oplossen van problemen, maar ook voor het optimaliseren van kennis, het verbeteren van modellen en het uitbreiden van het systeem zelf. Managers zijn op zoek naar een nieuw soort teamlid: iemand die empathie voor de frontlinie combineert met ontwerpinstincten, en die ondersteunende vaardigheden combineert met nieuwsgierigheid om het systeem te verbeteren.

In onze visie is ondersteuning niet langer een bestemming waar je naartoe gaat. Het wordt een handeling, verweven in elk productoppervlak. Gebruikers ‘openen geen ticket’. Ze krijgen gewoon wat ze nodig hebben, waar ze ook zijn.

Wat begon als een reactie op schaalvergroting, is uitgegroeid tot een blauwdruk voor hoe mensen en AI kunnen samenwerken: collaboratief, adaptief en voortdurend verbeterend.