Une meilleure assistance à chaque interaction chez OpenAI

Cet article fait partie d’une série d’articles expliquant comment OpenAI développe ses solutions en s’appuyant sur sa propre technologie.

Traditionnellement, l’assistance rime avec tickets et files d'attente. Mais ce processus n’était pas suffisant à notre échelle : OpenAI, qui rassemble des centaines de millions d'utilisateurs, traite des millions de requêtes par an. Et d’année en année, ce volume augmente de façon spectaculaire.

De nombreuses organisations doivent gérer des défis d’échelle. Mais peu d'entre elles font aussi face à une hypercroissance. C’est notre en cas, avec en plus comme particularité de développer la technologie qui pourrait changer la donne dans ce domaine. Cette position unique nous a permis de repenser l’assistance de fond en comble.

L’assistance n'est pas un défi en termes de volume. C'est un défi en termes d'ingénierie et de conception opérationnelle. Aussi, nous avons créé un système inédit : un modèle opérationnel où chaque interaction améliore la suivante.

L'équipe en charge des opérations aurait pu se contenter d’utiliser un chatbot pour éviter certains tickets, mais elle voulait aller plus loin. Sa vision ? Transformer l'assistance grâce à un modèle opérationnel d'IA qui apprend et s'améliore en continu.

Ce projet reposait sur trois piliers :

• Les surfaces. C’est-à-dire les canaux qui servent pour l'assistance, comme le chat, les e-mails et le téléphone, mais aussi, de plus en plus, l’aide intégrée directement dans le produit.
• Les connaissances. Pas une base de documents statiques, mais un référentiel vivant, en constante évolution, proposant des conseils tirés des conversations, des politiques et des contextes existants.
• Des évaluations et des classificateurs. Des définitions communes de la qualité élaborées conjointement par les machines et les humains, et des outils pour mesurer, améliorer et mettre en évidence les commentaires.

Ces éléments ne sont pas isolés. Ils forment une boucle : une tendance repérée dans une conversation interne peut alimenter une FAQ destinée aux développeurs, une évaluation écrite pour un cas particulier peut optimiser l’efficacité du modèle dans des milliers d'autres situations, et ainsi de suite. Et comme les mêmes primitives alimentent toutes les interfaces (chat, e-mails, téléphone), les améliorations s'appliquent automatiquement à tous les canaux.

Le rôle des agents d’assistance, autrefois axé sur le traitement des requêtes, est en train de changer. Nous voulons qu’ils participent à la construction globale du modèle. Nos agents sont encouragés à contribuer à l'architecture elle-même, à la fois directement, en déployant des modifications ascendantes, et indirectement, via leur routine naturelle de travail au quotidien.

Les agents signalent les interactions qui doivent devenir des cas test, proposent et mettent en place des classificateurs lorsqu'ils identifient de nouvelles tendances, et vont même jusqu’à créer des prototypes d’automatisation simple qui optimiseront les flux de travail. La formation aussi évolue : elle ne se limite pas aux politiques. Les agents apprennent à évaluer les interactions, à déceler les lacunes structurelles et à alimenter les améliorations.

Cette nouvelle approche visent à garantir que les agents puissent à la fois répondre et créer.

Le résultat ? Une organisation d’assistance qui se définit moins par son rendement que par sa capacité à évoluer. En plus de venir en aide aux gens au cas pas cas, chaque agent améliore aussi activement les mécanismes qui servent tous les utilisateurs.

Une telle assistance ne serait pas réalisable sans la pile OpenAI.

• Le SDK Agents nous fournit par défaut une observabilité et un traçage au niveau des étapes. On peut rejouer les exécutions, inspecter les appels d'outils et déboguer les causes profondes instantanément.
• L'API Responses alimente les classificateurs pour le ton, l'exactitude et le respect des politiques.
• L'API Realtime rend l’assistance vocale possible.
• Le tableau de bord des évaluations d'OpenAI permet de mesurer la qualité et de la visualiser facilement au fil du temps.

Et comme les primitives de la plateforme sont prêtes à l'emploi, nous passons moins de temps à assembler les systèmes et plus de temps à nous concentrer sur ce qui compte : définir la réussite, la mesurer et l'améliorer.

Nous avons commencé par proposer un système de réponse simple qui fonctionnait bien. Concernant le SDK Agents, nous avons rapidement élargi son activité à des actions dynamiques telles que les remboursements, les factures et la recherche d'incidents. Et à mesure que les modèles continuent de s'améliorer, grâce à des fenêtres contextuelles élargies, à la recherche approfondie et à des capacités agentiques accrues, nous pouvons adopter ces avancées immédiatement.

Les évaluations transforment les conversations en test de production. Elles codifient les marqueurs d’excellence, à savoir un échange qui résout le problème avec politesse, clarté et cohérence. Les agents jouent ici un rôle direct, en signalant les exemples (bons et mauvais) qui doivent servir d’évaluation, et ces évaluations sont exécutées en continu en production pour orienter le comportement du modèle.

« En général, quand on a un problème, on veut juste obtenir de l'aide le plus rapidement possible. Grâce à nos outils d'IA, nous pouvons livrer ces réponses beaucoup plus rapidement et, tout aussi important, déterminer quand le modèle ne doit pas répondre », explique Jay Patel, ingénieur logiciel au sein du pôle Automatisation de l’assistance.

L’apprentissage ne s'arrête pas à la résolution. Les schémas récurrents sont à leur tour incorporés dans les connaissances, l'automatisation et la conception des produits. Le système multiplie les avantages : il permet de livrer des réponses plus rapides aux utilisateurs, d’optimiser les boucles de rétroaction pour les développeurs et d’offrir un niveau de qualité toujours plus élevé sur chaque canal.

Par ailleurs, les gains de connaissances ne se limitent pas à l’IA : c’est toute l’organisation qui apprend à ses côtés. Les spécialistes identifient les lacunes des modèles, élaborent de nouveaux classificateurs et contribuent aux ensembles de données pour l’ajustement. Les tableaux de bord d'observabilité permettent de mesurer la qualité et montrent comment les performances s'améliorent au fil du temps.

Le changement le plus profond ne concerne pas les outils, mais les personnes et la manière dont notre organisation mesure le succès. Les spécialistes de l’assistance sont reconnus pour leur capacité de résolution des problèmes, mais aussi pour leur aptitude à affiner les connaissances, à améliorer les modèles et à étendre le système lui-même. Les leaders recherchent un nouveau type de collaborateur, capable d’allier empathie face aux clients et instinct créatif, chez qui le savoir-faire pour l’assistance et l’envie d’améliorer le système vont de pair.

Notre vision est que l'assistance ne soit plus une destination, mais une action intégrée à chaque surface du produit. « Ouvrir un ticket », ce n’est pas ce font les utilisateurs. Leur action, c’est de demander une réponse là où ils se trouvent.

Ce qui était à la base une solution à un défi d’échelle est devenu une maquette pour la coopération entre les humains et l'IA : collaborative, adaptative et en constante amélioration.