LegalOn divise les coûts Codex par deux sans ralentir

LegalOn Technologies propose une IA professionnelle à l’échelle mondiale pour accompagner le travail juridique et d’autres fonctions clés de l’entreprise. En associant expertise métier et IA, l’entreprise permet aux équipes de se concentrer sur les analyses et les décisions complexes. Son objectif : un pilotage par l’IA qui améliore la qualité et la rapidité des décisions de l’entreprise.

Cette approche dépasse le cadre de ses produits : elle vise à placer l’IA au cœur de l’organisation elle-même. L’entreprise a intégré Codex à son processus de développement et étendu son adoption à toute l’organisation grâce à un usage quotidien.

À mesure que l’adoption progressait, un nouveau défi est apparu : la maîtrise des coûts. L’usage illimité de modèles très performants pouvait faire grimper les dépenses, mais des restrictions généralisées risquaient de compromettre les gains de productivité permis par l’IA.

Comment réduire les coûts sans ralentir le développement ? LegalOn Technologies a relevé ce défi en choisissant entre GPT‑6 (Astra, Luna) et GPT‑6.1 Sol selon la complexité des tâches et la phase de développement, et en adaptant les budgets au stade de croissance de chaque activité. L’entreprise a divisé ses coûts par deux tout en maintenant son rythme de développement.

Au départ, l’entreprise offrait aux développeurs un accès illimité à son modèle principal, GPT‑5.5 en mode Rapide. Ils en ont étendu l’usage à la conception, à l’implémentation et au travail quotidien, apprenant par l’expérimentation à mieux répartir les responsabilités entre les personnes et l’IA.

Mais continuer à utiliser des modèles très performants sans limites conduirait inévitablement à dépasser le budget annuel. Le centre d’excellence en développement assisté par l’IA de l’entreprise (AID CoE) a commencé à élaborer des recommandations pour le choix des modèles. L’AID CoE a testé et suivi les modèles, tandis que les responsables partageaient ses conclusions avec leurs équipes. Chaque ingénieur pouvait ainsi choisir de façon autonome le modèle le plus adapté à chaque tâche.

Les nouvelles recommandations ont conduit l’entreprise à choisir le modèle adapté à chaque tâche, plutôt que de toujours utiliser le plus performant. Les équipes commençaient avec un modèle léger, puis passaient à des modèles plus performants à mesure que la complexité des tâches augmentait.

Pour renforcer la gouvernance, l’entreprise a aussi instauré des contrôles système via les paramètres d’administration, avec des limites d’utilisation mensuelles par service et par personne. L’AID CoE suit l’utilisation et ajuste les limites selon les besoins de l’entreprise.

Les tests internes menés dans ce cadre ont permis de préciser les critères de sélection. GPT‑6 Luna, le modèle le plus léger, gère l’implémentation du code aux exigences claires ; GPT‑6.1 Sol prend en charge la conception courante, l’analyse de données et la préparation de documents ; GPT‑6 Astra, le plus performant, traite les décisions complexes, dont la conception d’architecture. Adapter les modèles aux tâches est peu à peu devenu une pratique commune aux équipes.

En parallèle du choix des modèles, l’entreprise a restreint par défaut le mode Rapide, ne l’autorisant que sur demande individuelle en cas de besoin. Malgré les craintes d’un ralentissement du développement, les équipes ont adopté des méthodes comme l’exécution de tâches en parallèle pour maintenir les performances et assurer une transition fluide.

L’entreprise a aussi plafonné les budgets consacrés à l’IA par service, par groupe et par personne. L’activité établie de LegalOn devait améliorer son efficacité budgétaire d’environ 20 % au maximum, tandis que les nouvelles activités en phase de lancement recevaient des budgets généreux pour encourager l’usage actif de l’IA.

Yuta Tokitake, responsable senior de l’ingénierie chez LegalOn Technologies, explique que les nouvelles activités privilégiaient la rapidité d’exécution à l’efficacité budgétaire. L’objectif était de recourir largement à l’IA pour produire davantage et, à terme, stimuler la croissance.

Ensemble, le choix des modèles, les restrictions de fonctionnalités et les budgets adaptés à chaque activité ont réduit les coûts quotidiens estimés d’environ 65 %. Cette approche a permis de maîtriser le budget global tout en orientant les ressources vers les activités que l’entreprise souhaitait développer.

L’optimisation des modèles et l’allocation stratégique des ressources ont produit les résultats suivants :

• Le passage de l’usage systématique du modèle le plus performant au choix de GPT‑6 Astra, GPT‑6.1 Sol ou GPT‑6 Luna selon la complexité des tâches et la phase de développement.

• Le maintien des performances de développement après la restriction par défaut du mode Rapide, grâce à des pratiques d’équipe comme l’exécution de tâches en parallèle.

• Des plafonds budgétaires alliant un gain d’efficacité d’environ 20 % dans les activités matures à un investissement soutenu dans les nouvelles activités.

• Une réduction de 65 % des coûts quotidiens estimés par rapport à GPT‑5.5, grâce au choix entre les modèles GPT‑6 et 6.1.

Grâce à l’optimisation des modèles, l’entreprise a réduit ses coûts sans sacrifier la rapidité ni la qualité du développement. Les équipes constatent aussi que l’IA raccourcit progressivement le cycle entre développement et mise en production.

Mais l’entreprise voit plus loin. Un développement plus rapide suffit-il à faire de l’investissement dans l’IA une réussite ? Le lien entre accélération du développement et valeur pour le client restait flou. « Il est presque acquis que l’IA peut accélérer le développement et les mises à jour des systèmes », explique Yuta Tokitake. « Ce que nous voulons vraiment comprendre, c’est si cette accélération crée réellement de la valeur pour les clients. »

Cette question a poussé l’entreprise à créer son propre indicateur, pour évaluer l’investissement dans l’IA à l’aune de la valeur pour le client, plutôt que de la vitesse de développement et du volume d’utilisation.

Yuta Tokitake explique : « Avec l’IA, nous pouvons suivre le coût de chaque tâche, mais le coût total d’un travail complet — la livraison d’une fonctionnalité — reste souvent une boîte noire. Nous avons donc conçu la mesure en prenant chaque livraison de fonctionnalité comme unité. En reliant la valeur qu’elle apporte au client aux coûts réels de l’IA mobilisée, nous voulons rendre le retour sur investissement visible et précis. »

L’entreprise construit actuellement le pipeline de calcul de cet indicateur. Une fois achevé, il révélera le véritable retour sur investissement en termes de valeur pour le client. LegalOn Technologies va au-delà de la gestion des coûts de l’IA pour relier directement l’investissement technologique à la valeur pour l’entreprise.

Le prochain objectif est de transformer le savoir-faire individuel des ingénieurs en IA en une compétence collective. L’entreprise prévoit d’abord de créer une base de connaissances pour recueillir et partager les retours d’expérience. Elle recensera notamment les meilleures combinaisons de modèles pour la conception, l’implémentation et la revue, afin de transformer rapidement les réussites individuelles en bonnes pratiques à l’échelle de l’entreprise.

Ces évolutions, nourries par l’expérience pratique des équipes, façonnent aussi l’organisation et le recrutement. Les gains de productivité liés à l’IA poussent l’entreprise à repenser en profondeur la répartition du travail entre les personnes et l’IA, ainsi que sa planification des effectifs. Elle privilégie déjà les compétences en IA dans ses recrutements, tandis que sa stratégie d’investissement et sa structure organisationnelle évoluent.

Faire de l’adoption de l’IA un avantage concurrentiel durable exige d’affiner sans cesse l’équilibre entre gouvernance et liberté d’action des équipes. L’AID CoE et l’équipe de sécurité collaborent pour optimiser les performances, les coûts et les risques sous plusieurs angles, en bâtissant un cadre souple qui favorise l’expérimentation dans toute l’organisation.