LegalOn divise les coûts Codex par deux sans ralentir

LegalOn Technologies propose une IA professionnelle à l’échelle mondiale pour soutenir le travail juridique et d’autres fonctions clés des entreprises. En alliant expertise sectorielle et IA, elle permet aux gens de se concentrer sur les jugements et les décisions complexes. Son objectif : une gestion fondée sur l’IA qui améliore la qualité et la rapidité des décisions d’affaires.

Cette approche dépasse ses produits : elle vise à intégrer l’IA au cœur même de l’organisation. L’entreprise a intégré Codex à son processus de développement et étendu son adoption à toute l’organisation par une utilisation quotidienne.

À mesure que l’adoption progressait, un nouveau défi est apparu : la maîtrise des coûts. L’utilisation illimitée de modèles performants pouvait gonfler les dépenses, tandis que des restrictions généralisées risquaient de compromettre les gains de productivité permis par l’IA.

Comment réduire les coûts sans ralentir le développement? LegalOn Technologies a relevé ce défi en choisissant parmi GPT‑6 (Astra, Luna) et GPT‑6.1 Sol selon la complexité des tâches et l’étape de développement, et en adaptant les budgets au stade de croissance de chaque activité. L’entreprise a divisé ses coûts par deux tout en maintenant son rythme de développement.

L’entreprise a d’abord donné aux développeurs un accès illimité à son modèle principal, GPT‑5.5 en Mode rapide. Ils en ont étendu l’usage à la conception, à l’implémentation et au travail quotidien, apprenant par l’expérimentation à répartir les responsabilités entre les humains et l’IA.

Toutefois, continuer à utiliser des modèles performants sans limites entraînerait inévitablement un dépassement du budget annuel. Le centre d’excellence en développement assisté par l’IA (AID CoE) de l’entreprise a commencé à élaborer des lignes directrices pour la sélection des modèles. L’AID CoE a testé et suivi les modèles, tandis que les gestionnaires communiquaient ses conclusions à leurs équipes. Chaque ingénieur pouvait ainsi choisir de façon autonome le modèle le mieux adapté à chaque tâche.

Grâce aux nouvelles lignes directrices, l’entreprise est passée de l’utilisation systématique du modèle le plus performant au choix du modèle adapté à chaque tâche. Les équipes commençaient avec un modèle léger et passaient à des modèles plus performants selon la complexité des tâches.

Pour soutenir la gouvernance, l’entreprise a aussi instauré des contrôles système dans les paramètres d’administration, avec des limites d’utilisation mensuelles par service et par personne. L’AID CoE surveille l’utilisation et ajuste les limites selon les besoins de l’entreprise.

Des tests internes menés dans ce cadre ont permis de préciser les critères de sélection. GPT‑6 Luna, le modèle le plus léger, implémente le code à partir d’exigences claires; GPT‑6.1 Sol prend en charge la conception courante, l’analyse de données et la préparation de documents; GPT‑6 Astra, le plus performant, traite les tâches de jugement avancé, dont la conception d’architecture. L’adaptation des modèles aux tâches est peu à peu devenue une pratique commune aux équipes.

En plus de sélectionner les modèles, l’entreprise a commencé à restreindre le Mode rapide par défaut, ne l’autorisant que sur demande individuelle, au besoin. Malgré les craintes quant au rythme de développement, les équipes ont adopté des pratiques comme l’exécution de tâches en parallèle pour maintenir leur performance et faciliter la transition.

Elle a aussi plafonné les dépenses en IA par service, par groupe et par personne. L’activité établie de LegalOn devait améliorer son efficacité budgétaire jusqu’à environ 20 %, tandis que les nouvelles activités en phase de lancement recevaient des budgets généreux pour encourager l’usage actif de l’IA.

Yuta Tokitake, gestionnaire principal de l’ingénierie chez LegalOn Technologies, explique que les nouvelles activités privilégiaient la rapidité d’exécution plutôt que l’efficacité budgétaire. L’objectif était de recourir largement à l’IA pour accroître la production et, à terme, stimuler la croissance.

Ensemble, la sélection des modèles, les restrictions de fonctionnalités et les budgets adaptés à chaque activité ont réduit les coûts quotidiens estimés d’environ 65 %. Cette approche a permis de maîtriser le budget global tout en dirigeant les ressources vers les activités que l’entreprise souhaitait développer.

L’optimisation des modèles et la répartition stratégique des ressources ont produit les résultats suivants :

• L’abandon du recours systématique au modèle le plus performant au profit d’un choix entre GPT‑6 Astra, GPT‑6.1 Sol et GPT‑6 Luna selon la complexité des tâches et l’étape de développement.

• Le maintien de la performance de développement après la restriction du Mode rapide par défaut, grâce à des pratiques d’équipe comme l’exécution de tâches en parallèle.

• Des plafonds budgétaires alliant une efficacité accrue d’environ 20 % dans les activités matures à des investissements actifs dans les nouvelles activités.

• Une réduction de 65 % des coûts quotidiens estimés par rapport à GPT‑5.5, grâce au choix entre les modèles GPT‑6 et 6.1.

En optimisant les modèles, l’entreprise a réduit ses coûts sans sacrifier le rythme ni la qualité du développement. Les équipes constatent aussi que l’IA raccourcit progressivement le cycle du développement à la mise en production.

Mais l’entreprise voit plus loin. Un développement plus rapide suffit-il à faire de l’investissement en IA une réussite? Le lien entre un développement plus rapide et la valeur pour les clients restait flou. « Il est presque acquis que l’IA peut accélérer le développement et la mise à jour des systèmes », affirme Tokitake. « Ce que nous voulons vraiment comprendre, c’est si ce développement plus rapide se traduit réellement par de la valeur pour les clients. »

Cette question a poussé l’entreprise à créer son propre indicateur, évaluant désormais l’investissement en IA selon la valeur pour les clients plutôt que le rythme de développement et le volume d’utilisation.

Tokitake explique : « Avec l’IA, nous pouvons suivre le coût de chaque tâche, mais le coût total d’un travail complet — la mise en production d’une fonctionnalité — reste souvent une boîte noire. Nous avons donc conçu la mesure en prenant chaque mise en production de fonctionnalité comme unité. En reliant la valeur qu’elle apporte aux clients aux coûts réels de l’IA qui y sont consacrés, nous visons à rendre le rendement de l’investissement visible et précis. »

L’entreprise met actuellement en place le pipeline de calcul de cet indicateur. Une fois achevé, il rendra visible le rendement réel de l’investissement en matière de valeur pour les clients. LegalOn Technologies va au-delà de la gestion des coûts de l’IA pour relier directement l’investissement technologique à la valeur d’affaires.

Le prochain objectif est de transformer le savoir-faire en IA de chaque ingénieur en une capacité à l’échelle de l’organisation. Pour commencer, l’entreprise prévoit créer une base de connaissances afin de recueillir et de partager les expériences pratiques. Elle y consignera notamment les meilleures combinaisons de modèles pour la conception, l’implémentation et la révision, transformant rapidement les réussites individuelles en pratiques exemplaires pour toute l’entreprise.

Ces changements, issus de l’expérience pratique des équipes, façonnent aussi l’organisation et le recrutement. Les gains de productivité liés à l’IA incitent l’entreprise à repenser en profondeur la répartition du travail entre les humains et l’IA, ainsi que la planification de ses effectifs. Elle a déjà commencé à privilégier les compétences en IA dans le recrutement, tandis que sa stratégie d’investissement et sa structure organisationnelle évoluent.

Faire de l’adoption de l’IA un avantage concurrentiel durable exige d’affiner continuellement l’équilibre entre la gouvernance et la liberté d’action des équipes. L’AID CoE et l’équipe de sécurité collaborent pour optimiser la performance, les coûts et les risques sous plusieurs angles, en bâtissant un cadre souple qui favorise l’expérimentation dans toute l’organisation.