LegalOn halveert Codex-kosten met behoud van ontwikkeltempo

LegalOn Technologies biedt wereldwijd Professional AI aan en zet AI in om juridisch werk en andere belangrijke bedrijfsfuncties te ondersteunen. Door vakkennis te combineren met AI stelt het bedrijf mensen in staat zich te richten op complexe afwegingen en beslissingen. Het doel is AI-gestuurde bedrijfsvoering die de kwaliteit en snelheid van zakelijke besluitvorming verbetert.

Deze aanpak gaat verder dan de producten: ook de organisatie zelf moet volledig op AI gaan draaien. Het bedrijf integreerde Codex in het ontwikkelproces. Door dagelijks gebruik raakte Codex steeds breder ingeburgerd in de organisatie.

Naarmate het gebruik toenam, ontstond een nieuwe uitdaging: kostenbeheersing. Onbeperkt gebruik van krachtige modellen kon de uitgaven opdrijven, terwijl algemene beperkingen de productiviteitswinst door AI dreigden teniet te doen.

Hoe kon het bedrijf de kosten verlagen zonder de ontwikkeling te vertragen? LegalOn Technologies pakte dit aan door te kiezen tussen GPT‑6 (Astra, Luna) en GPT‑6.1 Sol op basis van de complexiteit van de taak en de ontwikkelfase, en budgetten af te stemmen op de groeifase van elk bedrijfsonderdeel. Het bedrijf halveerde de kosten met behoud van het ontwikkeltempo.

Aanvankelijk gaf het bedrijf ontwikkelaars onbeperkt toegang tot zijn belangrijkste model, GPT‑5.5 in Fast-modus. Zij gingen het ook inzetten voor ontwerp, implementatie en dagelijks werk. Door te experimenteren leerden ze hoe ze verantwoordelijkheden het beste konden verdelen tussen mensen en AI.

Maar als ze krachtige modellen onbeperkt zouden blijven gebruiken, zou het jaarbudget onvermijdelijk worden overschreden. Het AI-powered Development CoE (AID CoE) van het bedrijf begon richtlijnen voor modelkeuze op te stellen. AID CoE testte en monitorde modellen, terwijl managers de bevindingen met hun teams deelden. Zo kon elke ontwikkelaar zelfstandig het meest geschikte model voor elke taak kiezen.

Dankzij de nieuwe richtlijnen gebruikte het bedrijf niet meer voor elke taak het krachtigste model, maar koos het steeds het juiste model voor het werk. Teams begonnen met een licht model en stapten over op krachtigere modellen naarmate taken complexer werden.

Om het gebruik te beheersen, voerde het bedrijf ook systeembeperkingen in via beheerdersinstellingen, met maandelijkse gebruikslimieten voor afdelingen en individuele medewerkers. AID CoE monitort het gebruik en past limieten aan als de bedrijfsbehoeften daarom vragen.

Interne tests binnen deze beperkingen hielpen de selectiecriteria concreter te maken. GPT‑6 Luna, het lichtste model, wordt ingezet voor code-implementatie met duidelijke eisen; GPT‑6.1 Sol ondersteunt gangbaar ontwerpwerk, data-analyse en het opstellen van documenten; en GPT‑6 Astra, het krachtigste model, neemt complexe afwegingen voor zijn rekening, waaronder architectuurontwerp. Modellen afstemmen op taken werd geleidelijk een vaste werkwijze in alle teams.

Naast de modelkeuze beperkte het bedrijf standaard het gebruik van Fast-modus. Alleen als het nodig was, konden medewerkers op verzoek toegang krijgen. Hoewel de verandering zorgen opriep over het ontwikkeltempo, wisten teams met werkwijzen zoals het parallel uitvoeren van taken hun prestaties op peil te houden en soepel over te stappen.

Het bedrijf voerde ook budgetplafonds voor AI-uitgaven in op afdelings-, groeps- en individueel niveau. Het gevestigde bedrijfsonderdeel LegalOn kreeg de opdracht de kostenefficiëntie met maximaal circa 20% te verbeteren. Nieuwe bedrijfsonderdelen in de opstartfase kregen juist ruime budgetten om actief AI-gebruik te stimuleren.

Yuta Tokitake, Senior Engineering Manager bij LegalOn Technologies, legt uit dat nieuwe bedrijfsonderdelen snelheid boven kostenefficiëntie stelden. Het doel was om met een brede inzet van AI meer werk te verzetten en uiteindelijk bedrijfsgroei te stimuleren.

Samen zorgden modelkeuze, functiebeperkingen en budgetten op maat per bedrijfsonderdeel voor een daling van de geschatte dagelijkse kosten met circa 65%. Deze aanpak hield het totale budget onder controle, terwijl middelen werden ingezet voor bedrijfsonderdelen die het bedrijf wilde laten groeien.

Modeloptimalisatie en strategische inzet van middelen leverden de volgende resultaten op:

• Niet langer het krachtigste model voor elke taak, maar een keuze uit GPT‑6 Astra, GPT‑6.1 Sol of GPT‑6 Luna op basis van de complexiteit van de taak en de ontwikkelfase.

• Ontwikkelprestaties bleven op peil nadat Fast-modus standaard werd beperkt, dankzij werkwijzen zoals het parallel uitvoeren van taken.

• Budgetplafonds die circa 20% meer efficiëntie in gevestigde bedrijfsonderdelen combineerden met actieve investeringen in nieuwe bedrijfsonderdelen.

• Een daling van de geschatte dagelijkse kosten met 65% ten opzichte van GPT‑5.5 door te kiezen uit GPT‑6‑ en 6.1-modellen.

Door modeloptimalisatie verlaagde het bedrijf de kosten zonder in te leveren op ontwikkeltempo of kwaliteit. Teams zien ook dat AI de cyclus van ontwikkeling tot release steeds verder verkort.

Maar het bedrijf kijkt verder vooruit. Is een AI-investering al geslaagd als de ontwikkeling sneller gaat? Het verband tussen snellere ontwikkeling en waarde voor de klant bleef onduidelijk. "Dat AI de ontwikkeling en het bijwerken van systemen kan versnellen, is bijna een gegeven", zegt Tokitake. "Wat we echt willen weten, is of die snellere ontwikkeling ook daadwerkelijk waarde oplevert voor klanten."

Deze vraag bracht het bedrijf ertoe een eigen maatstaf te ontwikkelen. Daarmee verschoof de beoordeling van AI-investeringen van ontwikkelsnelheid en gebruiksvolume naar waarde voor de klant.

Tokitake legt uit: "Bij het gebruik van AI kunnen we de kosten van afzonderlijke taken bijhouden, maar de totale kosten van een afgerond stuk werk — een functierelease — blijven vaak ondoorzichtig. Daarom hebben we elke functierelease als meeteenheid genomen. Door de waarde die zo'n release klanten oplevert te koppelen aan de daadwerkelijk gemaakte AI-kosten, willen we het rendement op de investering nauwkeurig inzichtelijk maken."

Het bedrijf bouwt momenteel de datapijplijn om deze maatstaf te berekenen. Zodra die klaar is, wordt het werkelijke rendement in termen van klantwaarde zichtbaar. LegalOn Technologies kijkt verder dan AI-kostenbeheersing en werkt aan een directe koppeling tussen technologie-investeringen en bedrijfswaarde.

Het volgende doel is om de AI-kennis van individuele ontwikkelaars om te zetten in expertise voor de hele organisatie. Als eerste stap wil het bedrijf een kennisbank opzetten om praktijkervaring te verzamelen en te delen. Daarin komt kennis te staan over bijvoorbeeld de beste modelcombinaties voor ontwerp, implementatie en review. Zo kunnen individuele successen snel worden omgezet in beproefde werkwijzen voor het hele bedrijf.

Deze veranderingen, die voortkomen uit de praktijkervaring van teams, beïnvloeden ook de organisatie en het wervingsbeleid. De productiviteitswinst door AI zet het bedrijf ertoe aan de werkverdeling tussen mensen en AI en de personeelsplanning fundamenteel te herzien. Bij de werving legt het bedrijf al meer nadruk op AI-vaardigheden, terwijl de investeringsstrategie en organisatiestructuur zich verder ontwikkelen.

Om AI-gebruik om te zetten in een blijvend concurrentievoordeel, moet de balans tussen governance en de handelingsvrijheid van teams voortdurend worden verfijnd. AID CoE en het beveiligingsteam werken samen om prestaties, kosten en risico's vanuit meerdere invalshoeken te optimaliseren. Zo bouwen ze aan een flexibel kader dat experimenteren in de hele organisatie ondersteunt.