LegalOn halverar Codex-kostnaderna med bibehållen utvecklingstakt

LegalOn Technologies erbjuder Professional AI globalt och använder AI för att stödja juridiskt arbete och andra centrala verksamhetsfunktioner. Genom att kombinera domänkunskap med AI gör företaget det möjligt för människor att fokusera på komplexa bedömningar och beslut. Målet är AI-driven verksamhetsstyrning som förbättrar kvaliteten och tempot i affärsbesluten.

Det här synsättet omfattar inte bara produkterna, utan även ambitionen att låta AI genomsyra hela organisationen. Företaget integrerade Codex i sin utvecklingsprocess och spred användningen i organisationen genom det dagliga arbetet.

När användningen tog fart uppstod en ny utmaning: kostnadskontroll. Obegränsad användning av högpresterande modeller kunde driva upp kostnaderna, samtidigt som generella begränsningar riskerade att urholka produktivitetsvinsterna som AI hade möjliggjort.

Hur skulle företaget kunna sänka kostnaderna utan att bromsa utvecklingen? LegalOn Technologies tog sig an utmaningen genom att välja mellan GPT‑6 (Astra, Luna) och GPT‑6.1 Sol utifrån uppgiftens komplexitet och utvecklingsfasen, och anpassa budgetarna efter varje verksamhets tillväxtfas. Företaget halverade kostnaderna med bibehållen utvecklingstakt.

Till en början gav företaget utvecklarna obegränsad tillgång till sin huvudmodell, GPT‑5.5 i Snabbläge. De utökade användningen till design, implementering och vardagliga uppgifter, och prövade sig fram till hur ansvaret bäst kunde fördelas mellan människor och AI.

Men fortsatt obegränsad användning av högpresterande modeller skulle oundvikligen spräcka årsbudgeten. Företagets kompetenscenter för AI-driven utveckling, AI-powered Development CoE (AID CoE), började ta fram riktlinjer för modellval. AID CoE testade och följde upp modeller, medan cheferna delade resultaten med sina team. Det gjorde att varje utvecklare självständigt kunde välja den lämpligaste modellen för varje uppgift.

Med de nya riktlinjerna gick företaget från att använda den mest kapabla modellen för varje uppgift till att välja rätt modell för jobbet. Teamen började med en lättviktsmodell och gick över till mer kapabla modeller när uppgifterna blev mer komplexa.

För att underlätta styrningen införde företaget också systemkontroller via administratörsinställningarna, med månatliga användningsgränser för avdelningar och individer. AID CoE följer användningen och justerar gränserna efter verksamhetens behov.

Interna tester med dessa kontroller på plats hjälpte till att konkretisera urvalskriterierna. GPT‑6 Luna, den lättaste modellen, hanterar kodimplementering med tydliga krav. GPT‑6.1 Sol stöder enklare designarbete, dataanalys och dokumentframtagning. GPT‑6 Astra, den mest kapabla modellen, hanterar avancerade bedömningar, bland annat arkitekturdesign. Att anpassa modellvalet efter uppgiften blev gradvis ett gemensamt arbetssätt i teamen.

Utöver att anpassa modellvalet började företaget begränsa Snabbläge som standard och beviljade individuella förfrågningar endast vid behov. Förändringen väckte oro för utvecklingstakten, men teamen använde arbetssätt som att köra uppgifter parallellt för att bibehålla prestandan och få en smidig övergång.

Företaget införde också budgettak för AI-utgifter på avdelnings-, grupp- och individnivå. Den etablerade LegalOn-verksamheten fick i uppdrag att förbättra kostnadseffektiviteten med upp till cirka 20 %, medan nya verksamheter i lanseringsfasen fick generösa budgetar för att uppmuntra aktiv AI-användning.

Yuta Tokitake, senior utvecklingschef på LegalOn Technologies, förklarar att nya verksamheter prioriterade högt tempo framför kostnadseffektivitet. Målet var att använda AI i stor skala för att få mer gjort och i förlängningen driva tillväxt.

Tillsammans minskade modellval, funktionsbegränsningar och verksamhetsanpassade budgetar de uppskattade dagliga kostnaderna med cirka 65 %. Det här arbetssättet höll den totala budgeten under kontroll samtidigt som resurser styrdes till verksamheter som företaget ville utveckla.

Optimerat modellval och strategisk resursfördelning gav följande resultat:

• En övergång från att använda den mest kapabla modellen för varje uppgift till att välja GPT‑6 Astra, GPT‑6.1 Sol eller GPT‑6 Luna utifrån uppgiftens komplexitet och utvecklingsfasen.

• Bibehållen effektivitet i utvecklingen efter att Snabbläge begränsats som standard, tack vare arbetssätt som parallell körning av uppgifter.

• Budgettak som kombinerade cirka 20 % högre effektivitet i mogna verksamheter med aktiva investeringar i nya verksamheter.

• 65 % lägre uppskattade dagliga kostnader jämfört med GPT‑5.5 genom att välja mellan GPT‑6‑ och 6.1-modeller.

Genom att optimera modellvalet sänkte företaget kostnaderna utan att kompromissa med utvecklingstakten eller kvaliteten. Teamen ser också hur AI successivt kortar tiden från utveckling till lansering.

Men företaget blickar längre fram. Räcker snabbare utveckling för att en AI-investering ska vara framgångsrik? Sambandet mellan snabbare utveckling och kundvärde var fortfarande oklart. ”Det är nästan en självklarhet att AI kan påskynda systemutveckling och uppdateringar”, säger Tokitake. ”Det vi verkligen vill förstå är om den snabbare utvecklingen faktiskt skapar värde för kunderna.”

Den frågan fick företaget att ta fram ett eget mått och flytta fokus i utvärderingen av AI-investeringar från utvecklingstakt och användningsvolym till kundvärde.

Tokitake förklarar: ”När vi använder AI kan vi följa kostnaden för enskilda uppgifter, men totalkostnaden för ett helt arbete – en funktionslansering – är ofta svår att få insyn i. Därför utformade vi mätningen med varje funktionslansering som en enhet. Genom att koppla kundvärdet som lanseringen ger till de faktiska AI-kostnaderna vill vi synliggöra avkastningen på investeringen och ge en rättvisande bild av den.”

Företaget bygger nu det dataflöde som behövs för att beräkna måttet. När det är klart kommer den verkliga avkastningen i form av kundvärde att bli synlig. LegalOn Technologies tar steget från att hantera AI-kostnader till att direkt koppla teknikinvesteringar till affärsvärde.

Nästa mål är att göra enskilda utvecklares AI-kunnande till en gemensam förmåga i hela organisationen. Som ett första steg planerar företaget att bygga en kunskapsbas för att samla in och dela praktiska erfarenheter. Den ska samla kunskap om exempelvis de bästa modellkombinationerna för design, implementering och granskning, och snabbt omvandla individuella framgångar till etablerade arbetssätt i hela företaget.

Dessa förändringar, som drivs av teamens praktiska erfarenheter, påverkar också organisationen och rekryteringen. Produktivitetsvinsterna från AI får företaget att i grunden ompröva både arbetsfördelningen mellan människor och AI och sin personalplanering. Företaget har redan börjat lägga större vikt vid AI-kompetens vid rekrytering, samtidigt som investeringsstrategin och organisationsstrukturen utvecklas.

För att göra AI-användningen till en varaktig konkurrensfördel krävs att balansen mellan styrning och teamens handlingsfrihet ständigt förfinas. AID CoE och säkerhetsteamet samarbetar för att optimera prestanda, kostnader och riskhantering ur flera perspektiv och bygga ett flexibelt ramverk som stöder experimenterande i hela organisationen.