LegalOn halverer Codex-kostnadene uten å senke utviklingstakten

LegalOn Technologies tilbyr Professional AI globalt og bruker KI til å støtte juridisk arbeid og andre sentrale forretningsfunksjoner. Ved å kombinere fagkompetanse med KI gir selskapet mennesker rom til å fokusere på komplekse vurderinger og beslutninger. Målet er KI-drevet ledelse som gir bedre og raskere forretningsbeslutninger.

Denne tilnærmingen gjelder ikke bare produktene, men også arbeidet med å gjøre KI til en integrert del av selve organisasjonen. Selskapet integrerte Codex i utviklingsprosessen, og gjennom daglig bruk ble løsningen tatt i bruk av stadig flere i organisasjonen.

Etter hvert som bruken skjøt fart, dukket en ny utfordring opp: kostnadskontroll. Ubegrenset bruk av kraftige modeller kunne øke kostnadene, mens generelle begrensninger risikerte å svekke produktivitetsgevinstene KI hadde gitt.

Hvordan kunne selskapet redusere kostnadene uten å senke utviklingstakten? LegalOn Technologies løste utfordringen ved å velge mellom GPT‑6 (Astra, Luna) og GPT‑6.1 Sol ut fra oppgavenes kompleksitet og utviklingsfase, og tilpasse budsjettene til vekstfasen i hvert forretningsområde. Selskapet halverte kostnadene uten å senke utviklingstakten.

Selskapet ga først utviklerne ubegrenset tilgang til hovedmodellen sin, GPT‑5.5 i Hurtigmodus. De utvidet bruken til design, implementering og daglig arbeid, og lærte gjennom utprøving hvordan ansvaret best kunne fordeles mellom mennesker og KI.

Fortsatt ubegrenset bruk av kraftige modeller ville imidlertid uunngåelig sprenge årsbudsjettet. Selskapets kompetansesenter for KI-drevet utvikling, AI-powered Development CoE (AID CoE), begynte å utarbeide retningslinjer for valg av modell. AID CoE testet og fulgte opp modeller, mens lederne delte funnene med teamene sine. Dermed kunne hver utvikler selv velge den best egnede modellen for hver oppgave.

Med de nye retningslinjene gikk selskapet fra å bruke den kraftigste modellen til alle oppgaver til å velge riktig modell for jobben. Teamene startet med en lettvektsmodell og gikk over til kraftigere modeller etter hvert som oppgavene ble mer komplekse.

For å støtte styringen innførte selskapet også systembaserte begrensninger via administratorinnstillingene, med månedlige bruksgrenser for avdelinger og enkeltpersoner. AID CoE overvåker bruken og justerer grensene etter virksomhetens behov.

Intern testing innenfor disse rammene bidro til å konkretisere kriteriene for modellvalg. GPT‑6 Luna, den letteste modellen, håndterer kodeimplementering med tydelige krav. GPT‑6.1 Sol støtter vanlige designoppgaver, dataanalyse og dokumentutarbeidelse, mens GPT‑6 Astra, den kraftigste modellen, håndterer avanserte vurderinger, blant annet arkitekturdesign. Å tilpasse modeller til oppgaver ble gradvis en felles praksis på tvers av teamene.

I tillegg til å tilpasse modellvalget begynte selskapet å begrense Hurtigmodus som standard, med mulighet for å be om tilgang ved behov. Endringen skapte bekymring for utviklingstakten, men teamene tok blant annet i bruk parallellkjøring av oppgaver for å opprettholde ytelsen og sikre en smidig overgang.

Selskapet innførte også budsjettrammer for KI-utgifter på avdelings-, gruppe- og individnivå. Den etablerte LegalOn-virksomheten ble bedt om å forbedre kostnadseffektiviteten med opptil rundt 20 %, mens nye forretningsområder i oppstartsfasen fikk romslige budsjetter for å oppmuntre til aktiv bruk av KI.

Yuta Tokitake, senior utviklingsleder i LegalOn Technologies, forklarer at nye forretningsområder prioriterte rask fremdrift fremfor kostnadseffektivitet. Målet var å bruke KI i stor skala for å levere mer og i siste instans drive vekst i virksomheten.

Til sammen reduserte modellvalg, funksjonsbegrensninger og budsjetter tilpasset hvert forretningsområde de anslåtte daglige kostnadene med rundt 65 %. Denne tilnærmingen holdt det samlede budsjettet under kontroll, samtidig som ressursene ble rettet mot forretningsområder selskapet ønsket å utvikle.

Optimalisering av modellbruken og strategisk ressursfordeling ga følgende resultater:

• En overgang fra å bruke den kraftigste modellen til alle oppgaver til å velge GPT‑6 Astra, GPT‑6.1 Sol eller GPT‑6 Luna ut fra oppgavenes kompleksitet og utviklingsfase.

• Opprettholdt produktivitet i utviklingsarbeidet etter at Hurtigmodus ble begrenset som standard, støttet av arbeidsmåter som parallellkjøring av oppgaver.

• Budsjettrammer som kombinerte rundt 20 % høyere effektivitet i modne forretningsområder med aktive investeringer i nye.

• 65 % lavere anslåtte daglige kostnader sammenlignet med GPT‑5.5 ved å velge mellom GPT‑6‑ og 6.1-modeller.

Ved å optimalisere modellbruken reduserte selskapet kostnadene uten å gå på akkord med utviklingstakt eller kvalitet. Teamene ser også at KI stadig forkorter tiden fra utvikling til lansering.

Men selskapet ser lenger frem. Er raskere utvikling alene nok til å gjøre KI-investeringer vellykkede? Sammenhengen mellom raskere utvikling og kundeverdi var fortsatt uklar. «Det er nærmest en selvfølge at KI kan gjøre systemutvikling og oppdateringer raskere», sier Tokitake. «Det vi virkelig ønsker å forstå, er om raskere utvikling faktisk gir verdi for kundene.»

Dette spørsmålet fikk selskapet til å utvikle sitt eget måltall. Dermed gikk de fra å vurdere KI-investeringer ut fra utviklingstakt og bruksvolum til å vurdere dem ut fra kundeverdi.

Tokitake forklarer: «Når vi bruker KI, kan vi spore kostnadene for enkeltoppgaver, men totalkostnaden for et helt stykke arbeid – en funksjonslansering – er ofte uoversiktlig. Derfor utformet vi målingen slik at hver funksjonslansering utgjør én enhet. Ved å koble kundeverdien lanseringen gir, til de faktiske KI-kostnadene som er investert i den, vil vi synliggjøre avkastningen på en presis måte.»

Selskapet bygger nå dataprosessen som skal beregne dette måltallet. Når den er ferdig, vil den synliggjøre den reelle avkastningen målt i kundeverdi. LegalOn Technologies går fra ren styring av KI-kostnader til å koble teknologiinvesteringer direkte til forretningsverdi.

Det neste målet er å gjøre den enkelte utviklers KI-kunnskap til en felles kompetanse i hele organisasjonen. Som et første skritt planlegger selskapet å bygge en kunnskapsbase for å samle og dele praktiske erfaringer. Den skal samle kunnskap om blant annet de beste modellkombinasjonene for design, implementering og gjennomgang, og raskt gjøre enkeltpersoners vellykkede løsninger til beste praksis i hele selskapet.

Disse endringene, drevet av teamenes praktiske erfaringer, påvirker også organiseringen og rekrutteringen. Produktivitetsgevinstene fra KI får selskapet til å revurdere både bemanningsplanene og selve fordelingen av arbeid mellom mennesker og KI. Selskapet har allerede begynt å vektlegge KI-ferdigheter ved ansettelser, i takt med at investeringsstrategien og organisasjonsstrukturen utvikler seg.

For å gjøre KI-bruk til et varig konkurransefortrinn må balansen mellom styring og teamenes handlingsrom finjusteres kontinuerlig. AID CoE og sikkerhetsteamet samarbeider om å optimalisere ytelse, kostnader og risiko fra flere perspektiver. Sammen bygger de et fleksibelt rammeverk som legger til rette for utprøving i hele organisasjonen.