LegalOn halverer Codex-udgifter og bevarer udviklingstempoet

LegalOn Technologies tilbyder Professional AI globalt og bruger AI til at understøtte juridisk arbejde og andre centrale forretningsfunktioner. Ved at kombinere fagekspertise med AI giver virksomheden mennesker mulighed for at fokusere på komplekse vurderinger og beslutninger. Målet er AI-drevet ledelse, som øger kvaliteten og tempoet i forretningsbeslutninger.

Tilgangen rækker ud over produkterne: AI skal også være en integreret del af selve organisationen. Virksomheden integrerede Codex i sin udviklingsproces og udbredte det i organisationen gennem daglig brug.

Efterhånden som brugen slog rod, opstod en ny udfordring: omkostningsstyring. Ubegrænset brug af kraftfulde modeller kunne øge udgifterne, mens generelle begrænsninger risikerede at underminere de produktivitetsgevinster, AI havde muliggjort.

Hvordan kunne virksomheden reducere omkostningerne uden at sænke udviklingstempoet? LegalOn Technologies løste udfordringen ved at vælge mellem GPT‑6 (Astra, Luna) og GPT‑6.1 Sol ud fra opgavernes kompleksitet og udviklingsfase og tilpasse budgetterne til hvert forretningsområdes vækstfase. Virksomheden halverede omkostningerne og bevarede samtidig udviklingstempoet.

Virksomheden gav i starten udviklerne ubegrænset adgang til sin primære model, GPT‑5.5 i Hurtig tilstand. De udvidede brugen til design, implementering og dagligt arbejde og lærte gennem eksperimenter, hvordan opgaverne bedst kunne fordeles mellem mennesker og AI.

Fortsat ubegrænset brug af kraftfulde modeller ville dog uundgåeligt overskride årsbudgettet. Virksomhedens AI-powered Development CoE (AID CoE) begyndte at udarbejde retningslinjer for valg af model. AID CoE testede og overvågede modeller, mens lederne delte resultaterne med deres teams. Det gjorde hver udvikler i stand til selv at vælge den bedst egnede model til hver opgave.

Med de nye retningslinjer gik virksomheden fra at bruge den mest avancerede model til alle opgaver til at vælge den rette model til opgaven. Teamene startede med en letvægtsmodel og skiftede til mere avancerede modeller, efterhånden som opgaverne blev mere komplekse.

For at understøtte styringen indførte virksomheden også systemkontroller via administratorindstillinger med månedlige forbrugsgrænser for afdelinger og enkeltpersoner. AID CoE overvåger forbruget og justerer grænserne efter forretningens behov.

Interne tests med disse kontroller på plads hjalp med at konkretisere udvælgelseskriterierne. GPT‑6 Luna, den letteste model, håndterer kodeimplementering med klare krav. GPT‑6.1 Sol understøtter almindelige designopgaver, dataanalyse og dokumentudarbejdelse. GPT‑6 Astra, den mest avancerede model, håndterer komplekse vurderinger, herunder arkitekturdesign. At vælge modeller efter opgaverne blev gradvist en fælles praksis på tværs af teams.

Ud over at vælge modeller efter opgaverne begyndte virksomheden som udgangspunkt at begrænse Hurtig tilstand og kun give adgang efter individuel anmodning, når det var nødvendigt. Ændringen vakte bekymring for udviklingstempoet, men teamene brugte metoder som at køre opgaver parallelt for at fastholde produktiviteten og sikre en smidig overgang.

Virksomheden indførte også budgetlofter for AI-udgifter på afdelings-, gruppe- og individniveau. Det etablerede LegalOn-forretningsområde blev bedt om at forbedre omkostningseffektiviteten med op til cirka 20 %, mens nye forretningsområder i opstartsfasen fik generøse budgetter for at tilskynde til aktiv brug af AI.

Yuta Tokitake, Senior Engineering Manager hos LegalOn Technologies, forklarer, at nye forretningsområder prioriterede tempo frem for omkostningseffektivitet. Målet var at bruge AI i vid udstrækning til at øge produktionen og i sidste ende skabe vækst i forretningen.

Tilsammen reducerede modelvalg, funktionsbegrænsninger og budgetter tilpasset hvert forretningsområde de anslåede daglige omkostninger med cirka 65 %. Tilgangen holdt det samlede budget under kontrol og kanaliserede samtidig ressourcer hen mod de forretningsområder, virksomheden ønskede at udvikle.

Optimering af modelbrug og strategisk ressourcefordeling gav følgende resultater:

• Et skift fra at bruge den mest avancerede model til alle opgaver til at vælge GPT‑6 Astra, GPT‑6.1 Sol eller GPT‑6 Luna ud fra opgavernes kompleksitet og udviklingsfase.

• Uændret produktivitet i udviklingsarbejdet efter begrænsningen af Hurtig tilstand som standard, understøttet af teamenes arbejdsmetoder, blandt andet parallel opgaveudførelse.

• Budgetlofter, der kombinerede cirka 20 % højere effektivitet i modne forretningsområder med aktive investeringer i nye områder.

• En reduktion på 65 % i de anslåede daglige omkostninger sammenlignet med GPT‑5.5 ved at vælge mellem GPT‑6‑ og 6.1-modeller.

Ved at optimere brugen af modeller reducerede virksomheden omkostningerne uden at gå på kompromis med udviklingstempo eller kvalitet. Teamene oplever også, at AI løbende forkorter tiden fra udvikling til udgivelse.

Men virksomheden ser længere frem. Er hurtigere udvikling i sig selv nok til at gøre en AI-investering til en succes? Sammenhængen mellem hurtigere udvikling og værdi for kunderne var stadig uklar. »Det er næsten en selvfølge, at AI kan fremskynde systemudvikling og opdateringer,« siger Tokitake. »Det, vi virkelig gerne vil forstå, er, om den hurtigere udvikling faktisk omsættes til værdi for kunderne.«

Spørgsmålet fik virksomheden til at udvikle sit eget målepunkt og flytte grundlaget for at vurdere AI-investeringer fra udviklingstempo og forbrug til værdi for kunderne.

Tokitake forklarer: »Når vi bruger AI, kan vi følge omkostningerne ved de enkelte opgaver, men de samlede omkostninger ved et helt stykke arbejde – en funktionsudgivelse – er ofte uigennemskuelige. Derfor tilrettelagde vi målingen, så hver funktionsudgivelse udgør én enhed. Ved at knytte den værdi, udgivelsen skaber for kunderne, til dens faktiske AI-omkostninger vil vi synliggøre investeringsafkastet og måle det præcist.«

Virksomheden er i gang med at opbygge den datapipeline, der skal beregne målepunktet. Når den er færdig, vil den synliggøre det reelle investeringsafkast målt i værdi for kunderne. LegalOn Technologies bevæger sig ud over styring af AI-omkostninger og hen imod en direkte kobling mellem teknologiinvesteringer og forretningsværdi.

Næste mål er at omsætte de enkelte udvikleres AI-viden til en kompetence, der er forankret i hele organisationen. Som et første skridt planlægger virksomheden at opbygge en vidensbase til at indsamle og dele praktiske erfaringer. Den skal samle viden om blandt andet de bedste modelkombinationer til design, implementering og gennemgang og hurtigt omsætte individuelle succeser til fælles bedste praksis.

Disse ændringer, som udspringer af teamenes praktiske erfaringer, præger også organisationen og rekrutteringen. Produktivitetsgevinsterne fra AI får virksomheden til grundlæggende at gentænke både arbejdsfordelingen mellem mennesker og AI og sin bemandingsplanlægning. Den er allerede begyndt at lægge vægt på AI-kompetencer ved rekruttering, i takt med at investeringsstrategien og organisationsstrukturen udvikler sig.

Hvis brugen af AI skal blive en varig konkurrencefordel, kræver det en løbende finjustering af balancen mellem styring og teamenes handlefrihed. AID CoE og sikkerhedsteamet samarbejder om at optimere ydeevne, omkostninger og risiko fra flere perspektiver og opbygge en fleksibel ramme, der understøtter eksperimenter på tværs af organisationen.