LegalOn půlí náklady na Codex a zachovává rychlost vývoje

LegalOn Technologies nabízí po celém světě profesionální AI, která podporuje právní práci i další klíčové firemní činnosti. Propojením oborových znalostí s AI umožňuje lidem soustředit se na složité posuzování a rozhodování. Jejím cílem je řízení s využitím AI, které zvyšuje kvalitu a rychlost firemního rozhodování.

Tento přístup se neomezuje jen na produkty: firma chce na AI postavit i vlastní fungování. Firma začlenila Codex do vývojového procesu a jeho každodenním používáním rozšířila jeho využití napříč organizací.

S rostoucím využitím se objevila nová výzva: kontrola nákladů. Neomezené používání výkonných modelů mohlo zvýšit výdaje, zatímco plošná omezení hrozila ztrátou produktivity, kterou AI přinesla.

Jak snížit náklady, aniž by se zpomalil vývoj? LegalOn Technologies tento problém vyřešila výběrem mezi GPT‑6 (Astra, Luna) a GPT‑6.1 Sol podle složitosti úkolu a fáze vývoje a přizpůsobením rozpočtů růstové fázi jednotlivých oblastí podnikání. Firma snížila náklady na polovinu a přitom zachovala rychlost vývoje.

Firma zpočátku poskytla vývojářům neomezený přístup ke svému hlavnímu modelu GPT‑5.5 v Rychlém režimu. Ti jej začali využívat při návrhu, implementaci i každodenní práci a experimentováním zjišťovali, jak nejlépe rozdělit odpovědnosti mezi lidi a AI.

Další neomezené používání výkonných modelů by však nevyhnutelně vedlo k překročení ročního rozpočtu. Firemní centrum excelence pro vývoj s využitím AI (AID CoE) proto začalo připravovat pravidla pro výběr modelů. AID CoE modely testovalo a sledovalo, zatímco manažeři sdíleli jeho poznatky se svými týmy. Každý vývojář tak mohl samostatně vybrat nejvhodnější model pro daný úkol.

Díky novým pravidlům firma přestala používat nejschopnější model na každý úkol a začala vybírat model podle konkrétní práce. Týmy začínaly s nenáročným modelem a s rostoucí složitostí úkolu přecházely na schopnější modely.

Pro snazší správu firma také zavedla systémová omezení v nastavení správce, včetně měsíčních limitů využití pro oddělení i jednotlivce. AID CoE sleduje využití a upravuje limity podle potřeb firmy.

Interní testování s těmito omezeními pomohlo upřesnit kritéria výběru. Nejméně náročný model GPT‑6 Luna zajišťuje implementaci kódu s jasnými požadavky; GPT‑6.1 Sol pomáhá s běžným návrhem, analýzou dat a přípravou dokumentů; nejschopnější model GPT‑6 Astra řeší úkoly vyžadující náročné posouzení, včetně návrhu architektury. Výběr modelů podle úkolů se postupně stal běžnou praxí napříč týmy.

Vedle výběru modelů firma také omezila Rychlý režim ve výchozím nastavení a povolovala jej jen na individuální žádost v případě potřeby. Přestože změna vyvolala obavy o rychlost vývoje, týmy díky postupům, jako je souběžné zpracování úkolů, udržely výkon a zvládly přechod hladce.

Firma také zavedla rozpočtové stropy na výdaje za AI pro oddělení, skupiny i jednotlivce. Zavedená oblast podnikání LegalOn měla zlepšit nákladovou efektivitu až přibližně o 20 %, zatímco nové, rozbíhající se oblasti dostaly štědré rozpočty na podporu aktivního využívání AI.

Yuta Tokitake, seniorní manažer vývoje v LegalOn Technologies, vysvětluje, že nové oblasti podnikání upřednostňovaly rychlost rozvoje před nákladovou efektivitou. Cílem bylo intenzivně využívat AI ke zvýšení objemu práce a v konečném důsledku k podpoře růstu podnikání.

Výběr modelů, omezení funkcí a rozpočty přizpůsobené jednotlivým oblastem podnikání společně snížily odhadované denní náklady přibližně o 65 %. Tento přístup udržel celkový rozpočet pod kontrolou a zároveň nasměroval zdroje do oblastí, které chtěla firma rozvíjet.

Optimalizace modelů a strategické přidělování zdrojů přinesly tyto výsledky:

• Přechod od používání nejschopnějšího modelu na každý úkol k výběru GPT‑6 Astra, GPT‑6.1 Sol nebo GPT‑6 Luna podle složitosti úkolu a fáze vývoje.

• Zachování výkonnosti vývoje po omezení Rychlého režimu ve výchozím nastavení díky týmovým postupům, jako je souběžné zpracování úkolů.

• Rozpočtové stropy, které spojily přibližně o 20 % vyšší efektivitu v zavedených oblastech podnikání s aktivními investicemi do nových oblastí.

• Snížení odhadovaných denních nákladů o 65 % oproti GPT‑5.5 díky výběru mezi modely GPT‑6 a 6.1.

Optimalizací modelů firma snížila náklady, aniž by obětovala rychlost či kvalitu vývoje. Týmy také pozorují, že AI soustavně zkracuje cyklus od vývoje po vydání.

Firma se však dívá ještě dál. Stačí samotné zrychlení vývoje k tomu, aby investice do AI byla úspěšná? Souvislost mezi rychlejším vývojem a hodnotou pro zákazníky zůstávala nejasná. „To, že AI dokáže urychlit vývoj a aktualizace systémů, už je téměř samozřejmost,“ říká Tokitake. „Skutečně nás zajímá, zda se rychlejší vývoj opravdu promítá do hodnoty pro zákazníky.“

Tato otázka vedla firmu k vytvoření vlastní metriky. Základem hodnocení investic do AI se tak místo rychlosti vývoje a míry využití stala hodnota pro zákazníky.

Tokitake vysvětluje: „Při používání AI dokážeme sledovat náklady na jednotlivé úkoly, ale celkové náklady na ucelenou práci – vydání funkce – často zůstávají neprůhledné. Proto jsme měření navrhli tak, aby každé vydání funkce představovalo jednu jednotku. Propojením hodnoty, kterou vydání přináší zákazníkům, se skutečnými náklady na AI, které jsme do něj vložili, chceme návratnost investic zviditelnit a přesně vyčíslit.“

Firma nyní buduje datový proces pro výpočet této metriky. Po dokončení ukáže skutečnou návratnost investic z hlediska hodnoty pro zákazníky. LegalOn Technologies tak překračuje rámec řízení nákladů na AI a směřuje k přímému propojení investic do technologií s obchodním přínosem.

Dalším cílem je proměnit znalosti jednotlivých vývojářů o AI ve schopnosti celé organizace. Jako první krok firma plánuje vytvořit znalostní bázi pro shromažďování a sdílení praktických zkušeností. Bude v ní zaznamenávat poznatky, například nejlepší kombinace modelů pro návrh, implementaci a kontrolu, a rychle proměňovat úspěchy jednotlivců v osvědčené postupy pro celou firmu.

Tyto změny, vycházející z praktických zkušeností týmů, ovlivňují také organizaci firmy a nábor. Růst produktivity díky AI vede firmu k zásadnímu přehodnocení dělby práce mezi lidmi a AI i personálních plánů. S tím, jak se vyvíjí její investiční strategie a organizační struktura, už při náboru začala klást důraz na dovednosti v oblasti AI.

Aby se zavedení AI proměnilo v trvalou konkurenční výhodu, je třeba neustále ladit rovnováhu mezi pravidly řízení a volností týmů. AID CoE a bezpečnostní tým společně z různých hledisek optimalizují výkon, náklady a rizika a vytvářejí flexibilní rámec, který podporuje experimentování napříč organizací.