LegalOn prepolovil stroške za Codex brez upočasnitve razvoja

LegalOn Technologies po vsem svetu ponuja umetno inteligenco za strokovno rabo, ki podpira pravno delo in druge ključne poslovne funkcije. Z združevanjem področnega znanja in umetne inteligence ljudem omogoča, da se osredotočijo na zahtevne presoje in odločitve. Njegov cilj je vodenje s pomočjo umetne inteligence, ki izboljšuje kakovost in hitrost poslovnega odločanja.

Ta pristop presega izdelke podjetja: umetno inteligenco postavlja tudi v temelje delovanja same organizacije. Podjetje je Codex vključilo v razvojni proces in z vsakodnevno uporabo razširilo njegovo uvajanje po vsej organizaciji.

Ko se je uporaba uveljavila, se je pojavil nov izziv: obvladovanje stroškov. Neomejena uporaba zmogljivih modelov bi lahko povečala porabo, splošne omejitve pa bi lahko izničile pridobitve v produktivnosti, ki jih je omogočila umetna inteligenca.

Kako znižati stroške, ne da bi upočasnili razvoj? LegalOn Technologies je izziv rešil z izbiro med modeloma GPT‑6 (Astra, Luna) in modelom GPT‑6.1 Sol glede na zahtevnost naloge in fazo razvoja ter s prilagajanjem proračunov fazi rasti posamezne poslovne enote. Podjetje je prepolovilo stroške in pri tem ohranilo hitrost razvoja.

Podjetje je razvijalcem sprva omogočilo neomejen dostop do svojega glavnega modela GPT‑5.5 v hitrem načinu. Njegovo uporabo so razširili na načrtovanje, implementacijo in vsakodnevno delo ter s preizkušanjem ugotavljali, kako najbolje razdeliti naloge med ljudi in umetno inteligenco.

Toda nadaljnja neomejena uporaba zmogljivih modelov bi neizogibno presegla letni proračun. Center odličnosti za razvoj z umetno inteligenco (AID CoE) je zato začel pripravljati smernice za izbiro modelov. AID CoE je preizkušal in spremljal modele, vodje pa so njegove ugotovitve delili s svojimi ekipami. Tako je lahko vsak inženir samostojno izbral najprimernejši model za posamezno nalogo.

Z novimi smernicami je podjetje namesto najzmogljivejšega modela za vse naloge začelo izbirati model, ki je najprimernejši za posamezno nalogo. Ekipe so začele z manj zahtevnim modelom in ob večji zahtevnosti nalog prešle na zmogljivejše modele.

Za boljši nadzor je podjetje prek skrbniških nastavitev uvedlo tudi sistemske omejitve, vključno z mesečnimi omejitvami uporabe za oddelke in posameznike. AID CoE spremlja uporabo in prilagaja omejitve poslovnim potrebam.

Interno preizkušanje ob teh omejitvah je pomagalo natančneje opredeliti merila za izbiro. GPT‑6 Luna, najmanj zahteven model, skrbi za implementacijo kode z jasnimi zahtevami; GPT‑6.1 Sol podpira običajno načrtovanje, analizo podatkov in pripravo dokumentov; GPT‑6 Astra, najzmogljivejši model, pa obravnava zahtevne presoje, tudi pri načrtovanju arhitekture. Izbira modelov glede na naloge je postopoma postala skupna praksa vseh ekip.

Poleg izbire modelov je podjetje privzeto omejilo hitri način in uporabo na zahtevo posameznikov dovolilo le po potrebi. Čeprav je sprememba vzbudila pomisleke glede hitrosti razvoja, so ekipe s pristopi, kot je vzporedno izvajanje nalog, ohranile učinkovitost in poskrbele za nemoten prehod.

Podjetje je uvedlo tudi proračunske omejitve za porabo za umetno inteligenco na ravni oddelkov, skupin in posameznikov. Od uveljavljene poslovne enote LegalOn je zahtevalo do približno 20-odstotno izboljšanje stroškovne učinkovitosti, novim enotam v zagonski fazi pa je namenilo velikodušne proračune za spodbujanje aktivne uporabe umetne inteligence.

Yuta Tokitake, višji vodja inženiringa pri LegalOn Technologies, pojasnjuje, da so nove poslovne enote dale prednost hitrosti poslovanja pred stroškovno učinkovitostjo. Cilj je bil z obsežno uporabo umetne inteligence povečati obseg opravljenega dela in s tem spodbuditi poslovno rast.

Izbira modelov, omejitve funkcij in proračuni, prilagojeni posameznim poslovnim enotam, so skupaj znižali ocenjene dnevne stroške za približno 65 %. S tem pristopom je podjetje obvladovalo skupni proračun in hkrati usmerjalo vire v poslovne enote, katerih rast je želelo spodbuditi.

Optimizacija modelov in strateško razporejanje virov sta prinesla naslednje rezultate:

• Prehod z uporabe najzmogljivejšega modela za vse naloge na izbiro med GPT‑6 Astra, GPT‑6.1 Sol in GPT‑6 Luna glede na zahtevnost naloge in fazo razvoja.

• Ohranjena učinkovitost razvoja po privzeti omejitvi hitrega načina, podprta s praksami ekip, kot je vzporedno izvajanje nalog.

• Proračunske omejitve, ki so združile približno 20 % večjo učinkovitost uveljavljenih poslovnih enot z aktivnim vlaganjem v nove.

• 65-odstotno znižanje ocenjenih dnevnih stroškov v primerjavi z GPT‑5.5 z izbiranjem med modeli GPT‑6 in 6.1.

Z optimizacijo modelov je podjetje znižalo stroške, ne da bi žrtvovalo hitrost ali kakovost razvoja. Ekipe opažajo tudi, da umetna inteligenca vztrajno krajša cikel od razvoja do izdaje.

Vendar podjetje gleda dlje v prihodnost. Ali že hitrejši razvoj pomeni, da je naložba v umetno inteligenco uspešna? Povezava med hitrejšim razvojem in vrednostjo za stranke je ostajala nejasna. »Skoraj samoumevno je, da lahko umetna inteligenca pospeši razvoj in posodabljanje sistemov,« pravi Tokitake. »V resnici želimo razumeti, ali ta hitrejši razvoj dejansko prinaša vrednost za stranke.«

To vprašanje je podjetje spodbudilo k razvoju lastnega kazalnika, s katerim je vrednotenje naložb v umetno inteligenco preusmerilo s hitrosti razvoja in obsega uporabe na vrednost za stranke.

Tokitake pojasnjuje: »Pri uporabi umetne inteligence lahko spremljamo stroške posameznih nalog, skupni strošek zaključene celote – izdaje funkcije – pa pogosto ostaja neznan. Zato smo merjenje zasnovali tako, da vsako izdajo funkcije obravnavamo kot eno enoto. Vrednost, ki jo izdaja prinaša strankam, povezujemo z dejanskimi stroški umetne inteligence, vloženimi vanjo, da bi jasno in natančno prikazali donosnost naložbe.«

Podjetje trenutno vzpostavlja podatkovni cevovod za izračun tega kazalnika. Ko bo dokončan, bo omogočil prikaz dejanske donosnosti naložbe z vidika vrednosti za stranke. LegalOn Technologies tako presega obvladovanje stroškov umetne inteligence in naložbe v tehnologijo neposredno povezuje s poslovno vrednostjo.

Naslednji cilj je znanje posameznih inženirjev o umetni inteligenci pretvoriti v zmožnost celotne organizacije. Podjetje namerava najprej vzpostaviti zbirko znanja za zbiranje in deljenje praktičnih izkušenj. V njej bo zbiralo znanje, denimo o najboljših kombinacijah modelov za načrtovanje, implementacijo in pregled, ter uspehe posameznikov hitro pretvarjalo v najboljše prakse za celotno podjetje.

Te spremembe, ki izhajajo iz praktičnih izkušenj ekip, vplivajo tudi na organizacijo in zaposlovanje. Večja produktivnost zaradi umetne inteligence podjetje spodbuja k temeljitemu premisleku o delitvi dela med ljudi in umetno inteligenco ter o kadrovskih načrtih. Ob razvoju naložbene strategije in organizacijske strukture je pri zaposlovanju že začelo poudarjati znanje s področja umetne inteligence.

Da bi uvedba umetne inteligence postala trajna konkurenčna prednost, je treba nenehno izpopolnjevati ravnovesje med nadzorom in svobodo delovanja ekip. AID CoE in varnostna ekipa skupaj z različnih vidikov optimizirata učinkovitost, stroške in tveganja ter gradita prilagodljiv okvir, ki podpira preizkušanje po vsej organizaciji.