LegalOn prepolovio troškove za Codex bez usporavanja razvoja

LegalOn Technologies širom svijeta nudi AI rješenja za profesionalce, koristeći umjetnu inteligenciju za podršku pravnim poslovima i drugim ključnim poslovnim funkcijama. Spajanjem stručnog znanja i umjetne inteligencije omogućava ljudima da se usmjere na složene procjene i odluke. Cilj kompanije je upravljanje zasnovano na umjetnoj inteligenciji koje poboljšava kvalitet i brzinu donošenja poslovnih odluka.

Ovaj pristup ne obuhvata samo proizvode već i preobrazbu same organizacije tako da umjetna inteligencija bude u temelju njenog rada. Kompanija je integrisala Codex u razvojni proces i kroz svakodnevni rad proširila njegovu primjenu u cijeloj organizaciji.

Kako je primjena rasla, pojavio se novi izazov: kontrola troškova. Neograničena upotreba modela visokih performansi mogla je povećati potrošnju, dok su opća ograničenja prijetila da umanje rast produktivnosti koji je omogućila umjetna inteligencija.

Kako smanjiti troškove bez usporavanja razvoja? LegalOn Technologies odgovorio je na ovaj izazov odabirom između modela GPT‑6 (Astra, Luna) i GPT‑6.1 Sol prema složenosti zadatka i fazi razvoja, uz usklađivanje budžeta s fazom rasta svakog poslovnog segmenta. Kompanija je prepolovila troškove uz zadržavanje brzine razvoja.

Kompanija je programerima u početku omogućila neograničen pristup svom glavnom modelu, GPT‑5.5, uz uključen Brzi mod. Proširili su njegovu upotrebu na projektovanje, implementaciju i svakodnevni rad, učeći kroz eksperimentisanje kako najbolje podijeliti odgovornosti između ljudi i umjetne inteligencije.

Međutim, nastavak neograničene upotrebe modela visokih performansi neizbježno bi doveo do prekoračenja godišnjeg budžeta. Kompanijski Centar izvrsnosti za razvoj uz pomoć umjetne inteligencije (AID CoE) počeo je izrađivati smjernice za odabir modela. AID CoE je testirao i pratio modele, a rukovodioci su njegove nalaze dijelili sa svojim timovima. To je omogućilo svakom inženjeru da samostalno odabere najprikladniji model za svaki zadatak.

Zahvaljujući novim smjernicama, kompanija je umjesto korištenja najsposobnijeg modela za svaki zadatak počela birati model koji najbolje odgovara poslu. Timovi su počinjali s manje zahtjevnim modelom i prelazili na sposobnije modele kako je složenost zadataka rasla.

Radi boljeg upravljanja, kompanija je kroz administratorske postavke uvela i sistemske kontrole s mjesečnim ograničenjima upotrebe za odjele i pojedince. AID CoE prati upotrebu i prilagođava ograničenja poslovnim potrebama.

Interno testiranje uz ove kontrole pomoglo je da se preciznije definišu kriteriji odabira. GPT‑6 Luna, najmanje zahtjevan model, služi za implementaciju koda s jasnim zahtjevima; GPT‑6.1 Sol podržava standardno projektovanje, analizu podataka i pripremu dokumenata; a GPT‑6 Astra, najsposobniji model, koristi se za složene procjene, uključujući projektovanje arhitekture. Usklađivanje modela sa zadacima postepeno je postalo zajednička praksa svih timova.

Uz odabir modela, kompanija je počela podrazumijevano ograničavati Brzi mod, odobravajući pojedinačne zahtjeve samo kada je to potrebno. Iako je promjena izazvala zabrinutost za brzinu razvoja, timovi su pristupima poput paralelnog izvršavanja zadataka zadržali učinak i osigurali nesmetan prelazak.

Uvedena su i budžetska ograničenja za potrošnju na umjetnu inteligenciju na nivou odjela, grupa i pojedinaca. Od razvijenog poslovnog segmenta LegalOn zatraženo je da poveća troškovnu efikasnost za do približno 20%, dok su novi segmenti u fazi pokretanja dobili izdašne budžete radi poticanja aktivne upotrebe umjetne inteligencije.

Yuta Tokitake, viši rukovodilac inženjerskog tima u kompaniji LegalOn Technologies, objašnjava da su novi poslovni segmenti davali prednost brzini poslovanja u odnosu na troškovnu efikasnost. Cilj je bio opsežnom upotrebom umjetne inteligencije povećati obim rada i u konačnici potaknuti rast poslovanja.

Odabir modela, ograničenja funkcija i budžeti prilagođeni svakom poslovnom segmentu zajedno su smanjili procijenjene dnevne troškove za približno 65%. Ovim pristupom ukupni budžet ostao je pod kontrolom, a resursi su usmjereni u segmente koje je kompanija željela razvijati.

Optimizacija modela i strateška raspodjela resursa donijele su sljedeće rezultate:

• Prelazak s korištenja najsposobnijeg modela za svaki zadatak na odabir modela GPT‑6 Astra, GPT‑6.1 Sol ili GPT‑6 Luna prema složenosti zadatka i fazi razvoja.

• Zadržan učinak u razvoju nakon uvođenja podrazumijevanih ograničenja za Brzi mod, uz timske prakse poput paralelnog izvršavanja zadataka.

• Budžetska ograničenja koja su spojila približno 20% veću efikasnost u razvijenim poslovnim segmentima s aktivnim ulaganjem u nove segmente.

• Smanjenje procijenjenih dnevnih troškova za 65% u odnosu na GPT‑5.5 odabirom između modela GPT‑6 i 6.1.

Optimizacijom modela kompanija je smanjila troškove bez gubitka brzine ili kvaliteta razvoja. Timovi primjećuju i da umjetna inteligencija postepeno skraćuje ciklus od razvoja do objave.

Ali kompanija gleda i dalje u budućnost. Da li je sam brži razvoj dovoljan da ulaganje u umjetnu inteligenciju bude uspješno? Veza između bržeg razvoja i vrijednosti za korisnike ostala je nejasna. „Gotovo se podrazumijeva da umjetna inteligencija može ubrzati razvoj i ažuriranje sistema“, kaže Tokitake. „Ono što zaista želimo razumjeti jeste da li taj brži razvoj zaista donosi vrijednost korisnicima.“

Ovo pitanje potaklo je kompaniju da razvije vlastiti pokazatelj i procjenu ulaganja u umjetnu inteligenciju zasnuje na vrijednosti za korisnike, umjesto na brzini razvoja i obimu upotrebe.

Tokitake objašnjava: „Kada koristimo umjetnu inteligenciju, možemo pratiti troškove pojedinačnih zadataka, ali ukupni trošak zaokružene cjeline posla — objave funkcije — često ostaje nepoznat. Zato smo mjerenje osmislili tako da svaka objava funkcije predstavlja jednu cjelinu. Povezivanjem vrijednosti koju ta objava donosi korisnicima sa stvarnim troškovima umjetne inteligencije uloženim u nju želimo povrat ulaganja učiniti vidljivim i precizno mjerljivim.“

Kompanija trenutno gradi sistem za obradu podataka potrebnih za izračun ovog pokazatelja. Kada bude dovršen, pokazat će stvarni povrat ulaganja kroz vrijednost za korisnike. LegalOn Technologies ide dalje od upravljanja troškovima umjetne inteligencije prema direktnom povezivanju ulaganja u tehnologiju s poslovnom vrijednošću.

Sljedeći cilj je pretvoriti znanje pojedinačnih inženjera o umjetnoj inteligenciji u sposobnost cijele organizacije. Kao prvi korak, kompanija planira izgraditi bazu znanja za prikupljanje i razmjenu praktičnih iskustava. U njoj će se bilježiti znanja poput najboljih kombinacija modela za projektovanje, implementaciju i pregled, a pojedinačni uspjesi brzo će se pretvarati u najbolje prakse za cijelu kompaniju.

Ove promjene, potaknute praktičnim iskustvom timova, oblikuju i organizaciju i zapošljavanje. Rast produktivnosti zahvaljujući umjetnoj inteligenciji potiče kompaniju da iz temelja preispita podjelu rada između ljudi i umjetne inteligencije, kao i kadrovske planove. Već je počela stavljati naglasak na vještine rada s umjetnom inteligencijom pri zapošljavanju, dok se njena strategija ulaganja i organizacijska struktura mijenjaju.

Da bi primjena umjetne inteligencije postala trajna konkurentska prednost, potrebno je stalno usavršavati ravnotežu između upravljanja i slobode djelovanja timova. AID CoE i sigurnosni tim zajedno rade na optimizaciji performansi, troškova i rizika iz više uglova, gradeći fleksibilan okvir koji podržava eksperimentisanje u cijeloj organizaciji.