LegalOn înjumătățește costurile Codex fără a încetini dezvoltarea

LegalOn Technologies oferă la nivel global soluții de IA pentru profesioniști, sprijinind activitatea juridică și alte funcții esențiale ale companiilor. Combinând expertiza de specialitate cu IA, le permite oamenilor să se concentreze pe evaluări și decizii complexe. Obiectivul său este un management bazat pe IA, care să îmbunătățească atât calitatea, cât și rapiditatea deciziilor de afaceri.

Această abordare nu se limitează la produse: compania urmărește să integreze IA în însăși structura organizației. Compania a integrat Codex în procesul de dezvoltare și a extins adoptarea sa în întreaga organizație prin utilizarea de zi cu zi.

Pe măsură ce utilizarea s-a extins, a apărut o nouă provocare: controlul costurilor. Utilizarea nelimitată a modelelor performante putea crește cheltuielile, în timp ce restricțiile generalizate riscau să compromită sporul de productivitate adus de IA.

Cum putea compania să reducă costurile fără a încetini dezvoltarea? LegalOn Technologies a abordat această provocare alegând între GPT‑6 (Astra, Luna) și GPT‑6.1 Sol în funcție de complexitatea sarcinii și etapa de dezvoltare și adaptând bugetele la stadiul de creștere al fiecărei linii de afaceri. Compania a înjumătățit costurile, menținând ritmul dezvoltării.

Inițial, compania le-a oferit dezvoltatorilor acces nelimitat la modelul său principal, GPT‑5.5, în mod rapid. Aceștia i-au extins utilizarea la proiectare, implementare și activități curente, descoperind prin experimente cum să împartă cât mai bine responsabilitățile între oameni și IA.

Totuși, utilizarea în continuare a modelelor performante fără limite ar fi dus inevitabil la depășirea bugetului anual. Centrul de excelență pentru dezvoltare asistată de IA al companiei (AID CoE) a început să elaboreze recomandări pentru alegerea modelelor. AID CoE a testat și monitorizat modelele, iar managerii au transmis echipelor concluziile centrului. Astfel, fiecare inginer a putut alege independent modelul cel mai potrivit pentru fiecare sarcină.

Noile recomandări au determinat compania să renunțe la utilizarea celui mai performant model pentru orice sarcină și să aleagă modelul potrivit pentru fiecare activitate. Echipele începeau cu un model mai simplu și treceau la modele mai performante pe măsură ce sarcinile deveneau mai complexe.

Pentru a susține guvernanța, compania a introdus și mecanisme de control prin setările de administrare, cu limite lunare de utilizare pentru departamente și persoane. AID CoE monitorizează utilizarea și ajustează limitele în funcție de nevoile companiei.

Testele interne efectuate în aceste condiții au ajutat la definirea mai precisă a criteriilor de selecție. GPT‑6 Luna, modelul cel mai simplu, se ocupă de implementarea codului pe baza unor cerințe clare; GPT‑6.1 Sol sprijină proiectarea standard, analiza datelor și pregătirea documentelor; iar GPT‑6 Astra, modelul cel mai performant, gestionează sarcini care necesită raționamente avansate, inclusiv proiectarea arhitecturii. Alegerea modelelor în funcție de sarcini a devenit treptat o practică comună tuturor echipelor.

Pe lângă selectarea modelelor, compania a restricționat implicit modul rapid, permițând utilizarea acestuia la cerere, doar când era necesar. Deși schimbarea a stârnit îngrijorări privind ritmul dezvoltării, echipele au recurs la metode precum executarea sarcinilor în paralel pentru a menține performanța și a asigura o tranziție fără probleme.

Compania a introdus și plafoane bugetare pentru cheltuielile cu IA la nivel de departament, grup și persoană. Liniei de afaceri mature LegalOn i s-a cerut să îmbunătățească eficiența costurilor cu până la aproximativ 20%, în timp ce noile linii de afaceri, aflate în faza de lansare, au primit bugete generoase pentru a încuraja utilizarea activă a IA.

Yuta Tokitake, manager senior de inginerie la LegalOn Technologies, explică faptul că noile linii de afaceri au acordat prioritate ritmului de creștere, nu eficienței costurilor. Scopul era utilizarea pe scară largă a IA pentru a crește volumul de rezultate și, în cele din urmă, a stimula creșterea afacerii.

Împreună, selectarea modelelor, restricțiile asupra funcționalităților și bugetele adaptate fiecărei linii de afaceri au redus costurile zilnice estimate cu aproximativ 65%. Această abordare a ținut bugetul total sub control, direcționând totodată resursele către liniile de afaceri pe care compania dorea să le dezvolte.

Optimizarea modelelor și alocarea strategică a resurselor au adus următoarele rezultate:

• Trecerea de la utilizarea celui mai performant model pentru orice sarcină la alegerea între GPT‑6 Astra, GPT‑6.1 Sol și GPT‑6 Luna în funcție de complexitatea sarcinii și etapa de dezvoltare.

• Menținerea performanței în dezvoltare după restricționarea implicită a modului rapid, susținută de practici ale echipelor precum executarea sarcinilor în paralel.

• Plafoane bugetare care au combinat o creștere a eficienței de aproximativ 20% în liniile de afaceri mature cu investiții active în cele noi.

• Reducerea cu 65% a costurilor zilnice estimate față de GPT‑5.5, prin alegerea între modelele GPT‑6 și 6.1.

Prin optimizarea modelelor, compania a redus costurile fără a sacrifica ritmul sau calitatea dezvoltării. Echipele observă, de asemenea, că IA scurtează constant ciclul de la dezvoltare la lansare.

Dar compania privește mai departe. Este suficient ca dezvoltarea să fie mai rapidă pentru ca investiția în IA să fie un succes? Legătura dintre dezvoltarea mai rapidă și valoarea adusă clienților rămânea neclară. „Este aproape de la sine înțeles că IA poate accelera dezvoltarea și actualizarea sistemelor”, spune Tokitake. „Ceea ce vrem cu adevărat să înțelegem este dacă această dezvoltare mai rapidă se traduce efectiv în valoare pentru clienți.”

Această întrebare a determinat compania să creeze propriul indicator, evaluând investiția în IA prin prisma valorii aduse clienților, nu a ritmului de dezvoltare și a volumului de utilizare.

Tokitake explică: „Când folosim IA, putem urmări costul fiecărei sarcini, dar costul total al unei lucrări complete — lansarea unei funcționalități — rămâne adesea necunoscut. De aceea, am conceput măsurarea luând fiecare lansare de funcționalitate drept o unitate. Corelând valoarea pe care acea lansare o aduce clienților cu costurile efective ale IA utilizate, ne propunem să evidențiem și să măsurăm exact rentabilitatea investiției.”

Compania construiește în prezent fluxul de prelucrare a datelor pentru calcularea acestui indicator. Odată finalizat, acesta va evidenția rentabilitatea reală a investiției din perspectiva valorii aduse clienților. LegalOn Technologies trece de la simpla gestionare a costurilor IA la corelarea directă a investițiilor în tehnologie cu valoarea pentru afacere.

Următorul obiectiv este transformarea cunoștințelor practice ale fiecărui inginer despre IA într-o competență a întregii organizații. Ca prim pas, compania intenționează să creeze o bază de cunoștințe pentru a reuni și a împărtăși experiența practică. Aceasta va reuni informații precum cele mai bune combinații de modele pentru proiectare, implementare și revizuire și va transforma rapid succesele individuale în bune practici pentru întreaga companie.

Aceste schimbări, pornite din experiența practică a echipelor, influențează și organizarea companiei și recrutarea. Creșterea productivității datorată IA determină compania să regândească fundamental împărțirea muncii între oameni și IA, precum și planificarea personalului. Compania a început deja să pună accent pe competențele în IA la recrutare, pe măsură ce strategia de investiții și structura organizațională evoluează.

Transformarea adoptării IA într-un avantaj competitiv durabil necesită ajustarea continuă a echilibrului dintre guvernanță și libertatea de acțiune a echipelor. AID CoE și echipa de securitate colaborează pentru a optimiza performanța, costurile și riscurile din mai multe perspective, construind un cadru flexibil care susține experimentarea în întreaga organizație.