LegalOn dimezza i costi di Codex senza rallentare lo sviluppo

LegalOn Technologies offre soluzioni di IA professionale a livello globale, utilizzando l'IA a supporto del lavoro legale e di altre funzioni aziendali chiave. Combinando competenze di settore e IA, permette alle persone di concentrarsi su valutazioni e decisioni complesse. Il suo obiettivo è una gestione basata sull'IA che migliori la qualità e la rapidità delle decisioni aziendali.

Questo approccio va oltre i prodotti e punta a rendere l'IA parte integrante dell'organizzazione stessa. L'azienda ha integrato Codex nel processo di sviluppo e ne ha esteso l'adozione a tutta l'organizzazione attraverso l'uso quotidiano.

Con il consolidarsi dell'adozione, è emersa una nuova sfida: il controllo dei costi. L'uso illimitato di modelli ad alte prestazioni poteva far lievitare la spesa, mentre restrizioni generalizzate rischiavano di compromettere i guadagni di produttività ottenuti con l'IA.

Come ridurre i costi senza rallentare lo sviluppo? LegalOn Technologies ha affrontato questa sfida scegliendo tra GPT‑6 (Astra, Luna) e GPT‑6.1 Sol in base alla complessità del compito e alla fase di sviluppo, e adeguando i budget alla fase di crescita di ciascuna attività. L'azienda ha dimezzato i costi mantenendo la stessa velocità di sviluppo.

Inizialmente, l'azienda aveva dato agli sviluppatori accesso illimitato al suo modello principale, GPT‑5.5 in Modalità rapida. Gli sviluppatori ne hanno esteso l'uso alla progettazione, all'implementazione e al lavoro quotidiano, imparando attraverso la sperimentazione come ripartire al meglio le responsabilità tra persone e IA.

Continuare a usare modelli ad alte prestazioni senza limiti avrebbe però inevitabilmente portato a superare il budget annuale. Il centro di eccellenza aziendale per lo sviluppo basato sull'IA (AID CoE) ha iniziato a elaborare linee guida per la scelta dei modelli. L'AID CoE testava e monitorava i modelli, mentre i responsabili condividevano i risultati con i propri team. Questo ha permesso a ogni ingegnere di scegliere in autonomia il modello più adatto a ciascun compito.

Con le nuove linee guida, l'azienda è passata dall'uso del modello più capace per ogni compito alla scelta del modello più adatto al lavoro da svolgere. I team partivano da un modello leggero e passavano a modelli più capaci all'aumentare della complessità del compito.

A supporto della governance, l'azienda ha anche introdotto controlli di sistema tramite le impostazioni di amministrazione, con limiti di utilizzo mensili per reparti e singole persone. L'AID CoE monitora l'utilizzo e adegua i limiti alle esigenze aziendali.

I test interni condotti con questi controlli hanno aiutato a definire criteri di scelta più precisi. GPT‑6 Luna, il modello più leggero, si occupa dell'implementazione del codice quando i requisiti sono chiari; GPT‑6.1 Sol supporta la progettazione standard, l'analisi dei dati e la preparazione dei documenti; GPT‑6 Astra, il modello più capace, gestisce le attività che richiedono valutazioni complesse, inclusa la progettazione dell'architettura. Abbinare i modelli ai compiti è diventato gradualmente una prassi condivisa tra i team.

Oltre a introdurre criteri di scelta dei modelli, l'azienda ha iniziato a limitare la Modalità rapida per impostazione predefinita, consentendone l'attivazione su richiesta individuale solo quando necessario. Sebbene il cambiamento avesse suscitato timori per la velocità di sviluppo, i team hanno adottato approcci come l'esecuzione di compiti in parallelo per mantenere le prestazioni e garantire una transizione senza intoppi.

L'azienda ha anche introdotto tetti di spesa per l'IA a livello di reparto, gruppo e singola persona. All'attività consolidata di LegalOn è stato chiesto di migliorare l'efficienza dei costi fino a circa il 20%, mentre alle nuove attività in fase di lancio sono stati assegnati budget generosi per incoraggiare un uso attivo dell'IA.

Yuta Tokitake, Senior Engineering Manager di LegalOn Technologies, spiega che le nuove attività hanno dato priorità alla rapidità operativa rispetto all'efficienza dei costi. L'obiettivo era usare ampiamente l'IA per aumentare la produzione e, in ultima analisi, favorire la crescita aziendale.

Nel complesso, la scelta dei modelli, le restrizioni sulle funzionalità e i budget calibrati su ciascuna attività hanno ridotto i costi giornalieri stimati di circa il 65%. Questo approccio ha mantenuto sotto controllo il budget complessivo, indirizzando le risorse verso le attività che l'azienda voleva far crescere.

L'ottimizzazione dei modelli e l'allocazione strategica delle risorse hanno prodotto i seguenti risultati:

• Il passaggio dall'uso del modello più capace per ogni compito alla scelta di GPT‑6 Astra, GPT‑6.1 Sol o GPT‑6 Luna in base alla complessità del compito e alla fase di sviluppo.

• Il mantenimento delle prestazioni di sviluppo dopo aver limitato la Modalità rapida per impostazione predefinita, grazie a prassi dei team come l'esecuzione di compiti in parallelo.

• Tetti di spesa che hanno combinato un aumento dell'efficienza di circa il 20% nelle attività consolidate con investimenti attivi nelle nuove attività.

• Una riduzione del 65% dei costi giornalieri stimati rispetto a GPT‑5.5, grazie alla scelta tra i modelli GPT‑6 e 6.1.

Ottimizzando i modelli, l'azienda ha ridotto i costi senza sacrificare la velocità o la qualità dello sviluppo. I team stanno anche osservando una progressiva riduzione del ciclo dallo sviluppo al rilascio grazie all'IA.

Ma l'azienda guarda ancora più avanti. Basta uno sviluppo più rapido a rendere un investimento in IA un successo? Il legame tra maggiore velocità di sviluppo e valore per il cliente restava poco chiaro. “È quasi scontato che l'IA possa accelerare lo sviluppo e l'aggiornamento dei sistemi”, afferma Tokitake. “Quello che vogliamo davvero capire è se questo sviluppo più rapido si traduca effettivamente in valore per i clienti.”

Questa domanda ha spinto l'azienda a sviluppare una propria metrica, spostando la valutazione degli investimenti in IA dalla velocità di sviluppo e dal volume di utilizzo al valore per il cliente.

Tokitake spiega: “Quando usiamo l'IA, possiamo monitorare il costo dei singoli compiti, ma il costo totale di un lavoro completo, cioè il rilascio di una funzionalità, resta spesso una scatola nera. Abbiamo quindi impostato la misurazione considerando ogni rilascio di funzionalità come una singola unità. Collegando il valore che quel rilascio offre al cliente ai costi effettivi sostenuti per l'IA, puntiamo a rendere visibile e misurabile con precisione il ritorno sull'investimento.”

L'azienda sta attualmente realizzando la pipeline per calcolare questa metrica. Una volta completata, renderà visibile il ROI effettivo in termini di valore per il cliente. LegalOn Technologies sta andando oltre la gestione dei costi dell'IA per collegare direttamente gli investimenti tecnologici al valore aziendale.

Il prossimo obiettivo è trasformare le competenze di IA dei singoli ingegneri in una capacità diffusa in tutta l'organizzazione. Come primo passo, l'azienda prevede di creare una base di conoscenza per raccogliere e condividere l'esperienza pratica. Raccoglierà conoscenze come le migliori combinazioni di modelli per progettazione, implementazione e revisione, trasformando rapidamente i successi individuali in buone pratiche per tutta l'azienda.

Questi cambiamenti, guidati dall'esperienza pratica dei team, stanno influenzando anche l'organizzazione e le assunzioni. I guadagni di produttività ottenuti con l'IA stanno spingendo l'azienda a ripensare radicalmente la divisione del lavoro tra persone e IA, oltre alla pianificazione del personale. L'azienda ha già iniziato a dare maggiore rilievo alle competenze di IA nelle assunzioni, mentre evolvono la strategia di investimento e la struttura organizzativa.

Trasformare l'adozione dell'IA in un vantaggio competitivo duraturo richiede un continuo affinamento dell'equilibrio tra governance e libertà d'azione dei team. L'AID CoE e il team di sicurezza collaborano per ottimizzare prestazioni, costi e rischi da più prospettive, costruendo un quadro flessibile che favorisca la sperimentazione in tutta l'organizzazione.