LegalOn: Codex a meitat de cost sense frenar el desenvolupament

LegalOn Technologies ofereix IA professional arreu del món per donar suport a la feina jurídica i a altres funcions empresarials clau. Combinant coneixements especialitzats amb IA, permet que les persones se centrin en valoracions i decisions complexes. El seu objectiu és una gestió impulsada per la IA que millori la qualitat i la rapidesa de les decisions empresarials.

Aquest enfocament va més enllà dels productes: busca que la mateixa organització tingui la IA integrada des de la base. L'empresa va integrar Codex en el procés de desenvolupament i en va estendre l'adopció a tota l'organització a través de l'ús diari.

A mesura que se'n consolidava l'adopció, va sorgir un nou repte: controlar els costos. L'ús il·limitat de models d'alt rendiment podia disparar la despesa, però les restriccions generalitzades podien minvar els guanys de productivitat aconseguits amb la IA.

Com podia reduir els costos sense alentir el desenvolupament? LegalOn Technologies va afrontar aquest repte triant entre GPT‑6 (Astra, Luna) i GPT‑6.1 Sol segons la complexitat de la tasca i la fase de desenvolupament, i ajustant els pressupostos a l'etapa de creixement de cada negoci. L'empresa va reduir els costos a la meitat sense alentir el desenvolupament.

Inicialment, l'empresa va donar als desenvolupadors accés il·limitat al seu model principal, GPT‑5.5 en mode ràpid. En van ampliar l'ús al disseny, la implementació i la feina diària, i van aprendre, experimentant, quina era la millor manera de repartir les responsabilitats entre les persones i la IA.

Tanmateix, continuar fent servir models d'alt rendiment sense límits acabaria inevitablement superant el pressupost anual. El Centre d'Excel·lència en Desenvolupament amb IA de l'empresa (AID CoE) va començar a elaborar directrius per seleccionar els models. L'AID CoE provava els models i en feia el seguiment, mentre que els responsables compartien les conclusions amb els seus equips. Això va permetre que cada enginyer triés de manera autònoma el model més adequat per a cada tasca.

Amb les noves directrius, l'empresa va passar d'utilitzar el model més potent per a totes les tasques a triar el més adequat per a cada feina. Els equips començaven amb un model lleuger i passaven a models més potents a mesura que augmentava la complexitat de la tasca.

Per reforçar la governança, l'empresa també va introduir controls del sistema mitjançant la configuració d'administració, amb límits d'ús mensuals per a departaments i persones. L'AID CoE supervisa l'ús i ajusta els límits segons les necessitats del negoci.

Les proves internes amb aquests controls van ajudar a concretar els criteris de selecció. GPT‑6 Luna, el model més lleuger, s'encarrega de la implementació de codi amb requisits clars; GPT‑6.1 Sol dona suport al disseny estàndard, l'anàlisi de dades i l'elaboració de documents; i GPT‑6 Astra, el model més potent, s'ocupa de les tasques que requereixen un criteri avançat, com ara el disseny d'arquitectura. Triar el model segons la tasca es va anar convertint en una pràctica compartida entre els equips.

A més de seleccionar els models, l'empresa va començar a restringir el mode ràpid per defecte i a permetre'n les sol·licituds individuals només quan calia. Tot i que el canvi va generar preocupació pel ritme de desenvolupament, els equips van recórrer a pràctiques com l'execució de tasques en paral·lel per mantenir el rendiment i fer una transició fluida.

També va introduir límits pressupostaris per a la despesa en IA per departament, grup i persona. Es va demanar al negoci consolidat de LegalOn que millorés l'eficiència de costos fins a un 20% aproximadament, mentre que els nous negocis en fase de llançament van rebre pressupostos generosos per fomentar l'ús actiu de la IA.

Yuta Tokitake, responsable sènior d'enginyeria de LegalOn Technologies, explica que els nous negocis prioritzaven l'agilitat empresarial per davant de l'eficiència de costos. L'objectiu era fer un ús intensiu de la IA per augmentar la producció i, en última instància, impulsar el creixement del negoci.

En conjunt, la selecció de models, les restriccions de funcions i els pressupostos adaptats a cada negoci van reduir els costos diaris estimats aproximadament un 65%. Aquest enfocament va mantenir el pressupost global sota control i va dirigir els recursos cap als negocis que l'empresa volia fer créixer.

L'optimització dels models i l'assignació estratègica de recursos van donar els resultats següents:

• Es va passar d'utilitzar el model més potent per a totes les tasques a seleccionar GPT‑6 Astra, GPT‑6.1 Sol o GPT‑6 Luna segons la complexitat de la tasca i la fase de desenvolupament.

• Es va mantenir el rendiment del desenvolupament després de restringir el mode ràpid per defecte, gràcies a pràctiques d'equip com l'execució de tasques en paral·lel.

• Es van fixar límits pressupostaris que combinaven una millora de l'eficiència d'aproximadament el 20% en els negocis consolidats amb una inversió activa en els nous negocis.

• Es van reduir un 65% els costos diaris estimats respecte a GPT‑5.5, triant entre els models GPT‑6 i 6.1.

Amb l'optimització dels models, l'empresa va reduir els costos sense sacrificar el ritme ni la qualitat del desenvolupament. Els equips també constaten que la IA escurça progressivament el cicle entre el desenvolupament i el llançament.

Però l'empresa mira més enllà. N'hi ha prou d'accelerar el desenvolupament perquè la inversió en IA sigui un èxit? La relació entre un desenvolupament més ràpid i el valor per al client encara no era clara. "Gairebé es dona per fet que la IA pot accelerar el desenvolupament i l'actualització de sistemes", diu Tokitake. "El que realment volem entendre és si aquest desenvolupament més ràpid es tradueix de debò en valor per als clients."

Aquesta qüestió va portar l'empresa a crear un indicador propi i a canviar la base d'avaluació de la inversió en IA: del ritme de desenvolupament i el volum d'ús al valor per al client.

Tokitake explica: "Quan fem servir IA, podem fer el seguiment del cost de cada tasca, però el cost total d'una feina completa —el llançament d'una funció— sovint continua sent una caixa negra. Per això vam dissenyar el mesurament prenent el llançament de cada funció com una sola unitat. Vinculant el valor que aquest llançament aporta al client amb la despesa real en IA que s'hi ha destinat, volem fer visible i mesurar amb precisió el retorn de la inversió."

L'empresa està construint el flux de processament per calcular aquest indicador. Un cop completat, permetrà veure el retorn real de la inversió en termes de valor per al client. LegalOn Technologies està anant més enllà de la gestió dels costos de la IA per connectar directament la inversió tecnològica amb el valor empresarial.

El pròxim objectiu és convertir els coneixements pràctics d'IA de cada enginyer en una capacitat del conjunt de l'organització. Com a primer pas, l'empresa preveu crear una base de coneixement per recollir i compartir l'experiència pràctica. Hi recollirà coneixements com les millors combinacions de models per al disseny, la implementació i la revisió, i convertirà ràpidament els èxits individuals en bones pràctiques per a tota l'empresa.

Aquests canvis, impulsats per l'experiència pràctica dels equips, també estan transformant l'organització i la contractació. Els guanys de productivitat que aporta la IA estan portant l'empresa a replantejar a fons el repartiment de la feina entre les persones i la IA, així com la planificació de la plantilla. Ja ha començat a donar més pes a les competències en IA en la contractació, alhora que evolucionen l'estratègia d'inversió i l'estructura organitzativa.

Convertir l'adopció de la IA en un avantatge competitiu durador requereix ajustar contínuament l'equilibri entre la governança i la llibertat d'acció dels equips. L'AID CoE i l'equip de seguretat col·laboren per optimitzar el rendiment, el cost i el risc des de diverses perspectives, i estan creant un marc flexible que facilita l'experimentació a tota l'organització.