LegalOn reduce a la mitad el coste de Codex sin perder velocidad

LegalOn Technologies ofrece IA profesional en todo el mundo para facilitar el trabajo jurídico y otras funciones empresariales clave. Al combinar conocimientos especializados con IA, permite que las personas se centren en valoraciones y decisiones complejas. Su objetivo es lograr una gestión basada en IA que mejore la calidad y la rapidez de las decisiones empresariales.

Este enfoque va más allá de sus productos: busca que la IA forme parte de la propia esencia de la organización. La empresa integró Codex en su proceso de desarrollo y extendió su adopción a toda la organización mediante el uso cotidiano.

A medida que se consolidaba su adopción, surgió un nuevo reto: controlar los costes. El uso ilimitado de modelos de alto rendimiento podía disparar el gasto, pero las restricciones generales podían mermar las mejoras de productividad logradas con la IA.

¿Cómo reducir los costes sin ralentizar el desarrollo? LegalOn Technologies abordó este reto eligiendo entre GPT‑6 (Astra, Luna) y GPT‑6.1 Sol según la complejidad de la tarea y la fase de desarrollo, y ajustando los presupuestos a la etapa de crecimiento de cada negocio. La empresa redujo los costes a la mitad sin perder velocidad de desarrollo.

Al principio, la empresa dio a los desarrolladores acceso ilimitado a su modelo principal, GPT‑5.5 en Modo rápido. Estos ampliaron su uso al diseño, la implementación y el trabajo diario, y aprendieron mediante la experimentación cómo repartir mejor las responsabilidades entre las personas y la IA.

Sin embargo, seguir usando modelos de alto rendimiento sin límites acabaría inevitablemente por superar el presupuesto anual. El Centro de Excelencia en Desarrollo con IA de la empresa (AID CoE) empezó a elaborar directrices para la selección de modelos. AID CoE probaba los modelos y supervisaba su funcionamiento, mientras los responsables compartían sus conclusiones con los equipos. Así, cada ingeniero podía elegir por su cuenta el modelo más adecuado para cada tarea.

Con las nuevas directrices, la empresa pasó de usar el modelo más potente para todo a elegir el más adecuado para cada tarea. Los equipos empezaban con un modelo ligero y recurrían a otros más potentes a medida que aumentaba la complejidad de la tarea.

Para reforzar la gobernanza, la empresa también incorporó controles del sistema mediante los ajustes de administrador, con límites de uso mensuales por departamento y por persona. AID CoE supervisa el uso y ajusta los límites según las necesidades del negocio.

Las pruebas internas realizadas con estos controles ayudaron a concretar los criterios de selección. GPT‑6 Luna, el modelo más ligero, se encarga de implementar código con requisitos claros; GPT‑6.1 Sol ayuda con el diseño habitual, el análisis de datos y la preparación de documentos; y GPT‑6 Astra, el más potente, aborda tareas que exigen un criterio avanzado, como el diseño de arquitectura. Elegir los modelos según las tareas se convirtió poco a poco en una práctica común entre los equipos.

Además de seleccionar los modelos, la empresa empezó a restringir el Modo rápido por defecto y a autorizar solicitudes individuales solo cuando era necesario. Aunque el cambio suscitó dudas sobre la velocidad de desarrollo, los equipos recurrieron a prácticas como ejecutar tareas en paralelo para mantener el rendimiento y facilitar la transición.

También estableció topes presupuestarios para el gasto en IA por departamento, grupo y persona. Al negocio consolidado de LegalOn se le pidió mejorar la eficiencia de costes hasta aproximadamente un 20 %, mientras que los nuevos negocios en fase de lanzamiento recibieron presupuestos generosos para fomentar el uso activo de la IA.

Yuta Tokitake, responsable sénior de ingeniería de LegalOn Technologies, explica que los nuevos negocios priorizaron la agilidad empresarial frente a la eficiencia de costes. El objetivo era usar la IA de forma intensiva para aumentar la producción y, en última instancia, impulsar el crecimiento del negocio.

En conjunto, la selección de modelos, las restricciones de funciones y los presupuestos adaptados a cada negocio redujeron los costes diarios estimados en aproximadamente un 65 %. Este enfoque mantuvo el presupuesto global bajo control y dirigió los recursos hacia los negocios que la empresa quería hacer crecer.

La optimización de modelos y la asignación estratégica de recursos permitieron obtener los siguientes resultados:

• Pasar de usar el modelo más potente para todo a elegir GPT‑6 Astra, GPT‑6.1 Sol o GPT‑6 Luna según la complejidad de la tarea y la fase de desarrollo.

• Mantener el rendimiento del desarrollo tras restringir el Modo rápido por defecto, gracias a prácticas de equipo como la ejecución de tareas en paralelo.

• Establecer topes presupuestarios que combinaron una mejora de eficiencia de aproximadamente el 20 % en los negocios consolidados con una inversión activa en los nuevos.

• Reducir un 65 % los costes diarios estimados respecto a GPT‑5.5 al elegir entre los modelos GPT‑6 y 6.1.

Al optimizar los modelos, la empresa redujo los costes sin sacrificar la velocidad ni la calidad del desarrollo. Los equipos también observan que la IA acorta de forma constante el ciclo entre el desarrollo y el lanzamiento.

Pero la empresa mira más allá. ¿Basta con acelerar el desarrollo para considerar un éxito la inversión en IA? La relación entre un desarrollo más rápido y el valor para el cliente seguía sin estar clara. «Ya casi se da por hecho que la IA puede acelerar el desarrollo y la actualización de sistemas», afirma Tokitake. «Lo que realmente queremos entender es si esa mayor velocidad de desarrollo se traduce en valor para los clientes».

Esta pregunta llevó a la empresa a crear su propia métrica y a dejar de evaluar la inversión en IA por la velocidad de desarrollo y el volumen de uso para centrarse en el valor para el cliente.

Tokitake explica: «Al usar IA, podemos seguir el coste de cada tarea, pero el coste total de un trabajo completo —el lanzamiento de una función— suele seguir siendo una caja negra. Por eso diseñamos la medición tomando cada lanzamiento de una función como una unidad. Al vincular el valor que ese lanzamiento aporta al cliente con los costes reales de IA invertidos en él, buscamos hacer visible el retorno de la inversión y medirlo con precisión».

La empresa está creando el flujo de procesamiento de datos para calcular esta métrica. Una vez completado, permitirá visualizar el ROI real en términos de valor para el cliente. LegalOn Technologies está avanzando más allá de la gestión de costes de IA para conectar directamente la inversión tecnológica con el valor empresarial.

El siguiente objetivo es convertir los conocimientos prácticos de IA de cada ingeniero en una capacidad de toda la organización. Como primer paso, la empresa prevé crear una base de conocimientos para recopilar y compartir experiencias prácticas. Recogerá conocimientos como las mejores combinaciones de modelos para diseño, implementación y revisión, y convertirá rápidamente los éxitos individuales en buenas prácticas para toda la empresa.

Estos cambios, impulsados por la experiencia práctica de los equipos, también están dando forma a la organización y la contratación. Las mejoras de productividad gracias a la IA están llevando a la empresa a replantear a fondo el reparto del trabajo entre personas e IA, así como sus planes de plantilla. Ya ha empezado a dar más peso a las competencias en IA al contratar, a medida que evolucionan su estrategia de inversión y su estructura organizativa.

Convertir la adopción de IA en una ventaja competitiva duradera exige ajustar continuamente el equilibrio entre la gobernanza y la libertad de actuación de los equipos. AID CoE y el equipo de seguridad colaboran para optimizar el rendimiento, los costes y los riesgos desde distintas perspectivas, creando un marco flexible que favorece la experimentación en toda la organización.