LegalOn reduce en 50 % los costos de Codex sin perder velocidad

LegalOn Technologies ofrece IA profesional a nivel mundial para apoyar el trabajo jurídico y otras funciones empresariales clave. Al combinar conocimientos especializados con IA, permite que las personas se concentren en evaluaciones y decisiones complejas. Su objetivo es una gestión impulsada por IA que mejore la calidad y la rapidez de las decisiones empresariales.

Este enfoque va más allá de sus productos: busca que la propia organización sea nativa de IA. La empresa integró Codex en su proceso de desarrollo y extendió su adopción a toda la organización mediante el uso cotidiano.

A medida que se afianzó la adopción, surgió un nuevo desafío: controlar los costos. El uso ilimitado de modelos de alto rendimiento podía disparar el gasto, pero imponer restricciones generales podía socavar las mejoras de productividad logradas con la IA.

¿Cómo reducir los costos sin frenar el desarrollo? LegalOn Technologies abordó este desafío eligiendo entre GPT‑6 (Astra, Luna) y GPT‑6.1 Sol según la complejidad de la tarea y la etapa de desarrollo, y ajustando los presupuestos a la etapa de crecimiento de cada negocio. La empresa redujo los costos a la mitad sin perder velocidad de desarrollo.

Al principio, la empresa dio a los desarrolladores acceso ilimitado a su modelo principal, GPT‑5.5 en Modo rápido. Extendieron su uso al diseño, la implementación y el trabajo cotidiano, y aprendieron mediante la experimentación a distribuir mejor las responsabilidades entre las personas y la IA.

Sin embargo, seguir usando modelos de alto rendimiento sin límites acabaría inevitablemente por exceder el presupuesto anual. El Centro de Excelencia en Desarrollo con IA de la empresa (AID CoE) comenzó a elaborar pautas para la selección de modelos. El AID CoE probó y monitoreó los modelos, mientras los gerentes compartían los hallazgos con sus equipos. Esto permitió que cada ingeniero eligiera de forma autónoma el modelo más adecuado para cada tarea.

Con las nuevas pautas, la empresa pasó de usar el modelo más capaz para todas las tareas a elegir el más adecuado para cada una. Los equipos comenzaban con un modelo ligero y pasaban a modelos más capaces a medida que aumentaba la complejidad de la tarea.

Para reforzar la gobernanza, la empresa también incorporó controles del sistema mediante las opciones de configuración del administrador, con límites de uso mensuales por departamento y por persona. El AID CoE monitorea el uso y ajusta los límites según las necesidades del negocio.

Las pruebas internas realizadas con estos controles ayudaron a precisar los criterios de selección. GPT‑6 Luna, el modelo más ligero, se encarga de implementar código con requisitos claros; GPT‑6.1 Sol apoya el diseño estándar, el análisis de datos y la preparación de documentos; y GPT‑6 Astra, el modelo más capaz, aborda tareas que exigen un criterio avanzado, como el diseño de arquitectura. Elegir modelos según la tarea se convirtió gradualmente en una práctica común entre los equipos.

Además de seleccionar los modelos, la empresa comenzó a restringir el Modo rápido de forma predeterminada y a autorizar solicitudes individuales solo cuando era necesario. Aunque el cambio generó inquietudes sobre la velocidad de desarrollo, los equipos recurrieron a estrategias como ejecutar tareas en paralelo para mantener el rendimiento y lograr una transición fluida.

También estableció topes presupuestarios para el gasto en IA por departamento, grupo y persona. Al negocio consolidado de LegalOn se le pidió mejorar la eficiencia de costos hasta aproximadamente un 20 %, mientras que los nuevos negocios en fase de lanzamiento recibieron presupuestos amplios para fomentar el uso activo de la IA.

Yuta Tokitake, gerente sénior de Ingeniería de LegalOn Technologies, explica que los nuevos negocios priorizaron la rapidez de avance sobre la eficiencia de costos. El objetivo era usar ampliamente la IA para aumentar la producción y, en última instancia, impulsar el crecimiento del negocio.

En conjunto, la selección de modelos, las restricciones de funciones y los presupuestos adaptados a cada negocio redujeron los costos diarios estimados aproximadamente un 65 %. Este enfoque mantuvo bajo control el presupuesto general y dirigió los recursos hacia los negocios que la empresa quería hacer crecer.

La optimización de modelos y la asignación estratégica de recursos dieron los siguientes resultados:

• Se pasó de usar el modelo más capaz para todas las tareas a elegir GPT‑6 Astra, GPT‑6.1 Sol o GPT‑6 Luna según la complejidad de la tarea y la etapa de desarrollo.

• Se mantuvo el rendimiento del desarrollo tras restringir el Modo rápido de forma predeterminada, gracias a prácticas de equipo como la ejecución de tareas en paralelo.

• Los topes presupuestarios combinaron una mejora de eficiencia de aproximadamente el 20 % en negocios consolidados con una inversión activa en nuevos negocios.

• Se redujeron un 65 % los costos diarios estimados frente a GPT‑5.5 al elegir entre los modelos GPT‑6 y 6.1.

Al optimizar los modelos, la empresa redujo los costos sin sacrificar la velocidad ni la calidad del desarrollo. Los equipos también observan que la IA acorta de forma sostenida el ciclo entre el desarrollo y el lanzamiento.

Pero la empresa mira más allá. ¿Basta con acelerar el desarrollo para que la inversión en IA sea un éxito? La relación entre un desarrollo más rápido y el valor para el cliente aún no estaba clara. "Prácticamente se da por hecho que la IA puede acelerar el desarrollo y la actualización de sistemas", afirma Tokitake. "Lo que realmente queremos entender es si esa mayor velocidad de desarrollo se traduce en valor para los clientes".

Esta pregunta llevó a la empresa a crear su propia métrica y a cambiar el criterio para evaluar la inversión en IA: de la velocidad de desarrollo y el volumen de uso al valor para el cliente.

Tokitake explica: "Al usar IA, podemos dar seguimiento al costo de cada tarea, pero el costo total de un trabajo completo, el lanzamiento de una función, suele ser una caja negra. Por eso, diseñamos la medición tomando el lanzamiento de cada función como una sola unidad. Al vincular el valor que ese lanzamiento aporta al cliente con los costos reales de IA invertidos en él, buscamos mostrar el retorno de la inversión con claridad y precisión".

La empresa está desarrollando el flujo de procesamiento de datos para calcular esta métrica. Una vez completado, permitirá visualizar el retorno real de la inversión en términos de valor para el cliente. LegalOn Technologies está avanzando más allá de la gestión de costos de IA para conectar directamente la inversión tecnológica con el valor para el negocio.

El siguiente objetivo es convertir los conocimientos prácticos de IA de cada ingeniero en una capacidad de toda la organización. Como primer paso, la empresa planea crear una base de conocimientos para recopilar y compartir experiencias prácticas. Recopilará conocimientos como las mejores combinaciones de modelos para el diseño, la implementación y la revisión, y convertirá rápidamente los éxitos individuales en buenas prácticas para toda la empresa.

Estos cambios, impulsados por la experiencia práctica de los equipos, también están transformando la organización y la contratación. Las mejoras de productividad logradas con la IA están llevando a la empresa a replantear de raíz la distribución del trabajo entre las personas y la IA, así como sus planes de personal. Ya ha comenzado a dar mayor peso a las habilidades en IA al contratar, a medida que evolucionan su estrategia de inversión y su estructura organizacional.

Convertir la adopción de IA en una ventaja competitiva duradera exige ajustar continuamente el equilibrio entre la gobernanza y la libertad de acción de los equipos. El AID CoE y el equipo de seguridad trabajan juntos para optimizar el rendimiento, el costo y el riesgo desde distintas perspectivas, y construir un marco flexible que apoye la experimentación en toda la organización.