LegalOn reduz custos do Codex à metade sem perder agilidade

A LegalOn Technologies oferece IA profissional em todo o mundo, usando a tecnologia para apoiar o trabalho jurídico e outras funções essenciais dos negócios. Ao combinar conhecimento especializado com IA, permite que as pessoas se concentrem em análises e decisões complexas. Seu objetivo é uma gestão orientada por IA que melhore a qualidade e a velocidade das decisões de negócio.

Essa abordagem vai além dos produtos: busca tornar a própria organização nativa em IA. A empresa integrou o Codex ao processo de desenvolvimento e ampliou sua adoção em toda a organização por meio do uso cotidiano.

À medida que a adoção se consolidou, surgiu um novo desafio: controlar os custos. O uso ilimitado de modelos de alto desempenho poderia elevar os gastos, enquanto restrições generalizadas poderiam comprometer os ganhos de produtividade proporcionados pela IA.

Como reduzir custos sem desacelerar o desenvolvimento? A LegalOn Technologies enfrentou esse desafio escolhendo entre GPT‑6 (Astra, Luna) e GPT‑6.1 Sol conforme a complexidade da tarefa e a etapa de desenvolvimento, além de adequar os orçamentos ao estágio de crescimento de cada negócio. A empresa reduziu os custos à metade sem perder velocidade no desenvolvimento.

Inicialmente, a empresa deu aos desenvolvedores acesso ilimitado ao seu principal modelo, o GPT‑5.5 no modo Fast. Eles ampliaram o uso para as etapas de projeto, implementação e atividades cotidianas, aprendendo, por meio da experimentação, a melhor forma de dividir responsabilidades entre pessoas e IA.

No entanto, continuar usando modelos de alto desempenho sem limites inevitavelmente ultrapassaria o orçamento anual. O Centro de Excelência em Desenvolvimento com IA (AID CoE) da empresa começou a elaborar diretrizes para a seleção de modelos. O AID CoE testava e monitorava os modelos, enquanto os gestores compartilhavam os resultados com suas equipes. Isso permitiu que cada profissional de engenharia escolhesse, de forma autônoma, o modelo mais adequado para cada tarefa.

Com as novas diretrizes, a empresa deixou de usar o modelo mais capaz em todas as tarefas e passou a escolher o mais adequado para cada uma. As equipes começavam com um modelo leve e recorriam a modelos mais capazes conforme aumentava a complexidade da tarefa.

Para apoiar a governança, a empresa também implementou controles no sistema por meio das configurações de administrador, com limites mensais de uso por departamento e por pessoa. O AID CoE monitora o uso e ajusta os limites conforme as necessidades do negócio.

Testes internos realizados sob esses controles ajudaram a tornar os critérios de seleção mais específicos. O GPT‑6 Luna, o modelo mais leve, cuida da implementação de código com requisitos claros; o GPT‑6.1 Sol apoia tarefas comuns de projeto, análise de dados e preparação de documentos; e o GPT‑6 Astra, o modelo mais capaz, lida com decisões complexas, incluindo o projeto de arquitetura. A adequação dos modelos às tarefas tornou-se, aos poucos, uma prática compartilhada entre as equipes.

Além de selecionar os modelos, a empresa passou a restringir o modo Fast por padrão, permitindo solicitações individuais apenas quando necessário. Embora a mudança tenha gerado preocupações com a velocidade de desenvolvimento, as equipes adotaram abordagens como a execução de tarefas em paralelo para manter o desempenho e garantir uma transição tranquila.

A empresa também estabeleceu tetos orçamentários para gastos com IA por departamento, grupo e pessoa. A área consolidada de negócios da LegalOn recebeu a meta de aumentar a eficiência de custos em até cerca de 20%, enquanto novos negócios em fase de lançamento receberam orçamentos generosos para incentivar o uso ativo de IA.

Yuta Tokitake, gerente sênior de engenharia da LegalOn Technologies, explica que os novos negócios priorizaram a agilidade das operações em vez da eficiência de custos. O objetivo era usar IA amplamente para aumentar as entregas e, assim, impulsionar o crescimento dos negócios.

Em conjunto, a seleção de modelos, as restrições de recursos e os orçamentos adaptados a cada negócio reduziram os custos diários estimados em aproximadamente 65%. Essa abordagem manteve o orçamento geral sob controle e direcionou recursos aos negócios que a empresa queria expandir.

A otimização de modelos e a alocação estratégica de recursos trouxeram os seguintes resultados:

• Substituição do uso do modelo mais capaz em todas as tarefas pela escolha entre GPT‑6 Astra, GPT‑6.1 Sol e GPT‑6 Luna conforme a complexidade da tarefa e a etapa de desenvolvimento.

• Manutenção do desempenho de desenvolvimento após a restrição do modo Fast por padrão, com apoio de práticas das equipes como a execução de tarefas em paralelo.

• Tetos orçamentários que combinaram um ganho de eficiência de aproximadamente 20% nos negócios consolidados com investimento ativo em novos negócios.

• Redução de 65% nos custos diários estimados em comparação com o GPT‑5.5, graças à escolha entre os modelos GPT‑6 e 6.1.

Ao otimizar os modelos, a empresa reduziu custos sem sacrificar a velocidade ou a qualidade do desenvolvimento. As equipes também observam que a IA vem encurtando continuamente o ciclo entre desenvolvimento e lançamento.

Mas a empresa está olhando além. Desenvolver mais rápido, por si só, torna o investimento em IA um sucesso? A relação entre um desenvolvimento mais rápido e o valor gerado para o cliente ainda não estava clara. "É praticamente um consenso que a IA pode acelerar o desenvolvimento e a atualização de sistemas", afirma Tokitake. "O que realmente queremos entender é se esse desenvolvimento mais rápido de fato se traduz em valor para os clientes."

Essa pergunta levou a empresa a criar sua própria métrica, mudando a base de avaliação do investimento em IA: em vez da velocidade de desenvolvimento e do volume de uso, o foco passou a ser o valor para o cliente.

Tokitake explica: "Ao usar IA, conseguimos acompanhar o custo de cada tarefa, mas o custo total de uma entrega completa — o lançamento de uma funcionalidade — muitas vezes continua sendo uma caixa-preta. Por isso, estruturamos a medição considerando cada lançamento de funcionalidade como uma unidade. Ao relacionar o valor que esse lançamento entrega ao cliente aos custos reais de IA investidos nele, buscamos tornar o retorno sobre o investimento visível e mensurá-lo com precisão."

A empresa está construindo o pipeline para calcular essa métrica. Quando estiver pronto, ele tornará visível o ROI real em termos de valor para o cliente. A LegalOn Technologies está indo além da gestão de custos de IA para conectar diretamente o investimento em tecnologia ao valor para o negócio.

O próximo objetivo é transformar o conhecimento individual dos profissionais de engenharia sobre IA em uma competência de toda a organização. Como primeiro passo, a empresa planeja criar uma base de conhecimento para reunir e compartilhar experiências práticas. Ela reunirá conhecimentos como as melhores combinações de modelos para projeto, implementação e revisão, transformando rapidamente experiências individuais bem-sucedidas em boas práticas para toda a empresa.

Essas mudanças, impulsionadas pela experiência prática das equipes, também estão moldando a organização e as contratações. Os ganhos de produtividade com IA estão levando a empresa a repensar profundamente a divisão do trabalho entre pessoas e IA, bem como o planejamento de pessoal. A empresa já começou a valorizar competências em IA nas contratações, à medida que sua estratégia de investimento e sua estrutura organizacional evoluem.

Transformar a adoção de IA em uma vantagem competitiva duradoura exige aprimorar continuamente o equilíbrio entre governança e liberdade de ação das equipes. O AID CoE e a equipe de segurança trabalham juntos para otimizar desempenho, custo e risco sob diferentes perspectivas, construindo uma estrutura flexível que apoia a experimentação em toda a organização.