LegalOn reduz custos do Codex a metade sem abrandar

A LegalOn Technologies disponibiliza IA profissional a nível mundial, apoiando o trabalho jurídico e outras funções empresariais essenciais. Ao combinar conhecimentos especializados com IA, permite que as pessoas se concentrem em análises e decisões complexas. O seu objetivo é uma gestão assente em IA que melhore a qualidade e a rapidez das decisões empresariais.

Esta abordagem vai além dos produtos e procura integrar a IA na própria essência da organização. A empresa integrou o Codex no processo de desenvolvimento e alargou a sua adoção a toda a organização através da utilização diária.

À medida que a adoção se consolidava, surgiu um novo desafio: o controlo de custos. A utilização ilimitada de modelos de alto desempenho podia aumentar as despesas, mas restrições generalizadas arriscavam comprometer os ganhos de produtividade proporcionados pela IA.

Como reduzir custos sem abrandar o desenvolvimento? A LegalOn Technologies respondeu a este desafio escolhendo entre o GPT‑6 (Astra, Luna) e o GPT‑6.1 Sol conforme a complexidade da tarefa e a fase de desenvolvimento, e adequando os orçamentos à fase de crescimento de cada negócio. A empresa reduziu os custos a metade sem abrandar o desenvolvimento.

Inicialmente, a empresa deu aos programadores acesso ilimitado ao seu modelo principal, o GPT‑5.5 em modo Fast. Estes alargaram a sua utilização à conceção, à implementação e ao trabalho diário, aprendendo através da experimentação a melhor forma de repartir responsabilidades entre pessoas e IA.

No entanto, continuar a utilizar modelos de alto desempenho sem limites levaria inevitavelmente a ultrapassar o orçamento anual. O Centro de Excelência em Desenvolvimento com IA (AID CoE) da empresa começou a elaborar orientações para a seleção de modelos. O AID CoE testava e monitorizava os modelos, enquanto os gestores partilhavam as conclusões com as suas equipas. Assim, cada engenheiro podia escolher de forma autónoma o modelo mais adequado a cada tarefa.

Com as novas orientações, a empresa deixou de usar o modelo mais avançado em todas as tarefas e passou a escolher o mais adequado a cada uma. As equipas começavam com um modelo leve e passavam a modelos mais avançados à medida que a complexidade das tarefas aumentava.

Para reforçar a governação, a empresa introduziu também controlos do sistema através das definições de administrador, com limites mensais de utilização por departamento e por pessoa. O AID CoE monitoriza a utilização e ajusta os limites em função das necessidades do negócio.

Os testes internos realizados com estes controlos ajudaram a tornar os critérios de seleção mais específicos. O GPT‑6 Luna, o modelo mais leve, trata da implementação de código com requisitos claros; o GPT‑6.1 Sol apoia a conceção corrente, a análise de dados e a preparação de documentos; e o GPT‑6 Astra, o modelo mais avançado, trata de decisões complexas, incluindo a conceção da arquitetura. Adequar os modelos às tarefas tornou-se, gradualmente, uma prática comum às equipas.

Além da seleção de modelos, a empresa passou a restringir o modo Fast por predefinição, autorizando pedidos individuais apenas quando necessário. Embora a mudança tenha suscitado receios quanto ao ritmo de desenvolvimento, as equipas recorreram a práticas como a execução de tarefas em paralelo para manter o desempenho e assegurar uma transição tranquila.

A empresa introduziu também limites orçamentais para as despesas com IA por departamento, grupo e pessoa. Ao negócio consolidado da LegalOn foi pedido um aumento da eficiência de custos até cerca de 20%, enquanto os novos negócios em fase de lançamento receberam orçamentos generosos para incentivar a utilização ativa de IA.

Yuta Tokitake, gestor sénior de engenharia na LegalOn Technologies, explica que os novos negócios deram prioridade à rapidez em vez da eficiência de custos. O objetivo era utilizar a IA de forma intensiva para aumentar a produção e, em última análise, impulsionar o crescimento do negócio.

Em conjunto, a seleção de modelos, as restrições de funcionalidades e os orçamentos adaptados a cada negócio reduziram os custos diários estimados em cerca de 65%. Esta abordagem manteve o orçamento global sob controlo, ao mesmo tempo que direcionava recursos para os negócios que a empresa queria fazer crescer.

A otimização dos modelos e a afetação estratégica de recursos permitiram alcançar os seguintes resultados:

• Em vez de usar o modelo mais avançado em todas as tarefas, passou-se a escolher entre o GPT‑6 Astra, o GPT‑6.1 Sol e o GPT‑6 Luna conforme a complexidade da tarefa e a fase de desenvolvimento.

• O desempenho no desenvolvimento manteve-se após a restrição do modo Fast por predefinição, graças a práticas das equipas como a execução de tarefas em paralelo.

• Os limites orçamentais combinaram um aumento de eficiência de cerca de 20% nos negócios consolidados com um investimento ativo em novos negócios.

• A escolha entre os modelos GPT‑6 e 6.1 reduziu os custos diários estimados em 65% face ao GPT‑5.5.

Ao otimizar os modelos, a empresa reduziu custos sem sacrificar o ritmo ou a qualidade do desenvolvimento. As equipas observam também que a IA está a encurtar progressivamente o ciclo entre o desenvolvimento e o lançamento.

Mas a empresa olha mais longe. Basta acelerar o desenvolvimento para que o investimento em IA seja um sucesso? A relação entre um desenvolvimento mais rápido e o valor para o cliente continuava por esclarecer. «É quase um dado adquirido que a IA pode acelerar o desenvolvimento e a atualização de sistemas», afirma Tokitake. «O que queremos realmente perceber é se essa maior rapidez se traduz de facto em valor para os clientes.»

Esta questão levou a empresa a criar uma métrica própria, passando a avaliar o investimento em IA pelo valor para o cliente, em vez da rapidez de desenvolvimento e do volume de utilização.

Tokitake explica: «Ao utilizar IA, conseguimos acompanhar o custo de cada tarefa, mas o custo total de um trabalho completo — o lançamento de uma funcionalidade — permanece muitas vezes desconhecido. Por isso, concebemos a medição tendo cada lançamento de uma funcionalidade como unidade. Ao relacionar o valor que esse lançamento proporciona ao cliente com os custos reais de IA nele investidos, queremos tornar o retorno do investimento visível e mensurável com rigor.»

A empresa está a criar o fluxo de processamento de dados para calcular esta métrica. Quando estiver concluído, permitirá conhecer o verdadeiro retorno do investimento em termos de valor para o cliente. A LegalOn Technologies está a ir além da gestão de custos de IA, procurando ligar diretamente o investimento em tecnologia ao valor para o negócio.

O próximo objetivo é transformar os conhecimentos de IA de cada engenheiro numa competência de toda a organização. Como primeiro passo, a empresa planeia criar uma base de conhecimentos para reunir e partilhar experiências práticas. Esta reunirá conhecimentos como as melhores combinações de modelos para conceção, implementação e revisão, transformando rapidamente os êxitos individuais em boas práticas para toda a empresa.

Estas mudanças, impulsionadas pela experiência prática das equipas, estão também a moldar a organização e o recrutamento. Os ganhos de produtividade gerados pela IA estão a levar a empresa a repensar de raiz a divisão do trabalho entre pessoas e IA, bem como o planeamento dos seus recursos humanos. A empresa já começou a dar mais importância às competências de IA no recrutamento, à medida que evoluem a sua estratégia de investimento e a sua estrutura organizacional.

Transformar a adoção de IA numa vantagem competitiva duradoura exige um ajuste contínuo do equilíbrio entre governação e liberdade de ação das equipas. O AID CoE e a equipa de segurança trabalham em conjunto para otimizar o desempenho, os custos e os riscos sob várias perspetivas, criando um quadro flexível que apoia a experimentação em toda a organização.