LegalOn: вдвое меньше затрат на Codex без замедления разработки

LegalOn Technologies предлагает профессиональные ИИ-решения по всему миру, помогая решать юридические задачи и выполнять другие ключевые бизнес-функции. Сочетая отраслевую экспертизу с ИИ, компания позволяет людям сосредоточиться на сложных вопросах и решениях. Ее цель — управление на основе ИИ, повышающее качество и скорость принятия бизнес-решений.

Этот подход не ограничивается продуктами: компания стремится сделать ИИ основой собственной работы. Компания внедрила Codex в процесс разработки и расширила его применение в организации за счет повседневного использования.

По мере распространения инструмента возникла новая задача — контроль затрат. Неограниченное использование мощных моделей могло увеличить расходы, а всеобщие ограничения — свести на нет прирост продуктивности, обеспеченный ИИ.

Как сократить затраты, не замедляя разработку? LegalOn Technologies решила эту задачу, выбирая между GPT‑6 (Astra, Luna) и GPT‑6.1 Sol в зависимости от сложности задачи и этапа разработки, а также распределяя бюджеты с учетом стадии роста каждого направления бизнеса. Компания вдвое сократила затраты, сохранив скорость разработки.

Изначально компания предоставила разработчикам неограниченный доступ к своей основной модели GPT‑5.5 с включенной настройкой «Быстрый режим». Они стали использовать ее для проектирования, реализации и повседневных задач, на практике выясняя, как лучше распределять работу между людьми и ИИ.

Однако дальнейшее использование мощных моделей без ограничений неизбежно привело бы к превышению годового бюджета. Центр компетенций компании по разработке с помощью ИИ (AID CoE) начал готовить рекомендации по выбору моделей. AID CoE тестировал модели и отслеживал их работу, а руководители делились результатами со своими командами. Это позволило каждому инженеру самостоятельно выбирать наиболее подходящую модель для каждой задачи.

Новые рекомендации помогли компании перейти от использования самой мощной модели для всех задач к выбору модели под конкретную задачу. Команды начинали с легкой модели и переходили к более мощным по мере усложнения задач.

Для контроля использования компания также ввела системные ограничения через настройки администратора, установив месячные лимиты для отделов и отдельных сотрудников. AID CoE отслеживает использование и корректирует лимиты в соответствии с потребностями бизнеса.

Внутреннее тестирование в рамках этих ограничений помогло уточнить критерии выбора. Самая легкая модель GPT‑6 Luna пишет код по четким требованиям; GPT‑6.1 Sol помогает с типовыми задачами проектирования, анализом данных и подготовкой документов; самая мощная модель GPT‑6 Astra решает задачи, требующие сложных суждений, в том числе проектирование архитектуры. Подбор моделей под задачи постепенно стал общей практикой для всех команд.

Наряду с подбором моделей компания ограничила доступ к настройке «Быстрый режим» по умолчанию, разрешая ее использование по индивидуальному запросу только при необходимости. Хотя изменение вызвало опасения за скорость разработки, команды сохранили продуктивность и плавно перешли к новым условиям благодаря таким подходам, как параллельное выполнение задач.

Компания также установила предельные бюджеты на ИИ для отделов, групп и отдельных сотрудников. Зрелому направлению LegalOn поставили задачу повысить эффективность затрат примерно на 20%, а новые направления на этапе запуска получили щедрые бюджеты для активного использования ИИ.

Юта Токитаке, старший руководитель инженерных команд LegalOn Technologies, объясняет, что для новых направлений скорость развития бизнеса была важнее экономии. Цель состояла в том, чтобы за счет широкого применения ИИ увеличить объем выполняемой работы и в итоге обеспечить рост бизнеса.

В совокупности подбор моделей, ограничения функций и бюджеты с учетом потребностей каждого направления позволили снизить расчетные ежедневные затраты примерно на 65%. Этот подход позволил контролировать общий бюджет и направлять ресурсы в те направления бизнеса, которые компания хотела развивать.

Оптимальный выбор моделей и стратегическое распределение ресурсов дали следующие результаты:

• Вместо самой мощной модели для всех задач — выбор между GPT‑6 Astra, GPT‑6.1 Sol и GPT‑6 Luna с учетом сложности задачи и этапа разработки.

• Продуктивность разработки сохранилась после ограничения доступа к настройке «Быстрый режим» по умолчанию благодаря командным практикам, включая параллельное выполнение задач.

• Бюджетные лимиты позволили сочетать повышение эффективности затрат примерно на 20% в зрелых направлениях с активными инвестициями в новые.

• Расчетные ежедневные затраты снизились на 65% по сравнению с использованием GPT‑5.5 благодаря выбору между моделями GPT‑6 и 6.1.

Оптимизировав выбор моделей, компания снизила затраты без ущерба для скорости и качества разработки. Команды также отмечают, что ИИ последовательно сокращает цикл от разработки до выпуска.

Но компания смотрит дальше. Достаточно ли одного ускорения разработки, чтобы считать инвестиции в ИИ успешными? Связь между ускорением разработки и ценностью для клиентов оставалась неясной. «То, что ИИ способен ускорить разработку и обновление систем, уже почти не вызывает сомнений, — говорит Токитаке. — Нам важно понять другое: действительно ли это ускорение приносит пользу клиентам».

Этот вопрос побудил компанию разработать собственную метрику и перейти от оценки инвестиций в ИИ по скорости разработки и объему использования к оценке по ценности для клиентов.

Токитаке объясняет: «При использовании ИИ мы можем отслеживать затраты на отдельные задачи, но общая стоимость завершенной работы — выпуска функции — часто остается черным ящиком. Поэтому за единицу измерения мы взяли выпуск каждой функции. Сопоставляя ценность выпущенной функции для клиентов с фактическими затратами на ИИ при ее создании, мы стремимся сделать оценку окупаемости инвестиций наглядной и точной».

Сейчас компания создает систему обработки данных для расчета этой метрики. Когда она будет готова, реальную окупаемость с точки зрения ценности для клиентов можно будет увидеть наглядно. LegalOn Technologies выходит за рамки управления затратами на ИИ, стремясь напрямую связать инвестиции в технологии с ценностью для бизнеса.

Следующая цель — превратить опыт работы отдельных инженеров с ИИ в компетенцию всей организации. Первым шагом станет создание базы знаний для сбора практического опыта и обмена им. В ней будут собраны, например, лучшие сочетания моделей для проектирования, реализации и проверки кода. Это поможет быстро превращать индивидуальные успехи в лучшие практики всей компании.

Эти изменения, основанные на практическом опыте команд, также влияют на устройство организации и наем. Рост продуктивности благодаря ИИ побуждает компанию кардинально пересмотреть распределение работы между людьми и ИИ, а также кадровые планы. По мере изменения инвестиционной стратегии и организационной структуры компания уже начала уделять особое внимание навыкам работы с ИИ при найме.

Чтобы внедрение ИИ стало устойчивым конкурентным преимуществом, необходимо постоянно совершенствовать баланс между управленческим контролем и свободой действий команд. AID CoE и команда безопасности совместно ищут оптимальный баланс продуктивности, затрат и рисков с разных точек зрения, создавая гибкую систему, которая поддерживает эксперименты во всей организации.