LegalOn удвічі знижує витрати на Codex без уповільнення розробки

LegalOn Technologies пропонує професійний ШІ в усьому світі для підтримки юридичної роботи та інших ключових бізнес-функцій. Поєднуючи галузеві знання із ШІ, компанія дає людям змогу зосередитися на складних оцінках і рішеннях. Її мета — управління на основі ШІ, що підвищує якість і швидкість ухвалення бізнес-рішень.

Цей підхід виходить за межі продуктів: компанія прагне зробити ШІ основою роботи самої організації. Компанія інтегрувала Codex у процес розробки та завдяки щоденному використанню поширила його на всю організацію.

Коли використання стало звичним, виник новий виклик: контроль витрат. Необмежене використання потужних моделей могло збільшити витрати, а суцільні обмеження — звести нанівець приріст продуктивності завдяки ШІ.

Як зменшити витрати, не сповільнюючи розробку? LegalOn Technologies розв’язала цю проблему, обираючи між GPT‑6 (Astra, Luna) і GPT‑6.1 Sol залежно від складності завдання й етапу розробки та узгоджуючи бюджети зі стадією зростання кожного напряму бізнесу. Компанія вдвічі скоротила витрати, зберігши швидкість розробки.

Спочатку компанія надала розробникам необмежений доступ до своєї основної моделі GPT‑5.5 у режимі «Швидкий режим». Вони почали застосовувати її для проєктування, реалізації та щоденної роботи, експериментуючи з тим, як найкраще розподілити обов’язки між людьми та ШІ.

Однак подальше використання потужних моделей без обмежень неминуче призвело б до перевищення річного бюджету. Центр компетенцій із розробки за допомогою ШІ (AID CoE) компанії почав створювати рекомендації щодо вибору моделей. AID CoE тестував моделі та відстежував їхню роботу, а керівники ділилися висновками зі своїми командами. Завдяки цьому кожен інженер міг самостійно обирати найкращу модель для конкретного завдання.

Нові рекомендації допомогли компанії перейти від використання найпотужнішої моделі для всіх завдань до вибору моделі під конкретну роботу. Команди починали з легкої моделі й переходили до потужніших у міру зростання складності завдань.

Для посилення контролю компанія також запровадила системні обмеження через налаштування адміністратора, установивши місячні ліміти використання для відділів і працівників. AID CoE відстежує використання та коригує ліміти відповідно до потреб бізнесу.

Внутрішні тести за цих обмежень допомогли уточнити критерії вибору. GPT‑6 Luna, найлегша модель, пише код за чіткими вимогами; GPT‑6.1 Sol допомагає з типовим проєктуванням, аналізом даних і підготовкою документів; GPT‑6 Astra, найпотужніша модель, виконує завдання, що потребують складних рішень, зокрема проєктує архітектуру. Добір моделей під завдання поступово став спільною практикою команд.

Поряд із добором моделей компанія почала обмежувати Швидкий режим за замовчуванням, дозволяючи його лише за окремим запитом у разі потреби. Хоча зміна викликала побоювання щодо швидкості розробки, команди зберегли продуктивність і плавно адаптувалися завдяки таким підходам, як паралельне виконання завдань.

Компанія також установила граничні бюджети на ШІ для відділів, груп і окремих працівників. Перед зрілим напрямом LegalOn поставили завдання підвищити ефективність витрат приблизно на 20%, а новим напрямам на етапі запуску виділили щедрі бюджети, щоб заохотити активне використання ШІ.

Юта Токітаке, старший керівник інженерного напряму LegalOn Technologies, пояснює, що для нових напрямів швидкість розвитку бізнесу була важливішою за ефективність витрат. Мета полягала в широкому використанні ШІ для збільшення обсягу виконаної роботи та, зрештою, зростання бізнесу.

Разом добір моделей, обмеження функцій і бюджети під потреби кожного напряму знизили розрахункові щоденні витрати приблизно на 65%. Цей підхід дав змогу контролювати загальний бюджет і спрямовувати ресурси на напрями, які компанія прагнула розвивати.

Оптимізація моделей і стратегічний розподіл ресурсів дали такі результати:

• Перехід від найпотужнішої моделі для всіх завдань до вибору GPT‑6 Astra, GPT‑6.1 Sol або GPT‑6 Luna залежно від складності завдання й етапу розробки.

• Збереження продуктивності розробки після обмеження функції «Швидкий режим» за замовчуванням завдяки командним практикам, як-от паралельне виконання завдань.

• Бюджетні ліміти, що поєднали підвищення ефективності зрілих напрямів приблизно на 20% з активними інвестиціями в нові.

• Зниження розрахункових щоденних витрат на 65% порівняно з GPT‑5.5 завдяки вибору між моделями GPT‑6 і 6.1.

Завдяки оптимізації моделей компанія знизила витрати без втрати швидкості чи якості розробки. Команди також бачать, як ШІ поступово скорочує цикл від розробки до випуску.

Але компанія дивиться далі. Чи достатньо лише прискорення розробки, щоб вважати інвестиції в ШІ успішними? Зв’язок між швидшою розробкою та цінністю для клієнтів залишався неясним. «Те, що ШІ може прискорити розробку й оновлення систем, уже майже не викликає сумнівів», — каже Токітаке. «Насправді ми хочемо зрозуміти, чи перетворюється ця швидша розробка на цінність для клієнтів».

Це питання спонукало компанію розробити власну метрику й оцінювати інвестиції в ШІ за цінністю для клієнтів, а не за швидкістю розробки та обсягом використання.

Токітаке пояснює: «Використовуючи ШІ, ми можемо відстежити витрати на окремі завдання, але загальна вартість завершеної роботи — випуску функції — часто залишається невідомою. Тому за одиницю вимірювання ми взяли кожен окремий випуск функції. Зіставляючи цінність цього випуску для клієнтів із фактичними витратами на ШІ, ми прагнемо наочно й точно визначати окупність інвестицій».

Наразі компанія створює конвеєр обробки даних для розрахунку цієї метрики. Коли його буде завершено, він покаже реальну окупність інвестицій з погляду цінності для клієнтів. LegalOn Technologies виходить за межі управління витратами на ШІ, щоб безпосередньо пов’язати інвестиції в технології з цінністю для бізнесу.

Наступна мета — перетворити досвід окремих інженерів у роботі із ШІ на спроможність усієї організації. Першим кроком стане створення бази знань для накопичення практичного досвіду й обміну ним. Вона зберігатиме знання, зокрема про найкращі поєднання моделей для проєктування, реалізації та перевірки, і допомагатиме швидко перетворювати особисті успіхи на найкращі практики всієї компанії.

Ці зміни, зумовлені практичним досвідом команд, також впливають на організацію та найм. Зростання продуктивності завдяки ШІ спонукає компанію докорінно переосмислити розподіл роботи між людьми та ШІ, а також кадрові плани. У міру розвитку інвестиційної стратегії та організаційної структури компанія вже почала приділяти більше уваги навичкам роботи із ШІ під час найму.

Щоб упровадження ШІ стало довготривалою конкурентною перевагою, потрібно постійно вдосконалювати баланс між контролем і свободою дій команд. AID CoE та команда безпеки спільно працюють над продуктивністю, витратами й ризиками, враховуючи різні аспекти та створюючи гнучку систему, що підтримує експерименти в усій організації.