LegalOn 將 Codex 成本減半,同時維持開發速度
LegalOn 依任務選用 Astra、Sol 和 Luna,並策略性地管理預算,在維持開發速度的同時,將成本降低 65%。

成果
-20%
成熟業務領域的成本降幅
成果
-65%
每日預估成本降幅
LegalOn Technologies 在全球提供專業 AI 服務,運用 AI 支援法律工作及其他關鍵業務職能。透過結合領域專業知識與 AI,讓人員能專注於複雜的判斷與決策。其目標是透過 AI 驅動的管理,提升企業決策的品質與速度。
這個理念不只用於產品,也延伸至將組織本身打造成 AI 原生組織。公司將 Codex 整合至開發流程,並透過日常使用,逐步推廣至整個組織。
隨著使用日漸普及,新的挑戰也隨之浮現:成本控管。無限制地使用高效能模型可能推升支出,但一刀切的限制又可能削弱 AI 帶來的生產力提升。
該如何在不拖慢開發速度的前提下降低成本?為因應這項挑戰,LegalOn Technologies 根據任務複雜度和開發階段,在 GPT‑6(Astra、Luna)和 GPT‑6.1 Sol 之間選用模型,並依各項業務的成長階段配置預算。公司成功將成本減半,同時維持開發速度。
公司起初讓開發人員無限制地使用主要模型 GPT‑5.5,並啟用快速模式。開發人員將其應用擴展至設計、實作和日常工作,透過實驗摸索人員與 AI 之間的最佳分工方式。
然而,若持續無限制地使用高效能模型,勢必會超出年度預算。公司的 AI 驅動開發卓越中心(AID CoE)因此開始制定模型選用準則。AID CoE 負責測試與監測模型,再由主管向各自的團隊分享結果。這讓每位工程師都能自主選擇最適合各項任務的模型。
新的準則讓公司不再一律使用能力最強的模型,而是依工作需求選用合適的模型。團隊先從輕量模型開始,隨著任務複雜度增加,再改用能力更強的模型。
為強化治理,公司也透過管理員設定導入系統管控,為部門與個人設定每月用量上限。AID CoE 持續監測用量,並依業務需求調整上限。
在這些管控措施下進行的內部測試,有助於讓選用標準更加具體。最輕量的 GPT‑6 Luna 負責需求明確的程式碼實作;GPT‑6.1 Sol 支援一般設計、資料分析和文件製作;能力最強的 GPT‑6 Astra 則負責架構設計等需要進階判斷的工作。依任務選用模型,逐漸成為各團隊的共同做法。
GPT-6 Luna
Everyday execution and implementation; running everyday automations; delegating relatively simple tasks and analysis; code implementation, mainly as a subagent.
GPT-6.1 Sol
Standard design and analysis; relatively simple software design; routine numerical analysis and document creation; tasks requiring shorter completion times than with Luna.
GPT-6 Astra
Complex analysis, design, and orchestration; complex analysis and document creation; complex software design; coordinating agents as the orchestrator.
除了調整模型選用方式,公司也開始預設限制快速模式,僅在有需要時開放個別申請。雖然這項變更引發了對開發速度的疑慮,但團隊透過平行執行任務等做法,維持開發效能並順利完成轉換。
公司也在部門、小組及個人層級設定 AI 支出的預算上限。對於已成熟的 LegalOn 業務,公司要求將成本效益提升最多約 20%;處於起步階段的新業務則獲得充裕預算,以鼓勵積極運用 AI。
LegalOn Technologies 資深工程經理 Yuta Tokitake 解釋,對新業務而言,業務推進速度比成本效益更優先。目標是廣泛運用 AI 來提高產出,最終帶動業務成長。
透過模型選用、功能限制,以及依各項業務量身配置的預算,公司將每日預估成本降低了約 65%。這種做法既控制了整體預算,也將資源投入公司希望發展的業務。
模型選用最佳化與策略性資源配置帶來以下成果:
不再一律使用能力最強的模型,而是依任務複雜度與開發階段,選用 GPT‑6 Astra、GPT‑6.1 Sol 或 GPT‑6 Luna。
預設限制快速模式後,團隊透過平行執行任務等做法,維持了開發效能。
透過預算上限,兼顧成熟業務約 20% 的效率提升,以及對新業務的積極投資。
透過搭配選用 GPT‑6 和 6.1 模型,每日預估成本較使用 GPT‑5.5 時降低 65%。
透過最佳化模型選用,公司在不犧牲開發速度或品質的情況下降低了成本。團隊也觀察到,AI 正持續縮短從開發到發布的週期。
但公司的目光放得更遠。單憑開發速度加快,就能說 AI 投資成功了嗎?開發速度的提升與客戶價值之間的關聯,仍不明確。Tokitake 表示:「AI 能加快系統開發與更新,幾乎已是共識。」「我們真正想了解的是,開發速度的提升,是否確實轉化為客戶價值。」
這個問題促使公司開發自己的衡量指標,將 AI 投資的評估依據從開發速度與用量,轉向客戶價值。
Tokitake 解釋:「使用 AI 時,我們可以追蹤個別任務的成本,但完成一項完整工作,也就是發布一項功能,所需的總成本往往仍不透明。因此,我們將每次功能發布視為一個單位,據此設計衡量方式。透過將功能發布帶來的客戶價值,與實際投入的 AI 成本連結,我們希望能清楚且準確地呈現投資報酬率。」
公司目前正在建置用來計算這項指標的資料管線。完成後,就能從客戶價值的角度,清楚呈現真正的投資報酬率。LegalOn Technologies 正從 AI 成本管理更進一步,將技術投資與業務價值直接連結。
下一個目標,是將個別工程師的 AI 實務知識轉化為整個組織的能力。作為第一步,公司計畫建立知識庫,蒐集並分享實務經驗。知識庫將收錄設計、實作與審查各階段的最佳模型組合等知識,並迅速將個人的成功經驗轉化為全公司的最佳實務。
這些由團隊實務經驗推動的變革,也正在影響組織與招募方式。AI 帶來的生產力提升,促使公司從根本重新思考人員與 AI 的分工,以及人力規劃。隨著投資策略與組織架構演進,公司已開始在招募時更加重視 AI 技能。
要將 AI 應用轉化為持久的競爭優勢,就必須持續調整治理與團隊自主權之間的平衡。AID CoE 正與資安團隊合作,從多個角度最佳化效能、成本與風險管理,建立靈活的架構,支持整個組織持續實驗。
「透過規則與預算施加過多限制,可能削弱組織的動能。我們需要的是靈活的運作模式,能有效兼顧風險控管與團隊所需的速度。」


