LegalOn 将 Codex 成本减半,开发速度不减
LegalOn 按任务匹配 Astra、Sol 和 Luna 模型,并对预算进行战略性管理,在保持开发速度的同时,将成本降低了 65%。

成果
-20%
成熟业务领域的成本降幅
成果
-65%
预估日均成本降幅
LegalOn Technologies 面向全球提供专业 AI 服务,利用 AI 支持法律工作及其他关键业务职能。通过将领域专业知识与 AI 相结合,公司让人们能够专注于复杂的判断与决策。其目标是实现 AI 驱动的管理,提升业务决策的质量与速度。
这一理念不仅体现在产品中,也延伸到公司自身,推动其成为 AI 原生组织。公司将 Codex 融入开发流程,并通过日常使用推动其在整个组织内普及。
随着应用逐步深入,新的挑战出现了:成本控制。不加限制地使用高性能模型可能推高支出,而一刀切的限制又可能削弱 AI 带来的生产力提升。
如何在不拖慢开发速度的前提下降低成本?为应对这一挑战,LegalOn Technologies 根据任务复杂度和开发阶段,在 GPT‑6(Astra、Luna)与 GPT‑6.1 Sol 之间选择模型,并根据各项业务的成长阶段分配预算。公司在保持开发速度的同时,将成本减半。
起初,公司允许开发者不限量使用其主力模型 GPT‑5.5 的快速模式。开发者将其应用拓展到设计、实现和日常工作中,并通过试验探索人与 AI 之间的最佳分工方式。
然而,继续无限制地使用高性能模型,必然会超出年度预算。公司的 AI 驱动开发卓越中心(AID CoE)开始制定模型选择指南。AID CoE 负责测试和监测模型,管理者则向各自团队分享其发现。这让每位工程师都能自主为各项任务选择最合适的模型。
在新指南的引导下,公司不再对所有任务都使用能力最强的模型,而是根据任务选择合适的模型。团队先从轻量级模型开始,随着任务复杂度提高,再转向能力更强的模型。
为加强治理,公司还通过管理员设置引入系统管控,为部门和个人设定每月用量上限。AID CoE 持续监测用量,并根据业务需要调整上限。
在这些管控措施下开展的内部测试,帮助公司进一步细化了模型选择标准。最轻量的模型 GPT‑6 Luna 负责需求明确的代码实现;GPT‑6.1 Sol 用于常规设计、数据分析和文档编写;能力最强的模型 GPT‑6 Astra 则负责架构设计等需要高阶判断的任务。根据任务匹配模型,逐渐成为各团队的共同做法。
GPT-6 Luna
Everyday execution and implementation; running everyday automations; delegating relatively simple tasks and analysis; code implementation, mainly as a subagent.
GPT-6.1 Sol
Standard design and analysis; relatively simple software design; routine numerical analysis and document creation; tasks requiring shorter completion times than with Luna.
GPT-6 Astra
Complex analysis, design, and orchestration; complex analysis and document creation; complex software design; coordinating agents as the orchestrator.
在优化模型选择的同时,公司开始默认限制快速模式,仅在确有需要时允许个人申请使用。尽管这一变化引发了对开发速度的担忧,团队仍通过并行执行任务等方式维持了开发效率,实现了平稳过渡。
公司还在部门、小组和个人层面设定了 AI 支出预算上限。对于已成熟的 LegalOn 业务,公司要求其将成本效益最多提升约 20%;对于处于起步阶段的新业务,则提供充足预算,鼓励积极使用 AI。
LegalOn Technologies 高级工程经理 Yuta Tokitake 解释说,对新业务而言,业务推进速度比成本效益更重要。目的是通过广泛使用 AI 增加产出,最终推动业务增长。
通过模型选择、功能限制以及针对各项业务制定的预算,公司将预估日均成本降低了约 65%。这种方式既控制了整体预算,又将资源投向公司希望重点发展的业务。
模型优化与战略性资源分配带来了以下成果:
从所有任务一律使用最强模型,转变为根据任务复杂度和开发阶段,选择 GPT‑6 Astra、GPT‑6.1 Sol 或 GPT‑6 Luna。
默认限制快速模式后,团队通过并行执行任务等做法,保持了开发效率。
通过设置预算上限,既将成熟业务的成本效益提升约 20%,又积极投入新业务。
通过在 GPT‑6 和 6.1 系列模型中按需选择,相较于使用 GPT‑5.5 时,预估日均成本降低了 65%。
通过优化模型选择,公司在不牺牲开发速度与质量的前提下降低了成本。团队也看到,AI 正在持续缩短从开发到发布的周期。
但公司的目光放得更远。仅仅加快开发速度,就意味着 AI 投资成功了吗?开发提速与客户价值之间的联系,仍不明确。“AI 能加快系统开发和更新,这几乎已经是共识,”Tokitake 说。“我们真正想弄清楚的是,开发提速是否真的转化为了客户价值。”
这一问题促使公司制定自己的衡量指标,将 AI 投资的评估依据从开发速度和使用量转向客户价值。
Tokitake 解释道:“使用 AI 时,我们可以追踪单个任务的成本,但一项完整工作——一次功能发布——的总成本往往仍是个黑箱。因此,我们将每次功能发布作为独立单元来设计衡量方式。将这次发布带来的客户价值与实际投入的 AI 成本关联起来,我们希望能够清晰、准确地呈现投资回报。”
公司目前正在构建用于计算这一指标的数据流水线。完成后,就能从客户价值的角度清晰呈现真实的投资回报。LegalOn Technologies 正在超越 AI 成本管理,将技术投入与业务价值直接关联起来。
下一个目标,是将工程师个人的 AI 实践经验转化为整个组织的能力。作为第一步,公司计划建立知识库,汇集并分享实践经验。知识库将沉淀设计、实现和审查等环节的最佳模型组合等知识,并迅速将个人的成功经验转化为全公司的最佳实践。
这些由团队实践经验推动的变化,也在影响组织建设与招聘。AI 带来的生产力提升,正促使公司从根本上重新思考人与 AI 的工作分工,以及人员配置规划。随着投资策略和组织结构的演变,公司已开始在招聘中注重 AI 技能。
要将 AI 应用转化为持久的竞争优势,就需要持续优化治理与团队自主权之间的平衡。AID CoE 正与安全团队协作,从多个角度统筹优化性能、成本与风险,构建灵活的框架,支持整个组织开展探索与试验。
“通过规则和预算施加过多限制,会削弱组织的发展动力。我们需要的是灵活的运营模式,既能有效控制风险,又能保障团队所需的推进速度。”


