法律科技企业LegalOn通过精细化模型调度与差异化预算管理,打破了AI赋能与高昂算力成本之间的矛盾。公司针对不同任务复杂度动态匹配模型,在保持开发迭代效率的同时,将AI每日预估成本降低了65%。

法律科技企业 LegalOn Technologies 近期公布了其在工程开发中应用大语言模型的降本增效实践。通过在任务复杂度、开发阶段与模型规格之间建立精准匹配机制,该公司成功将日常 AI 预估支出降低约 65%,且全程保持了产品开发速度。
在将 AI 工具深度嵌入日常研发流程的初期,LegalOn 曾面临典型的工程治理难题:无限制使用高性能模型会导致预算迅速见顶,但如果采取一刀切的管控手段,又会削弱工程师的生产力。
为此,LegalOn 内部的 AI 研发卓越中心(AID CoE)主导制定了一套分层调度体系,打破了“所有任务都用顶配模型”的惯性,将任务按复杂度细分至不同梯度的模型:
除了动态选型,团队还默认关闭了高消耗的加速模式(Fast mode),改为通过并发执行等工程化方法平替性能损耗。同时,公司在管理后台设置了部门与个人的弹性用量上限。
在资源分配上,LegalOn 采取了兼顾成熟业务与创新孵化的差异化策略:成熟业务线被要求实现约 20% 的成本优化,而处于探索期的新业务则享有更宽松的算力额度,确保团队通过快速试错推进业务增长。多项措施协同下,公司整体日常 AI 成本缩减了 65%。
值得注意的是,LegalOn 正试图重新定义工程团队的 AI 投资回报率(ROI)。工程高级经理 Yuta Tokitake 指出,AI 能加快开发速度已是既定事实,但单纯的代码产出率并不能直接等同于客户价值。
团队目前正在搭建以“功能发布(Feature Release)”为最小维度的核算管线。通过将单次功能上线所带来的客户价值,与该功能全周期消耗的真实 AI 成本直接锚定,消除开发过程中的算力黑盒,让工程投入直接与商业收益挂钩。
下一步,LegalOn 计划建立内部经验知识库,将优秀工程师在设计、开发与审查环节的模型搭配技巧沉淀为通用实践,并在组织架构与招聘中全面融入 AI 协作能力,在风险管控与敏捷创新之间维系平衡。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断