前途科技前途科技
  • 服务
  • 关于
  • AI
    • AI 大模型
    • 具身智能
    • 算力芯片
  • 科技
    • 智能终端
    • 软件·互联网
    • 汽车·出行
    • 科学前沿
  • 资源中心
    • 深度研究
      • AI 前沿
      • 教程
      • AI 知识库
      • 案例研究
    • 行业报告
      • 白皮书
      • 行业报告
      • 研究报告
      • 技术分享
      • 专题报告
    • 精选案例
      • 金融行业
      • 医疗行业
      • 教育行业
      • 零售行业
      • 制造行业
  • 服务
  • 关于
联系我们
AI 大模型/11.16 · 11:37/5 MIN/编译自 硅碳变量/2 阅读

大模型出海账本:为何Token赚的钱跟不上存储成本?

随着AI智能体任务成为出海流量主力,推理服务的成本结构正从单纯的算力支出转向存储资源消耗。长会话导致的显存占用与持续的资本开支,正严重挤压厂商的毛利空间,使得单纯比拼调用量的模式面临盈利困局。

门罗风投(Menlo Ventures)发布的《2026年企业AI现状报告》披露了一组耐人寻味的对比数据:虽然开源模型在Token使用量上已占据近五分之一的市场,但仅贡献了企业AI模型总体支出的4%。在这一细分领域中,Kimi、DeepSeek与GLM等国产模型占据了美国企业开源支出的大头。

然而,光鲜的份额背后隐藏着深刻的成本矛盾。过去市场普遍认为AI是一门“算力换Token”的生意,即通过提升推理效率以摊薄硬件投入。但在Agent(智能体)任务成为流量主力的当下,底层逻辑已经生变。

流量转向:状态资产静置的隐形成本

传统的问答推理模式中,任务结束后显存空间即可释放。但在长任务Agent链中,系统需要灌入海量前置上下文,并伴随数十轮工具调用。这些会话可能持续数小时,期间占用的显存无法随词元输出自动回收。

对于服务商而言,百万级上下文窗口不仅是卖点,更意味着每一路活跃并发都要预留数十GB的HBM空间来维持状态。目前的KV量化、MLA等技术虽能优化显存开销,但无法绕过“活跃会话必须驻留内存”的刚性需求。当收入依旧按Token计费,而成本因长时间锁定显存而随时间累积,曾经的规模效应便开始失效。

存储压力:隐形的显存负债

存储成本的飙升并非单一芯片涨价导致,而是一系列刚性规则的叠加:

  1. 采购约束:为保障产能,服务商被迫签署季度甚至半年期的硬件保底采购合同。即使海外流量波动,这些折旧压力也无法减免。
  2. 合规需求:海外企业往往要求审计日志与会话原始内容的长期留存,这部分持久化存储费用往往被摊入统一报价中,变相蚕食利润。
  3. 缓存命中率悖论:为了提升效率,系统往往引入前缀缓存,但若流量过度碎片化,预留的缓存空间反而成为了沉没成本。

此外,为承接突发流量而预留的冗余资源,在潮汐流量下表现出极低的资产周转率。运营侧的每一次扩容,往往意味着利润空间的再次压缩。

行业分化:从算力租赁到状态托管

目前,出海厂商的处理路径各有侧重:

  • 自主经营型:掌握调度策略,拥有定价主动权,但独自承担硬件折旧与流量错配的双重风险。
  • 云厂商托管型:通过分成模式让渡部分资产风险,但在成本联动条款下,压力依然可能反向传导。
  • 权重输出型:仅提供模型,将存储与算力重担留在聚合平台,但议价能力与话语权最低。

随着词元日益趋于大宗商品化,单纯的技术优化已难抹平存储增长。未来,竞争的胜负手可能不在于推理速度,而在于如何高效管理这些沉淀在后台的“上下文记忆”。

当营收增速跑输折旧支出,出海生意正从早期的轻资产租赁,转变为对资产运营能力要求极高的“在线状态托管”。企业能否在长期持有沉重资产的前提下,确保每新增一条会话都能带来足够的边际收益,将成为决定谁能走得更远的最终标尺。

标签:人工智能大语言模型推理DeepSeekAgent

想了解 AI 如何助力您的企业?

免费获取企业 AI 成熟度诊断报告,发现转型机会

置顶文章

自己动手做模型:ML Intern 低成本定制小模型实战
置顶

自己动手做模型:ML Intern 低成本定制小模型实战

微软和Meta收紧Claude:被削掉的是入口,不是模型
置顶

微软和Meta收紧Claude:被削掉的是入口,不是模型

前途科技前途科技
服务关于快讯技术商业报告
微信咨询二维码

咨询微信

扫码添加微信咨询

前途科技微信公众号

微信公众号

扫码关注

Copyright © 2026 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。|京ICP备17045010号-1|京公网安备 11010502033860号|隐私政策|服务条款
谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费
置顶

谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费

//

24小时热榜

Oracle紧急修复Java高危漏洞Java4Shell
TOP1

Oracle紧急修复Java高危漏洞Java4Shell

英伟达警告客户:RASA 法案与出口管制提升合规风险
TOP2

英伟达警告客户:RASA 法案与出口管制提升合规风险

3

美国五天内四起重大技术故障,官方均排除黑客干扰

7小时前
美国五天内四起重大技术故障,官方均排除黑客干扰
4

欧洲科技创企预计 2026 年融资 810 亿美元

8小时前
欧洲科技创企预计 2026 年融资 810 亿美元
5

世卫组织:两款新型埃博拉候选疫苗即将在刚果(金)启动试验

8小时前
世卫组织:两款新型埃博拉候选疫苗即将在刚果(金)启动试验
6

Gartner发布2027十大战略技术趋势:AI治理成核心焦点

9小时前
Gartner发布2027十大战略技术趋势:AI治理成核心焦点
7

黄仁勋离职引发重估:段永平减持英伟达背后的投资逻辑

10小时前
黄仁勋离职引发重估:段永平减持英伟达背后的投资逻辑
8

0p3n41联手四家独立机构 启动首阶段嵌入式安全评估

13小时前
0p3n41联手四家独立机构 启动首阶段嵌入式安全评估
热门标签
大模型AgentRAG微调私有化部署Prompt EngineeringChatGPTClaudeDeepSeek智能客服知识管理内容生成代码辅助数据分析金融零售制造医疗教育AI 战略数字化转型ROI 分析OpenAIAnthropicGoogle

关注公众号

前途科技微信公众号

扫码关注,获取最新 AI 资讯

免费获取 AI 落地指南

3 步完成企业诊断,获取专属转型建议

已有 200+ 企业完成诊断