商汤包揽中国近50%新云份额，算力生意正转向Token工厂

沙利文与头豹研究院联合发布的《中国全栈AI云服务市场报告2026H1》显示，在原生AI云服务（Neocloud，新云）赛道中，商汤科技旗下的AI基础设施平台**商汤大装置（SenseCore）**独占近一半的市场份额。

海外Neocloud赛道同样备受关注，头部企业CoreWeave积压订单已超千亿美元。但马斯克近期对该领域泼出冷水，称融资窗口正在关闭，缺乏多元收入的算力转租企业或将迎来大规模倒闭潮。

在海外面临洗牌、国内综合云巨头全面转型的背景下，商汤大装置能够拿下半壁江山，源于其业务逻辑已经从单纯的“算力租赁”转变为持续输出推理能力的“Token工厂”。

数据表明，商汤大装置今年年初日均服务Token约4000亿，到9月底已达到6万亿，并计划在第四季度冲刺日均10万亿规模。

Agent爆发，算力计量单位从Flops转向Token

随着AI智能体（Agent）的大规模落地，多步拆解、信息检索和反复验证让推理调用量激增。沙利文报告指出，在Token生成速度相同的情况下，Agentic AI对算力的需求比传统大模型高出10倍以上。国家数据局统计亦显示，国内日均Token调用量两年内增长超千倍。

AI工作负载正从集中训练扩展到推理应用，客户关心的核心指标从“能租到多少算力”，转变为单位Token成本、推理延迟以及异构调度能力。算力生意的计量单位，正式由“Flops”走向“Token”。

与海外Neocloud重资产买卡、专攻训练集群转租不同，国内算力市场面临高端GPU供给受限、国产芯片多元但生态碎片化的客观现实。商汤大装置解决的关键问题，在于将异构芯片与差异化模型整合入同一套系统，并持续压低每个Token的生成成本。

异构混推与算电协同

为了将国产硬件高效利用起来，商汤大装置重点推进了两项工程：异构混推与算电协同。

在异构混推方面，核心方案是PD分离（Prefill-Decode Disaggregation）。大模型推理分为“读题”（Prefill）和“生成答案”（Decode）两阶段：

• Prefill阶段计算密集，依赖纯算力，由国产芯片承揽；
• Decode阶段受限于显存带宽，交由高端GPU处理；
• 两者通过KV Cache传输中间状态。

通过扬长避短的分工机制，系统整体推理性价比达到了主流高端GPU的1.25倍。目前商汤大装置还在预研“跨域PD分离”（将Prefill与Decode跨地域部署以盘活闲置智算中心）以及更加深入的“AF分离”（拆分Attention与FFN计算）。

在能耗成本方面，商汤推出了算电协同Agent，联动能源预测模型与宁德时代储能系统：

• 每15分钟预测、5分钟修正一次调度计划；
• 将离线推理和评测任务移至波谷电价时段；
• 储能系统在低电价时蓄能、高电价时放电。

该方案使商汤临港数据中心在电网需求响应中具备弹性调峰能力，单位电力成本的Token产出提升了80%，平均电费比同地区IDC低10%，并推动业界从机房PUE转向考核每瓦电有效产出的**TPW（Tokens Per Watt）**指标。

从批发模型算力到产业一线落地

商汤大装置不仅为第三方大模型厂商提供“算力批发”服务，还通过FDE（前线部署工程师）驻场模式，深入业务场景解决落地难题。

在上海市规划资源局项目中，商汤基于该架构落地了6000亿参数的“云宇星空大模型”，支持地图图纸理解、空间分析与自动化报告生成，并形成“1天澄清需求、2天产出Demo、30天稳定上线”的交付规范。

业内共识显示，AI全栈云服务正从单一的资源囤积竞赛，转向软硬件系统调优与单位产出效率的较量。面对国产算力生态的发展需求，构建端到端的Token生成与交付体系，成为新一代AI云平台突围的核心路径。