大模型竞争延伸至算力层。DeepSeek刚开源逼近硬件极限的人工手调算子FlashMLA,AI全自动编写的算子ForgeKernel便登顶英伟达与昇腾评测榜,性能全面超越前者,展现出AI在底层算子调优上的巨大潜力。
大模型领域的竞争,正在从算法模型层向下延伸至底层算力层。再强大的模型架构,最终都需要依靠基础算子在芯片上执行调度。在相同的模型参数与芯片硬件下,一套优化更彻底的底层算子,往往能直接带来数倍的性能飞跃。算子的实际运行效率,不仅决定了硬件的算力吞吐上限,更直接影响了每一次模型调用的 Token 成本。
近期,DeepSeek 全面开源了其底层推理框架 DeepInfer。继此前陆续开放模型权重以及 FlashMLA、DeepGEMM 等核心算子库之后,DeepSeek 将整套模型运行的链路进一步公之于众。其中备受关注的 FlashMLA 算子,凝聚了顶尖工程师针对硬件芯片进行逐行人工手写与极致调优的心血,其算子性能甚至推到了硬件理论极限的 90% 以上,代表了当前人工编写优化算子的天花板水平。
然而,这一手调极限在同一周内便被 AI 自身刷新。评测数据显示,完全由 AI 编写、全程无需人工介入逐行调优的算子项目 ForgeKernel,已同时登顶两大权威算子评测榜单:
一是英伟达主场的 SOL-ExecBench FlashInfer-Bench 榜单榜首;二是华为昇腾 CANN 官方仓库维护的 CANNBench A3 硬件榜第一名。在昇腾硬件测试中,ForgeKernel 取得了 1.835 倍的基准加速比,大幅领先第二名达 25%。

除了榜单排名的突破,AI 自主迭代与优化底层算子的能力更具行业意义。在针对 DeepSeek 相关算子的适配场景中,ForgeKernel 从零开始通过 AI 自动化迭代生成的算子版本,性能同样超越了 DeepSeek 官方工程师开源调优的英伟达平台版本。
从人工逐行攻坚到底层 AI 自动化编写,算力优化正在迎来新的拐点。无论是模型团队的深度开源,还是算子性能榜上的激烈角逐,都让大模型在不同芯片平台上的运行效率持续提升,加速模型推理向更高吞吐与更低成本演进。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断