AI INSIGHT

算力网4万亿之后,谁能把算力“用起来”?

AI新闻 36氪 2026-10-16 08:30
AI 摘要

奇点研究社算力竞争的刻度已经改变 需求涨了千倍,六成算力却在闲置,算力网的下半场拼什么? 内蒙古乌兰察布,一所废弃学校正在被改造成数据中心。 这座距北京几百公里的北方城市,已经签下89个数据中心项目,阿里、华为、快手和第三方运营商陆续进场,当地政府顺势喊出打造"Token之都"。 同一时间,中国信通院给出了另一组数字:2025年全国智能算力供应量约38亿卡时,实际使用量约1

奇点研究社
算力竞争的刻度已经改变

需求涨了千倍,六成算力却在闲置,算力网的下半场拼什么?

内蒙古乌兰察布,一所废弃学校正在被改造成数据中心。

这座距北京几百公里的北方城市,已经签下89个数据中心项目,阿里、华为、快手和第三方运营商陆续进场,当地政府顺势喊出打造"Token之都"。

同一时间,中国信通院给出了另一组数字:2025年全国智能算力供应量约38亿卡时,实际使用量约14亿卡时,使用率36.8%。

一边跑马圈地,一边六成算力闲置。而按照发改委援引机构的测算,"十五五"时期算力网建设还要新增直接投资4万亿元,且明确要求“加快培育自主可控、协同运行的软硬件生态”。

供给还在真金白银地往里砸钱,建起来的算力却有大片没活干,问题出在哪?

国产算力建得火热,用得冷清

2024年初,全国日均Token调用量约1000亿;到2026年3月,国家数据局公布的数字是140万亿,两年多涨了一千多倍。

需求的爆发,也在推动新一轮算力基础设施建设。9月11日,国务院常务会议研究算力网建设,提出推动算电协同、算网融合,"8+10+3"的空间布局已经成形。

可并非所有算力中心都能吃到这波红利。并行科技 COO 曾向媒体透露,公司2025年算力利用率在90%至95%之间。另一边,《经济观察报》探访的一座内蒙古智算园区,以市场化千卡通用算力为主,全年综合利用率不足五成;园区新建的十万卡国产智算预留机房,上架率更不足20%。

《证券时报》的调研进一步揭示了这种分化背后的原因,头部互联网大厂的自建集群,有内部模型训练和推理服务撑着,维持高负载;三大运营商有自有业务和信创订单托底;真正难受的,是地方城投和国资平台投建的智算中心,建成后还得继续找客户。

同样是智算中心,为什么差别这么大?

原因有三,首先是投资节奏,资源抢得快,需求落地却有自己的节奏。一位地方国资算力平台人士对《经济观察报》表示,拿地、拿电、拿能耗指标,大家都在抢,眼下的逻辑是“先占住位置再说”。

算力基础设施建设涉及土地、电力、能耗指标和资金投入,前期布局往往需要抢占资源。但机房和服务器可以按照建设计划陆续到位,客户需求的形成、项目采购的推进,却有各自的节奏。投资先行与需求落地之间存在时间差,一旦前期规划没有充分对应真实客户,建成的算力就可能暂时找不到用武之地。

其次是经营效率,利用率越低,固定成本越难摊薄。科技日报曾报道,西部某城一座千卡规模的智算中心,上架率不足50%,已上架服务器的实际利用率不足30%,年运营成本超过3000万元。

电费、折旧、运维,一分都不会因为业务少而减少。服务器躺平一天,这些成本就实打实烧一天。

乌兰察布的优势恰恰就在低电价。假设一座数据中心IT设备平均功率10兆瓦,全年运行,PUE 1.2,每度电价差0.4元,一年电费差额约4200万元,五年超过2亿。

但低电价只能降低运营成本,无法消除算力资产面临的另一重风险:GPU等不到“寿终正寝”,就可能先失去成本竞争力。新芯片不断提升性能,推理技术也在持续演进,几年后,旧卡即便仍能正常运行,也可能不得不跟着新设备降价。

(乌兰察布火山草原 图源:乌兰察布市政府官网)

模型价格可以一个月降四分之三,买下的服务器却不能随时退货。对智算中心来说,前期投资能否匹配实际需求,日常运营能否摊薄固定成本,还要面对技术迭代带来的资产贬值风险。

最后是客户选择,算力再便宜,客户也未必愿意更换。

奇点采访了一家面向个人用户提供订阅服务的 AI 应用公司负责人,他们使用的国产算力主要来自字节和阿里云。当被问及是否考虑自建算力,或尝试接入规模更小的算力服务商或地方智算中心时,对方的回答是“暂时没有,现有的够用。”

这句“够用”其实道出了错配的关键,应用公司日常买的是按量计费的模型服务,算力、模型、调度早被云厂商打包好。换供应商意味着重新部署模型、适配软件、测试稳定性,报价再低,也得先算算迁移的时间成本和切换风险。

所以地方智算中心真正的对手,是那些已经把算力封装成成熟服务的云厂商。

阿里披露的财报数据,能够把这条产业链的分工看得更清楚。在截至6月底的季度,阿里资本开支676.78亿元,同比增长75%;当季首次并表的"AI 云与算力服务"分部(云智能集团与平头哥整合而来)收入484.37亿元,同比增长 45%,经调整EBITA 56.28亿元。而新设的"AI实验室与应用"分部(AI模型实验室、千问2C事业部与千问办公整合而来)收入33.38亿元,经调整EBITA亏损138.61亿元。

同一笔算力支出,在云厂商的报表里是收入,在模型公司的报表里是成本。

芯片厂、机房运营商、云厂商、模型公司都在这场扩张里下了重注,只是虽同乘一条船,却未必同时到岸。

推理时代,算力开始按“任务”算账

如果说闲置是供需错配的老问题,那么推理时代的到来,又有了新变量。

要知道训练和推理是两种完全不同的负载。训练可以集中调度,一个任务连跑几周,让大集群保持高负载;推理跟着用户请求走,早晚高峰起落不定,还得保证响应速度。

Agent普及后,一次任务要经历规划、检索、调工具、校验多个环节,调用次数和上下文一起膨胀。单个任务消耗的Token总量,不会因为单价下降而减少。

Gartner在8月的两篇预测里给出两组数字:2026年全球推理类AI基础设施支出预计233亿美元,首次超过训练相关的190亿美元;2028年单个Agent工作流的推理成本将涨至目前的五倍以上。

需求的形态变了,过去靠集中采购、堆大集群兑现利用率的老办法,在分散波动的推理请求面前开始失灵。

DeepSeek在9月的调价更是直接把推理的峰谷写进了价格表。Flash系列空闲时段每百万Token缓存命中输入0.02元、未命中输入1元、输出4元,高峰时段翻倍。三项价格比之前的空闲价分别降了60%、约33%和约11%。

分时定价的潜台词是,价格本身成了调度工具,引导用户把能等的任务挪到低谷。算力的峰谷差,第一次直接体现在API报价上。

整个市场也在降价,Silicon Data的LLM Token支出指数显示,行业每百万 Token 平均支付价格从5月高点2美元以上降到8月底的0.97美元,较5月高点跌去超52%。但分化明显,中端通用模型被开源替代、价格战最烈,顶尖旗舰模型仍保有溢价能力。

这说明企业的采购方式也变了,简单任务交给便宜够用的模型,复杂推理留给旗舰。模型公司靠技术优化省下的成本,正通过价格战让渡给客户。

但模型价格下降,并不意味着完成一项任务的总成本也会同比下降。Token单价只是成本的一部分,完成一项任务还要计入模型效果、调用轮数、响应时间、失败重试和人工复核。便宜模型可能要多试几轮,贵模型也许一次到位,哪个划算,得把任务完成质量一起算进去。

订阅制产品的账最直观,用户月费固定,调用成本跟着使用量走。Token降价利好毛利,可功能越做越复杂,单次任务越吃越多,总成本照样往上走。

评价算力的尺子已经从芯片峰值参数和Token单价,换成真实负载下能不能稳定交付任务、交付一次花多少钱。

一个产业层面的佐证是,国产芯片目前接住的主要是推理。沐曦在招股书里写明,互联网企业采购国产芯片主要用于推理侧;DeepSeek V4的预训练仍在英伟达H800、H100集群上完成,昇腾承担推理部署和部分后训练;阿里则宣称自研PPU在推理侧优于H20,尽管测试范围是200亿到1000亿参数的模型。

推理先落地,一半是主动选择,一半是能力边界。训练是全局同步的活,每步梯度更新都要等最慢的那张卡,规模越大,等待越容易变成吞掉算力的黑洞;推理可切分、可调度,国产算力的能力能够直接兑现。

从“有卡可用”到“任务跑通”,国产算力还要“过三关”

有供给、有需求,生意还未必跑得通,算力要真正进入应用生产还得“过三关”。

首先是建好的资源得先被充分调用起来。

中科曙光分享过一个样本,郑州的国家超算互联网核心节点接入全国一体化算网调度体系后,靠跨中心优化、削峰填谷,系统资源利用率从不足50%拉到满载。

很多闲置来自任务和资源没对上,把任务放进更大的池子里调配,空转时段就有机会被填掉。

算电协同也在解决相近的问题。中国工程院院士高文在WAIC上透露,中国算力网第一阶段已完成约70%,全面落地可能要二十年,他的团队在研究让算力中心从能耗大户变成电网友好型节点,算力调度和电力调度实时联动。

工信部的《算力互联互通行动计划》则提出,2028年基本实现全国公共算力标准化互联。

能源本来就是中国的底牌。在中美投资一线跑了十年的DCM投资人David Cheng,9月来中国走了一圈后在田野笔记里记录了一句:"China has all the energy in the world but no chips. The US has chips but no energy."(中国的电用不完,但没有芯片;美国有芯片,却没有电)

这句话背后有两个口号:“西电东送”和“东数西算”。中国西部的地方政府实际上是在说:把芯片带来,我们会免费或大幅补贴供电。

但网络接通、资源调动只是让算力有了更高效的流转方式。要让这些资源真正承接 AI 应用,还得看模型能不能跑得起来。

换芯片可不只是换硬件,架构、编译器、软件栈各不相同,迁移涉及算子适配、性能调优、稳定性测试,迁移成本越高,客户越懒得动。

券商研报梳理,2026年4月发布的DeepSeek V4已完成对海光、昇腾、昆仑芯、摩尔线程等国产芯片的适配;7月,美团开源的LongCat-2.0在五万卡本土算力集群上完成全流程训练;10月2日,DeepSeek开源了面向昇腾的全套训练工具链,与英伟达版本一一对应。更早些,DeepSeek在V3.1上采用UE8M0 FP8格式,公开说明就是面向下一代国产芯片设计的。

这套打法国外很少见。美国的惯例是芯片迁就模型,即模型定义需求,芯片跟进定制,谷歌TPU配Gemini、亚马逊Trainium配Anthropic都循这个逻辑。国内不少环节反了过来,模型主动弯腰适配芯片,改数值格式、重写底层算子。

迁就未必等于落后,这些工程创造是实打实的,只是它们目前服务的目标还是补短板,距离定义下一代计算形态,还有一段路要走。

而对客户来说,技术上跑得通还不够,经济上也得划算。这里我们要先理清一个误区,即峰值算力不等同于有效算力。决定训练速度的是模型浮点运算利用率(MFU)和有效训练时长占比。

字节2024年公开的MegaScale系统,在12288块GPU上训练1750亿参数模型,MFU做到55.2%,即便在成熟系统里,也有近一半算力耗在等待、通信和空转中。摩尔线程公布的夸娥集群数据里,Dense模型MFU 60%、MoE模型40%,有效训练时长占比超90%。这些指标被当成卖点宣传,恰恰说明它们曾经是痛点。

超节点是系统路线的答案。7月WAIC上,华为昇腾950超节点真机首次亮相,基于自研灵衢互联协议实现业界最大1024卡高速互联。中兴、沐曦、昆仑芯都拿出了自己的产品。他们的逻辑是,单卡性能和显存受限,就靠多卡互联和系统协同补整体能力。

华为副董事长、轮值董事长徐直军在去年9月的华为全联接大会上提到:"我们单颗芯片与英伟达是有差距的,但是长期投入连接技术,我们构筑的超节点,可以做到世界上最强。"

当然,系统路线也有自己的代价,单卡越弱,凑同等算力需要的卡越多,产能、电力和折旧压力同步放大。按市场流出的最低报价,一颗昇腾950DT约11.1万元,华为正在部署测试的25.6万张卡集群,仅芯片采购就接近284亿元。配套功耗按英伟达NVL72每卡约1.67千瓦反推,这个集群对应380兆瓦级供电,西部电价下一年电费约10亿元;同等峰值算力的英伟达方案约95兆瓦、2.5亿元。卡数翻几倍,机房、液冷、运维和电费都跟着翻几倍。

另一种思路,是从降低单点的功耗和采购成本入手。

中诚华隆 是国内少数具备“芯片+整机+解决方案”全栈自主可控能力的企业,依靠“申威技术+RISC-V技术+可信技术”构建自主可控技术体系,产品覆盖GPU、CPU、SoC芯片和各类整机产品。

去年11月企业发布全国产训推一体芯片HL100,兼容CUDA生态,围绕推理场景优化。据公司介绍,该芯片经相关机构检测的功耗为68瓦,低于其所对比的同期主流产品370瓦至480瓦的功耗水平;公司还称,在同等算力条件下,其总拥有成本约为国外某款 AI 芯片的四分之一。

(图:HL100芯片)

今年8月中 诚华隆又 发布了第二代HL200推理芯片及超节点智算集群方案,单机柜支持64卡互连,可扩展至万卡级集群。目前,其产品已进入中国移动、中国电信等运营商集采,其签约订单规模已达10亿元。

这些数字体现了公司试图从功耗和成本切入的产品思路,但还需要放到具体的测试条件和实际负载中理解。单芯功耗、同等算力TCO、完成一项任务的综合成本,是三个不同的指标,最终要靠客户的实际运行数据说话。

这也是中诚华隆董事长王嘉诚强调的"标杆穿透":优先打进要求高的标杆客户项目,用真实运行数据推动客户从“可用”走向“敢用”。据他介绍,公司超半数超半数工作精力聚焦于外部生态对接与场景优化,芯片立项初期便深度调研上下游伙伴、生态企业与终端用户的当下及未来需求,将真实场景需求直接转化为芯片设计指标。

( 中诚华隆中标1.8亿元 )

调度、适配、成本这“三关”相互咬合,资源调不动,空置继续烧钱;模型跑不顺,卡再多也进不了生产环境;账算不平,客户不会持续掏钱。

无论哪条路线,最后都要回到真实任务里接受检验。

结尾

算力竞争的刻度已经改变。

当企业开始用Token衡量用量、用任务完成率检验Agent、用成本收益决定是否要扩大部署,行业对算力的评估标准也随之改变。

上半场,拼的是谁能更快建起集群、获得更多芯片,考验的是资金实力和产能获取能力;下半场,算力能否稳定承接真实业务、将任务成本控制在合理区间、让客户持续付费,开始成为更关键的指标。

乌兰察布的闲置学校可以改建成数据中心,4万亿元投资也能让机房遍布全国。但这些都只是算力供给的起点。

接下来真正拉开差距的,是产业对市场需求的理解、对技术迭代的应变,以及将计算能力转化为持续商业回报的能力。

本文来自微信公众号“奇点研究社”,作者:里白,编辑:孟雯,36氪经授权发布。

来源:36氪
阅读原文