当前位置:首页 > 行业观察

GPU 算力又缺又剩:瓶颈不在芯片,在机房和电

xinhack3周前 (10-23)行业观察46

GPU 算力又缺又剩:瓶颈不在芯片,在机房和电 行业观察

先说结论:不是硅不够,是通电的机房不够

这周看了好几份算力报告,最扎心的一句话来自 IDC:AI 现在缺的是产能,不是需求。这话听起来反直觉——毕竟新闻里天天有人喊 GPU 堆成山卖不出去。但把数据摊开看,矛盾其实是真的:前沿集群的卡一卡难求,普通企业的卡大量闲置,根子不在芯片本身,而在“能通电、能散热、能连网”的机房 floor space。换句话说,卡造得出来,能喂饱它的电和楼造不出来,这才是这轮算力焦虑的真相。

两组打架的数据

一边是“过剩”的证据。Business Insider 报道亚马逊仓库里堆着装不上的 GPU,光“提前收货”一个月就要吃掉约 30 亿美元;批评者直接说这是英伟达的渠道压货。另一边是“短缺”的证据。Nebius 的 B200 现货价一周翻了三倍多,IREN 的 CEO 说 2026 年产能已经售罄,新合同价格比去年翻倍。两组数据都是真的,前提是那个约束变量是“能通电的机房”,而不是芯片本身。同一个 GPU,放在通电的机房里是金子,躺在没电的仓库里就是废铁。

为什么是电力和土建卡脖子

IDC 的追踪数据说得很直白:AI 就绪机房从选址到建成要五到七年,可加速器每 12 到 18 个月就换一代。钢筋水泥的回报周期和硅的迭代周期根本对不上。更硬的数字是电力——单美国就有接近 7GW 规划中的 2026 数据中心容量因为缺电被推迟或取消,到 2028 年预计有 45GW 的电力缺口;全球 AI 基础设施用电预计从 2025 年的 519 TWh 涨到 2030 年的 1308 TWh。卡可以连夜造,电网和机房扩建按年算,这是结构性错位。

对我们部署工程师意味着什么

落到实操上,我给团队的建议就两条。第一,别再只盯“有没有卡”,要问“这卡挂上去有没有电、有没有液冷、能不能进骨干网”。第二,利用率比拥有量更重要。Oracle 说自己 fleet 利用率 97.9%,但大量企业 GPU 长期低于 15%——同样的钱,会调度的人能跑出三倍的活。具体做法上,先把批处理、连续推理、缓存命中率做上去,再谈扩容;很多团队的瓶颈根本不是卡不够,是调度太烂,算力白白空转。

别被“GPU 过剩”带节奏

最后泼盆冷水:看到“仓库堆卡”就喊泡沫破裂,和看到“租金上涨”就喊永远涨,都是偷懒。真实情况是分层——前沿、有 committed 工作负载的稀缺;普通、单租户的过剩。这轮分化大概率会持续到 2027 年。做选型、做预算,按自己真实 workload 算账,别跟着情绪走,也别被任何一方的叙事牵着鼻子走。

小结

把这周的报告串起来看,算力故事的主角已经从“芯片”换成了“电和楼”。对做系统的人,这意味着未来三年的核心能力不是抢卡,而是把已通电的算力吃干榨净。谁能把利用率做上去,谁就在这一轮里真正省钱、真正有竞争力。

相关文章

电力正在取代芯片:AI 算力扩张的新瓶颈与代价

电力正在取代芯片:AI 算力扩张的新瓶颈与代价

过去两年谈 AI 算力,关键词是芯片;现在公开研究和监管文件把矛头指向另一样东西:电。这篇梳理美国与欧洲电力约束的最新进展,说明瓶颈为什么从芯片转到电网,以及这个变化对国内做 AI 应用的企业意味着什…

开源权重模型的私有化拉力:自托管隐性成本被低估

开源权重模型的私有化拉力:自托管隐性成本被低估

开源权重模型让企业第一次能私有化部署前沿级能力,数据不必出域。但 OECD 2026 年的测算显示,自托管只有在足够规模下才划算,低用量场景往往追不回成本;而硬件支出通常只占真实总成本的三到四成。本文…

算力租赁的结构性分化:高端紧俏、零售持平,纸面合同风险浮现

算力租赁的结构性分化:高端紧俏、零售持平,纸面合同风险浮现

最近一周,国内算力大单还在落地,海外头部算力租赁商却遭遇股债双杀;同一时间,高端训练卡一租而空、零售价格却原地持平。本文拆解算力租赁市场的结构性分化,以及藏在纸面合同里的三类风险信号,帮采购方与观察者…

数据合规成本成 AI 隐性门槛:从野蛮生长到可被审计

数据合规成本成 AI 隐性门槛:从野蛮生长到可被审计

当企业把 Agent 接进生产,第一道关卡往往不是模型能力,而是合规。审计追踪要记录每一次 Prompt、工具调用与决策并保留数年,还要设「Agent 道德官」签字放行。这篇文章聊聊,为什么数据合规正…

离交易越近的 AI,付费越干脆:客服 26.5% 增速

离交易越近的 AI,付费越干脆:客服 26.5% 增速

AI 落地最怕叫好不叫座。但 10 月 15 日前后的行业梳理显示,离交易越近的 AI 场景付费意愿越明确:AI 客服市场预计从 2025 年 160.2 亿美元增至 2026 年 202.7 亿美元…

大厂砍第三方 AI 工具预算:自研替代的苗头开始显现

大厂砍第三方 AI 工具预算:自研替代的苗头开始显现

10 月上旬媒体报道,微软把对 Anthropic Claude 的内部年支出砍掉超三分之一、转推 GitHub Copilot;Meta 把 Claude Code 用户从约 6 万减到 3 万、转…

购物智能体改写零售:沃尔玛 Agent Gateway

购物智能体改写零售:沃尔玛 Agent Gateway

沃尔玛 10 月 21 日推出面向 AI 智能体的 Agent Gateway,允许获准接入的代理代用户下单;同一周亚马逊却在拦截同类代购。这篇从两家相反的动作出发,讲清智能体电商正在如何改写零售的流…

企业 AI 治理从口号到岗位:AI 治理官与审计成刚需

企业 AI 治理从口号到岗位:AI 治理官与审计成刚需

当各部门都在悄悄用 AI、却没人说得清公司到底跑了多少个模型,治理就从 PPT 走到了工位。这篇结合 2026 年企业设立 AI 治理岗的公开案例与欧盟 AI 法案的硬性节点,说明为什么有人负责 AI…