开源权重模型正在分流推理：主权云和边缘吃掉公有云

一个被低估的迁移

最近看 IDC 的 AI 经济报告，有个数字我一直记着：过去 12 个月里，31% 的公司已经把至少一部分工作负载从专有模型迁到了开源权重模型。这不是“试试看”，是实打实的迁移。再叠加一个事实——全球过半组织已经或计划在 12 个月内用主权云跑 AI。两件事合起来，指向同一个趋势：推理需求正在从公有云的大模型 API，往开源权重 + 私有/主权/边缘的环境里流。这个趋势很安静，但方向感很强。

数据说话：31% 已经挪窝

IDC 的 AI Economics 调研里，这 31% 是已经发生的动作，不是意向。背后的推力很朴素：开源权重模型现在的能力够用，又能自己部署、数据不出域、单价可控。对金融、政务、医疗这类对数据驻留敏感的客户，这不是“省钱”那么简单，是合规刚需。当模型能力差距缩到“够用”的区间，控制权就胜出，客户没理由继续为用不到的能力付溢价。

为什么是主权云和边缘

算力稀缺会一直存在，但稀缺是分层的。前沿训练卡一卡难求，可推理用的中端卡相对充裕，正好适合本地和边缘部署。开源权重模型把推理从“必须调用某家云”解耦出来，企业可以把模型塞进自己的机房、自己的边缘节点，甚至端侧设备。IDC 预测非云服务商的自建 AI 基础设施支出会从 2025 年的 286 亿美元涨到 2030 年的 964 亿美元，年复合 27.5%——这就是分流的速度，也是主权云和边缘真正起量的证据。

对云厂商和模型厂的含义

对公有云来说，这是个提醒：靠 API 调用量收税的好日子在变。客户把推理搬走，云的“管道费”就薄了，未来得靠托管、调度、治理这些更重的服务留客。对模型厂来说，开源权重不是慈善，是抢生态和分发入口——谁的开源权重被部署得最广，谁就握住了下游调优和工具链的话语权。闭源模型的护城河，会从“能力领先”更多转向“不可替代的工具和工作流”。

别忽略 token 价格通缩的推力

还有一层推力是价格。多家追踪数据显示，token 价格在过去一年里大幅下探，有的网关均价一年降了将近一半。价格越透明、越便宜，客户越没理由为“够用”的场景多付溢价，也就越有动力迁到开源权重自己跑。所以这个趋势不是会不会发生，是已经在发生，只是速度被“大模型新闻”盖住了，很多人还没意识到自己的负载已经悄悄挪了窝。

小结

一句话总结：推理正在“去中心化”，从少数公有云手里流向客户自己的机房、主权云和边缘。对做架构的人，这意味着要提前把多模型、多环境的部署能力准备好，别把命运绑死在单一 API 上。