当前位置:首页 > AI资讯

Inception 推出 Mercury 3 扩散语言模型,速度破千 token/秒

xinhack3周前 (10-21)AI资讯54

Inception 推出 Mercury 3 扩散语言模型,速度破千 token/秒 AI资讯

10 月 20 日,据 ai0.news、DailyAI 等媒体汇总,Inception Labs 推出 Mercury 3——一个基于扩散(diffusion)路线的语言模型,官方称其速度达到每秒 1068 个 token、支持 100 万 token 上下文,能力接近 GPT-4o-mini 档,定价为每百万 token 输入 0.10 美元、输出 0.35 美元。它是 Mercury 1 的 40 倍体量,Inception 认为这验证了“扩散大模型的缩放规律”和自回归路线是相通的。

扩散语言模型到底是什么

我们熟悉的大模型大多是一个字一个字往外蹦(自回归)。扩散模型换了一种思路:先一次性生成一团“草稿”,再并行地反复打磨、修正这一整组 token,而不是严格逐个生成。好处是并行度高,理论上吞吐可以远超逐字生成;代价是生成质量和可控性更难调。Mercury 3 把这条路推到了“可用”的量级,所以引起了关注。

“破千 token/秒”怎么理解

官方宣称 1068 token/秒,但 HN 上的真实用户反馈更接近 300 到 400 token/秒。这里要分清“纸面峰值”和“实际体感”——峰值往往在特定配置和短文本下测得,真实长任务会被各种因素拉低。即便取保守的 300+,对需要大批量生成或低延迟交互的场景,也已经很有竞争力。

为什么大家关心扩散路线

自回归模型在推理成本和延迟上已经逼近工程极限,行业一直在找“下一个范式”。扩散语言模型如果真能稳定缩放,就可能在不堆算力的前提下把吞吐再提一截。Inception 用“40 倍体量仍成立”来论证扩散的缩放规律,这比单纯发一个快模型更有信号意义——它关系到“未来大模型长什么样”。

也要看到质疑

其一,扩散路线在需要严格逐步推理、强可控生成的任务上,成熟度仍不如自回归;其二,实际速度、质量高度依赖具体实现和场景,单看峰值容易高估;其三,把它和 Gemini Diffusion 这类大厂 demo 对比时,要问一句“为什么大厂还没把它做成主打产品”。技术方向对,不等于当下就能替掉主流。

要保留的边界

第一,速度与能力数字来自厂商自报,真实表现要等独立复现;第二,扩散 LLM 在复杂推理任务上的上限仍待验证;第三,定价是否长期成立、生态是否跟得上,都还是未知数。把“路线有潜力”和“产品已成熟”分开。

一句话:Mercury 3 用破千 token/秒的速度把扩散语言模型又往前推了一步,它真正的价值不在快多少,而在验证了一条可能替代自回归的新范式是否走得通。

相关文章

Anthropic 5.5 系列三连更:AI 大模型价格战正式开打

Anthropic 5.5 系列三连更:AI 大模型价格战正式开打

Opus 降 20%、Sonnet 快 30%、Haiku 成本降 75%——Claude 5.5 系列的更新方向只有一个:更便宜。单位智能成本成为新护城河。…

英伟达把 1200 亿参数多模态模型开源,还想塞进你的电脑

英伟达把 1200 亿参数多模态模型开源,还想塞进你的电脑

10 月 15 日英伟达发布 Nemotron 3.5 系列:1200 亿参数的 Super VL 多模态模型,加上能塞进 24GB 显存、甚至 4GB 内存的 Bolt 端侧模型。这篇讲清它的取舍—…

Beam 开源 5010 亿参数权重:它争的不是第一

Beam 开源 5010 亿参数权重:它争的不是第一

10 月 16 日,Reflection 把 5010 亿参数的 Beam 权重放上 Hugging Face,用的是最宽松的 Apache 2.0。它没去争最强,而是主打「同样分数只花三分之一算力」…

英伟达开源 Nemotron 3.5 Super VL 120B,智能体模型交给企业自建

英伟达开源 Nemotron 3.5 Super VL 120B,智能体模型交给企业自建

10 月 19 日,英伟达开源 Nemotron 3.5 Super VL:1200 亿总参、100 万上下文的开放智能体模型,并推出面向本地 AI PC 的轻量 Bolt 系列。这篇讲清它是什么、企…

OpenAI 给 ChatGPT 加浏览器操作,能填表能下载

OpenAI 给 ChatGPT 加浏览器操作,能填表能下载

10 月 20 日,ChatGPT 官方宣布扩展浏览器能力,可读取开放标签页并代填表单、下载文件。这篇讲清它现在能做什么,以及方便背后的权限边界。…

AWS 发布 TorchNeuron 测试版,PyTorch 应用跑上 Trainium

AWS 发布 TorchNeuron 测试版,PyTorch 应用跑上 Trainium

10 月 20 日,AWS 发布 TorchNeuron 公开测试版,让 PyTorch 应用以最小改动跑上自研 Trainium 芯片。这篇讲清它解决什么痛点,以及“去 CUDA 化”意味着什么。…

Meta 披露 Prometheus 超级集群,目标百万块 GPU

Meta 披露 Prometheus 超级集群,目标百万块 GPU

10 月 20 日,Meta 披露俄亥俄州 Prometheus 超级集群细节,最终将容纳约 100 万块 GPU。这篇讲清百万级 GPU 意味着什么,以及它和 Muse Wonder 的关系。…