面壁智能把 350 亿参数多模态模型塞进了手机
10 月 18 日，北京面壁智能（ModelBest）发布开源多模态模型 MiniCPM-V 4.7，参数规模达 350 亿。据 Momenta Media 10 月 18 日报道，这个模型声称能在内存约 3GB 的 iPhone 17 Pro Max 上流畅运行，每秒生成超过 13 个 token，并且能读取照片、截图、文档、图表，解数学与科学题，理解长视频。还有一个 10 亿参数的小版本，面向入门手机和轻量设备。
手机内存装不下，它怎么塞进去的
手机内存通常放不下 350 亿参数的完整模型。MiniCPM-V 4.7 的解法是混合专家（MoE）加“存储分级”：模型被拆成许多专家模块，每生成一个词只调用其中少数几个，合计约 30 亿参数在内存里活跃。不用的专家留在手机存储里，按需加载。
从存储加载慢，是这套方案的老问题。面壁智能加了一个叫“前瞻专家调度”的步骤：模型处理某一层时，预测下一层需要哪些专家并提前加载。公司称大多数情况下超过 80% 的所需模块已提前就位，而且这个技巧不改变模型回答。
速度是怎么提上来的
结合权重压缩，面壁称在搭载 M4 芯片的 iPad Pro 上速度提升约 5 倍，达到每秒超过 17 个 token。公司自己的对比说，得分高于同规模同设计的阿里 Qwen3.6 35B-A3B，响应更短。这些速度与质量对比均来自厂商自测，需要第三方复现。
一个重要背景：苹果自己的设备端模型总参数约 30 亿。面壁的做法是把“活跃部分”维持在相近规模，却调度了一个远更大的参数池——这是端侧模型的一条新思路。
它已经能怎么用
- 读图问答：拍一张图表，问它温度换算，直接在手机上算。
- 长视频理解：丢一段长视频，让它总结关键内容。
- 文档与截图：读 PDF、网页截图，做提取和解释。
模型采用 Apache 2.0 许可，可免费下载与商用，权重已于 10 月 6–7 日上传 Hugging Face；面壁称苹果、AMD、Arm、Intel、NVIDIA，以及华为、昆仑芯、摩尔线程等芯片厂商从发布首日起就提供了支持。
边界要讲清楚
第一，3GB 是“活跃内存占用”的口径，完整权重仍在存储里，首次加载会有延迟。第二，所有速度数字来自厂商测试，不同机型、不同任务会有差异。第三，它仍是端侧模型，复杂推理的上限低于云端大模型，别按“手机上的 GPT”去规划关键任务。
一句话：端侧多模态正从“能跑”走向“能日常用”，但存储分级与前瞻调度，才是它真正的技术增量。
