端侧大模型撞线前夜:能跑进手机的AI不再只是概念

这波端侧智能,到底撞的是哪条线
要我说啊,端侧大模型这词儿喊了不是一年两年了,早些年大伙儿一听“AI跑在手机上”就乐,乐完该干嘛干嘛。这回不太一样:面壁智能首席科学家姚远在11月5号分享会上直接扔了句“撞线前夜”,团队已把35B的MoE模型塞进手机跑起来,不是实验室Demo,是能掏出来给人看的活物。
米岸AI翻了下最近半个月的动静,发现信号成串来:芯片量产了、模型压下去了、整机开卖了,端侧大模型才算从“讲道理”变成“看实物”。前几年“我的冰箱也能AI”的嗓子眼儿话,这回先咽回去。
芯片先动:存算一体把功耗摁住了
端侧最大的拦路虎从来不是“能不能算”,是“算的时候别把电池吸干了”。后摩智能的M50芯片走的是存算一体路子,单芯片160 TOPS算力、典型功耗才10瓦,能效比干到16 TOPS/W。更硬的是交付——M50量产不到一年就拿下150多个产品定点,覆盖AI PC、移动终端、机器人和边缘服务器四个方向。对芯片厂来说,“定点”比发布会实在,它意味着客户真把你写进BOM清单了。
高通也没闲着。11月3号高通AI Hub中国版正式对国内开发者开放,搬来230多个预优化模型,从模型探索到部署全链路打通。平台加模组这套打法,摆明了是要把端侧AI的开发门槛往下拽。
模型侧:小参数也能干正经活
模型这边玩的是“瘦身”。面壁和清华的“密度定律”说,开源大模型能力密度约每三个半月翻一番——人话版:达到同样智能,所需参数正指数级往下掉。MiniCPM5-1B这类十亿级小模型,四比特量化后权重才半GB,手机浏览器直接跑。蒸馏、量化、剪枝三板斧一叠,小模型在某些活儿上已不虚大哥。
这不扯犊子。一个2亿参数的基因组模型干翻体量两百倍的对手,2026年屡见不鲜。参数“军备竞赛”的逻辑,正被“单位功耗产出多少智能”替代。
整机开卖,才是真信号
光有芯片和模型还不够,得有敢标价的整机。联想那台AI主机P7,掌心大小、300克重,塞了M50芯片,最高本地跑125B大模型,充电宝就能供着,定位“Agent时代的Token自由终端”。长城笔记本、绿联家庭Agent中枢也跟着用上了。当厂子真把端侧Agent算力做成量产货往外卖,市场空间才算被确认,不是PPT里的饼。
斑马智能司罗在11月5号乌镇也补了句:智舱端模型的价值在把硬件本事榨出来,高频、弱网、隐私敏感的活儿优先车端干,复杂推理交给云端,俩配合着来。
别上头:三道坎还横在那
话又说回来,咱这老程序员见过的“马上颠覆”多了去了,最后多半是“马上”了半天。端侧大模型眼下还卡三道:内存涨价卡着成本,模型压缩过头保真度掉,还有最要命的——到底哪些活儿非得在端上干、用户愿不愿意为它多掏钱。端和云不是二选一,是看任务、看成本、看安全要求把算力搁最合适的地方。这道理谁都懂,落地全是坑。
所以结论:端侧大模型这回真过了“能不能”那关,但离“随手用、人人用”还歇着一截。唱衰的别急,高潮的也别急,看戏最稳。
常见问题
答:最直观就三条——断网能用、隐私不出设备、不按调用次数花钱。出差路上、客户现场不让联网、工资表这种敏感东西,端侧跑着踏实,云端再强没网也是零。
问:是不是以后不用买算力、全本地跑了?
答:想多了。端侧适合高频轻活和隐私活,复杂推理、知识更新还得靠云端。米岸AI看这事儿得是“端云配合”,不是谁替谁。谁跟你说“以后全本地、云死了”,基本是卖芯片的台词。
问:现在值得换带端侧AI的手机或电脑不?
答:不急着为这个单独掏钱。现有设备先凑合用,等真有你天天离不了的端侧功能再说。这玩意儿跟5G刚出那会儿一个德行,先建设施,应用慢慢补。







