当前位置:首页 > 行业观察

端侧大模型撞线前夜:能跑进手机的AI不再只是概念

端侧大模型撞线前夜:能跑进手机的AI不再只是概念 行业观察

这波端侧智能,到底撞的是哪条线

要我说啊,端侧大模型这词儿喊了不是一年两年了,早些年大伙儿一听“AI跑在手机上”就乐,乐完该干嘛干嘛。这回不太一样:面壁智能首席科学家姚远在11月5号分享会上直接扔了句“撞线前夜”,团队已把35B的MoE模型塞进手机跑起来,不是实验室Demo,是能掏出来给人看的活物。

米岸AI翻了下最近半个月的动静,发现信号成串来:芯片量产了、模型压下去了、整机开卖了,端侧大模型才算从“讲道理”变成“看实物”。前几年“我的冰箱也能AI”的嗓子眼儿话,这回先咽回去。

芯片先动:存算一体把功耗摁住了

端侧最大的拦路虎从来不是“能不能算”,是“算的时候别把电池吸干了”。后摩智能的M50芯片走的是存算一体路子,单芯片160 TOPS算力、典型功耗才10瓦,能效比干到16 TOPS/W。更硬的是交付——M50量产不到一年就拿下150多个产品定点,覆盖AI PC、移动终端、机器人和边缘服务器四个方向。对芯片厂来说,“定点”比发布会实在,它意味着客户真把你写进BOM清单了。

高通也没闲着。11月3号高通AI Hub中国版正式对国内开发者开放,搬来230多个预优化模型,从模型探索到部署全链路打通。平台加模组这套打法,摆明了是要把端侧AI的开发门槛往下拽。

模型侧:小参数也能干正经活

模型这边玩的是“瘦身”。面壁和清华的“密度定律”说,开源大模型能力密度约每三个半月翻一番——人话版:达到同样智能,所需参数正指数级往下掉。MiniCPM5-1B这类十亿级小模型,四比特量化后权重才半GB,手机浏览器直接跑。蒸馏、量化、剪枝三板斧一叠,小模型在某些活儿上已不虚大哥。

这不扯犊子。一个2亿参数的基因组模型干翻体量两百倍的对手,2026年屡见不鲜。参数“军备竞赛”的逻辑,正被“单位功耗产出多少智能”替代。

整机开卖,才是真信号

光有芯片和模型还不够,得有敢标价的整机。联想那台AI主机P7,掌心大小、300克重,塞了M50芯片,最高本地跑125B大模型,充电宝就能供着,定位“Agent时代的Token自由终端”。长城笔记本、绿联家庭Agent中枢也跟着用上了。当厂子真把端侧Agent算力做成量产货往外卖,市场空间才算被确认,不是PPT里的饼。

斑马智能司罗在11月5号乌镇也补了句:智舱端模型的价值在把硬件本事榨出来,高频、弱网、隐私敏感的活儿优先车端干,复杂推理交给云端,俩配合着来。

别上头:三道坎还横在那

话又说回来,咱这老程序员见过的“马上颠覆”多了去了,最后多半是“马上”了半天。端侧大模型眼下还卡三道:内存涨价卡着成本,模型压缩过头保真度掉,还有最要命的——到底哪些活儿非得在端上干、用户愿不愿意为它多掏钱。端和云不是二选一,是看任务、看成本、看安全要求把算力搁最合适的地方。这道理谁都懂,落地全是坑。

所以结论:端侧大模型这回真过了“能不能”那关,但离“随手用、人人用”还歇着一截。唱衰的别急,高潮的也别急,看戏最稳。

常见问题

问:端侧大模型和云端大模型,普通人该关心啥区别?

答:最直观就三条——断网能用、隐私不出设备、不按调用次数花钱。出差路上、客户现场不让联网、工资表这种敏感东西,端侧跑着踏实,云端再强没网也是零。

问:是不是以后不用买算力、全本地跑了?

答:想多了。端侧适合高频轻活和隐私活,复杂推理、知识更新还得靠云端。米岸AI看这事儿得是“端云配合”,不是谁替谁。谁跟你说“以后全本地、云死了”,基本是卖芯片的台词。

问:现在值得换带端侧AI的手机或电脑不?

答:不急着为这个单独掏钱。现有设备先凑合用,等真有你天天离不了的端侧功能再说。这玩意儿跟5G刚出那会儿一个德行,先建设施,应用慢慢补。

相关文章

AI 会取代哪些工作?一份冷静的任务级分析

AI 会取代哪些工作?一份冷静的任务级分析

AI 取代的不是职业而是任务。三条分界线:可预测任务最先接管、具身交互较慢、责任判断最难替代。每年做一次'任务盘点'胜过焦虑。…

智能体从试点走向生产,卡住它的变成了信任

智能体从试点走向生产,卡住它的变成了信任

多家机构 2026 年三季度的调研显示,企业智能体正从试点走进生产环境,但相当比例的生产力收益被“盯着它干活”和返工悄悄吃掉。这篇讲清楚:为什么 Agent 的能力不再是最主要的瓶颈,信任与治理才是,…

个人智能体大战前夜:大厂为什么集体掉头做 C 端

个人智能体大战前夜:大厂为什么集体掉头做 C 端

一个月前 Meta 的 Muse 登顶下载榜,国内大厂紧接着密集推出个人智能体。这篇文章梳理这轮 C 端热潮和上一轮 B 端办公热有什么不同,以及商业化逻辑到底换了什么,不预测任何公司股价,只谈趋势,…

开源权重模型的私有化拉力:自托管隐性成本被低估

开源权重模型的私有化拉力:自托管隐性成本被低估

开源权重模型让企业第一次能私有化部署前沿级能力,数据不必出域。但 OECD 2026 年的测算显示,自托管只有在足够规模下才划算,低用量场景往往追不回成本;而硬件支出通常只占真实总成本的三到四成。本文…

企业 Agent 采购的单位经济转向:能力不再是瓶颈

企业 Agent 采购的单位经济转向:能力不再是瓶颈

10 月正被行业追踪记成生成式 AI 从实验变成预算科目的月份:三家前沿实验室 18 天内密集更新、两家把 API 标价下调双位数,早期 Fortune 500 部署也跨过上线满 12 个月。本文认为…

开源权重模型正在分流推理:主权云和边缘吃掉公有云

开源权重模型正在分流推理:主权云和边缘吃掉公有云

IDC 数据显示,过去一年 31% 的企业已把部分负载从专有模型迁到开源权重模型,过半组织计划用主权云跑 AI。本文分析推理需求正从公有云 API 流向开源权重加私有/边缘环境的趋势,以及它对云厂商、…

AI 资本开支的回报之问:需求真实,但 ROI 多数没兑现

AI 资本开支的回报之问:需求真实,但 ROI 多数没兑现

AI 资本开支屡创新高,但多数企业没做过 ROI 核算,GPU 利用率两极分化。本文拆解“需求真实却回报未兑现”的矛盾,教你识别关联交易制造的虚火,并给出技术决策者真正该盯的有效利用率指标,避免被 c…

从卖模型到卖闭环:企业智能体的收费逻辑变了

从卖模型到卖闭环:企业智能体的收费逻辑变了

本周多条行业稿指向同一趋势:AI 从比拼对话转向能闭环执行任务的智能体。本文拆解 Agent 商业化的真正门槛——闭环能力,以及 C 端看留存、B 端看合规 ROI 两本不同的账,并提示这一形态远未成…