端侧AI算力,开始拆墙
三星LPDDR5X-PIM、小米玄戒O3、苹果M6/M5 Ultra同周亮剑,分别从内存内计算、全大核SoC、2nm与四晶粒封装三条路线拆掉端侧AI硬件之墙。跑分与能效背后,是手机、PC与座舱算力版图重构,胜负手在于实际模型吞吐与每瓦令牌。
8月最后一周,[[三星]]、[[小米]]、[[苹果]]像约好了一样同时亮出端侧 AI 的底牌:三星把运算单元塞进 LPDDR 内存,小米用 [[玄戒O3]] 把安兔兔跑分推到 520 万,苹果直接端出首款 2nm 的 [[M6]] 和四晶粒 [[M5 Ultra]]。三场发布看似各说各话,其实都在拆同一堵墙:端侧大模型不是模型太大,而是硬件搬运太慢、能效太差。本文拆解三颗芯片背后的三条技术路线,以及它们将如何改写手机、PC 与座舱的算力版图。
一、三星把“算盘”塞进内存:先拆数据搬运这堵墙
Hot Chips 2026 的讲台上,[[三星]]相关负责人把 [[LPDDR5X-PIM]] 的内部结构图放大。台下听众心里清楚,这颗芯片月初刚在 FMS 2026 拿到下一代内存奖,但真正参数直到斯坦福这场会才公开。三星没有先讲带宽,而是直接给了一组 [[Llama 3.1]] 80 亿参数测试数据:LPDDR5X-PIM处理时间 5.4 秒,普通 [[LPDDR5X]] 是 12.3 秒;每秒令牌 81.3 TPS,后者只有 27 TPS。翻译过来:在同一个开源模型上,快了约 2.3 倍,吞吐达到 3 倍。
PIM 的逻辑不复杂。传统架构里,AI 推理每次都要把数据从内存搬到 CPU 或 GPU,算完再搬回去。大模型一跑,数据搬运成了瓶颈,内存墙比算力墙更先撞上。三星早在 2021 年就做过 [[HBM-PIM]],面向数据中心高带宽内存;这次把 PIM 落地到 LPDDR5X,明显是冲着手机、平板、端侧 AI 设备来的。三星相关负责人的说法是:HBM 不是所有场景都非它不可,LPDDR-PIM 的高带宽加低功耗,给端侧 AI 开辟了新路。
需要看到,移动端大模型的竞争,已经从“能不能跑”变成“跑多久、烫不烫”。内存内计算把简单运算就近处理,理论上可以减少数据搬运带来的功耗和延迟。但 LPDDR-PIM 要真正商用,还得看手机 SoC 厂商愿不愿意改内存控制器、操作系统怎么调度。据多位接近三星内存部门的人士透露,LPDDR-PIM 真正急的是三星自己——存储厂需要在 HBM 之外再立一个技术标杆,把移动内存的定价权重新攥回手里。
从产业链角度看,三星这步棋还有另一层意思。当前端侧大模型正在从 70 亿向 80 亿甚至更高参数下探,SoC 的 NPU 峰值算力增长很快,但内存带宽没有同步跟上。手机厂商如果继续走传统 LPDDR + NPU 的路,发热和续航会越来越难看。三星用 PIM 把一部分注意力引向内存子系统的革命,等于提前给 2027 年以后的旗舰机定标准。能不能成,取决于有没有一家头部厂商愿意在量产旗舰上冒险首配。这也让接下来几场手机发布会变得有意思。
二、小米玄戒 O3:用“全大核”把安卓旗舰跑分顶过 500 万
8 月 24 日北京,[[小米]]的玄戒芯片技术沟通会一口气发了三颗芯片:旗舰手机 SoC [[玄戒O3]]、端侧 AI 加速 [[O100]]、智能驾驶 [[D100]]。官方话术叫“从口袋到座舱、从客厅到工厂”。但真正让数码圈睡不着的是 O3:[[安兔兔]]综合跑分 5228014,行业首个突破 500 万的移动旗舰平台。
O3 不是小改款。3nm 制程下,晶体管从上一代 O1 的 190 亿增至 240 亿;CPU 直接上了 6 超大核 + 4 大核的十核“全大核”架构,峰值主频 4.35GHz。[[GeekBench 6]]单核 3945、多核 15221,较上一代分别提升 31% 和 60%;日常使用场景功耗反而下降 25%。粗略看,小米是想同时拿下峰值跑分和日常能效两个 KPI。
“全大核”在安卓阵营是个赌注。没有小核做低负载兜底,系统调度一旦压不住,刷微信都可能崩能效。但小米显然不想再被叫“跑分没输过、体验没赢过”。据多位接近小米芯片团队的人士透露,O3 立项时最大的内部争论不是安兔兔能到多少,而是抖音、微信这类轻负载下的功耗曲线。最终方案是拉高超级大核主频,再靠 3nm 制程把漏电和发热压下去。这个选择能不能成,要等量产机出来才能见分晓。
更值得关注的是“三芯齐发”背后的复用逻辑。O100 补端侧 AI,D100 打座舱,O3 做手机,小米想把同一套 AI 算力底座铺到人车家全生态。这一步如果走通,手机、汽车和智能家居之间的算力协同会更有看头;如果走不通,三线并进也会变成三线失血。对于国产旗舰 SoC 来说,O3 的符号意义不小:它不仅是一颗芯片,更是安卓阵营在传统芯片之外寻找替代的又一次喊话。
| 玄戒O3关键规格 | 数据 |
|---|---|
| 制程 | 3nm |
| 晶体管 | 240 亿,较 O1 增加 50 亿 |
| CPU | 6 超大核 + 4 大核,峰值 4.35GHz |
| GeekBench 6 单核 | 3945 |
| GeekBench 6 多核 | 15221 |
| 安兔兔 | 5228014 |
| 日常功耗 | 较上代降低 25% |
三、苹果 M6/M5 Ultra:2nm 和四晶粒,不是炫技是抢定价权
苹果这一周没开发布会,更新 [[Mac mini]] 和 [[Mac Studio]] 的方式很苹果:官网静悄悄,芯片却一个比一个狠。[[苹果]]首款 2nm 制程的 [[M6]] 塞进新 Mac mini,而 [[M5 Ultra]] 用 UltraFusion 把两枚双晶粒 M5 Max 连成四晶粒架构,装进 Mac Studio。PC 圈还没消化完 M5,苹果已经把下一代晒了出来。
先看 M6:12 核 CPU,2 超 + 4 性能 + 6 能效的三种核心组合,多线程较 M5 提升最高 1.2 倍,较 M1 最高 2.4 倍;双 16 核神经网络引擎,AI 峰值较前代提升最多 2 倍;GPU 12 核,每颗核心内置神经网络加速器,AI 峰值较 M5 提升近 30%,较 M1 超过 8 倍。统一内存最大 32GB,带宽 170GB/s,较 M5 提升 10%,较 M1 提升 2.5 倍。注意,这是 2nm 第一次落在量产 Mac 上,单线程与能效优势直接把 Arm 阵营刚追上的距离又拉开。
M5 Ultra 更极端。苹果首次在 M 系列用 UltraFusion 把两枚双晶粒 M5 Max 互联,形成四晶粒架构,晶粒间带宽 4.4TB/s 以上,连接密度提升逾 6 倍。CPU 最多 36 核(12 超 + 24 性能),单线程较 M3 Ultra 提升最高 1.25 倍,多线程最高 1.3 倍。说白了,这是给大模型推理、视频后期、专业工作站准备的“拼积木”芯片,核心不是跑分,而是让统一内存和带宽大到足够本地跑更大的模型。
苹果的逻辑很清楚:端侧 AI 时代,制程和封装就是定价权。M6 的 2nm + 神经网络引擎 + GPU 内置加速器,走的是每瓦算力路线;M5 Ultra 的四晶粒,走的是“我全都要”的桌面路线。据多位接近苹果供应链的人士私下说,M6 的产能节奏非常激进,Mac mini 先上而不是 MacBook,就是想卡住 Arm PC 阵营更新前的窗口。苹果不轻易在参数表上写“AI”,但每颗芯片都在给本地推理铺路。
四、三条路线,同一个堵点:端侧 AI 芯片开始“拆墙”
把三件事放在一张表里,就能看出产业正在发生什么。三星拆的是内存墙,小米拆的是架构墙,苹果拆的是制程与封装墙。目标却高度一致:让 80 亿、甚至更大参数的开源模型可以低成本地跑在手机、平板和 PC 上。
| 玩家 | 代表产品 | 技术路径 | 关键结果 |
|---|---|---|---|
| [[三星]] | [[LPDDR5X-PIM]] | 内存内计算 PIM | Llama 3.1 80 亿:5.4s / 81.3 TPS,普通 LPDDR5X 为 12.3s / 27 TPS |
| [[小米]] | [[玄戒O3]] | 3nm 全大核 SoC | 安兔兔 5228014,GB6 单核 3945 / 多核 15221,功耗降 25% |
| [[苹果]] | [[M6]] | 2nm 制程 + 双神经引擎 | AI 峰值较 M5 最高 2 倍,GPU AI 较 M1 超 8 倍 |
| [[苹果]] | [[M5 Ultra]] | UltraFusion 四晶粒封装 | 晶粒带宽 4.4TB/s,连接密度提升逾 6 倍 |
时间线也颇具表演性:
三家公司路径不同,但共同揭示两个事实。第一,端侧 AI 的硬件瓶颈已从峰值算力转向数据搬运和能效,内存与 SoC 的协同比单一跑分重要。第二,跑分通胀已经不够用,三星测试直接用 [[Llama 3.1]] 80 亿模型,小米拉安兔兔,苹果同时给神经引擎和内存带宽——他们其实在竞争“每瓦令牌”这个新指标。
据多位业界人士的话说,现在几家头部手机厂的内测标准已经不只是安兔兔,而是 Llama 3.1 或更小开源模型的首字延迟、decoding 吞吐和整机温升。这也解释了为什么三星敢把 PIM 拉到 Hot Chips,为什么苹果 M6 的神经引擎升级这么急。接下来一年,芯片厂商如果只会讲 AI 算力峰值而不讲内存带宽、能效和实际模型吞吐,基本等于裸泳。
但更残酷的是生态协同。LPDDR-PIM 要大范围落地,需要 SoC 厂商和手机厂一起改内存子系统;小米 O3 要上量,需要先进制程和安卓生态调度优化;苹果 M 系列虽强,但封闭生态也让其在端侧 AI 模型上只能自己定义标准。三方各占一个入口,谁能先形成“芯片—系统—开发者”闭环,谁就能吃到下一轮 AI 设备红利。
五、跑分退场,体验上场:端侧 AI 的第一场大考
对普通用户来说,三星、小米、苹果这三场发布最实际的信号不是跑分,而是手机上能跑什么 AI。三星用 [[Llama 3.1]] 80 亿模型做基准,已经点明大模型端侧化是核心场景;小米 O3 的 AI 能力要靠 O100 和 OS 调度落地;苹果 M6 拉开 AI 峰值,但最终感知要落在 Siri、相册搜索、本地写作这些日常功能上。
过去十年,消费电子行业习惯了“参数通胀”:处理器看安兔兔,相机看像素数,内存看容量。但端侧 AI 让参数和体验开始脱钩。一颗 SoC 的 NPU 算力再高,内存带宽跟不上,跑大模型照样卡顿;反过来,PIM 再强,没有系统软件配合,用户也感知不到。这意味着行业要进入“体验基准”阶段——用户会关心一次长语音转文字耗多少电、一张图本地生成要等几秒、跑完模型后机身温度多少。
这种变化对厂商是压力也是机会。小米 O3 敢喊全大核,是因为它赌轻负载能靠制程和调度压住;苹果 M6 敢在 Mac mini 上给 2nm,是因为它赌专业用户会为每瓦算力买单;三星推 PIM,则赌手机厂愿意为内存新技术冒一次险。谁先把这些能力转化成稳定、可感知的本地 AI 体验,谁才能在换机潮里拿到真金白银。
对于 2026 下半年的旗舰机,真正值得盯的不是发布会长达几十页的跑分图,而是三件事:第一,开箱后默认状态下的 AI 功能是否真的本地运行;第二,80 亿参数模型能否在 10 秒内完成一次可用的长文本摘要;第三,连续使用 AI 半小时后,手机背板温度能不能控制在 40 度上下。这些看似细碎的指标,才是端侧 AI 芯片“拆墙”之后,用户能摸到的墙被拆掉的部分。
小结
2026 年 8 月这一周,端侧 AI 的战争从模型层打到了硅片层。三星用 PIM 拆内存墙,小米用全大核抢安卓旗舰话语权,苹果用 2nm 和四晶粒筑牢 PC 护城河。短期看,这些技术都不会立刻普及,但方向已经明确:谁能在更低的功耗下把更大的开源模型留在本地,谁就掌握端侧 AI 的门票。下一个观察窗口,是量产机型和实际模型吞吐,而不是安兔兔那串数字。