端侧 AI 为什么需要自旋存算一体加速器

一、AI 正在"下沉"

大模型在云端风起云涌的同时，另一场更安静的革命发生在终端：智能手表里的房颤检测、TWS 耳机的关键词唤醒、扫地机器人的视觉避障、工厂产线的边缘质检、卫星上的星载图像识别……这些应用的共同点是：网络不稳定或不允许上云、数据敏感不愿上云、功耗预算极度紧张。

端侧 AI 的硬约束可以概括为三件事：

• 功耗：always-on 场景的预算常常是毫瓦甚至微瓦级，一次推理的能量可能以纳焦甚至皮焦计；
• 延迟与带宽：本地实时决策，等不起云端往返；
• 隐私：原始数据不出设备，只上传脱敏结果。

在电池容量物理受限的前提下，"每瓦特算力"（TOPS/W）和"每次推理能耗"（pJ/MAC）取代峰值 TOPS，成为端侧芯片的第一指标。

二、传统方案的瓶颈

数字 AI 加速器（GPU/NPU）擅长通用计算，但在端侧能效上遇到结构性天花板：

• 冯·诺依曼架构下，权重和激活在 SRAM/DRAM 与计算单元之间反复搬运，搬运能耗主导总能耗；
• SRAM 面积大、漏电不可忽视，时钟树与互连功耗居高不下；
• DRAM 容量大但功耗更高，且易失——休眠时数据必须不断刷新，静态功耗无法归零。

于是端侧芯片陷入一个尴尬循环：要么砍模型精度，要么砍功能，要么砍续航。

三、自旋存算一体的应答

存算一体消除搬运，自旋器件补齐"存储"的短板——两者叠加，恰好逐条命中端侧 AI 的需求：

3.1 非易失：深度休眠，零保持功耗

SOT-MRAM 断电不丢数据。这意味着加速器在两次推理之间可以整个子系统深度掉电，唤醒后权重还在阵列里——不需要从 Flash 重载模型（重载本身既慢又费能），SRAM 的刷新功耗也一并消失。对 always-on 的唤醒式推理（KWS、VAD、事件检测），这个特性直接改写系统功耗账。

3.2 存内计算：把"搬运"从能耗账上划掉

权重驻留在阵列中，输入激励即可读出结果。一次阵列读 = 一次矩阵-向量乘法，能耗重心从"访存"回到"计算"本身。公开的 CIM macro 在特定负载下已展示出相比数字方案数量级的能效优势。

3.3 耐久与在线学习

端侧模型需要随用户习惯自适应（个性化唤醒词、增量学习）。SOT-MRAM 的 10¹⁵ 次量级耐久，让片上在线学习从设想变成可工程化的选项——设备越用越懂你，而不用频繁回传云端训练。

3.4 抗辐照与宽温：走向严苛环境

磁矩存储不受电离粒子直接破坏，配合宽温特性，自旋 CIM 芯片在星载计算、工业现场、高空长航时无人机等场景有独特优势——这些场景往往也是"功耗极度敏感 + 维护极度困难"的组合。

四、冷静一下：距离产品还有多远

作为这个领域的博士生，必须诚实地说，自旋存算一体从"论文里的 macro"到"货架上的芯片"，中间还有不少坎：

• 生态：工具链、编译器、模型库都围绕数字硬件构建，模拟 CIM 的编程模型与调试手段尚不成熟；
• 工艺成熟度：嵌入式 MRAM 已在先进逻辑工艺量产，但面向 CIM 优化的自旋器件工艺仍在演进；
• 精度与灵活性的平衡：模拟阵列擅长固定结构的乘加，面对 Transformer 等动态结构的映射仍需架构创新；
• 人才与协作：需要同时懂器件、电路、算法的人——这正是我们实验室培养博士生的方向，也是我读博的日常。

但方向是清晰的：端侧智能越普及，对"能效 × 非易失 × 可在线学习"的综合需求就越刚性，而这恰好是自旋存算一体的射程。

五、结语

端侧 AI 的竞争，本质上是一场"每焦耳智能"的竞争。存算一体回答"如何算得更省"，自旋器件回答"如何存得更久"，二者的组合，让毫瓦级功耗上跑一个常开智能体成为可以认真规划的事。

这便是我选择这个方向的原因：把器件物理的极限，变成智能系统的疆域。

---

参考文献与延伸阅读

1. S. R. Nandakumar et al., "A 158μW 22nm monolithic-crypto processor for always-on edge AI," ISSCC, 2023.（端侧能效参考）
2. W. Shan et al., "Edge AI: On-demand accelerating deep neural network inference via edge computing," IEEE Trans. Wireless Communications, 2020.
3. N. J. Eckert / S. Angizi 等关于 MRAM CIM macro 的系列工作（建议按你精读的具体论文补充）
4. M. N. Bojnordi / E. Ipek, "Memristive Boltzmann machine," 相关神经形态工作（延伸阅读）

注：文中系统框图为示意形态，实际设计按场景裁剪。