护士小葵

小米玄戒O100推倒内存墙：实现真正的近存计算_我的网站

A |     8月24日消息，今天下午，小米除了发布玄戒O3之外，还带来了玄戒O100，一款大模型专用的AI加速芯片，更是全球首款6nm 3D晶圆级堆叠的AI加速芯片。    

B |     区别于以往晶圆→切割为裸片（Die）→逐片封装互联的方式，玄戒O100采用先进的Wafer on Wafer封装技术，也就是将多片完整的晶圆直接高精度对准与键合，继而再切割成独立的3D芯片。    这彻底摆脱了传统引脚数量对带宽的物理限制，将数据通路从“平面走线”变为“垂直穿透”，实现真正的近存计算（Near-Memory Computing）。         了解大体逻辑后，我们看看玄戒O100到底如何做的。首先将两层AI专用高速DRAM晶圆与一层高性能NPU晶圆垂直堆叠，然后在垂直方向“钻隧道”让数据可以高速流转。    所以，只要隧道越多，也就可以实现越高的带宽。

C | 为此，玄戒O100采用了先进的Hybrid Bonding混合键合工艺，摒弃了传统微凸点（Micro Bump）结构，直接将物理通路的间隔缩短至1.4μm，让数据通路密度大幅提升。

D |               为了进一步缩短DRAM与NPU计算层的物理距离，玄戒O100还采用了 Face to Face（简称F2F）金属层直连结构。    简单来说，每一层晶圆内部，其实底部是逻辑晶体管，上层有密布多层的金属走线层。F2F，就是让DRAM与NPU的金属走线“面面相对”，如此可以实现更短的物理互联距离，实现更快的信号传输。    当然，这说起来简单，在6nm如此高工艺节点下，要解决散热、电磁干扰等诸多难题，玄戒团队逐一攻坚，实现最终量产，并申请了15项专利，其中已获批4项发明专利。

E |          与此同时，玄戒O100配备了14颗高算力NPU，通过玄戒高带宽矩阵总线，让数据可以在NPU与内存、与其他NPU核心之间等高速流转。     创新的矩阵总线支持拓扑动态切换，Prefill阶段采用环形拓扑，数据逐核流转、顺序同步；Decode阶段切换为广播拓扑，所有结果统一汇聚到指定核心。总线控制上的灵活拓扑，让片上计算资源得以充分应用。         最终，玄戒O100的带宽达到了惊人的1.22TB/s。大家对这个数字可能没什么概念，以目前主流旗舰手机LPDDR5X内存作为对比，它的带宽76.8GB/s，而玄戒O100是其16倍之多，彻底释放端侧AI性能。         为了验证玄戒O100的高带宽表现，小米工程师还做了一款原型机，搭载玄戒O3和O100，双芯协同计算。

F | 小米还引入了风冷主动散热，充分发挥芯片的全部性能。配合Xiaomi MiMo端侧模型，实现了超高速端侧推理性能。                   

Current article:http://2wcah04.binhannuxiangtulediatacang.cfd/list_c0zkx/aatxk2.html

Published on:11:37:56