作者：侯龙文 来源：原创 发布日期：08-27
一 | 8月24日消息，今天下午，小米除了发布玄戒O3之外，还带来了玄戒O100，一款大模型专用的AI加速芯片，更是全球首款6nm 3D晶圆级堆叠的AI加速芯片。 玄戒O100通过先进的3D堆叠工艺，实现了1.22TB/s的超高带宽，这一速度是目前主流旗舰手机的16倍之多，可以让移动端设备的AI性能实现质的突破。 “云大哥，听说你家葡萄比去年下果早，4月上旬就能上市，我先预定着，到时给我多发点儿货。
二 | 玄戒O100与玄戒O3是AI终端的“最佳CP”，最高可以实现本地AI推理速度高达330Tokens/s。 传统计算架构下，计算单元与存储单元物理分离，数据必须在两者之间反复搬运。但内存数据通路受限于物理引脚数量，遇到了增长瓶颈。
三 | 当AI算力以指数级增长时，内存访问速度与算力之间已经严重脱节，成为性能的关键阻碍，业界称之为“内存墙”。你家的葡萄个头大、肉质饱满、口感好，消费者特别满意。玄戒O100，则是小米“推倒内存墙”的破局之法。”3月23日，广东的李先生给兴城市望海满族乡葡萄种植户云中全打来电话，提前订好货。 区别于以往晶圆→切割为裸片（Die）→逐片封装互联的方式，玄戒O100采用先进的Wafer on Wafer封装技术，也就是将多片完整的晶圆直接高精度对准与键合，继而再切割成独立的3D芯片。 这彻底摆脱了传统引脚数量对带宽的物理限制，将数据通路从“平面走线”变为“垂直穿透”，实现真正的近存计算（Near-Memory Computing）。 云中全（右）正在查看葡萄长势。 了解大体逻辑后，我们看看玄戒O100到底如何做的。首先将两层AI专用高速DRAM晶圆与一层高性能NPU晶圆垂直堆叠，然后在垂直方向“钻隧道”让数据可以高速流转。 55岁的云中全种植葡萄多年，经验丰富，技术成熟，是侍弄葡萄的好手。
四 | 所以，只要隧道越多，也就可以实现越高的带宽。为此，玄戒O100采用了先进的Hybrid Bonding混合键合工艺，摒弃了传统微凸点（Micro Bump）结构，直接将物理通路的间隔缩短至1.4μm，让数据通路密度大幅提升。至今年，他家共建了27座大棚，其中，22座大棚种植茉莉香葡萄，5座大棚种植阳光玫瑰葡萄。“这些葡萄都是新品种，品质上乘，在市场上销路很好。 为了进一步缩短DRAM与NPU计算层的物理距离，玄戒O100还采用了 Face to Face（简称F2F）金属层直连结构。迎合市场走向，产业的发展空间才越来越宽广。 简单来说，每一层晶圆内部，其实底部是逻辑晶体管，上层有密布多层的金属走线层。F2F，就是让DRAM与NPU的金属走线“面面相对”，如此可以实现更短的物理互联距离，实现更快的信号传输。 当然，这说起来简单，在6nm如此高工艺节点下，要解决散热、电磁干扰等诸多难题，玄戒团队逐一攻坚，实现最终量产，并申请了15项专利，其中已获批4项发明专利。
五 | ” 葡萄比较“娇气”，在其生长过程中，棚间管理必须到位。云中全肯吃苦、管理精细。
六 | 他与5名工人长期在葡萄架下钻来钻去，把每一个细微处都照顾到。“萌芽、出枝、开花、稀果、下果等必须面面俱到，像照顾孩子一样精心。 与此同时，玄戒O100配备了14颗高算力NPU，通过玄戒高带宽矩阵总线，让数据可以在NPU与内存、与其他NPU核心之间等高速流转。 创新的矩阵总线支持拓扑动态切换，Prefill阶段采用环形拓扑，数据逐核流转、顺序同步；Decode阶段切换为广播拓扑，所有结果统一汇聚到指定核心。
七 | 管理得当，收获时，葡萄秧会给一个满意的答案。总线控制上的灵活拓扑，让片上计算资源得以充分应用。” 提及稀果，云中全说，正常情况下，一串葡萄上会结100颗左右的果。 最终，玄戒O100的带宽达到了惊人的1.22TB/s。如果任其发展，果实将大小不一，且由于阳光照射不均匀、其他营养吸收不均衡，势必会导致品质不佳。
八 | 大家对这个数字可能没什么概念，以目前主流旗舰手机LPDDR5X内存作为对比，它的带宽76.8GB/s，而玄戒O100是其16倍之多，彻底释放端侧AI性能。稀完果后，一串葡萄上保持60颗果，就避免了以上的毛病，果品非常好，在市场上的竞争力也较强。
九 | 为了验证玄戒O100的高带宽表现，小米工程师还做了一款原型机，搭载玄戒O3和O100，双芯协同计算。小米还引入了风冷主动散热，充分发挥芯片的全部性能。 正常情况下，大棚内的温度都于11月份左右升温，有利于葡萄生长。为了适应市场需求，迅速占领市场，卖出好价位，从去年开始，云中全利用新技术，于去年10月10日就开始给大棚升温，目前，大棚内的温度均保持在27度左右，葡萄秧郁郁葱葱，果实饱满，且已经“上色”。
十 | 配合Xiaomi MiMo端侧模型，实现了超高速端侧推理性能。“往年都是五一前后上市，今年能提前半个多月，估计能卖个好价钱，比下果旺季多两倍左右。
十一 | 去年，他家的葡萄产值近150万元。“看这势头，产值肯定比去年多。想想这些，浑身有使不完的劲儿，嘴角忍不住上扬。” 望海满族乡共种植葡萄近1000亩，大棚200多座，分布在黑庄村、朱家村、曲河村等地。
十二 | 去年，葡萄产量近300万斤，除了销往本地及周边外，还深受河北、广东、江西等地的客商赞誉，产值1500万元左右。
十三 | 以目前的产业规模及发展态势，产值将比去年有明显提升。 “乡党委政府继续做好广大种植户的参谋和助手，不断优化营商环境，及时将党的好政策向他们传达，并提供先进的种植技术，靠前指导，暖心服务，不遗余力地搭建管产销一体化平台，让种植户心无旁骛搞生产，让全乡的葡萄产业‘亮晶晶’，让望海葡萄的品牌叫得更响。”望海满族乡党委副书记孙亮说。
Current article:http://sdai.qixicuorenchouzuan.buzz/k5ip3/73m.html
Published on:00:00:00