热门搜索:  hold

汉武大帝

小米玄戒O100推倒内存墙:实现真正的近存计算_我的网站

鲁豫有约

A |     8月24日消息,今天下午,小米除了发布玄戒O3之外,还带来了玄戒O100,一款大模型专用的AI加速芯片,更是全球首款6nm 3D晶圆级堆叠的AI加速芯片。    玄戒O100通过先进的3D堆叠工艺,实现了1.22TB/s的超高带宽,这一速度是目前主流旗舰手机的16倍之多,可以让移动端设备的AI性能实现质的突破。    今日(8月20日),乐元素3D偶像游戏《VProject》更改名字,正式叫做《他予回声》,英文名称《StarToU》。借着改名这次机会,官方公布全新偶像团体,放出部分游戏玩法,同时开启技术性测试报名。玄戒O100与玄戒O3是AI终端的“最佳CP”,最高可以实现本地AI推理速度高达330Tokens/s。

B | 视频欣赏:游戏故事里有一套Touch记忆相关设定,用来实现玩家和偶像之间的互动感受。新登场的MacGuffin是Hip‑Hop创作团体,一共四名成员,整体是街头酷感的成熟风格。和之前亮相的李赫、沈尼尔、周拾乐三位元气练习生风格差别很大。     传统计算架构下,计算单元与存储单元物理分离,数据必须在两者之间反复搬运。不同气质的偶像陆续放出,游戏里的角色阵容也会继续扩充。2.png进入游戏后,玩家就是StarToU平台的使用者,可以体验多条故事剧情,参与节奏演出。演出前能够更换角色、服装、卡牌,搭配出专属舞台。但内存数据通路受限于物理引脚数量,遇到了增长瓶颈。    当AI算力以指数级增长时,内存访问速度与算力之间已经严重脱节,成为性能的关键阻碍,业界称之为“内存墙”。玄戒O100,则是小米“推倒内存墙”的破局之法。

C |     区别于以往晶圆→切割为裸片(Die)→逐片封装互联的方式,玄戒O100采用先进的Wafer on Wafer封装技术,也就是将多片完整的晶圆直接高精度对准与键合,继而再切割成独立的3D芯片。    这彻底摆脱了传统引脚数量对带宽的物理限制,将数据通路从“平面走线”变为“垂直穿透”,实现真正的近存计算(Near-Memory Computing)。

D | 同行手册、TOKI互动等内容,可以加深玩家和偶像之间的互动。         了解大体逻辑后,我们看看玄戒O100到底如何做的。3.png不少玩家看了PV后纷纷表示期待,MacGuffin整体的街头说唱风格,和以往偶像游戏常见的青春少年形象区别明显,这种差异化的人物气质,让很多玩家感到新鲜感。

E | 首先将两层AI专用高速DRAM晶圆与一层高性能NPU晶圆垂直堆叠,然后在垂直方向“钻隧道”让数据可以高速流转。    所以,只要隧道越多,也就可以实现越高的带宽。

F | 一部分玩家已经开始讨论角色人设,也有人好奇这些偶像在剧情和演出里会呈现怎样的状态,期待后续能看到更多角色相关内容。4.png你觉得这款游戏怎么样?欢迎在评论区留下你的看法~。为此,玄戒O100采用了先进的Hybrid Bonding混合键合工艺,摒弃了传统微凸点(Micro Bump)结构,直接将物理通路的间隔缩短至1.4μm,让数据通路密度大幅提升。              为了进一步缩短DRAM与NPU计算层的物理距离,玄戒O100还采用了 Face to Face(简称F2F)金属层直连结构。    简单来说,每一层晶圆内部,其实底部是逻辑晶体管,上层有密布多层的金属走线层。

G | F2F,就是让DRAM与NPU的金属走线“面面相对”,如此可以实现更短的物理互联距离,实现更快的信号传输。    当然,这说起来简单,在6nm如此高工艺节点下,要解决散热、电磁干扰等诸多难题,玄戒团队逐一攻坚,实现最终量产,并申请了15项专利,其中已获批4项发明专利。         与此同时,玄戒O100配备了14颗高算力NPU,通过玄戒高带宽矩阵总线,让数据可以在NPU与内存、与其他NPU核心之间等高速流转。     创新的矩阵总线支持拓扑动态切换,Prefill阶段采用环形拓扑,数据逐核流转、顺序同步;Decode阶段切换为广播拓扑,所有结果统一汇聚到指定核心。总线控制上的灵活拓扑,让片上计算资源得以充分应用。

H |          最终,玄戒O100的带宽达到了惊人的1.22TB/s。大家对这个数字可能没什么概念,以目前主流旗舰手机LPDDR5X内存作为对比,它的带宽76.8GB/s,而玄戒O100是其16倍之多,彻底释放端侧AI性能。         为了验证玄戒O100的高带宽表现,小米工程师还做了一款原型机,搭载玄戒O3和O100,双芯协同计算。

I | 小米还引入了风冷主动散热,充分发挥芯片的全部性能。配合Xiaomi MiMo端侧模型,实现了超高速端侧推理性能。                   

     【本文结束】如需转载请务必注明出处:      责任编辑:振亭     文章内容举报     

Current article:http://w6xm.bianneixuanbingqinyouxie.buzz/9v8/fxm2hu.html

Published on:03:53:19