SK海力士推H³架构破AI内存瓶颈

腾赚网 100 0

让理财更简单:万0.86超低手续费>>【>>戳我进入<<】

AI算力狂奔,内存瓶颈越来越明显。SK海力士在IEEE半导体大会上亮出新招——H³混合架构,把高速HBM3E显存和大容量HBF闪存并排放在GPU旁边。实测数据很抢眼:每瓦性能提升2.69倍,处理1000万令牌的键值缓存时,并发查询能力飙升18.8倍。原来要32块GPU干的活,现在两块就够了。

SK海力士推H³架构破AI内存瓶颈-第1张图片-腾赚网

HBF被称作“AI时代的图书馆”,容量是HBM的8到16倍,能轻松装下4TB数据。它不抢HBM的风头,专管笨重的KV缓存,让GPU和HBM专注高速计算。SK海力士今年就推HBF1样品,三星、闪迪紧随其后,预计2027年底落地英伟达、AMD和谷歌的产品。SLC NAND也借势杀入AI SSD和HBF赛道,利基存储正从老市场变身新蓝海。

抱歉,评论功能暂时关闭!