HBM 紧缺推高内存市价
4月26日消息,近一年内存价格暴涨3至5倍,大幅压制消费者PC、手机购机意愿,而本轮内存持续涨价的核心诱因,正是爆发式增长的AI算力需求。
AI业务对内存与显存的容量、带宽要求极高,谷歌最新发布的第八代TPU,直观展现了AI时代恐怖的内存消耗需求。
全新TPU v8首度区分训练与推理两大场景:V8T侧重AI训练任务,虽兼容推理运算,但核心定位为大规模训练。单Pod节点搭载9600颗V8T芯片,
FP4算力达121EFlops,整机内存带宽19.2TB/s,芯片内部带宽400GB/s,各项核心规格较上代实现2至4倍跃升。
V8i则专注AI推理负载,规格适度精简,单节点仅配备1152颗V8i芯片,算力降至11.6EFlops,内存带宽维持19.2TB/s不变。
本次升级最大亮点在于内存容量的跨越式扩容:V8i标配331.8TB HBM高带宽内存,而训练版V8T更是顶配**2PB**超大容量HBM,
单颗V8T芯片独享216GB HBM内存。
谷歌此番设计,核心目的是突破AI算力发展的内存墙瓶颈。2PB级HBM并非简单堆砌容量,而是在单节点内统一为全局地址调度;
反观英伟达GPU,虽可借助NVLink等技术组建PB级HBM集群,但仍依赖传统数据中心网络互联,存在明显的延迟与性能损耗。
RobustCloud首席顾问Larry Carvalho评价,内存墙的突破,意味着谷歌在AI芯片赛道或将迎来关键性竞争优势。
不过对普通消费级市场而言,2PB超大HBM并非利好,反而预示AI内存需求将持续走高。HBM生产需占用远超普通DDR内存的DRAM产能,
消耗比例高达2至4倍。
三星、SK海力士、美光三大存储巨头,产能资源将优先倾斜HBM订单,且各方均明确不会大规模扩产。产能挤占叠加供给受限,
内存紧缺格局将长期延续,消费级内存价格短期内难以回落。
