“HBM之父”：未来AI竞争看存储 未来3D架构决胜散热与供电 中美会追赶上来

被韩媒誉为“HBM 之父”的韩国科学技术院 (KAIST) 教授金正浩 (Kim Jung-ho) 表示AI的本质就是存储。

他在接受《东亚日报》专访时提出上述颠覆性观点时指出，过去业界过度聚焦模型算法与GPU算力，但当大模型实际运行时，注意力机制、上下文缓存与推理生成的每一个环节，都高度依赖存储系统的支撑。

金正浩表示，HBM通过将多层DRAM垂直堆叠，大幅拓展数据传输的“车道数”，并生动比喻称“传统存储像8道高速公路，HBM则是1024，甚至2048车道，未来可能演进至百万车道”。

然而，频宽的提升并未根除瓶颈。大模型在输出瞬间需频繁从HBM或未来的HBF(高频宽闪存) 读写数据，导致GPU绝大部分时间处于“等待数据抵达”的闲置状态。

金正浩估计，即便部署百万个GPU，真正用于计算的时间仅约10%，即便通过演算法优化，也很难超过30%。

为解决“数据搬运”的能耗与延迟问题，金正浩预测未来AI计算将走向“以存储为中心”。

他将理想的3D架构比喻为一栋百层大楼：“在一楼安装GPU，数据只需搭电梯下楼计算，整栋楼解决所有事，省去长途奔波。”从HBM4开始，部分GPU功能将整合进存储结构中。

金正浩还进一步描绘三层异质存储指出，速度最快的HBM(堆叠DRAM) 扮演百货公司存放热数据，容量巨大的HBF(堆叠NAND) 如同公寓楼群存放冷数据，而他提出的HBS(高频宽 SRAM)则作为超低延迟的缓存。GPU/CPU将置于顶层，专注于散热与调度。

金正浩特别点出，英伟达CEO黄仁勋近期频繁访韩，正因GPU微架构的性能增长已近停滞，且高发热特性使其难以像存储般大规模堆叠。

他认为，未来3D AI电脑的供电与散热能力将成核心竞争力，决定企业生死。这也意味著拥有DRAM与NAND双重技术累积的三星与SK海力士，有机会在未来架构中占据核心地位。

不过，金正浩也警示，这并非简单的“GPU 时代”切换为“存储时代”，而是GPU、HBM、先进封装、网络互连与散热的系统级竞赛。

面对中国厂商积极自研GPU/NPU并带动本土存储发展的追赶压力，金正浩则对韩国业界直言：“这是一场关係生存的长期竞争，只能努力活到最后。”