[XM官网]HBM 之父金正浩：AI 的本质是内存，GPU 真正工作的时间只有 10%-30%

感谢亚汇网网友金正浩认为AI的本质是内存，GPU在AI推理中的利用率远低于理论水平。AI每次输出结果，都必须先从HBM读取数据、传到GPU进行计算，再将结果写回内存。就算部署100万块GPU，真正用于计算的时间也只有10%-30%。并且过去的AI主要集中在训练阶段，因此GPU是决定性能的核心。而着眼现在和未来，AI将进入推理时代，此时真正能决定性能的，是一次能处理多少数据、能以多快速度处理数据，因此内存能力将直接决定AI性能。当然，目前已经有HBM这种专门适配AI的高带宽内存方案。但随着AI迈入多模态化和AgenticAI（代理式人工智能）出现，人们将越来越需要保存视频、文档、长期记忆等海量冷数据。因此，将NAND闪存像HBM一样堆叠的HBF技术将在未来成为主流。金正浩更是预测，10年后HBF的市场需求将超过HBM。到了更远的未来，HBS（高带宽SRAM）将成为主流。这种技术将采用读写速度比DRAM快1000倍的SRAM，其构想包括在整片12英寸晶圆上铺设SRAM、将容量提升至约1600GB，实现大容量高速数据处理。此外金正浩设想，未来的AI计算机将演变成一个庞大的“三维建筑”：HBM将充当商场角色，HBF层相当于住宅区，HBS则承担高速缓存功能。各种形态的HBM、HBF、HBS组合在一起，给GPU供给数据，形成约100层规模的3D复合架构。亚汇网注：金正浩长期致力于高带宽内存（HBM）与2.5D/3D集成封装研究。他从2010年开始和SK海力士研发HBM1，并在去年参与HBM4-HBM8长期发展路线图规划，广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，亚汇网所有文章均包含本声明。