什么是HBM？
HBM，全称 High Bandwidth Memory（中文：高带宽存储器）。这是一种用于某些 AMD GPU（又名显卡）的 3D 堆叠 DRAM存储器 （动态随机存取存储器）以及服务器、高性能计算 （HPC） 、网络连接的内存接口。
优点：HBM 旨在提供更高的带宽、更低的功耗，与当今大多数游戏显卡中使用的 GDDR 内存相比。
行业推动力：
HBM架构主要作为DDR系列中GDDR芯片的升级版出现，广泛用于图形计算显存高性能计算内存等领域。
AI大模型的数据计算量激增，需要应用并行处理数据的GPU作为核心处理器，而“内存墙”的存在限制了GPU数据处理能力，HBM突破了内存容量与带宽瓶颈，可以为GPU提供更快的并行数据处理速度，打破“内存墙”对算力提升的桎梏，被视为GPU存储单元理想解决方案，将在AI发展中持续收益。
图片来源AMD
图片来源AMD
革命性的 HBM 打破了加工瓶颈
HBM 是一种新型的 CPU/GPU 内存（“RAM”），可垂直堆叠内存芯片，就像摩天大楼中的地板一样。这样一来，它缩短了您的信息通勤时间。这些塔通过称为“中介层”的超快速互连连接到 CPU 或 GPU。多个 HBM 堆栈与 CPU 或 GPU 一起插入转接板，组装好的模块连接到电路板。
虽然这些 HBM 堆栈没有与 CPU 或 GPU 进行物理集成，但它们通过中介层紧密而快速地连接在一起，以至于 HBM 的特性与片上集成 RAM 几乎没有区别。
图片来源AMD
电源效率
在过去的七年里，GDDR5 为行业提供了良好的服务，迄今为止，几乎所有高性能显卡都使用了许多 GB 的内存技术。
但随着图形芯片的快速增长，它们对快速信息传递（“带宽”）的需求不断增加。GDDR5 满足这些带宽需求的能力开始减弱，因为该技术达到了其规格的极限。每秒增加 GB 的带宽开始消耗过多的功率，对于设计人员或消费者来说，这不是一个明智、高效或具有成本效益的决策。从逻辑上讲，GDDR5很容易开始阻碍图形芯片的持续性能增长。HBM 重置时钟的内存电源效率，效能>3 倍。
图片来源AMD
图片来源AMD
图片来源AMD
图片来源AMD
市场分析：
目前2023年，各大机构按现有市场能见度给HBM市场的整体空间约在16～20亿美元。
厂商：目前主要HBM生产商有美光、三星和SK海力士。
HBM已成为AI芯片（特别是GPU芯片）主流内存解决方案
目前GPU主流存储方案主要分GDDR方案与HBM方案两种，其中GDDR方案在SoC周围有大量外设，该方案主要通过从GDDR5升级为GDDR6提高带宽，但GDDR如果要增加1GB的带宽将会带来更多的功耗，因此不利于系统性能提升；
而HBM方案作为近存计算的典型技术，可以改善存算分离导致的“存储墙”问题，即存储单元的带宽问题、存储单元与计算单元键数据传输的能效问题，并且HBM方案中存储Die的垂直堆叠也增大了容量，由此HBM技术完美契合当前GPU对更多的内存、更高的带宽的刚性需求。
目前的三种HBM规格参数
