HBF简介
高带宽闪存（HBF）HIGH BANDWIDTH FLASH，是一种新的内存架构，它将3D NAND闪存与与高带宽内存（HBM）相当的带宽能力相结合。HBF 设计使用硅通孔堆叠 16 个 3D NAND BiCS8 芯片，其逻辑层可并行访问内存子阵列。这种配置使每个堆栈的容量比当前的 HBM 实现高 8 到 16 倍。使用八个 HBF 堆栈的系统可以提供 4 TB 的 VRAM，将 GPT-4 等大型 AI 模型直接存储在 GPU 硬件上。该架构打破了传统的 NAND 设计，实现了独立可访问的内存子阵列，超越了传统的多平面方法。虽然 HBF 超越了 HBM 的容量规格，但它保持了比 DRAM 更高的延迟，将其应用限制在特定的工作负载上。
高带宽闪存HBF是SanDisk经过带宽优化的NAND产品，设计思路类似于HBM，以大量I/O引脚和多层堆叠结合，相当于高带宽NAND闪存。事实上，HBF与HBM共享了电气接口，带宽也相接近，不过适配的介质从DRAM切换至NAND，协议略有变化，所以不完全兼容。
应用场景
该技术针对的是读取密集型 AI 推理任务，而不是对延迟敏感的应用程序。该公司正在将 HBF 开发为开放标准，结合类似于 HBM 的机械和电气接口以简化集成。仍然存在一些挑战，包括 NAND 的块级解决限制和写入耐久性限制。虽然这些因素使 HBF 不适合游戏应用，但该技术的高容量和吞吐量特性符合 AI 模型存储和推理要求。闪迪宣布了三代 HBF 开发计划，表明了对该技术的长期承诺。
相关资料：