在与西部数据(Western Digital)分手后的首次大型投资者活动上,闪迪(SanDisk)发布了它一直在酝酿的新产品,以求在炙手可热的人工智能市场中分得一杯羹。 该公司推出了一种名为高带宽闪存的新型内存架构,它融合了 3D NAND 的巨大存储容量和 HBM 的带宽。
这种混合架构使用称为硅通孔的微小数据管道将闪迪最新的 3D NAND 芯片堆叠起来,层数多达 16 层。 此外,还有一个特殊的逻辑层,可以并行地将数据从各个 NAND 子阵列中输入和输出。 这使得 HBF 每个堆栈的容量是目前 HBM 实现的 8 到 16 倍。
在闪迪的一个示例中,采用 8 个 HBF 堆栈的系统可提供 4 TB 的巨大容量,用于直接在 GPU 硬件上存储 GPT-4 等庞大的人工智能模型。
关键的创新似乎在于 HBF 的架构打破了传统的 NAND 设计,它将每个裸片分割成许多微小的子阵列,这些子阵列可以并行随机存取,而不是作为较大的基于块的平面和页面来处理。 这样既能实现高带宽,又能保持 NAND 的成本和容量优势。
当然,与 HBM 等 DRAM 技术相比,NAND 的致命弱点一直是较高的延迟。 正如 Tom's Hardware 指出的,HBF 也不例外,其速度显然无法与 DRAM 相提并论。 新架构主要针对需要高带宽和容量,但可以承受较高延迟的读取密集型人工智能推理工作负载。 游戏等任务不在考虑之列。
这项技术仍有一些障碍需要克服。 闪迪对如何绕过 NAND 的写入耐久性限制,以及可能会妨碍随机存取的、具有挑战性的基于块的寻址等问题只字未提。 我们暂时也不知道 HBF 能达到什么样的带宽。
尽管仍有疑问,但闪迪似乎看到了巨大的潜力。 该公司希望 HBF 成为一种开放标准,以补充 GPU 等硬件中的 HBM。 为了实现这一目标,该公司已经开始寻找合作伙伴,并计划开发整整三代 HBF,这表明该公司将进行大量的长期投资。
最终,闪迪甚至认为这项技术会从高端人工智能系统渗透到智能手机等消费类设备中。