消息称美光正探索开发近GPU NAND闪存以运行更大的LLM

📋总体概括

据媒体报道，美光正在探索开发「近GPU NAND」架构，即把高耐久性NAND闪存模块部署在靠近GPU的位置，作为HBM与常规DRAM之外的补充存储层。该方案面向不需要超低延迟和超高带宽的工作负载，GPU可直接访问数百GB的存储池，重点提升I/O速度、带宽和读取速度，目标是让大语言模型摆脱内存容量的限制。这一动向反映出AI推理时代存储分层正从传统「DRAM+SSD」向GPU侧深度延伸的产业趋势。