【消息稱美光正探索開發近GPU NAND閃存以運行更大的LLM】據報道，美光正探索開發高耐久性NAND閃存模塊的方案，研究如何將NAND閃存更靠近GPU，以處理那些不需要傳統HBM或常規DRAM模塊那樣高延遲和高帶寬的工作負載。這種架構目前被稱為「近GPU NAND」，旨在兼顧密度和耐久性。該方案允許GPU訪問密度低於傳統TLC或QLC NAND的NAND閃存池，但重點在於提升I/O速度、帶寬和讀取速度。該技術將使GPU能夠直接訪問數百GB的潛在存儲池，LLM將不再受限於內存。