【財訊快報／記者李純君報導】記憶體大廠美光科技(Nasdaq：MU)今日宣布開始正式向客戶送樣業界最高容量的LPDRAM模組256GB SOCAMM2。美光表示，這是業界首款32Gb LPDDR5X單晶粒設計，為主攻AI資料中心全新系統架構的低功耗記憶體容量。美光256GB SOCAMM2已進入客戶送樣階段，並提供資料中心LPDRAM系列產品。而此款記憶體可望獲得NVIDIA採用。

AI訓練、推論、代理式AI與通用運算的融合，正推動更嚴苛的記憶體需求，並重塑資料中心的系統架構。現代 AI 工作負載推動大型模型參數、龐大的上下文視窗及持久性關鍵價值（KV）快取的需求，而核心運算則持續在資料密集度、並行處理和記憶體使用量方面不斷攀升。

面對上述工作負載，記憶體容量、頻寬效率、延遲表現和能源效率已成為系統層級的主要瓶頸，直接影響效能、可擴充性和總體擁有成本。LPDRAM憑藉上述特性的獨特優勢，使其在日益受限於功耗與散熱條件的資料中心環境中，成為AI及核心運算伺服器的關鍵解決方案。美光正與NVIDIA攜手合作，共同設計先進記憶體解決方案，以滿足先進AI基礎架構的需求。

美光雲端記憶體業務部門資深副總裁暨總經理Raj Narasimhan表示：「美光256GB SOCAMM2為AI與高效能運算提供最具能源效率的CPU附加記憶體解決方案。此次產品，主打容量最高、功耗最低、規格尺寸最小的模組化記憶體解決方案之特性。」

美光的256GB SOCAMM2為各種AI及通用運算工作負載提供更高的記憶體容量、大幅降低的功耗以及更快的效能表現。特色包括，其一，256GB SOCAMM2較前一代最高容量192GB SOCAMM2提升三分之一的容量，為每顆8通道CPU提供2TB的LPDRAM。第二，功耗更低，規格尺寸更小，SOCAMM2的功耗僅為同級RDIMM的三分之一。第三，在獨立CPU應用中，LPDRAM每瓦效能比主流記憶體模組高出3倍以上。第四，模組化SOCAMM2設計可提升可維護性，支援液冷式伺服器架構，實現未來容量擴充。

NVIDIA資料中心CPU產品部門主管Ian Finder表示：「先進AI基礎架構需要在每個層面進行極緻的最佳化，才能有效應對高要求AI推論工作負載對效能與效率的需求。美光透過256GB SOCAMM2，以低於傳統伺服器記憶體的功耗，實現大規模記憶體容量與頻寬的卓越成就，為次世代AI CPU提供關鍵助力。」