新聞 科技產業

群聯GTC展會秀aiDAPTIV多層級記憶體架構技術,搶邊緣AI推論市場商機

2026/3/17 16:59

【財訊快報/記者李純君報導】NAND控制晶片廠商群聯電子( 8299 )宣布將於GTC展會中,展示其aiDAPTIVTM多層級記憶體架構技術(multi-tiermemory architecture),如何在由NVIDIA平台驅動的本地邊緣AI系統中,支援更大型AI模型與長上下文(long-context)推論。

群聯表示,目前產業正面臨日益嚴峻的記憶體供給短缺狀況,而對AI就緒平台(AI-ready platforms)的需求卻持續快速攀升。由於針對專有資料(proprietary data)進行微調(fine-tuning)與推論(inference)需要大量運算與記憶體資源, 也使得企業在投資AI基礎設施與邊緣AI設備時面臨挑戰。

隨著AI解決方案成本上升與AI工作流程瓶頸增加,也進一步拖慢企業將AI創新轉化為實際營收的上市時程。為了解決此問題,群聯推出aiDAPTIV多層級記憶體架構技術,專為邊緣AI應用打造。透搭載aiDAPTIV技術的群聯企業級Pascari SSD作為全新的AI記憶體層級,aiDAPTIV技術能夠在GPU記憶體、系統RAM與NAND Flash快閃記憶體之間,智慧延伸並管理AI運算的工作記憶體。

隨著NVIDIA的AI基礎設施,持續提升GPU記憶體能力以支援資料中心推論工作負載。透過aiDAPTIV的多層級記憶體架構技術,企業可在本地邊緣系統上運作日益成長的AI工作負載,並同時兼顧資料隱私並提升長期AI基礎設施投資效率。

群聯執行長潘健成表示:「傳統記憶體管理機制並非為AI應用所設計,而今日的AI基礎設施也已無法再依賴通用型的記憶體管理方式。透過aiDAPTIV多層級記憶體架構技術,我們打造了一個具備AI感知能力的記憶體架構(AI-aware architecture),能在多層級記憶體之間延伸AI有效記憶體容量,使本地邊緣AI平台在不增加GPU硬體的情況下,也能支援更大型模型與長上下文推論,協助企業在維持邊緣AI工作負載的同時,更可有效地規劃AI基礎設施投資。」



相關新聞