【財訊快報／記者李純君報導】晶片設計大廠高通，宣布推出新一代專為資料中心AI推論最佳化的解決方案，以高通AI200與AI250晶片為基礎打造的加速卡及機架系統。而兩款機架級解決方案皆配備直接液冷技術以提升散熱效率。高通AI200與AI250預計將分別於2026年與2027年正式上市。

高通AI200推出專為機架級AI推論打造的解決方案，旨在為大型語言模型（LLM）、多模態模型（LMM）推論及其他AI工作負載提供低總體擁有成本（TCO）與最佳化的效能。每張加速卡支援768 GB的LPDDR記憶體，實現更高容量與更低成本，為AI推論提供出色的擴展性與靈活性。

高通AI250解決方案將首次採用基於近記憶體運算（near-memory computing）的創新記憶體架構，透過提供超過10倍的有效記憶體頻寬並大幅降低功耗，為AI推論工作負載在效率與效能上帶來跨世代的躍進。此架構可實現分離式AI推論，提升硬體資源利用效率，同時滿足客戶在效能與成本上的需求。

兩款機架級解決方案皆配備直接液冷技術以提升散熱效率，支援PCIe垂直擴展與乙太網路橫向擴展，並具備機密運算功能以確保AI工作負載的安全性，而整個機架的功耗為160千瓦。

高通資深副總裁暨技術規劃、邊緣解決方案與資料中心總經理Durga Malladi表示：「透過高通AI200與AI250，我們正重新定義機架級規模AI推論的可能性。這些創新的AI基礎架構解決方案能讓客戶以前所未有的總體擁有成本（TCO）部署生成式AI，並兼顧現代資料中心所需的靈活性與安全性。」