新聞 >大中華
阿里雲Aegaeon入選SOSP展示計算池成果,H20用量大減82%

【財訊快報/陳孟朔】媒體報導,阿里巴巴(9988.HK)(美股代碼BABA)旗下的阿里雲在韓國首爾舉行的第31屆操作系統原理研討會(SOSP)發表「Aegaeon」計算池化解決方案,主打在大模型服務場景下回收閒置算力、降低資源碎片化與排隊延遲。官方測試指出,於阿里雲模型市場進行逾三個月Beta驗證,面對多個參數規模最高達720億的大模型工作負載,所需輝達(Nvidia,美股代碼NVDA)H20 GPU由1,192顆大減至213顆,削減幅度達82%。
Aegaeon的核心在於將多模型、多任務的算力需求統一納入池化調度,透過動態切片與彈性佔用,盡量把原本因批次大小、序列長度與流量波動造成的空轉「填滿」。對雲端供應商與企業客戶而言,等同以更少GPU支撐相同吞吐量,提升機櫃密度與機房能效比,並降低推理服務的單位成本。
在營運面,計算池化可同時改善服務等候時間與SLA穩定度,尤其在高峰時段可透過快速資源重配抑制尾延遲,為多模型共用叢集提供更高的承載彈性。若搭配記憶體管理與通訊優化(如減少跨卡搬運、降低同步頻率),有助進一步提升有效利用率。
產業意涵上,當前AI基礎設施投資快速擴張,如何以軟體層創造「等效算力」成為關鍵命題。若Aegaeon類型的池化與排程技術能在公有雲與企業私有雲廣泛落地,將為下游應用帶來更可預測的成本曲線,並減輕對HBM與先進製程GPU的即期依賴,緩解供應鏈緊張。
相關新聞
-
2025/10/20 14:28
安世中國聲稱生產經營一切如常,員工有權拒絕執行荷蘭總部指示
-
2025/10/20 13:26
需求面疲軟與供應面限產,中國9月煤和鋼產量年比下滑1.8%、4.6%
-
2025/10/20 11:31
中國9月70城房價二手房月比跌幅略擴,新房年比降幅續收斂
-
2025/10/20 10:51
中國截至9月房地產投資年減7.6%,較前期進一步走弱,連26月負增長
-
2025/10/20 10:34
中國9月失業率降至5.2%,優於預期
-
2025/10/20 10:30
中國9月全社會固定資產投資年減0.5%,5年來首見轉負且明顯弱於預期
-
2025/10/20 10:26
中國第三季GDP增長4.8%、前三季5.2%,全年保五目標維持可控節奏
-
2025/10/20 10:25
中國9月工業生產年增6.5%超預期,製造業動能持續加速
-
2025/10/20 10:23
中國9月社會零售銷售年增3%,前九個月年增4.5%
-
2025/10/20 09:33
中國10月LPR持平,1年期及5年期各維持3.00%、3.50%不變
-
2025/10/20 08:43
李強主持國常會會議,部署加大對物流企業支持力道
-
2025/10/20 08:36
中國設5,000億人民幣地方債限額,助化解存量債務及擴大投資
-
2025/10/20 08:27
安世中國帳號突遭封鎖、交付風險外溢!聞泰啟動「去歐洲化」自救
-
2025/10/20 08:26
iPhone Air陸官網預購5分鐘售罄,電商多色缺貨,需求強勁超預期
-
2025/10/20 08:23
中國央行承諾提升人民幣使用便利性,推動國際化進程
-
2025/10/20 08:21
人行擴編「穩定工具箱」!納管全市場、強化預警評估與風險處置機制
-
2025/10/20 07:53
戰略性礦產管控,中國9月份稀土產品出口量6,538噸,低於上月
-
2025/10/20 07:53
寒武紀前三季營收飆近24倍連三季轉盈,股價熱度退燒後走勢受矚目
-
2025/10/20 07:47
中國推動海上風電,11月1日起至2027年底實施增值稅即徵即退50%政策
-
2025/10/20 07:44
香港續保自由港地位,不會徵收特別港務費
-
2025/10/20 07:14
中資科網「穩幣夢」遇阻!監管出手,螞蟻、京東暫停香港穩定幣計畫
-
2025/10/20 07:13
中國安撫稀土管制升級疑慮,對合規者放行、以長效機制回應美方擴權
-
2025/10/20 07:11
三一重工擬赴港籌資最多123.6億港元,釋中國裝備製造回歸港股訊號