AI需求爆棚 微軟Azure建超級運算叢集
微軟雲端服務事業Azure宣布,推出全球第一個採用Nvidia輝達(另稱英偉達)GB300 NVL72打造的超級運算叢集(cluster),專為OpenAI最複雜的推論模型功能而設計,將在全球的資料中心部署數十萬個GPU。
微軟超級運算叢集,主要是組合多台GB300以提高運算效能,包含4,608個輝達Blackwell Ultra GPU,位於64個機櫃的GB300 NVL72液冷機櫃系統,各機櫃之間採用輝達高速互聯技術,象徵AI進入超級運算時代。
微軟表示,此次部署不僅是硬體革新,也涵蓋從液冷、供電到軟體全面重構, 隨著Azure計畫部署數十萬個Blackwell Ultra GPU,將為OpenAI等客戶帶來更多突破性創新。
微軟正面臨資料中心嚴重短缺的問題。根據知情人士,短缺情況將延至明年上半年,時間比公司先前預期更久,顯示這家軟體巨擘難以跟上快速增長的雲端與AI運算需求。
微軟在美國的多個資料中心區域,包括維吉尼亞州與德州,都出現伺服器或容量不足的問題,Azure雲端服務的新訂閱將受限至明年上半年。這比財務長胡德今年7月預估瓶頸將持續至年底的說法要嚴峻。
短缺的不僅是通常用於AI運算、搭載繪圖處理器的設備,連提供常規雲端服務、以中央處理器為核心的傳統資料中心,供應也緊張。
值得注意的是,合作夥伴OpenAI已是微軟傳統雲端基設的最大客戶。微軟部分內部專案甚至被要求暫停,以節省伺服器資源。
Azure是微軟最重要的成長引擎,2025財年度營收超過750億美元。業務擴張速度持續超越競爭對手亞馬遜與Google。但伺服器租賃資源短缺已成為持續的隱憂。

FB留言