拚AI算力 亞馬遜買百萬顆Nvidia晶片 催動伺服器升級
路透報導,Nvidia輝達(另稱英偉達)傳出將在2027年底前向亞馬遜AWS出售100萬顆GPU晶片、語言處理器晶片(LPU)及網通平台等相關產品,並已經獲得輝達證實。
輝達和AWS本周已表示達成採購協議,並未透露交易的具體日程。輝達超大規模與高效能運算副總裁巴克(Ian Buck)告訴路透,將從今年開始出貨,並持續到2027年。輝達和亞馬遜均未揭露交易具體財務數字。巴克向路透透露,除了100萬顆GPU,交易還包含輝達的多種晶片,包括Spectrum乙太網路晶片,以及輝達剛發布的Groq晶片。
亞馬遜AWS計畫將Groq晶片和其他六款輝達晶片結合使用,實現更高效的推論(inference)。巴克表示,「推論很困難,簡直難如登天,要想在推論領域做到最好,不能只靠單一晶片。實際上會動用全部七款晶片。」
輝達在GTC大會中發表最新的LPU晶片Groq,主要就是強化推論效能,GPU晶片經過大量訓練及搜尋結果後,LPU晶片再將適合的答案推論相匹配,使用者更快得到運算結果,而非GPU獨自完成這兩項步驟,GPU、LPU晶片搭配可讓AI運算效力大幅提升。
輝達Vera Rubin平台還包括Rubin GPU晶片、Vera CPU、Spectrum乙太網路、NVLink交換器(Switch)平台、BlueField資料處理晶片。執行長黃仁勳指出,所有晶片相互整合效應讓輝達硬體運算效能達到最高。
這項訂單也代表後續衍生的AI伺服器代工將進入交貨旺季。業界推估,Vera Rubin架構的AI伺服器預計今年第3季開始逐步量產及交貨,輝達明年將推出Rubin Ultra的強化版GPU運算晶片,預期亞馬遜AWS本次與輝達簽訂採購協議也包含此產品。
此外,黃仁勳在輝達GTC開發者大會的座談會表示,科技領袖必須謹慎,不要讓人工智慧(AI)驚嚇大眾;他說,「我們可以展現克制,不要用逼的」。
黃仁勳在答覆Anthropic公司該如何妥善處理和五角大廈之間混亂的合約談判時說,「提醒大眾這項技術能耐,這初衷是很好。示警是好事,但嚇唬人就不太好了,因為這項技術對我們太重要了」。
Anthropic是輝達主要客戶,也是聊天機器人Claude的開發商。Anthropic希望限制其AI工具的軍事用途,而與川普政府陷入僵局。