華女老闆揭矽谷暴利 芯片比車保值「價格已經瘋了」

洛杉磯訊

對於很多新創科技公司來說,需要租用超大規模雲端服務供應商的圖像處理器(GPU)芯片。加州科技公司華女高管日前指出,人工智能(AI)芯片市場正在獲取暴利,輝達(Nvidia)二手GPU芯片H100,使用3年後還保值84%,「價格已瘋了,車貶值速度都比這快得多。」

據商業內幕(Business Insider)報導,Silicon Data公司執行長Carmen Li表示,強勁的AI需求直接推動GPU芯片價格上漲。該公司的定價數據顯示,用於訓練和運行AI模型的輝達新舊GPU價格,過去幾個月價格普遍上漲。

Carmen曾在金融數據巨頭彭博社(Bloomberg)擔任全球戰略聯盟主管,2024年離職創辦Silicon Data,專門追蹤GPU價格,目標是提高GPU租賃市場的透明度。這位華女創始人表示,該公司收集全球數十萬個GPU價格點,並將其標準化為指數,用於了解租賃和長期價值。

由於科技巨頭、人工智慧實驗室和其他公司斥資數萬億美元購買GPU、並建造資料中心,以推動生成式AI的蓬勃發展,因此,GPU價格至關重要。人們擔心,如果GPU價格因需求疲軟下跌,AI雲端巨頭可能不得不加快這些資產的折舊速度,這可能會嚴重影響獲利。但到目前為止,情況恰恰相反,GPU價格正在上漲,即使是較舊的GPU貶值幅度也不大。

Carmen還經營一家名為Compute Exchange的公司,專門轉售翻新GPU。她指出,如果使用H100 GPU芯片第二年,可以以原價85%的價格出售一塊翻新的芯片。到第三年,同樣的GPU可以以原價84%的價格出售,「我的車貶值速度都比這快得多。」

對於AI創業者來說,過去三個月的芯片租金數據讓人窒息,輝達的Neo Cloud H100指數從2.20升至2.64,漲幅達20%;Neo Cloud B200指數從4.40攀升至5.35,漲幅達22%; Hyperscaler H100指數也從7.26升至7.46,漲幅為3%。「價格真的已經瘋了。」Carmen在談到芯片的租金時直言不諱。

這些數據表明,人工智慧運算的需求仍然超過供應。Carmen表示,市場並未遵循通常的新芯片發布初期價格上漲,然後隨著供應改善價格逐漸回落的模式。相反,她指出,B200價格一直居高不下,甚至進一步走高,這表明產能限制仍然存在。

她進一步指出,這種供需失衡所帶來的壓力體現在整個AI產業鏈的各個環節:芯片、記憶體、電源和資料中心空間。這種限制使得即使是像輝達H100這樣的老舊硬體價格也保持堅挺,而這些硬體仍然是人工智慧訓練和推理工作負載的核心。

目前,AI需求遠超預期,而運算資源的供應卻無法滿足需求。這不僅對基礎設施預算產生影響,而且對依賴租用GPU大規模產生AI產品的公司來說,經濟效益也會產生巨大影響。

輝達二手GPU芯片H100,使用3年後還保值84%。(示意圖取自Unsplash.com)

輝達

推薦文章