人工智慧(AI)強烈競爭下,英偉達(NVIDIA)的旗艦AI晶元H100 GPU在2023年3月上市后,迅速成為全球最硬通貨。但AI公司Featherless.AI創始人Eugene Cheah表示,H100租賃價格已從峰值8美元/小時崩跌至2美元/小時左右。不過他強調,大規模算仍維持高價。
Eugene近期撰寫了一篇題為《2美元的H100:GPU租賃泡沫如何破滅》觀點文章,引發亞洲市場熱議。他表示,H100在算力租賃市場的價格從初期的4.7美元/小時,一度飆升至8美元以上/小時,不過最近傳出H100已供過於求,租賃價格已銳減至2美元/小時左右,引發市場對於GPU泡沫即將破滅的猜測。
他分析稱,H100需求明顯下滑,租賃市場供應過剩的因素包括:1.從頭開始訓練新模型的公司減少,中小型公司減少了對基礎模型建設的投資,轉而微調開放的模型,因為這樣比自主訓練更經濟、更有效率,導致算力需求顯著減少;
2.預訂H100的公司完成模型訓練后,大量轉售閑置和先前預留的未使用算力;
3. OpenAI、Meta、X.AI退出公共算力平台,建立自家價值數十億美元的大型資料中心;
4. H200、B200等新產品的推出;
5.有更便宜的替代品,包括輝達本身更便宜的產品線,以及超微(AMD)和英特爾(Intel)等對手推出更實惠的競品。
加密貨幣挖礦GPU使用量一直呈下降趨勢,在某些情況下無利可圖,此後一直湧入公共算力平台。
但他也補充,GPU租賃市場的便宜價格僅出現在中小型規模算力需求,大規模算力仍維持在較高的價格。
針對想投資AI領域的投資人,Eugene建議不要購買全新的H100晶元,因為可能會造成損失,若有需求可用租賃的方式。他同時建議投資人轉向股票市場等其他地方,以獲得更好的報酬率。
他解釋道:「對於一般市場而言,今天投資新的H100沒有什麼意義,因為在當前供應過剩的情況下,你可以在需要時以接近成本的價格租賃它。」
此外,他也表示H100等顯卡租賃價格的下降可能對AI發展帶來好處,將加速開放權重AI採用和AI應用開發的浪潮。
此前,市場傳出英偉達下一代旗艦晶元Blackwell架構系列因設計存在挑戰恐導致延遲出貨。
但英偉達首席執行官黃仁勛已確認,儘管遇到設計挑戰,Blackwell晶元的生產不會延期,預計今年第四季上市。
摩根士丹利分析師在10月早些時候的報告指出,英偉達的Blackwell晶元市場需求相當旺盛,未來12個月左右的供應已經被搶購一空,將推動對現有的Hopper架構產品的強勁短期需求,看好英偉達一年的出貨量將維持高成長,繼續擴大其AI晶元的市佔率。
來源:FX168財經