據悉,NVIDIA H100 GPU的交貨期已由原來的8至11個月大幅度壓縮為如今的3至4個月,使部分屯貨公司尋求出售剩余的H100 80GB處理器。如今在諸如亞馬遜云服務、谷歌云及微軟Azure等大型云服務供應商處租賃芯片更為便捷。
根據The Information報導,由于芯片供應狀況改善、交貨期的驟然縮短,一些公司開始拋售他們所持有的GPU或削減訂單。然而,盡管如此,AI芯片需求仍大于供應,特別是OpenAI之類的大型語言模型訓練機構。
一些云服務提供商,如亞馬遜AWS,提供按需租用H100 GPU的服務,緩解了消費者的購買壓力。盡管如此,由于大規模的語言模型訓練以數以萬計的GPU進行,瓶頸仍在,這些機構有時需要耐心等待數月以獲取所需處理能力。因此,NVIDIA H100等處理器的價格依舊居高不下,相關公司繼續賺取豐厚利潤。
值得關注的是,隨著供貨緊張的緩解,買方行為亦有所改變。如今企業更多地考慮價格和資產購置/租賃的合理性,偏好較小規模的GPU集群并關注商業的財務效益。
隨著替代產品如AMD和AWS處理器的性能提升和軟件服務的完善,加之對AI處理器投資更加審慎,預示著未來AI市場可能會趨于平衡。
-
NVIDIA
+關注
關注
14文章
5076瀏覽量
103728 -
語言模型
+關注
關注
0文章
538瀏覽量
10342 -
AI芯片
+關注
關注
17文章
1906瀏覽量
35217
發布評論請先 登錄
相關推薦
借助NVIDIA GPU提升魯班系統CAE軟件計算效率
《CST Studio Suite 2024 GPU加速計算指南》
英偉達H100芯片市場降溫
創業公司轉向RTX 4090因NVIDIA中國特供芯片價格高昂
NVIDIA全面轉向開源GPU內核模塊

馬斯克自曝訓練Grok 3用了10萬塊NVIDIA H100
首批1024塊H100 GPU,正崴集團將建中國臺灣最大AI計算中心
英偉達H100 GPU交貨等待時間大幅縮短
英特爾發布人工智能芯片新版,對標Nvidia
特斯拉和xAI籌集H100芯片,以推動L5級自動駕駛和“終極真相人工”的實現?
H100 GPU供應改善,AI市場需求依舊強勁
英偉達繁榮背后的挑戰 仍面臨著各種內憂外患

評論