NVIDIA H100熱賣!今年GPU上看55萬顆 台積電產能待填補

▲▼Nvidia人工智慧系統NVIDIA DGX H100。(圖/Nvidia提供)

▲NVIDIA人工智慧系統NVIDIA DGX H100。(圖/NVIDIA提供)

記者高兆麟/綜合報導

據英國《金融時報》報導,NVIDIA預計到 2023 年將售出超過 50 萬個高端 H100 GPU,價值數百億美元。據多位與NVIDIA和台積電有關的內部人士向英國《金融時報》表示,NVIDIA計劃於 2023 年在全球範圍內出貨約 55 萬個最新的 H100 GPU,其中大部分銷往美國科技公司。NVIDIA選擇不對此事發表任何評論,考慮到聯邦貿易委員會的規則,外媒也認為這是可以理解的。

[廣告] 請繼續往下閱讀.

外媒指出,雖然不知道所售 GPU 的精確組合,但每個NVIDIA H100 80GB HBM2E GPU 在美國的零售價約為 30,000美元。事實上,這是最便宜的,至少目前是這樣。在中國一張這樣的卡售價高達7 萬美元。NVIDIA的頂級H100包括H100 SXM 80GB HBM3和H100 NVL 188GB HBM3雙卡解決方案。這些零件可能會直接出售給富士康和廣達等伺服器製造商,或在NVIDIA直接銷售的伺服器內部供應。

此外,NVIDIA即將開始發售其 GH200 Grace Hopper 平台,該平台由 72 核 Grace 處理器和 H100 80GB HBM3E GPU 組成。

NVIDIA沒有公佈其 H100 SXM、H100 NVL 和 GH200 Grace Hopper 產品的價格,因為它們取決於NVIDIA與特定客戶之間的數量和業務關係。

與此同時,即使 NVIDIA每款基於 H100 的產品售價為 3 萬美元,僅在最新一代GPU 上,今年的銷售額仍將達到 165 億美元。但該公司不僅僅銷售 H100 系列GPU。

[廣告] 請繼續往下閱讀..

有些公司仍在使用NVIDIA的上一代 A100 計算 GPU 來增強現有部署,而無需對其軟體和硬體進行任何更改。還有中國專用的A800和H800型號。

外媒指出,雖然無法準確估計NVIDIA GPU 銷售收入的去向,也無法準確估計NVIDIA今年將銷售的GPU 數量,但可以做出一些猜測。NVIDIA的數據中心業務在該公司 2024 財年第一季度 (截至 4 月 30 日)創造了 42.84 億美元的收入。鑑於持續不斷的人工智慧熱潮,NVIDIA GPU 的銷量在 2024 財年第二季度(截至 7 月底)似乎更高。換句話說,NVIDIA數據中心部門的 2023 財年全年業績將打破紀錄。

值得注意的是,NVIDIA的合作夥伴台積電目前幾乎無法滿足 GPU 的需求,因為它們都使用 CoWoS 封裝,而代工廠正在努力提高這種晶片封裝方法的產能。由於許多公司希望購買數以萬計的 GPU 用於人工智慧目的,因此供應在相當長的一段時間內不太可能滿足需求。