▲NVIDIA共同創辦人暨執行長黃仁勳。(圖/記者湯興漢攝)
記者蕭文康/綜合報導
巴隆週刊(Barron's)資深作家Tae Kim在社交媒體平台上寫道,根據投行瑞傑金融(Raymond James)估計,NVIDIA(輝達)每枚H100晶片的製造成本為3320美元,而給客戶的售價卻高達25000~30000美元,利潤率高達1000%。
不過全球知名硬體網站Tom's Hardware則指出,產品開發需要時間和資源,必須考慮到 H100 等產品在開發過程中,工程師和其他參與者的付出,因此,在計算成本之前,還必須考慮輝達的研發成本。
據評論平臺Glassdoor的資料,輝達電子硬體工程師的平均年薪約為20.2萬美元,而開發H100等晶片很可能需要數千位元這樣薪資水準的專業人員。
NVIDIA 的H100是目前訓練大語言模型最需要的圖形處理器(GPU),它可以應用於各種AI場景,如AI聊天機器人、推薦引擎、視覺AI、資料分析、高性能計算等。
先前《Forbes》報導,MLCommons 發布的MLPerf 3.0最新評測結果顯示,NVIDIA的 H100在訓練大型語言模型(LLMs)的系統測試中,完成AI任務的運算速度最快,根據評測,H100稱霸幾乎每一種類別,也是這份最新LLM標竿測試中,唯一一款GPU。
NVIDIA 的H100已造成全球瘋搶,包括沙烏地阿拍伯和阿聯酋被曝正在瘋狂下單,據英國《金融時報》報導,沙烏地阿拉伯已購買至少 3000 片 NVIDIA H100晶片,而阿聯酋則已獲得數千片 NVIDIA晶片。
讀者迴響