AMD靠MI300X力抗NVIDIA AI龍頭之爭關鍵在「生態系」

▲▼Nvidia人工智慧系統NVIDIA DGX H100。(圖/Nvidia提供)
▲NVIDIA DGX H100。(圖/Nvidia提供)

記者高兆麟/綜合報導

自AI熱潮開始以來,NVIDIA始終是產業領導者,但AMD也不甘示弱推出MI300系列處理器來追趕,不過由於2022年底ChatGPT剛推出時,AMD還沒有具有競爭力的解決方案,因此進度始終落後,直到推出MI300系列處理器才有能力和NVIDIA一較高下,但究竟哪家解決方案更強,一職是許多人心中的疑惑,以下為NVIDIA H100及AMD MI300X比較。

首先,NVIDIA H100跟MI300X都採用GPU處理器,H100使用台積電4奈米製程,MI300X則採用5奈米和6奈米組合。記憶體部分,兩者都採用HBM3,H100搭載80GB,MI300X則搭載192GB,且MI300X頻寬也較H100更大,功耗部分,H100為700W,MI300X為750W。

[廣告] 請繼續往下閱讀.

至於算力部分,AMD表示,MI300X GPU的速度不僅與H100相當,而且超過了其速度,FP8性能為2.6 petaFLOPS,就純粹的FLOPS而言,MI300X比H100快32%。

不過,考量到AMD MI300X已經晚了NVIDIA一年才推出,且還是以堆高規格來應戰NVIDIA,但這樣就足夠擊敗NVIDIA嗎?其實也不盡然,因為NVIDIA比起AMD最大的優勢在於,NVIDIA早在MI300X推出以前,就已經建構完整生態系,並獲得客戶採用,畢竟一套解決方案成功與否,還是取決於客戶採用意願,在這部分,NVIDIA可說是走得非常前面。

就硬體規格、運算能力層面表現來看,MI300表現確實領先還超越H100,但NVIDIA具有成熟的CUDA開發環境,就算MI300X問世,但這樣的生態系,會讓開發人員不願輕易拋棄已經建構很久且穩定的系統,轉投AMD ROCm。

且AMD目前也尚未有大型解決方案,但NVIDIA已有DGX GH200,透過串聯256個Grace Hopper Superchip,直接變成一台大型超級電腦,相較下來,AMD目前尚未有直接競爭的產品,因此就算MI300X規格勝過H100,恐怕短期之內,NVIDIA AI王者的寶座還不會輕易易主。
 

[廣告] 請繼續往下閱讀..