先探/為何輝達和超微都在搶HBM?

(圖/先探投資週刊提供)

HBM解決傳統DRAM記憶體限制訊息流通的問題,透過同一封裝內晶片的矽中介質和SoC集成在一起,克服數據I/O封裝管腳限制的最大數量,突破DDR寬帶限制的問題,讓AI離不開HBM。SK海力士目前市占率超過五成,有主宰HBM價格的能力。

文/魏聖峰

過去記憶體常常擺脫不了景氣循環的宿命,隨著科技進入AI世代,伴隨著對高頻寬記憶體(HBM)的需求,讓記憶體有新的轉機。Nvidia執行長黃仁勳曾經表示,若GPU要順利推動ChatGTP等最先進生成式AI,要最大限度地發揮GPU性能,必須有HBM。今年Nvidia搭配AI處理器平台的HBM的主流規格是HBM3和HBM3e,下一世代GPU平台Rubin(二○二六年推出)就要採用HBM4,屆時誰能搶到較多的市占率,將有機會主宰HBM領導角色。

HBM產能供不應求

[廣告]請繼續往下閱讀...

黃仁勳對HBM曾經有過這樣的評論,就是買越多、省越多!難道HBM價格是比傳統記憶體DRAM便宜嗎?當然不是這樣!HBM作為先進的記憶體,它的技術比傳統DRAM技術困難很多,由於廠商目前在HBM的良率還不是很高(僅約五○∼六○%),工序複雜,價格當然不會便宜。在GPU跨入AI世代時,只有DDR5/HBM才有辦法在AI高倍速(HCP)的環境下運作,其他規格的記憶體都不行,加上全世界只有SK海力士、美光科技和三星電子等的記憶體大廠製程有能力做出HBM,以至於產能有限,市場供不應求,HBM目前是賣方喊價的市場。

隨著市場對HBM需求越來越大,SK海力士、美光科技和三星電子等三大記憶體製造商未來的資本支出會大幅用來生產HBM,並且會逐步把之前生產較低階DRAM生產線,逐步改為HBM生產線。根據集邦科技的統計,去年底HBM占整體DRAM產能約八%,市場規模四三.五六億美元、年成長率達一一○%。預估到今年底,HBM在DRAM的比重將有機會達到二○%、一六九.一億美元的產值。HBM的生產週期比DDR5更長,從投片到產出與封裝完成需要兩個季度以上,生產周期(包含TSV)會比DD5多出一.五∼二個月以上不等,對HBM買家來說,都要及早規劃預定,否則有錢也買不到。目前這三大廠針對今年的產能都已經預訂一空,SK海力士日前宣布明年的產能都被預訂一空,美光科技明年的產能也差不多被訂完。

不過,最近傳出三星電子沒有通過Nvidia的認證,主要是因為過熱和功耗有問題。據了解,從去年起三星電子一直嘗試通過Nvidia的第四代HBM3和第五代HBM3e的認證,但到日前為止,三星電子八層與十二層堆疊的HBM3與HBM3e都未通過認證。三星電子沒通過Nvidia就無法打入Nvidia的供應鏈,目前也只能供應超微和其他CSP客戶,這會讓三星電子在未來的HBM市場被弱化,畢竟打不進Nvidia供應鏈就等於沒打進主流市場。這個情況,可能會讓SK海力士會在HBM的主宰力更大,價格會更硬,這也是Nvidia和超微不樂見的現象。去年底HBM市占率中,SK海力士擁有高達五成的市占率、三星電子約四成、美光科技僅一成。美光科技最大的問題就是產能不足,未來要觀察美光科技在一β製程已經開出來後,能否提高HBM產能,來搶占三星電子空出來的市占率。

黃仁勳四日在COMPUTEX會場中表示,SK海力士和美光科技已是Nvidia的HBM供應鏈,而三星電子還在努力中。言下之意,Nvidia仍期待三星電子能通過認證,成為HBM供應鏈的一環。

解決傳統DRAM許多問題

HCP是進入AI領域的必經過程,且在短期間內要處理最多的大數據資料。HBM會成為AI的必需品,在技術上HBM解決了傳統DRAM遇到的內存高牆(Memory Wall)問題,這問題限制數據無法流通,是傳統DRAM無法用在AI用途的原因。HBM利用獨特的矽穿孔(TSV)技術,讓訊息透過矽中介層能緊湊地讓數據連結GPU。如此能節省數據傳輸的時間延遲與耗能問題。HBM是以數個DDR堆疊方式形成,從四層、八層到十二層不等,形成大容量和高寬帶的DDR組合陣列。採用堆疊方式最高能節省九四%的晶片面積,HBM透過同一封裝內的矽中介層與SoC集成在一起,能夠克服數據I/O封裝管腳限制的最大數量,進而突破內存寬帶的限制。綜合來看,高寬帶、低延遲、低功耗以及高效傳輸等特性,讓HBM成為AI運作過中記憶體的首選。

隨著AI算力提升,對周邊設備規格的要求也越來越嚴謹。根據Nvidia官網顯示,以A100當時搭配HBM2e的效能為基礎,二三年的H100搭配HBM3時,運作效能比A100提高十一倍,而H200搭配HBM3e的運作效能更比A100提高十八倍,即將在今年下半年推出的B100搭配HBM3e的效能,又比H200的效能至少再高出一倍。(全文未完)

全文及圖表請見《先探投資週刊2303期精彩當期內文轉載》

(圖/先探投資週刊提供)

關鍵字: 先探投資週刊

分享給朋友:

※本文版權所有,非經授權,不得轉載。[ETtoday著作權聲明]

推薦閱讀

10檔台股ETF受益人創高 00919獲年度人氣王

10檔台股ETF受益人創高 00919獲年度人氣王

台股ETF在2024年大放異彩,以年度來看,總檔數增加到66檔,總受益人數也來到1022萬5836人雙雙創下歷年新高,根據台股ETF集保戶股權分散統計至2024年底資料顯示,群益台灣精選高息(00919)、富邦台50(006208)、元大高股息(0056)、大華優利高填息30(00918)、元大台灣高息低波(00713)、凱基優選高股息30(00915)、國泰台灣領袖50(00922)、永豐ESG低碳高息(00930)、復華富時高息低波(00731)、元大中型100(0051)共10檔創下新高。

2025-01-03 09:51

2025年首發!2銀行聯名卡不玩了 百貨卡7月喊掰掰

2025年首發!2銀行聯名卡不玩了 百貨卡7月喊掰掰

聯名卡退場風潮延續,台北富邦銀行公告「廣三SOGO百貨聯名卡」正式啟動退場,自即日起停辦申請新卡,原持卡人可繼續用到今年6月30日,7月1日起全面停卡;中信銀也公告,Yahoo聯名卡自今年起停止受理申辦新卡。

2025-01-03 07:00

7-8月統一發票兌獎倒數!4張千萬無人領 繳百元停車費中獎未現身

7-8月統一發票兌獎倒數!4張千萬無人領 繳百元停車費中獎未現身

113年7-8月統一發票即將在下周一(1月6日)兌獎到期,其中有4名千萬中獎人至今沒有現身,有民眾在嘉義繳100元停車費中獎未領,財政部呼籲幸運兒速速現身,以免和財神爺擦身而過。

2025-01-03 06:00

96%企業發年終「平均1.39個月」 金融業近2個月居冠

96%企業發年終「平均1.39個月」 金融業近2個月居冠

農曆新年腳步臨近,各行各業紛紛揭曉年終獎金,長榮海運(2603)以「20個月年終」再度登上焦點,長榮航(2618)則發放7個月、星宇航空(2646)發放2個月年終,都優於去年,這場企業年終獎金的大比拚,不僅展現各企業的實力,也成為吸引人才的關鍵手段。

2025-01-03 12:20

台彩刮刮樂年度首發鉅獻 6款新品總獎金逾230億創高

台彩刮刮樂年度首發鉅獻 6款新品總獎金逾230億創高

歡樂強檔,金春鉅獻!台灣彩券公司今(3)日舉辦「2025年刮刮樂新品歡慶首發記者會」,由台灣彩券總經理謝志宏與三金天王盧廣仲熱烈互動,熱鬧揭曉新春限定重量級刮刮樂「2000萬超級紅包」,用「刮刮樂就是一種過年的Style」的歡喜氛圍與大家一起迎接金蛇年。

2025-01-03 11:46

加油要快 下周汽油每公升擬調漲0.1元

加油要快 下周汽油每公升擬調漲0.1元

北半球進入冬天取暖用油旺季,加上美國原油庫存連續6周下降,預計國際油價將會走升,國內油價下周也將調整,汽油預估每公升實際調漲0.1元,柴油不調整。

2025-01-03 11:38

台積電最大客戶2025年換人 外資曝「輝達有望擠下蘋果」

台積電最大客戶2025年換人 外資曝「輝達有望擠下蘋果」

根據花旗出具最新報告,2025年隨著輝達(NVIDIA)可能超越蘋果,成為台積電的第一大或第二大客戶,並貢獻20%的營收,台積電的AI相關營收可能會大幅增長。

2025-01-03 10:49

65%企業Q1加薪「平均調4.2%」 9成會徵才開出月薪近4萬

65%企業Q1加薪「平均調4.2%」 9成會徵才開出月薪近4萬

新的一年到來,各企業對於Q1的景氣大多樂觀看待,根據求職網站調查,有超過65%的企業Q1有加薪計劃,預計加薪幅度為4.2%;也有超過93%的企業會徵才,開出的月薪條件將近4萬元,寫下12年新高。

2025-01-03 10:10

快訊/台積電漲15元至1080 台股開盤大漲186點

快訊/台積電漲15元至1080 台股開盤大漲186點

美股4大指數跌多漲少,台股今(3日)以23018.56點開出,指數大漲186.5點,漲幅0.82%。

2025-01-03 09:02

幣安獲第21個全球監理授權 巴西中央銀行核准收購持牌券商

幣安獲第21個全球監理授權 巴西中央銀行核准收購持牌券商

區塊鏈與加密貨幣基礎設施提供商幣安,已在巴西獲得巴西中央銀行的核准,收購一家持有當地牌照的券商機構。此舉彰顯幣安達成全球第21個合規的里程碑。

2025-01-02 23:29

讀者迴響