先探/為何輝達和超微都在搶HBM?

(圖/先探投資週刊提供)

HBM解決傳統DRAM記憶體限制訊息流通的問題,透過同一封裝內晶片的矽中介質和SoC集成在一起,克服數據I/O封裝管腳限制的最大數量,突破DDR寬帶限制的問題,讓AI離不開HBM。SK海力士目前市占率超過五成,有主宰HBM價格的能力。

文/魏聖峰

過去記憶體常常擺脫不了景氣循環的宿命,隨著科技進入AI世代,伴隨著對高頻寬記憶體(HBM)的需求,讓記憶體有新的轉機。Nvidia執行長黃仁勳曾經表示,若GPU要順利推動ChatGTP等最先進生成式AI,要最大限度地發揮GPU性能,必須有HBM。今年Nvidia搭配AI處理器平台的HBM的主流規格是HBM3和HBM3e,下一世代GPU平台Rubin(二○二六年推出)就要採用HBM4,屆時誰能搶到較多的市占率,將有機會主宰HBM領導角色。

HBM產能供不應求

[廣告]請繼續往下閱讀...

黃仁勳對HBM曾經有過這樣的評論,就是買越多、省越多!難道HBM價格是比傳統記憶體DRAM便宜嗎?當然不是這樣!HBM作為先進的記憶體,它的技術比傳統DRAM技術困難很多,由於廠商目前在HBM的良率還不是很高(僅約五○∼六○%),工序複雜,價格當然不會便宜。在GPU跨入AI世代時,只有DDR5/HBM才有辦法在AI高倍速(HCP)的環境下運作,其他規格的記憶體都不行,加上全世界只有SK海力士、美光科技和三星電子等的記憶體大廠製程有能力做出HBM,以至於產能有限,市場供不應求,HBM目前是賣方喊價的市場。

隨著市場對HBM需求越來越大,SK海力士、美光科技和三星電子等三大記憶體製造商未來的資本支出會大幅用來生產HBM,並且會逐步把之前生產較低階DRAM生產線,逐步改為HBM生產線。根據集邦科技的統計,去年底HBM占整體DRAM產能約八%,市場規模四三.五六億美元、年成長率達一一○%。預估到今年底,HBM在DRAM的比重將有機會達到二○%、一六九.一億美元的產值。HBM的生產週期比DDR5更長,從投片到產出與封裝完成需要兩個季度以上,生產周期(包含TSV)會比DD5多出一.五∼二個月以上不等,對HBM買家來說,都要及早規劃預定,否則有錢也買不到。目前這三大廠針對今年的產能都已經預訂一空,SK海力士日前宣布明年的產能都被預訂一空,美光科技明年的產能也差不多被訂完。

不過,最近傳出三星電子沒有通過Nvidia的認證,主要是因為過熱和功耗有問題。據了解,從去年起三星電子一直嘗試通過Nvidia的第四代HBM3和第五代HBM3e的認證,但到日前為止,三星電子八層與十二層堆疊的HBM3與HBM3e都未通過認證。三星電子沒通過Nvidia就無法打入Nvidia的供應鏈,目前也只能供應超微和其他CSP客戶,這會讓三星電子在未來的HBM市場被弱化,畢竟打不進Nvidia供應鏈就等於沒打進主流市場。這個情況,可能會讓SK海力士會在HBM的主宰力更大,價格會更硬,這也是Nvidia和超微不樂見的現象。去年底HBM市占率中,SK海力士擁有高達五成的市占率、三星電子約四成、美光科技僅一成。美光科技最大的問題就是產能不足,未來要觀察美光科技在一β製程已經開出來後,能否提高HBM產能,來搶占三星電子空出來的市占率。

黃仁勳四日在COMPUTEX會場中表示,SK海力士和美光科技已是Nvidia的HBM供應鏈,而三星電子還在努力中。言下之意,Nvidia仍期待三星電子能通過認證,成為HBM供應鏈的一環。

解決傳統DRAM許多問題

HCP是進入AI領域的必經過程,且在短期間內要處理最多的大數據資料。HBM會成為AI的必需品,在技術上HBM解決了傳統DRAM遇到的內存高牆(Memory Wall)問題,這問題限制數據無法流通,是傳統DRAM無法用在AI用途的原因。HBM利用獨特的矽穿孔(TSV)技術,讓訊息透過矽中介層能緊湊地讓數據連結GPU。如此能節省數據傳輸的時間延遲與耗能問題。HBM是以數個DDR堆疊方式形成,從四層、八層到十二層不等,形成大容量和高寬帶的DDR組合陣列。採用堆疊方式最高能節省九四%的晶片面積,HBM透過同一封裝內的矽中介層與SoC集成在一起,能夠克服數據I/O封裝管腳限制的最大數量,進而突破內存寬帶的限制。綜合來看,高寬帶、低延遲、低功耗以及高效傳輸等特性,讓HBM成為AI運作過中記憶體的首選。

隨著AI算力提升,對周邊設備規格的要求也越來越嚴謹。根據Nvidia官網顯示,以A100當時搭配HBM2e的效能為基礎,二三年的H100搭配HBM3時,運作效能比A100提高十一倍,而H200搭配HBM3e的運作效能更比A100提高十八倍,即將在今年下半年推出的B100搭配HBM3e的效能,又比H200的效能至少再高出一倍。(全文未完)

全文及圖表請見《先探投資週刊2303期精彩當期內文轉載》

(圖/先探投資週刊提供)

關鍵字: 先探投資週刊

分享給朋友:

※本文版權所有,非經授權,不得轉載。[ETtoday著作權聲明]

推薦閱讀

台積電嘉義CoWoS廠挖到遺跡暫時停工 南科管理局:影響不大

台積電嘉義CoWoS廠挖到遺跡暫時停工 南科管理局:影響不大

台積電在嘉義科學園區目前規劃興建的兩座CoWoS先進封裝廠中但日前疑似挖到遺址,因此第一座廠暫時停工,南科管理局也證實,並表示,目前完工目標時程不會受到太多影響。

2024-06-17 14:27

最低工資要討論了!6/26開會 商總許舒博盼先解決缺工問題

最低工資要討論了!6/26開會 商總許舒博盼先解決缺工問題

勞動部預計將在Q3召開最低工資審議會議,擬定首次最低工資數額,本月26日將展開首次最低工資審議會暨諮詢會聯席會議,由勞動部幕僚工作報告目前經濟狀況;對此,商總理事長許舒博認為,與其調高最低工資,應該要先解決缺工問題。

2024-06-17 15:48

快訊/鴻海攻上「郭台銘退休價」 收最高200元

快訊/鴻海攻上「郭台銘退休價」 收最高200元

鴻海(2317)受惠AI、蘋果表現看俏雙重題材助攻,今(17)日持續攻高,終場收最高200元「創辦人郭台銘退休目標價」正式達陣,公司市值2.77兆元同創新高。

2024-06-17 13:55

康友案施景彬、江明南各遭判2年半 勤業眾信:研議上訴還清白

康友案施景彬、江明南各遭判2年半 勤業眾信:研議上訴還清白

台北地方法院今(17)日針對康友-KY相關26名被告做出判決,全數列為有罪,其中勤業會計師事務所會計師施景彬、江明南各遭2年6個月,惟全案可以上訴。勤業隨後發出3大聲明,除表達對此案感到遺憾以外,並表示兩位會計師將研議上訴,盼司法終能還其清白。

2024-06-17 15:48

台新金靠私募娶新光金? 專家:牴觸金控公司法

台新金靠私募娶新光金? 專家:牴觸金控公司法

外傳台新金(2887)評估以私募方式,參股新光金(2888)子公司新光人壽案件,為「新新併」做訂婚準備,不過中華獨立董事協會理事長秉寬指出,目前金控公司法的規定,「金控不能隨便併購,也不能以私募方式併購其他金控的子公司。」相關說法與現行規範明顯牴觸。

2024-06-17 14:30

張國煒喊話「超車兩家」 星宇盤中漲逾7%

張國煒喊話「超車兩家」 星宇盤中漲逾7%

星宇航空(2646)上周五召開股東會,董事長張國煒看好公司未來獲利能力,力拚3年內要打消累虧百億元,更喊出今年獲利要賺「2位數的億」、10年內獲利率應該可以跟長榮航(2618)、華航(2610)相比,激勵今(17)日股價大漲,盤中強漲逾7%。

2024-06-17 10:31

台股連5天刷新高!4高息ETF規模破兆助攻 00919績效稱王

台股連5天刷新高!4高息ETF規模破兆助攻 00919績效稱王

台股頻創新高,今(17)日開盤1小時漲逾62點寫22567.34點新紀錄,為連續5個交易日創高,而深受投資人喜愛的台股ETF規模也創新高來到2.25兆,其中台股高息ETF更是成長快速,今年來規模則是增加6417.17億,占所有台股ETF規模增加逾八成,4強ETF合計規模已衝破兆元,顯示出台灣人愛高息ETF的熱度持續增加。

2024-06-17 10:57

英特爾IFS虧損遭投資人怒告 陸行之:被蘋果、輝達併購才有望翻身

英特爾IFS虧損遭投資人怒告 陸行之:被蘋果、輝達併購才有望翻身

英特爾(Intel)旗下半導體代工事業虧損擴大,一家名為Levi & Korsinsky的律師事務所質疑該公司今年第1季財報不實,並涉嫌隱暱製造部門虧損,發動大規模集體訴訟行動,呼籲受害股民在7月2日前完成求償登記,對此知名半導體分析師陸行之今日發文表示,如果英特爾無法在2025年量產出貨20A/18A,然後公司又出來說manufacturing ready跟mass production差很遠,Pat的CEO位子將岌岌可危,到時候英特爾給蘋果或NVIDIA來併購管理可能會比較有機會翻身

2024-06-17 10:34

「黃仁勳會加你LINE?」 謝金河:長投ETF絕對比錢交詐騙好

「黃仁勳會加你LINE?」 謝金河:長投ETF絕對比錢交詐騙好

社群媒體詐騙頻傳,不少名人都曾遭假帳號冒用姓名、照片,創建股票、投資社團,財信傳媒董事長謝金河在臉書上以「黃仁勳會和你加Line?詐騙的教戰守則」為題撰文,指出近期有婦人誤信「假謝金河」,遭騙1200萬元,讓他心如刀割,並強調自己沒有任何LINE群組、社團等,痛斥臉書不受理檢舉詐騙,為了賺錢已經喪失理智。

2024-06-17 10:06

3項新保險改革7月啟動 實支實付新保單10/1上路

3項新保險改革7月啟動 實支實付新保單10/1上路

3大保單改革新制即將在7月1日啟動,包含分紅保單強化分紅揭露、失能險界定更明確,以及旅平險新費率上路。原實支實付醫療險正本理賠、落實損害填補原則的機制在產、壽險公會爭取緩衝期之下,實支實付正本理賠新款保單估要到10月1日才會上路。

2024-06-17 09:56

讀者迴響