ＡＩ伺服器推升HBM與高容量DRAM需求，國際記憶體廠雖加速擴產，但產能仍落後需求。南亞科受惠DRAM報價大幅上升；華邦電則憑藉利基型承接商機。
文／呂泰德
大型語言模型正由集中訓練走向大規模推論，資料中心擴充的已不只是ＧＰＵ或其他ＡＩ加速器，而是涵蓋HBM、伺服器DDR5、低功耗記憶體與企業級ＳＳＤ的完整記憶體及儲存架構。貼近運算核心的ＨＢＭ負責高速傳送模型資料，DDR5與SOCAMM等低功耗記憶體支撐ＣＰＵ端的系統運作、資料前處理，企業級ＳＳＤ則承接模型權重、資料集、向量資料庫與持久化KV Cache等容量需求。美光於近期指出，單台伺服器的記憶體容量在過去三年間增加一倍，隨著ＡＩ推論複雜度，系統效能愈來愈受到記憶體頻寬與容量影響，不再僅由運算晶片效能決定。
ＡＩ效應拉長供給缺口
三星電子於二○二六年二月宣布HBM4進入量產並展開商業出貨，採用第六代十奈米級1c DRAM及四奈米邏輯基礎裸晶，五月再向主要客戶提供十二層HBM4E樣品；美光則推進針對Nvidia Vera Rubin平台設計的36GB、十二層HBM4，單一堆疊頻寬超過每秒二．八ＴＢ，並同步布局SOCAMM2及PCIe Gen6資料中心ＳＳＤ。三星、ＳＫ海力士與美光在HBM4世代的競爭，已由過去著重單顆DRAM成本，升級為先進製程、堆疊技術、邏輯基礎裸晶、封裝、功耗、散熱與客戶認證能力的全面競賽。
更重要的是，HBM、高容量伺服器DDR5及低功耗伺服器記憶體，均會競逐先進DRAM晶圓、EUV設備、研發人力、測試與後段封裝資源。當記憶體大廠優先將先進DRAM產能配置於HBM及高容量伺服器產品時，不僅高階記憶體供應維持緊張，也可能限制部分標準型或成熟規格DRAM的供給增幅。企業級ＳＳＤ雖然主要使用NAND Flash，並不直接占用相同的DRAM晶圓，但同樣會競逐資本支出、先進控制器、研發及資料中心客戶資源。美光二六年第三季營收達四一四．六億美元，高於前一季的二三八．六億美元，並預估下一季非GAAP毛利率約八六％，反映ＡＩ需求、供給受限與高附加價值產品組合正大幅提高記憶體的獲利能力。
ＡＩ伺服器除了加速器，仍須仰賴ＣＰＵ負責作業系統、資料前處理、網路與儲存管理、服務調度及部分推論流程，因此系統DRAM容量也隨之提高。美光已向伺服器生態系提供256GB DDR5 RDIMM樣品，最高速度可達九二○○MT/s，採用３ＤＳ堆疊與ＴＳＶ技術整合多顆DRAM晶粒；單一256GB模組相較二條128GB模組，可降低超過四○％的運行功耗。這顯示即使伺服器出貨台數未成倍成長，每台設備搭載的記憶體容量、頻寬與單位價值仍可持續提高，記憶體位元需求因而不再只由終端設備台數決定。
另一方面，大型模型在訓練階段需要讀取龐大資料集，進入推論後仍須存放模型權重、向量資料庫、檢索資料及持久化KV Cache，資料中心不可能將所有資料長期放在成本較高的HBM或DRAM中，因此必須依靠企業級ＳＳＤ承接大容量儲存。美光九六五○為商用PCIe Gen6資料中心ＳＳＤ，循序讀取效能最高可達PCIe Gen5產品的近二倍；另一款六六○○ION則將ＳＳＤ容量提高至245TB。兩項產品分別強化效能與容量，顯示ＡＩ資料管線的升級已從ＧＰＵ與記憶體，進一步延伸至企業級儲存設備。
報價勁揚獲利增漲
記憶體產業具有固定成本高、價格循環明顯的特性。當產能利用率已處高檔、位元出貨量變化有限時，平均銷售價格上升，會增加毛利與獲利。南亞科二六年第二季營收達八二五．四九億元，較第一季增加六八．二％；DRAM平均銷售價格季增超過六○％，位元出貨量則與前一季大致持平。在價格上漲與產品組合改善帶動下，毛利率由第一季的六七．九％提高至七九．五％。換言之，南亞科第二季獲利跳升的主要動能是供給受限、報價上漲與高附加價值產品比重提高，創造出更高營收與利潤。（全文未完）
全文及圖表請見《先探投資週刊2414期精彩當期內文轉載》
精彩短影
讀者迴響