地表最強!輝達推GH200晶片 黃仁勳重申:買越多省越多

▲▼NVIDIA共同創辦人暨執行長黃仁勳。(圖/記者湯興漢攝)

▲NVIDIA共同創辦人暨執行長黃仁勳。(圖/記者湯興漢攝)

記者高兆麟/綜合報導

NVIDIA今日宣布推出新一代NVIDIA GH200 Grace Hopper平台,專為加速運算和生成式人工智慧時代而打造,採用全新 Grace Hopper Superchip 與全球首款 HBM3e 處理器,NVIDIA 創辦人暨執行長黃仁勳也在洛杉磯舉辦的SIGGRAPH大會中進行專題演講,針對最新的晶片重申先前來台時口號「買越多!省越多!」。

黃仁勳在演講介社GH200晶片時表示,現在你可以將任何語言模型丟進去,然後GH200就會開始瘋狂進行推論,如果可以用一個系統就完成所有推論,那可以省下非常大的成本。

[廣告]請繼續往下閱讀...

黃仁勳也舉實例,以前需要花費1億美元來建造的資料中心,如果改用GH200,可以省下12倍的成本,配合GH200強大算力,還可以降低20倍的功耗。

也因此,黃仁勳在演講中,除了努力介紹推銷自家旗下最新最強大晶片外,更不忘提醒聽眾,就是希望他們在聽他說了這麼多之後,只要記得一件事,就是「買越多!省越多!」,跟他先前來台時高喊口號相呼應。

根據NVIDIA介紹,此全新平台將提供多種配置,可用於處理世界上最複雜的生成式人工智慧工作負載,包括大型語言模型、推薦系統和向量資料庫。

此新平台採用雙配置:記憶體容量和頻寬分別是市面上產品的3.5倍和3倍,包括一台擁有144 個 Arm Neoverse 核心、8 petaflops人工智慧運算效能,以及 282GB 最新HBM3e記憶體技術的伺服器。

NVIDIA 創辦人暨執行長黃仁勳表示:「為滿足市場對生成式人工智慧不斷增長的需求,資料中心需要有能夠滿足專屬需求的加速運算平台。全新 GH200 Grace Hopper Superchip 平台以其出色的記憶體技術和頻寬,加大了資料處理能力;能夠連接多個 GPU,將效能聚集不減損;並為可以輕鬆部署到整個資料中心的伺服器設計。」

[廣告] 請繼續往下閱讀 ...

新平台採用 Grace Hopper Superchip,可以透過 NVIDIA NVLink高速 GPU 互連技術與其他超級晶片互連與協同工作,為生成式人工智慧部署所需的巨型模型。這個高速連貫的技術,可以讓 GPU 徹底存取 CPU 記憶體,在雙配置時提供合計 1.2TB 的高速記憶體。HBM3e 記憶體的存取速度比當前的 HBM3 快上 50%,可提供合計每秒 10TB 的頻寬,讓新平台能夠運行比前一個版本大上 3.5 倍的模型,同時以快三倍的記憶體頻寬提高整體執行效能。

NVIDIA表示,各大主要製造商已經開始提供搭載先前發布之 Grace Hopper Superchip 的系統。為推動市場更廣泛採用這項技術,搭載 HBM3e 的下一代 Grace Hopper Superchip 平台與今年稍早在台北國際電腦展發表的 NVIDIA MGX™ 伺服器規範完全相容。任何系統製造商藉助 MGX,都能以符合成本效益的方式,快速將 Grace Hopper 加入 100 多款伺服器內。

NVIDIA也表示,各大系統製造商預計於2024年第二季推出基於此平台的系統。

關鍵字: 黃仁勳Nvidia

分享給朋友:

※本文版權所有,非經授權,不得轉載。[ETtoday著作權聲明]

推薦閱讀

快訊/群創53萬股民注意! 股東會紀念品「白米1斤」

快訊/群創53萬股民注意! 股東會紀念品「白米1斤」

擁有逾53萬股民的面板股群創(3481)今(17)日公告即將於5月7日召開股東會,由於今年將進行董事改選,為鼓勵投資人踴躍出席,股東會紀念品為「台灣產製真空包裝白米1公斤」。

2025-02-17 16:54

160萬股民鬆口氣!00878填息達陣 共耗時58天

160萬股民鬆口氣!00878填息達陣 共耗時58天

擁有近160萬股民、號稱「國民ETF」的季配型國泰永續高股息(00878)今(17)日在台股大漲下,完成去年第4季填息進程,雖耗時58天,為近9次除息以來最長,但也寫下「次次填息皆達陣」的紀錄。

2025-02-17 16:52

快訊/0050分割開獎!確定「1拆5」 每張4萬元有找

快訊/0050分割開獎!確定「1拆5」 每張4萬元有找

國內首檔台股ETF元大台灣50(0050)分割確定了!元大投信今(17)日指出,0050從資本利得到股利發放,全面參與台股長線成長,在長期累積投資成果下,目前一張(1,000股)交易價格約為20萬元,為使交易價格回歸市場習慣的交易區間,將召開受益人大會決定分割細節,初步規劃「1拆5」,每張4萬元有找,3月25日為參與表決最後買進日。

2025-02-17 15:03

快訊/23萬人注意!00939再配0.05元 3/5除息

快訊/23萬人注意!00939再配0.05元 3/5除息

擁有逾23萬受益人的月配型ETF統一台灣高息動能(00939)今(17)日公告3月配息初評,每股配發0.05元,為連續3次同燈同分,預計3月7日除息,3月6日為最後買進日,並將在3月27日入帳。

2025-02-17 14:21

長榮航總座看高端旅客需求不墜 空運貨量成長價格居高

長榮航總座看高端旅客需求不墜 空運貨量成長價格居高

長榮航(2618)今(17)日舉行第4代豪華經濟艙發表會,總經理孫嘉明認為,疫後旅客對於商務艙、豪經艙需求持續增加,因此新的豪經艙對營收增加有很大優勢;貨運方面量還是持續成長,每公斤價格約落在新台幣300元,但整體貨運價格仍要看市場決定,川普政策變化多端仍待觀察。

2025-02-17 15:04

勇鷹高教機首次失事!漢翔盤中跌逾4% 公司:全力配合調查

勇鷹高教機首次失事!漢翔盤中跌逾4% 公司:全力配合調查

由漢翔(2634)國機國造的勇鷹高教機日前首度發生意外,15日於台東外海墜落,雖然飛行員林瑋跳傘獲救,但外界仍對此充滿疑慮,對此,漢翔強調,本次事件的肇因調查由空軍主導,本公司現正全力配合辦理,有關事故原因判斷,現階段不做任何評論。漢翔今股價一度跌逾4%。

2025-02-17 13:15

00878公布第二階段Q1配息0.5元 2/20除息

00878公布第二階段Q1配息0.5元 2/20除息

國泰永續高股息(00878)近來除息話題發酵,加上投資人逢低布局等影響,規模已正式突破4000億元大關,再寫嶄新里程碑,今(17)日公告第二階段今年首季配息0.5元,若以今(17)日收盤價22.83元計算,單次配息率2.19%,年化配息率8.76%,除息日為2月20日,最後申購日為2月19日。

2025-02-17 14:54

長榮航看俄烏戰後重建商機可期 油價成本估省18%

長榮航看俄烏戰後重建商機可期 油價成本估省18%

長榮航(2618)今(17)日舉行第4代豪華經濟艙發表會,總經理孫嘉明受訪時談到俄烏戰後重建商機,他表示,恢復飛越西伯利亞領空之後,可以節省18%油價成本,載客人數也能恢復正常,對於營收有正面助益。

2025-02-17 14:52

當心愛情騙子! 兆豐卡統計:APP詐騙高達87%為交友軟體

當心愛情騙子! 兆豐卡統計:APP詐騙高達87%為交友軟體

愛情沒來,狼卻來了!現代人生活忙碌,不少人會透過手機交友軟體尋找真愛,然而詐騙集團卻利用此管道找尋目標下手,甚至利用連視訊都難以出現破綻的AI變臉技術進行詐騙,造成假交友真詐財的案例頻傳。根據兆豐銀行統計,截至去(2024)年底接獲的信用卡3D詐騙案件中,手機應用程式類別中就有高達87%都是交友軟體詐騙,反倒以往常出現的遊戲軟體詐騙僅占13%,兆豐銀行提醒卡友千萬要提高警覺,勿隨意聽信網友建議下載不明APP,以免落入詐騙集團陷阱。

2025-02-17 13:38

經濟部4大國營事業「去年僅台糖賺錢」 台電虧411億元最慘

經濟部4大國營事業「去年僅台糖賺錢」 台電虧411億元最慘

經濟部旗下4大國營事業2024年財報陸續出爐,除了台糖(1237)持續賺錢之外,其他3家都是虧損狀態,台電跟中油虧損最大,分別虧損411億元、355億元,台水虧損也達40億元,因此外界預期今年水電雙漲趨勢無法避免。

2025-02-17 13:01

讀者迴響