NVIDIA攜手Google Cloud 為企業帶來代理型AI推理功能

▲▼NVIDIA。(圖/記者高兆麟攝)

▲NVIDIA。(圖/記者高兆麟攝)

記者高兆麟/綜合報導

NVIDIA 與 Google Cloud 合作,運用 Blackwell HGX and DGX 平台及 NVIDIA 機密運算(NVIDIA Confidential Computing)技術保護資料安全,並將代理型 AI(agentic AI)帶給尋求在地端使用 Google Gemini 系列人工智慧(AI)模型的企業。

透過搭載 NVIDIA Blackwell 平台的 Google 分散式雲端(Google Distributed Cloud,GDC),企業的地端資料中心可以鎖定存取病患紀錄、金融交易和政府機密資訊等機敏資訊的權限,以符合法規要求和資料主權法令。NVIDIA 機密運算技術還能保護 Gemini 模型中的敏感程式碼,避免未經授權的存取與資料外洩。

[廣告]請繼續往下閱讀...

Google Cloud 基礎設施與解決方案部門副總裁暨總經理 Sachin Gupta 表示:「藉由將我們的 Gemini 模型與 NVIDIA Blackwell 的突破性效能及機密運算能力相結合,我們讓企業能夠充分發揮代理型 AI 的潛力。這項合作有助於確保客戶能夠在不影響效能或操作便利性的情況下,安全地進行創新。」

NVIDIA Blackwell 的機密運算技術能為企業提供技術保障,包括 Gemini 模型應用程式介面的使用者提示及用於微調的資料,都能保持安全,無法被檢視或修改。

與此同時,模型所有者可以防止未經授權的存取或竄改,提供雙重保護,讓企業能夠在維護資料隱私的同時,利用 Gemini 模型進行創新。

隨著代理型 AI 重塑企業技術格局,帶來更強大解決問題的能力,這項全新解決方案應運而生。有別於根據學習到的知識來感知或生成內容的 AI 模型,代理型 AI 系統可以在動態環境中進行推理、適應與決策。例如在企業 IT 支援方面,以知識為基礎的 AI 模型可以檢索與提供故障排除指南,而代理型 AI 系統則能夠自主診斷問題、執行修復,以及將複雜的問題呈報到更高層級進行處理。

同樣地,在金融領域,傳統的 AI 模型可以根據既有模式標示潛在的詐欺交易活動,代理型 AI 系統則能更進一步調查異常情況,並主動採取行動,例如在交易發生前即進行封鎖,或是即時調整詐欺偵測規則。

雖然許多企業已經可以使用多模態推理的模型,整合文字、影像、程式碼和其他資料類型來解決複雜的問題,並建立雲端代理型 AI 應用,不過那些對安全或資料主權有著嚴格要求的企業卻還無法實現。

隨著這項消息的發表,Google Cloud 將成為首批提供機密運算功能的雲端服務供應商之一,以保護無論是在雲端或混合環境中的代理型 AI 工作負載。

這項解決方案由搭載 Blackwell GPU 與 NVIDIA 機密運算技術的 NVIDIA HGX B200 平台驅動,讓客戶能夠保護 AI 模型與資料安全。這樣可讓使用者在不影響資料安全性或模型完整性的情況下,達到突破性的效能與能源效率。

展望未來,Google Cloud 正致力於整合專為跨 AI 工廠服務與擴充推理 AI 模型而打造的開源函式庫 NVIDIA Dynamo,以提高代理型 AI 工作負載的可觀察性。

關鍵字: NVIDIA

分享給朋友:

追蹤我們:

※本文版權所有,非經授權,不得轉載。[ETtoday著作權聲明]

推薦閱讀

快訊/45年老牌紡織廠新昕纖龜山廠驚爆熄燈! 近90名員工資遣

快訊/45年老牌紡織廠新昕纖龜山廠驚爆熄燈! 近90名員工資遣

擁有45年歷史的紡織廠新昕纖(4406)今(24)日突然公告桃園龜山廠員工大量解僱案,震驚市場。業界預估受影響員工不到90人,而新昕纖桃園龜山廠現有4000坪廠房將再另做規劃。

2025-12-24 14:47

月薪37K起跳!台電2026年招考769名僱員 1/6起開放報名

月薪37K起跳!台電2026年招考769名僱員 1/6起開放報名

台電今(24)日公告2026年新進僱用人員甄試簡章,本次大舉釋出769個職缺,涵蓋配電、輸電、變電、電機等14類職務,高中職畢業即可報考。報名時間自2026年1月6日至1月19日,初試預定於5月10日在台北、台中、高雄及花蓮四地同步舉行。

2025-12-24 10:20

台灣2025年「人均所得」119萬超車南韓! 亞洲經濟體排第4

台灣2025年「人均所得」119萬超車南韓! 亞洲經濟體排第4

根據《新聞週刊》(Newsweek)報導,國際貨幣基金(IMF)統計數據顯示,受惠於全球對先進半導體的強勁需求,台灣今年(2025年)在「人均所得」的達到3萬7827美元(約折合新台幣119萬元),在亞洲經濟體排第4,超越經濟強國南韓。

2025-12-24 12:04

12月台股高檔震盪 一表看漲贏大盤9檔高息ETF

12月台股高檔震盪 一表看漲贏大盤9檔高息ETF

12月以來,台股先跌後漲高檔震盪劇烈,統計至23日大盤漲2.48%,反而是今年來一直備感壓力的台股高息ETF逆轉翻揚,觀察同期間共有9檔台股高息ETF漲幅勝大盤,其中群益台灣精選高息ETF(00919) 上漲7.21%漲幅居冠表現最出色;另外,國泰股利精選30(00701)、凱基優選高股息30(00915)也有5%以上的好表現。

2025-12-24 10:54

中國狂炒日本升息「世界末日」 老謝一句話點破:其實是在怕自己

中國狂炒日本升息「世界末日」 老謝一句話點破:其實是在怕自己

為什麼中國這麼在乎日本升息?財信傳媒董事長謝金河(老謝)直言,答案恐怕不在日本,而在中國自己。

2025-12-24 10:17

比黃金猛!鉑金單日飆171美元刷天價 市場驚喊「沉睡巨人醒來」

比黃金猛!鉑金單日飆171美元刷天價 市場驚喊「沉睡巨人醒來」

國際貴金屬市場再掀狂潮,這回主角不是黃金,而是長期被忽視的鉑金。引述據國際貴金屬經銷機構《KITCO》資料,鉑金期貨近日出現驚人漲勢,單日大漲171美元、漲幅近8%,價格一度衝上每盎司2,323美元,改寫歷史新高,市場驚呼「沉睡巨人正式甦醒」。

2025-12-24 09:42

「Pay姊」輾壓! 聯卡中心曝女性刷卡3大指標全面超車男性

「Pay姊」輾壓! 聯卡中心曝女性刷卡3大指標全面超車男性

聯合信用卡處理中心(簡稱聯卡中心)今(24)日最新公布信用卡大數據分析,發現近一年女性在刷卡金額、刷卡筆數、使用卡數3大指標通通贏過男性,「Pay姊」正式站上消費C位。

2025-12-24 12:02

AI股大黑馬!日系外資首評勤誠「買進」 目標價直指1200元

AI股大黑馬!日系外資首評勤誠「買進」 目標價直指1200元

AI需求持續火熱,日系外資最新出爐研究報告首度點名伺服器機殼與機架設計製造商勤誠(8210),不僅正式納入個股追蹤名單,還一口氣給出未來12個月目標價1200元、投資評等「買進」,看好勤誠將成為AI伺服器成長浪潮下的最大受惠者之一。

2025-12-24 11:39

散戶對華爾街影響力升溫!今年加碼美股刷新高 最愛輝達等3檔

散戶對華爾街影響力升溫!今年加碼美股刷新高 最愛輝達等3檔

分析師表示,由於個人投資者成為推動股市上漲的主要力量,預計今(2025)年流入美國股市的零售資金將創下歷史新高。而受降息預期的影響,股市上漲行情可能會延續到明年;輝達、特斯拉和Palantir則名列今年散戶最愛持股。

2025-12-24 10:57

記憶體股利空罩頂!華東大股東接力申讓漲不動 力積電虧損一度翻黑

記憶體股利空罩頂!華東大股東接力申讓漲不動 力積電虧損一度翻黑

受惠記憶體因缺貨價格走揚,華新集團旗下記憶體封測廠華東(8110)股價近期大幅上漲,主要股東華邦電(2344)也趁勢調整投資部位,以一般交易方式轉讓華東持股5000張,處分金額約2.7億元。

2025-12-24 09:59

讀者迴響

最夯影音

更多