▲NVIDIA與AWS宣佈策略合作。(圖/記者高兆麟攝)
記者高兆麟/綜合報導
亞馬遜(Amazon)旗下Amazon Web Services(AWS)與NVIDIA於AWS re:Invent上宣布擴大策略合作,將聯手推出先進基礎設施、軟體及服務,推動客戶在生成式AI(Generative AI)的創新。其中,AWS將提供首款配備 NVIDIA Grace Hopper 超級晶片和UltraCluster 可擴展性的雲端人工智慧超級電腦,而第一個採用 NVIDIA GH200 NVL32的超級電腦NVIDIA DGX Cloud,則即將於 AWS上提供。
NVIDIA與AWS將挹注NVIDIA與AWS技術的精華,包含NVIDIA新一代GPU、CPU與AI軟體的最新多節點系統,以及AWS的Nitro System先進虛擬化與安全平台、Elastic Fabric Adapter(EFA)互連介面和UltraCluster擴充服務,以提供理想的環境來訓練基礎模型與打造生成式AI應用。
雙方保持長久的合作關係,合力推動生成式AI時代。此次擴大合作為使用機器學習(ML)的先驅們提供所需的運算效能,協助發展最尖端的技術。
AWS執行長Adam Selipsky表示:「AWS與NVIDIA已經合作超過13年,起初是推出全球首個配置GPU的雲端執行個體。現在我們為各種工作負載推出最廣泛的NVIDIA GPU解決方案,包括繪圖、遊戲、HPC高效能運算、機器學習,一直到現在的生成式AI。我們持續運用NVIDIA技術推動創新,結合新一代NVIDIA Grace Hopper Superchip超級晶片與AWS的EFA強大網路、EC2 UltraClusters的超大規模叢集、以及Nitro的先進虛擬化功能,讓AWS成為執行GPU運算的最佳雲端環境。」
NVIDIA創辦人暨執行長黃仁勳表示:「生成式AI正改變各種雲端作業的負載,為多元內容創作挹注加速運算動能。我們共同目標是為每個客戶提供符合成本效益的先進生成式AI,為此NVIDIA與AWS在整個運算層級上合作,包含AI基礎設施、加速程式庫與基礎模型,以及生成式AI服務。」
此外,NVIDIA發表在AWS雲端上運行的軟體,將加速生成式AI的研發。NVIDIA NeMo Retriever microservice微服務提供多項新工具,用來創造高精準度的聊天機器人,以及運用加速語意檢索技術的歸納工具。在Amazon SageMaker服務上運行的BioNeMo計畫在AWS托管的NVIDIA DGX Cloud上執行,讓製藥企業運用自己的資料簡化與加速模型訓練,藉此加快新藥開發。
AWS正運用NVIDIA NeMo框架訓練新一代的Amazon Titan大型語言模型。Amazon Robotics也已開始運用NVIDIA Omniverse Isaac打造數位分身,在虛擬化環境中推動自主倉庫的自動化、最佳化以及規劃,完成之後再部署到真實環境。
讀者迴響