經濟日報 App
  • 會員中心
  • 訂閱管理
  • 常見問題
  • 登出

AWS 攜手 NVIDIA 將首度推出 GPU 驅動的 AI 超級電腦

本文共2024字

經濟日報 記者彭慧明/即時報導

亞馬遜(Amazon)旗下Amazon Web Services(AWS)與NVIDIA於AWS re:Invent全球盛會上宣布擴大策略合作,將聯手推出先進基礎設施、軟體及服務,推動客戶在生成式AI(Generative AI)的創新,大幅加速所有產業應用生成式AI的發展。

其中亮點,首先是AWS將推出首款結合NVIDIA Grace Hopper Superchip超級晶片與AWS UltraCluster擴充技術的AI超級電腦。

第二是NVIDIA DGX Cloud率先配備NVIDIA GH200 NVL32,並首次在AWS上提供此AI訓練即服務

第三是NVIDIA和AWS在Project Ceiba合作,設計全球最快的GPU驅動AI超級電腦以及最新的NVIDIA DGX Cloud超級電腦,將為NVIDIA的AI研發以及自訂模型開發服務

AWS指出,AI資料中心以配置NVIDIA GH200、H200、L40S、以及L4 GPU等核心的全新Amazon EC2執行個體,大幅提升生成式AI、HPC高效能運算、設計、以及模擬的工作負載效能

目前在AWS上運行的NVIDIA軟體,包括NeMo LLM框架、NeMo Retriever、以及BioNeMo,能加速自訂模型、語意檢索、新藥開發等應用的生成式AI發展

NVIDIA與AWS將挹注NVIDIA與AWS技術的精華,包含NVIDIA新一代GPU、CPU與AI軟體的最新多節點系統,以及AWS的Nitro System先進虛擬化與安全平台、Elastic Fabric Adapter(EFA)互連介面和UltraCluster擴充服務,以提供理想的環境來訓練基礎模型與打造生成式AI應用。

雙方過去有13年的合作關係,此次擴大合作為使用機器學習(ML)的先驅們提供所需的運算效能,協助發展最尖端的技術。

此次雙方合作將大幅加速所有產業應用生成式AI的發展,合作內容包括:

第一,AWS成為第一家將配備多節點NVLink技術的NVIDIA GH200 Grace Hopper Superchip超級晶片導入雲端環境的雲端服務供應商。NVIDIA GH200 NVL32多節點平台運用NVIDIA NVLink與NVSwitch技術連結32個Grace Hopper Superchip超級晶片,組合成一個執行個體。此平台將以Amazon Elastic Compute Cloud(Amazon EC2)執行個體的型態上線營運,連結Amazon的強大網路(EFA),加上先進虛擬化(AWS Nitro System)與超大規模叢集(Amazon EC2 UltraClusters)的支援,讓共同客戶能擴充至數千顆GH200超級晶片的規模。

第二,NVIDIA與AWS將聯手在AWS上推出NVIDIA DGX Cloud這項AI訓練即服務(AI-training-as-a-service)方案。此方案將是首個配置GH200 NVL32的DGX Cloud方案,為開發者提供單一執行個體中最多的共用記憶體。AWS雲端上運行的DGX Cloud將可加速含有超過1兆參數的尖端生成式AI與大型語言模型的訓練。

第三,NVIDIA與AWS正合作推動Project Ceiba,聯手設計全球最快的GPU驅動AI超級電腦,配備GH200 NVL32與Amazon EFA互連技術的大規模系統由AWS代管,為NVIDIA研發團隊提供服務。這部開創先河的超級電腦配置16,384顆NVIDIA GH200超級晶片,能處理65 exaflops速度等級的AI運算,將推動NVIDIA進行全新生成式AI的創新。

AWS將再推出三款Amazon EC2執行個體:P5e執行個體配置NVIDIA H200 Tensor Core GPU,瞄準大規模與尖端生成式AI及HPC高效能運算工作負載;以及分別配置NVIDIA L4 GPU與NVIDIA L40S GPU的G6 與G6e執行個體,能運行包括AI微調、推論、繪圖、以及影片工作負載等廣泛應用。G6e執行個體特別適合用來開發3D工作流程、數位分身、以及其他使用NVIDIA Omniverse的應用,用來連結與打造各種生成式AI的3D應用。

AWS執行長Adam Selipsky表示,AWS與NVIDIA已經合作超過13年,起初是推出全球首個配置GPU的雲端執行個體。現在為各種工作負載推出最廣泛的NVIDIA GPU解決方案,包括繪圖、遊戲、HPC高效能運算、機器學習,一直到現在的生成式AI。

NVIDIA創辦人暨執行長黃仁勳表示,生成式AI正改變各種雲端作業的負載,為多元內容創作挹注加速運算動能。雙方共同目標是為每個客戶提供符合成本效益的先進生成式AI,為此NVIDIA與AWS在整個運算層級上合作,包含AI基礎設施、加速程式庫與基礎模型,以及生成式AI服務。

※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結;未經授權,請勿複製轉貼文章內容

延伸閱讀

上一篇
訊連法說會/首季純益季增7.87倍 EPS 達1.26元攀近七季高點
下一篇
輝達向 OpenAI 交付全球第一台 DGX H200 鴻海可望受惠

相關

熱門

看更多

看更多

留言

完成

成功收藏,前往會員中心查看!