AWS 和 NVIDIA 擴大合作 推動生成式 AI 創新
輝達(NVIDIA)推出最新AI頂尖算力Blackwell GPU平台,Amazon網路服務(AWS)表示,雙方合作,將AWS在生成式AI創新推向新高度。AWS將提供基於NVIDIA Grace Blackwell GPU的Amazon EC2實例和NVIDIA DGX Cloud,以提高在數萬億參數LLM(大語言模型)上建構和運行推論的效能。
NVIDIA的超強運算晶片系統與AWS強大的Elastic Fabric Adapte(EFA)網路連接能力、高級虛擬化(Amazon Nitro System)和超大規模叢集(Amazon EC2 UltraClusters)等領先技術的結合,使得該平台在加速資源密集型、數萬億參數語言模型的推論工作負載方面實現了巨大進步。
在安全性方面,AWS的Nitro系統、AWS KMS、EFA加密和 Blackwell 加密的整合將為客戶提供對其訓練資料和模型權重的端到端控制,進而為客戶在AWS上的生成式AI應用程式提供更強的安全性。
AWS指出,Blackwell也加入了雙方合作的Project Ceiba,該專案專為NVIDIA自身的AI研發工作設計,是一台AWS上託管的採用DGX Cloud的AI超級電腦,搭載了20,736顆GB200 Superchips晶片,透過第四代EFA網路擴展,為每個Superchip提供高達800 Gbps的低延遲、高頻寬網路傳輸量,能夠提供414 exaflops的運算能力,與之前計畫在Hopper架構上建構的Ceiba相比,效能提升了六倍。
推薦文章
-
PCB 黑馬營運復甦買盤卡位 潛在股息殖利率可期
-
英業達法說會/輝達GB200出貨延後?財務長:產線未 Ready 談量產仍太早
-
貨櫃海運搶艙再現瘋潮 長榮、陽明、萬海獲利動能強
-
廣達「員工分紅」金額曝光 10月入袋...較去年增逾29%
-
整理包/AI PC 將掀換機潮!AI PC 是什麼?各廠布局、概念股一次看
-
台積電股東小確幸 季配息增至4元
留言