本文共828字
超微AMD日前宣布推出AMD Instinct MI325X加速器、AMD Pensando Pollara 400 NIC以及AMD Pensando Salina DPU等最新加速器和網路解決方案,將為新一代人工智慧(AI)基礎設施提供大規模支援。AMD Instinct MI325X加速器為生成式AI模型及資料中心設立全新效能標準。
AMD Instinct MI325X加速器基於AMD CDNA 3架構,旨在為基礎模型訓練、微調和推論等要求嚴苛的AI任務提供卓越的效能和效率。全新產品將協助AMD客戶和合作夥伴在系統、機架和資料中心層級打造高效能和最佳化的AI解決方案。
AMD執行副總裁暨資料中心解決方案事業群總經理Forrest Norrod表示,AMD持續執行產品藍圖,為客戶提供所需的效能和選擇,以更快的速度將AI基礎設施大規模推向市場。憑藉全新AMD Instinct加速器、EPYC處理器和AMD Pensando網路引擎、開放軟體產業體系的持續成長,以及將這一切整合至最佳化AI基礎設施中的能力,AMD展現建置和部署世界級AI解決方案的關鍵專業知識與能力。
AMD Instinct MI325X加速器提供領先業界的記憶體容量及頻寬,包括256GB HBM3E記憶體容量支援6.0TB/s,提供比H200高1.8倍的容量和1.3倍的頻寬,以及1.3倍的FP16理論峰值和FP8運算效能。
AMD Instinct MI325X加速器的記憶體和運算能力可較H200提供高達1.3倍的Mistral 7B FP16推論效能、1.2倍的Llama 3.1 70B FP8推論效能,以及1.4倍的Mixtral 8x7B FP16推論效能。
AMD Instinct MI325X加速器目前如期在2024年第四季量產出貨,預計將於2025年第一季起,由戴爾科技集團、Eviden、技嘉、HPE、聯想、美超微(Supermicro)等平台供應商提供。
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結;未經授權,請勿複製轉貼文章內容
留言