經濟日報 App
  • 會員中心
  • 訂閱管理
  • 常見問題
  • 登出

全球瘋AI 高頻寬記憶體需求爆發

本文共678字

經濟日報 記者李孟珊/台北報導

超微、輝達在AI領域大PK,為全球瘋AI帶入另一個高潮,由於AI對運算能力與頻寬要求更高,刺激高頻寬記憶體(HBM3)需求爆發,愛普(6531)、宜鼎在AI伺服器記憶體應用著墨最深,近期客戶詢問度大增,尤其愛普早與超微在新世代記憶體技術有合作,營運可期。

業界分析,就輝達AI平台來看,搭載的高頻寬記憶體容量是傳統伺服器的數百倍,並非傳統記憶體可取代。這次超微更端出搭載八個MI300X晶片的Instinct運算平台,內存高達1.5TB的第三代高頻寬記憶體,並宣稱MI300X的記憶體是輝達最強AI晶片H1000的2.4倍,頻寬是H100的1.6倍,預料引爆更多高頻寬記憶體需求。

愛普與超微已有新世代記憶體合作。愛普2022年第2季宣布,加入由台積電、英特爾、超微等共同推動的UCIe聯盟,期望透過其DRAM介面異質整合高頻寬記憶體(VHM)技術,推動小晶片(chiplet)生態圈發展,與國際大廠在AI及高效能運算(HPC)3D先進封裝領域擴大合作。

愛普認為,現階段高頻寬記憶體HBM以及2.5D不能滿足市場高端需求,以近期很紅的ChatGPT來說,用的是Open AI技術,有1,300個模型參數,要強大記憶體支援,但會遇到頻寬問題,愛普的3DIC堆疊的VHM是選擇之一,未來商機很大。

愛普強調,現階段AI事業應用逐步擴及高效能運算相關客戶,已經啟動的POC(概念驗證)項目進展順利,新的項目亦正洽談中。

宜鼎也被市場視為AI伺服器記憶體廠商,耕耘AI及AIoT多年,子公司安緹主攻邊緣運算伺服器GPU。據悉,當前AI相關產品占營收比重約9%,將持續增加。

※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結;未經授權,請勿複製轉貼文章內容

上一篇
京元電擴增資本支出逾75% 攻AI和HPC晶片測試
下一篇
聯發科犀利!Q1每股賺19.85元 手機業務最旺

相關

熱門

看更多

看更多

留言

完成

成功收藏,前往會員中心查看!