全球瘋AI 高頻寬記憶體需求爆發
超微、輝達在AI領域大PK,為全球瘋AI帶入另一個高潮,由於AI對運算能力與頻寬要求更高,刺激高頻寬記憶體(HBM3)需求爆發,愛普(6531)、宜鼎在AI伺服器記憶體應用著墨最深,近期客戶詢問度大增,尤其愛普早與超微在新世代記憶體技術有合作,營運可期。
業界分析,就輝達AI平台來看,搭載的高頻寬記憶體容量是傳統伺服器的數百倍,並非傳統記憶體可取代。這次超微更端出搭載八個MI300X晶片的Instinct運算平台,內存高達1.5TB的第三代高頻寬記憶體,並宣稱MI300X的記憶體是輝達最強AI晶片H1000的2.4倍,頻寬是H100的1.6倍,預料引爆更多高頻寬記憶體需求。
愛普與超微已有新世代記憶體合作。愛普2022年第2季宣布,加入由台積電、英特爾、超微等共同推動的UCIe聯盟,期望透過其DRAM介面異質整合高頻寬記憶體(VHM)技術,推動小晶片(chiplet)生態圈發展,與國際大廠在AI及高效能運算(HPC)3D先進封裝領域擴大合作。
愛普認為,現階段高頻寬記憶體HBM以及2.5D不能滿足市場高端需求,以近期很紅的ChatGPT來說,用的是Open AI技術,有1,300個模型參數,要強大記憶體支援,但會遇到頻寬問題,愛普的3DIC堆疊的VHM是選擇之一,未來商機很大。
愛普強調,現階段AI事業應用逐步擴及高效能運算相關客戶,已經啟動的POC(概念驗證)項目進展順利,新的項目亦正洽談中。
宜鼎也被市場視為AI伺服器記憶體廠商,耕耘AI及AIoT多年,子公司安緹主攻邊緣運算伺服器GPU。據悉,當前AI相關產品占營收比重約9%,將持續增加。
推薦文章
-
「賽局理論」大師巫和懋 凌晨因病離世
-
台塑集團四公司 5月3日下午三點聯合召開重大訊息說明會
-
台積電先進封裝產能被訂光 輝達、超微一路包到明年
-
PCB關鍵材料銅箔基板喊漲兩年首見 台光電、台燿等緊盯趨勢
-
群創出運!董座洪進揚揭露 已達成14項重大技術與接單成就
-
台塑四寶增資100億 參與台塑新智能建構完整綠色產業鏈
留言