經濟日報 App
  • 會員中心
  • 訂閱管理
  • 常見問題
  • 登出

雲端AI伺服器需求強勁 促 NVIDIA 第2季資料中心占比突破76%

本文共1790字

經濟日報 記者魏興中/即時報導

據輝達(NVIDIA)最新財報數據顯示,其資料中心業務達103.2億美元,季成長率141%,年成長率更高達171%,且NVIDIA看好後續成長力道。TrendForce認為,主要NVIDIA高營收成長動力來自於其資料中心AI伺服器相關解決方案業務,主力產品包含AI加速晶片GPU、AI伺服器參考架構HGX等,作為大型資料中心的AI 基礎設施。

同時,TrendForce預期,NVIDIA將進一步整合其軟硬體資源,並更細緻地將其高階及中低階GPU AI加速晶片,與各ODM或OEM綁定合作軟硬體系統認證模式。除加速在CSP雲端AI伺服器基礎設施布建外,也和VMware等合作Private AI Foundation等方案,將其觸角延伸至邊緣Enterprises AI伺服器市場,以支撐其今、明兩年資料中心業務穩定成長。

Cloud AI強勁需求驅動 NVIDIA資料中心業務占比超越76%

NVIDIA近年積極布局資料中心業務,去年第4季當時資料中心業務營收約占42.7%,尚落後於Gaming業務營收約二個百分點,於今年首季後正式超越Gaming業務營收,占比逾45%。自2023年起,各大CSP大舉投入ChatBOT及公有雲各種AI服務基礎設施後,NVIDIA更直接受惠,第2季資料中心業務營收占比一舉突破76%。

NVIDIA將分攻Cloud及Edge Data Center AI應用市場

TrendForce觀察,預估NVIDIA在高階GPU產品銷售策略上,將於2023下半年後有所轉變,原高階AI伺服器主打以搭載A100及H100為主,在市場需求大好的預期下,將改主攻售價更高的H100,才能有效刺激資料中心相關業務營收向上。

中階GPU方面,以近期主推的L40s為主打方案,其中有幾個主要策略意義。首先,高階H100系列受限於目前CoWoS、HBM等產能有限,而L40s則主要搭配GDDR記憶體,因不須CoWoS封裝,可加速導入中階AI伺服器市場,補足原A100 PCIe介面對Enterprises客戶需求缺口。

其次,L40s也同時主攻如Enterprises客戶,不需使用如ChatGPT數量龐大的參數模型,而是主攻較小型化各專業領域的AI Training應用,亦或針對邊緣AI Inference或影像分析等使用。

最後,針對中國客戶可能因地緣政治問題,導致高階GPU H系列供應受阻風險,則可用L40s補足。低階GPU系列,則以L4或T4系列為主打,主打邊緣AI伺服器即時AI推論或影像分析使用,並更強調較低價,其高C/P值的產品特性。

HGX及MGX等AI伺服器參考架構將是NVIDIA下半年後主攻AI方案的利器

TrendForce觀察,近期NVIDIA除針對其核心AI晶片GPU進行更細緻化的產品定位外,也積極主推其HGX及MGX等方案,而這並不是伺服器產業鏈首見作法,但NVIDIA有機會在此策略上穩固領先利基。

主要是NVIDIA藉由高度整合其GPU加上CUDA建立完整AI生態系下處絕對領先位置,故對既有的伺服器供應鏈有較強議價能力,藉此要求ODM如Inventec、Quanta、FII、Wistron、Wiwynn等,或品牌業者如Dell、Supermicro、Gigabyte等,依據NVIDIA的HGX或MGX參考設計,且需經過NVIDIA於該AI 伺服器參考架構的軟硬體認證過程。NVIDIA藉此可整合兜售其Arm CPU Grace及NPU或AI Cloud Foundation等軟硬體解決方案。

值得注意的是,對ODM或OEM而言,由於預期NVIDIA於2023~2024年在雲端服務業者的AI伺服器主力市場將大有斬獲,有利於拉抬整體AI伺服器出貨量及營收成長,但隨著NVIDIA策略性導入HGX或MGX等標準化AI伺服器架構,也使未來ODM等業者將因AI server核心產品架構較趨於同質化而使彼此爭取CSPs等訂單之競爭態勢更趨於白熱化。

此外,觀察大型CSPs如Google、AWS未來有擴大導入自研ASIC AI加速晶片趨勢,亦可能侵蝕部分NVIDIA GPU市場,估此亦為NVIDIA持續推展不同定位GPU產品及整體方案,欲進一步將AI業務積極拓展至Tier-2資料中心如CoreWeave等及邊緣Enterprises客戶的主因之一。

※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結;未經授權,請勿複製轉貼文章內容

延伸閱讀

上一篇
南寶:規劃中越印3地擴廠 今年營運拚重返成長軌道
下一篇
鴻海搶 AI 商機火力全開 旗下FII衝相關伺服器四成市占

相關

熱門

看更多

看更多

留言

完成

成功收藏,前往會員中心查看!