打開 App

  • 會員中心
  • 訂閱管理
  • 常見問題
  • 登出
notice-title img

美大選倒數,「天選之人」川普對上「民主黨女戰神」賀錦麗 誰能入主白宮?經濟、投資、對台影響大預測



不再通知
明天提醒
notice-title img

美大選倒數,「天選之人」川普對上「民主黨女戰神」賀錦麗 誰能入主白宮?經濟、投資、對台影響大預測



不再通知
明天提醒

解密國際/為什麼大家為輝達的 Blackwell 痴狂?

本文共1407字

經濟日報 劉忠勇

經濟VIP文章限時開放
黃仁勳在今年台北電腦展介紹輝達(NVIDIA)採用最新Blackwell架構的顯...
黃仁勳在今年台北電腦展介紹輝達(NVIDIA)採用最新Blackwell架構的顯卡。路透
輝達執行長黃仁勳上周接受CNBC節目訪問時表示,市場對新一代Blackwell架構人工智慧(AI)晶片的需求很「瘋狂」,「大家都想要擁有最多,人人都想搶第一」。他重申,黃仁勳表示,輝達計劃每年都更新AI平台,將效能提升。

黃仁勳上個月11日出席舊金山舉行的高盛技術論壇時也說,客戶對Blackwell晶片需求「令人難以置信」,甚至旺到一些客戶因為新品供不應求感到惱火,「大家都在仰賴我們」。

輝達財務長柯蕾絲8月即預料 Blackwell 將為今年11月至明年1月一季帶來「數十億美元」營收。

Blackwell晶片每組單價高達3萬至4萬美元(新台幣130萬元)之間,仍受到OpenAI、微軟、Meta及其他建構AI資料中心的業者熱烈追捧。

「人人都想搶第一」

輝達在這場AI淘金熱穩居主要淘金工具的供應商,目前已有Hopper系列晶片,接下來就是Blackwell晶片,訂單量全都大幅增加。目前輝達的金雞母仍是Hopper 系列的H100晶片,不過,Blackwell系列在訓練AI方面的效能是Hopper的2.5倍,需求上也大有後來居上之勢。

Blackwell和Hopper一樣,都具備整合輝達眾多晶片的技術,能夠高速處理並運算龐大數據,因此非常適合用在訓練最新一代AI產品的神經網路的高耗能任務。

對手瞠乎其後

不僅硬體,輝達也更新支援硬體的軟體,其更新之速,其他公司難望項背。輝達也設計不同的叢集管理系統,便利客戶大量購買H100並快速部署。像英特爾(Intel)Xeon處理器之類的晶片雖能夠整理更複雜的資料,但因核心處理器較少,處理通常用於訓練AI軟體的大量資訊時速度較慢。曾經主導資料中心元件市場的英特爾在提供加速器方面一直面臨困難,客戶很自然會轉而選擇輝達。

Blackwell提供多種選擇,其中一種是將兩個Blackwell 圖形處理器(GPU)與一個Grace 中央處理器(CPU)結合在一起的GB200超級晶片。

超微(AMD)和英特爾,乃至於亞馬遜(Amazon)、Alphabet的Google Cloud、微軟的 Azure 也都各自開發自己版本的晶片,但對目前占90%資料中心用GPU市場的輝達根本構不成威脅。譬如,AMD預測今年這類AI加速器銷售額將達到45億美元,但若和分析師估計輝達今年在資料中心事業超過1,000億美元的營收相比,根本瞠乎其後。

輝達另一潛在優勢

此外,輝達可能還多了另一個潛在優勢。Bernstein分析師指出,AI「推理」方面的支出低於預期,就輝達在AI「訓練」市場占主導地位,如此形勢反而對輝達更為有利。

Bernstein分析師比較了AI模型「訓練」和「推理」的支出。所謂訓練指的是教導AI模型得出結論的程序,推理則是模型在接受訓練後,根據新資訊做預測的過程。

由Toni Sacconaghi和Stacy Rasgon領銜的Bernstein團隊估計,目前推理所占AI基礎設施比率不到5%,「並且在未來幾年內將繼續是基礎設施支出中較小的一部分」。

另一方面,分析師指出,「大型語言模型的訓練仍然是推動AI支出的主要因素」。

這對輝達代表了什麼?訓練方面支出持續走強「此時可能對輝達有利」,Bernstein分析師解釋,該公司「目前在生成式AI訓練基礎設施中占有絕大的主導地位」,並且「正處於新Blackwell產品周期的開端,可能推動下一代模型的發展。」

※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結;未經授權,請勿複製轉貼文章內容

延伸閱讀

上一篇
解密國際/台積電有沒有機會躋身市值1兆美元俱樂部?
下一篇
北京瞭望/人大常委會 要吹響經濟衝鋒號

相關

熱門

看更多

看更多

留言

完成

成功收藏,前往會員中心查看!