打開 App

  • 會員中心
  • 訂閱管理
  • 常見問題
  • 登出
bell icon

代理式 AI 太受歡迎 CPU 也鬧缺貨

代理式AI的崛起,讓缺貨潮蔓延至中央處理器(CPU)。 路透
代理式AI的崛起,讓缺貨潮蔓延至中央處理器(CPU)。 路透

本文共274字

經濟日報 編譯陳苓/綜合外電

AI風潮之下,先是繪圖處理器(GPU)與記憶體大缺貨,如今代理式AI的崛起,讓缺貨潮蔓延至中央處理器(CPU)。

Wccftech報導,Semianalysis創辦人帕特爾(Dylan Patel)指出,雲端業者不僅GPU受限,CPU也喊缺。以往AI靠GPU執行簡單的推論,但新AI模型現身,代理式AI處理的任務,有些高度依賴CPU,如物理運算與模擬,導致資料中心的CPU用量激增。

與此同時,儘管GPU仍在AI雲端伺服器占有主導地位,比方說每個機櫃中,單一CPU需要搭配八個GPU,但現在伺服器內的GPU與CPU的比例日益接近,也使得CPU陷入短缺。

※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結;未經授權,請勿複製轉貼文章內容

猜你喜歡

上一篇
AI刑責仍存爭議 專家:建立監管制度才是關鍵
下一篇
煤炭熱潮再起!運價飆 煤價料續漲

相關

熱門

看更多

看更多

留言

前往頁面