本文共1204字
雲端服務供應商CoreWeave指出，輝達（Nvidia）的高階人工智慧（AI）繪圖處理器（GPU）H100基本上今年已經買不到了，要等到明年，並解析指出，輝達目前領先業界十年，短、中期都不會出現重大挑戰者。
全球晶圓代工龍頭台積電7月表示，幾乎所有晶片產品類別的需求都走弱，只有AI晶片例外，這基本上是指為輝達代工生產的繪圖處理器。市場對生成式AI的熱烈需求，已導致輝達高階的H100 GPU供不應求。
輝達的產品已成為科技業的最珍貴資源，企業和新創公司都正狂熱地把預算優先轉向新的AI專案，搶購GPU。亞馬遜網路服務（AWS）執行長Adam Selipsky本周受訪時就說，輝達GPU的需求超過供給。
雖然AWS對雲端運算圈的觀察很優異，但雲端服務供應商CoreWeave對AI領域的觀察可能更為到位。創立於2017年的CoreWeave，透過雲端提供大規模GPU運算能力給新創公司和規模更大的企業，與輝達有緊密合作關係，也是第一批把H100帶入市場的業者之一。
CoreWeave共同創辦人兼科技長萬杜洛（Brian Venturo）最近和巴隆金融周刊（Barron's）聊起GPU技術、市場現況、輝達的晶片生態系等議題。CoreWeave是一家特殊雲端供應商，未提供網站託管服務，而是專門提供GPU加速運算，給AI、機器學習、即時呈現視覺效果及生物科學研究的大規模用戶，這些客戶常需要運作龐大的平行運算任務。
萬杜洛指出，今年第1季要在供應鏈取得GPU配置和運算能力相當容易，但4月初開始，市場變得非常緊俏，出貨等待時間在短短一周之內，從合理範圍一直拉長到今年底，
針對如果現在客戶想買H100晶片，他說，所有合理規劃物流與資源的企業，現在都尋求在明年第1季和第2季買到，CoreWeave已開始為明年第2季和第3季的部署進行採購。
萬杜洛指出，比起超微（AMD）和其他雲端業者的產品，輝達的護城河有兩方面，其一是硬體，輝達生產的晶片傲視群雄，其次是軟體，對新創公司來說，快速回應市場非常重要，若必須完全重新調整專案所使用的技術，以使用超微或Google的Tensor處理器（TPU），可能會失去搶商機的珍貴時間，
萬杜洛說，輝達在大幅投資軟體程式平台CUDA生態系時，有遠見到不可思議的程度，現在基本上領先業界十年，而且不是只有輝達領先十年，在輝達生態系內打造產品的客戶和開發者皆然，短期、或甚至中期之內都不會有公司超越輝達。輝達自有網路InfiniBand降低延遲的解決方案，也是目前業界最佳。
使用Google TPU和AWS Trainium加速器的問題在於，會被提供非常特定技術解決方案的單一業者綁住，這對新創公司或許不是最佳選擇，因為新創公司會希望擁有供應商彈性，確信能在其他地方取得相同的服務。
延伸閱讀
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結；未經授權，請勿複製轉貼文章內容
留言