打開 App

udn
  • 淺色
  • 登入/註冊
bell icon

微星攜手輝達 導入 XpertStation WS300與 EdgeXpert 平台

本文共1440字

經濟日報 記者蕭君暉/台北即時報導

MSI微星(2377)今日宣布,其XpertStation WS300與EdgeXpert平台現已支援輝達(NVIDIA) Nemotron 3.5 Lightning—專為Agentic AI打造的輕量化開源模型,以及NeMo Switchyard—開源模型路由函式庫。Switchyard透過系統化模型調度,將每個工作流程步驟導向最適合的模型,例如將複雜推理交由前沿規模模型處理,並將大量、專門化任務交由Nemotron 3.5 Lightning等輕量模型處理,藉此提升準確度、降低延遲並控制成本。

在此支援下,基於NVIDIA DGX Station平台打造的XpertStation WS300,作為桌邊型AI超級電腦,可用於本地AI開發、模型微調及多模型Agent工作流程;而採用NVIDIA DGX Spark的EdgeXpert,則將同樣的智慧路由能力應用於精巧機型,支援常駐運行的AI Agent。

「AI Agent的每個生命周期階段,都需要不同的系統來支撐,」MSI微星科技行銷副總經理程惠正表示。「XpertStation WS300與EdgeXpert同步導入NVIDIA最新路由與模型技術,讓客戶從模型訓練、微調到常駐部署,都能在同一套生態系統中完成。」

MSI XpertStation WS300採用NVIDIA GB300 Grace Blackwell Ultra Desktop Superchip,具備高達748GB的一致性記憶體(Coherent memory)。此容量讓Switchyard得以在本地端同時運行多個模型—包括前沿規模模型與Nemotron 3.5 Lightning,無需將任何步驟外移至外部基礎設施處理。透過NVIDIA ConnectX-8 SuperNIC,兩台WS300可直接連接以應對更大規模的工作負載,同時PCIe Gen5/Gen6 NVMe儲存則可確保資料流在持續性多模型工作負載下維持順暢供給。

MSI EdgeXpert基於NVIDIA DGX Spark平台打造,採用NVIDIA GB10 Grace Blackwell Superchip,可提供高達1 petaFLOP的AI算力,並在精巧機型中搭載128GB一致性統一記憶體(Coherent unified memory)。這樣的容量足以讓Nemotron 3.5 Lightning、甚至參數規模高達2000億的模型,在裝置端持續運行,讓專門化、大量的Agent任務都能留在本地處理,不必再繞經雲端。透過NVIDIA ConnectX-7網路技術,最多可將四台EdgeXpert串接成叢集,隨著Agent工作負載成長,進一步擴大Switchyard在本地端的模型調度範圍。

NVIDIA NeMo Switchyard是專為AI Agent設計的開源模型路由函式庫,能自動評估每個工作流程步驟,選出當下最適合的可用模型,不需要事先訓練或人工設定。隨著Agent運行次數增加,路由決策也會持續優化。NVIDIA Nemotron 3.5 Lightning是輕量化開源模型,蒸餾自NVIDIA旗艦模型Nemotron 3 Ultra,採用混合專家(Mixture-of-experts)架構,總參數量300億、活躍參數30億,能提供快速且高效的推論表現,並支援最高100萬tokens的上下文長度,適合與大型模型搭配,作為互補式模型系統長期協同運作。

微星攜手NVIDIA 導入XpertStation WS300與EdgeXper...
微星攜手NVIDIA 導入XpertStation WS300與EdgeXpert平台。微星/提供

※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結;未經授權,請勿複製轉貼文章內容

猜你喜歡

上一篇
鴻海旗下 FIT Tech Day 2026 聚焦 AI 時代光通訊
下一篇
iPhone 18預購冷 人氣不如往年熱 供應鏈同步面臨壓力測試

相關

熱門

看更多

看更多

留言

前往頁面