本文共553字
經濟日報 編譯湯淑君／綜合外電
亞馬遜公司計劃採用新創公司Cerebras Systems供應的晶片支援推論功能，搭配自家的Trainium處理器，宣稱這種組合執行人工智慧（AI）軟體的效能更佳。
彭博資訊報導，亞馬遜旗下雲端服務部門AWS將從2026下半年起，開始提供以這種組合為基礎的服務。AWS是最大的雲端運算服務供應商。
這樁合作關係反映AI雲端基礎設施需求大，業者於是努力滿足需求。AWS副總裁巴哈拉說，雙方為這項合作計畫已籌備數年，AWS將視用戶需求，部署盡可能多的晶片。
對正準備首次發行股票（IPO）的Cerebras而言，獲得亞馬遜這個客戶，有助提高市場能見度。AWS是率先承諾採用Cerebras晶片的超大規模雲端業者，即大型資料中心營運商。
這兩家公司的晶片將用於所謂的「推論運算」，執行AI軟體並針對提問產生答覆的過程。亞馬遜的Trainium 3矽晶片將用在「預填」（prefill）階段，意指理解使用者輸入的提示。然後由Cerebras的Wafer Scale Engine接手，並產生答案。
這種所謂「分解式工作」（disaggregated work）的安排很獨特，通常有個缺點：不同元件在執行過程中的溝通速度會放慢。就這個用例而論，AWS和Cerebras的目標是採用處理推論任務反應靈敏的專門晶片，藉此取得優勢。
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結；未經授權，請勿複製轉貼文章內容
留言