本文共613字
經濟日報 記者彭慧明／台北報導
Google 6日在官方部落格宣布，功能最強、能源效率最高的第七代TPU（Tensor Processing Unit，張量處理器）「Ironwood」未來幾周內正式發布，是Google首款為AI推論打造的史上最強晶片，在訓練和推理工作負載方面較前一代提升四倍以上。
Google推出三款全新的客製化晶片產品，包括AI晶片Ironwood，通用運算的全新Axion Arm架構處理器為基礎的虛擬機器N4A預覽版，比同類目前x86架構虛擬機器效能高出兩倍；以及首款裸機實例C4A Metal將推出預覽版。
Google今年4月在Google Cloud Next 25大會發表TPU「Ironwood」，驅動思考型（thinking）和推論型（inferential）模型。Google強調，在單一晶片叢集（POD）中擴展至9,216個晶片，透過突破性的晶片間互連（ICI）網路以9.6 Tb/s速度串連，每一個FP8 ExaFLOPS 效能比競爭對手高出118倍。
除了Google的Gemini、Veo和Imagen在TPU上訓練，其轉投資的Anthropic更將使用多達100萬個TPU運行大模型Claude。
Ironwood效能功耗較前代產品Trillium提升二倍，採液冷解決方案，增加高頻寬記憶體（HBM）容量，每顆晶片提供192GB容量，是Trillium的六倍，可處理更大型的模型和資料集運算，減少頻繁的資料傳輸需求。
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結；未經授權，請勿複製轉貼文章內容
留言