本文共1266字
英特爾近期於開放運算計畫(Open Compute Project)全球峰會上,公布Intel GPU D 系列(代號Crescent Island)的最新技術細節、推出以Intel Xeon處理器為基礎的全新機櫃設計,並展示開放式軟體與生態系的創新成果。
英特爾指出,代理式AI正將推論轉變為多步驟工作流程,涵蓋資訊檢索、推理、協調、工具使用與執行,而x86 CPU在其中扮演關鍵角色。開放模型雖讓企業擁有更多選擇,但功耗限制、記憶體瓶頸與成本壓力,也使AI擴展日益成為系統級的挑戰。要滿足這些需求,企業需要易於部署與管理的整合式異質基礎架構。英特爾以成熟的x86軟體生態系為基礎,透過開放且可互通的軟體,結合CPU、GPU與專用加速器,讓不同工作負載能使用最合適的運算資源,進而提升整體工作流程的資源利用率、效能與效率。
英特爾資料中心系統與解決方案事業群副總裁Nicolas Dubé表示,開放模型拓展企業部署AI的選擇。若要充分發揮其潛力,組織需要針對不同的工作負載,配置合適的智慧能力、運算資源、與兼顧成本效益的基礎架構。這正是為每項AI任務配置最合適運算資源的意義。
英特爾於OCP全球峰會中展示與生態系夥伴共同開發、採用Xeon處理器的新款機櫃設計,以滿足代理式AI日益成長的運算需求。其中許多設計採用開放運算計畫的Open Rack v3(ORv3)標準,簡化在開放式資料中心基礎架構中的部署與整合。
英特爾提到,隨著代理式AI工作流程日益複雜,通用運算也必須承擔更多工作,包括協調工作負載、處理資料、管理I/O,以及執行各項任務,確保加速器持續發揮效能。憑藉二十年來在機櫃級系統的創新,以及廣泛的x86軟體生態系,Xeon提供擴展代理式AI所需的高密度通用運算基礎。Xeon可與GPU及專用加速器協同運作,負責協調工作負載、執行任務並管理資料傳輸,讓整體系統維持高效運作。隨著AI基礎架構持續演進,效能衡量日益著重於單一機櫃在符合目標延遲要求的情況下,能支援多少個AI代理同時運作。Xeon透過維持資料順暢流動、工具持續執行,並確保加速器獲得所需資料,協助系統最大化實際工作產出。
英特爾也說,Intel GPU D系列是專為高效率、大規模推論打造,希望提升長時間運行、記憶體密集型AI推論的成本效益。這款GPU採用英特爾最新的Xe3P架構,設計兼顧記憶體容量、運算效能與能源效率。
英特爾資料中心事業群AI產品與市場策略副總裁Anil Nanduri認為,推論正成為AI最具代表性的工作負載,企業需要能以合理成本提供適當效能的基礎架構。Intel GPU D系列致力於讓高容量推論更容易部署,也更能以具成本效益的方式擴展。
同時,英特爾資料中心事業群執行副總裁暨總經理Kevork Kechichian表示,代理式AI正在改變客戶對資料中心的需求。成功關鍵不在於任何單一元件,而在於整合Xeon、專用加速與可互通軟體的開放式異質基礎架構。英特爾正協助客戶延續既有投資,同時建立具彈性的基礎,讓新興AI工作負載得以有效率地擴展。
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結;未經授權,請勿複製轉貼文章內容
留言