數位通推創新GPU算力訂閱服務 降低AI／LLM訓練門檻

全球對AI應用的需求快速增長，進一步帶動GPU算力訂閱及租用服務的市場熱潮。數位通國際(以下簡稱數位通)雲端事業處總經理黃維修觀察到有幾大原因促成這一趨勢。

首先，企業在積極發展AI應用的過程中，連帶需要佈建GPU算力，其次全球企業群起擁抱AI並爭搶運算資源，導致GPU奇貨可居，企業有錢買不到或漫長等待，使建置成本與門檻越來越高，故而以租代買。再者GPU伺服器對資料中心的基礎設施要求更為嚴苛，不論散熱系統、電力供應、樓板承重甚至網路傳輸，皆與傳統伺服器不同，形成另一道高聳門檻。

在前述因素驅動下，許多企業轉而租用GPU算力服務以降低初期投入的壓力。為此，數位通順勢而為推出「GWS AI Cloud」虛擬GPU算力平台訂閱方案，以滿足中小規模的企業需求。

黃維修強調，數位通經營資料中心與雲端服務累積多年深厚的經驗，擅於維運高效穩定的機房和雲平台，GPU算力為其專業能力延伸的加值服務。更重要的是，數位通資料中心承載亞洲大型網路交換中心，擁有豐沛網路與頻寬資源，得以提供高品質網路服務，穩定支撐GPU運算或AI應用運行。

再者數位通已針對政府、教育或眾多產業，開發多元的雲服務，所以不僅能為GWS AI Cloud用戶提供GPU算力，也能一併滿足諸如資安防護等其他層面的多樣化需求。

GWS AI Cloud以NVIDIA H100為租賃標的，足以順應大型語言模型（LLM）、機器學習（ML）訓練的高效需求。平台提供簡便的圖形化管理介面，打破傳統AI/ML訓練工具常見的命令列操作，並將多種訓練與推論環境內建其中，顯著降低用戶的建置與使用門檻；甚至可因應用戶的特殊需要，提供客製化工具和環境。

另一大亮點在於算力供應方式極具彈性，黃維修表示，市場上大多數租賃方案以整片為單位，以致於成本不菲。反觀GWS AI Cloud可以從0.25片、0.5片到1至2片以上等多種選項，用戶可依其專案需求選擇租用的規模與時間。舉例來說，如選擇0.5片租6個月，在期間內隨時靈活調度、用好用滿，若算力規模不夠，則可隨時追加，彈性甚大。

此外，數位通也可協助客戶打造客製化安全架構，近期的案例便是協助數發部數位產業署建置一套專屬GPU算力池於數位通資料中心，該案例需要零信任架構、DDoS防禦、雙因子認證等多項資安需求，數位通不僅滿足了所有要求，還確保系統的高效穩定運行。

總括來說，數位通多年在雲服務領域深耕，憑藉過往累積的能量，能與GWS AI Cloud完美加乘，讓用戶在執行AI分析或建模之餘，還可一併啟用資料備份、資安防護、災難備援…等多元服務。甚至比照數發部模式，以MSP角色，協助政府機構、學研或企業單位，設計、規劃、驗證、測試、建置及維運管理私有GPU算力池，用戶可選擇運行於數位通資料中心或其他適合的資料中心，靈活應對各種需求。