經濟日報 App
  • 會員中心
  • 訂閱管理
  • 常見問題
  • 登出

ChatGPT靠它獨家供電、微軟AI伺服器也是客戶!光寶從做便宜貨轉攻高階,效能超越龍頭的祕訣

提要

ChatGPT靠它獨家供電 光寶從做便宜貨轉攻高階,效能超越龍頭的祕訣

光寶2020年於台南成立軟體研發中心,總經理邱森彬認為,未來產品勝負不只硬體,軟體實力也是關鍵。圖片來源:謝佩穎攝
光寶2020年於台南成立軟體研發中心,總經理邱森彬認為,未來產品勝負不只硬體,軟體實力也是關鍵。圖片來源:謝佩穎攝

本文共2289字

天下雜誌 文 楊孟軒

當ChatGPT在回答提問時,它的用電功率會瞬間衝高,光寶電源能因應此現象,獲微軟AI伺服器採用,成獨家供應商。曾經像什麼生意都做的「雜貨店」,光寶為何被國際大廠青睞?

全球有超過一億名AI聊天機器人ChatGPT的用戶,每天輸入上億則千奇百怪的指令,從「使用聖經風格,解釋如何從錄影機中拿出花生醬三明治」這類搞笑創作,到撰寫大學課堂報告與Python程式碼等實用任務。

ChatGPT能在短短幾秒間給出答案,靠的是設置在微軟Azure機房內、搭載上萬顆輝達(Nvidia)GPU的伺服器。ChatGPT進行運算時,功率會在小於五十分之一秒的瞬間暴衝到4000至5000瓦特;相較之下,普通雲端伺服器功率頂多到2000瓦特。

全台最早有能力因應這種AI伺服器「脈衝負載」需求的電源廠,就是光寶科技。這家老牌電子廠因此得以獨家供貨3000瓦和5200瓦的電源產品給微軟,用於ChatGPT伺服器。

光寶雲端基礎設施系統與平台事業部(CIPS)產品發展一處總監王金才解釋,當時「競爭者」在最難的脈衝負載測試,無法維持穩定電壓而敗下陣來,「我們能做到那個要求,」他說。

關鍵1:從包山包海轉做高階

以LED產品起家的光寶,常給人包山包海、什麼生意都碰的印象,為何會在熱門AI伺服器電源領域,技術領先全球電源第一大廠台達電?

首先,受益於公司策略轉型。光寶近年陸續出售相機模組、印表機等非核心業務,把資源集中到雲端伺服器電源等重點產品。

獨家供應ChatGPT一役,儼然成為光寶總經理邱森彬上任近3年的代表作。他之前掌管電能事業群,也曾在美國子公司擴展雲端運算業務,為此打下基礎。

業務出身的邱森彬,個性豪爽直率,他承認,光寶過去陷入追逐規模的迷思,剛切入雲端伺服器市場,只鎖定規模最大的亞馬遜雲端服務(AWS),進攻最主流的750瓦機種,只想著以數量與低價,逼對手退出市場。

一名熟識客戶看不下去,勸告邱森彬,光寶的競爭對手台達電不做主流機種,而是投入高階的高瓦數產品,「可是營收沒有比你少,獲利可能比你高。為什麼你一定要這麼堅持?」

「客戶把我打醒了,」邱森彬認為,光寶並非沒能力做高階產品,只是策略取捨,「念頭一轉,不應該再把自己框起來。」

關鍵2:自己研發,超越標準值

接著,是投資關鍵技術。

5年前,光寶成立全新部門CIPS,接洽亞馬遜、Google、微軟和Meta等大客戶,了解需求。CIPS總經理張坤松透露,公司投入該部門預算每年成長25%,研發人員更從150人擴增到今日的560人。

隨著運算需求增加,雲端客戶希望伺服器內騰出更多空間來放CPU、GPU和記憶體,要求電源產品縮小體積,代表電源產品的效率與能量密度必須提高。

其中,變壓器最為關鍵,「變壓器是電源的心臟,」邱森彬說。

過去光寶將變壓器的設計與製造外包,2017年,公司決定砸下千萬元成立變壓器專案實驗室,由前台科大電子工程系教授、現任光寶新加坡分公司總經理羅有綱擔任主持人。羅有綱是著名的電源專家,許多台達和光寶員工出自他的門下。

光寶自己掌握變壓器設計,使用的原料和尺寸都是客製化,和一般外界規格完全不同。

在優化變壓器、重新設計電路架構後,目前光寶電源產品的能量密度能達到每立方英吋100瓦,遠超過一般筆電用的變壓器每立方英吋45瓦;電源轉換效率達到97.5%,高於歐盟要求的96%以及AI伺服器客戶的97%標準。

關鍵3:客製化打下ChatGPT

就在光寶提升電源技術能力的同時,伺服器開始出現以GPU取代CPU的趨勢。

2018年輝達提出客製化3000瓦電源供應器的需求,其他同業對此意願不高,於是光寶抓緊機會,主動出擊。張坤松回憶,光寶派出菁英團隊,找輝達了解GPU如何跟系統搭配,客製化電源供應器產品,並通過驗證。

同年,光寶電源產品就打入輝達推出的高階AI深度學習伺服器DGX-2,日後也成為ChatGPT運算的幕後功臣之一。目前更是微軟Azure的3000瓦與5200瓦電源產品獨家供應商。

如今,光寶手中已經有AWS和微軟Azure訂單,第三家客戶今年也將入手,市場上普遍預測是臉書的母公司Meta。光寶雲端伺服器電源市佔率在3年內從不到一成,提升到三成,「未來兩年我們要超過五成,」邱森彬滿懷期望地說。

設北京團隊迎接新挑戰:散熱

而被問到是否打進ChatGPT供應鏈,台達發言體系表示,無法回答單一客戶問題,但會持續在雲端伺服器電源領域佈局。

一名業界人士分析,北美四大雲端業者希望分散供應商,加上台達將資源轉往電動車領域,有助於光寶提高在雲端伺服器電源的市佔。

凱基證券產業分析師李承泰觀察,光寶高階雲端電源產品在市場已佔有關鍵席位,與龍頭台達共享市場成長潛力,「光寶這幾年有做出成果,未來兩年很有機會持續提升產業地位。」

光寶在伺服器電源的佈局沒有停下腳步,邱森彬透露,公司目前也投入伺服器的液冷散熱解決方案研究,在北京的研發團隊興建一座浸泡池,預計最快2025年能推出商業化的產品,「散熱是AI伺服器的下一個挑戰,誰可以把這個冷卻系統做得好,誰就可以勝出,」他說。

【小檔案】光寶科技

成立/1975年

董事長/宋明峰

總經理/邱森彬

成績單/2022年營收1734.75億

※本文由天下雜誌授權報導,未經同意禁止轉載

ChatGPT不能沒有台灣!從心臟到外殼,33家台廠變身「AI夢幻軍團」

第一款讓你在手機用ChatGPT的中文app 新創MixerBox:推產品要快到有羞恥感

經銷商罵三字經、新車還沒騎到家就壞 老三SYM如何重奪第一?

房市走勢三走向 別高興得太早,富國房價會再跌

上大學才發現念錯系 他勇敢跨出舒適圈,成為百萬訂閱Youtuber

※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結;未經授權,請勿複製轉貼文章內容

幫助您掌握最前瞻的觀念與趨勢,與世界零距離,與台灣超連結。在混亂的世界中,給讀者一束最清晰冷靜的聲音。

延伸閱讀

上一篇
英業達「邊緣 AI 智慧工廠」有成 高管:4階分工最關鍵
下一篇
誠美材今召開董事會 何昭陽及兩名獨董批召集程序違法

相關

熱門

看更多

看更多

留言

完成

成功收藏,前往會員中心查看!