第三屆成電論壇 旺宏、華碩等大咖齊聚剖析生成式AI

國立成功大學10日舉行第三屆「成電論壇」，今年主題為「生成式AI」，邀請包含東台精機董事長嚴瑞雄、華碩電腦執行長胡書賓、華邦電子總經理陳沛銘、奇景光電副總經理陳有棟、耐能智慧創辦人暨執行長劉峻誠5位成大校友，分別就 AI驅動智慧製造、生成式AI的發展、應用與未來趨勢進行分享與探討。

成大校長沈孟儒重視學習新知，全程參與論壇活動。成大電機系友會理事長暨旺宏電子董事長吳敏求表示，自擔任成大電機系友會理事長以來，3年前首次推動「成電論壇」，探討前瞻科技趨勢，讓師生與產業界近距離對話，激盪創意的火花。未來更將規劃設置青年教授講座，每位講座每年提供100萬元獎勵，延攬傑出優秀的國內外年輕教授人才於成大任教，教授新知與傳承經驗，提升台灣科技整體的創新動能。

吳敏求：AI讓記憶體從幕後走向幕前

AI的快速發展推動科技再一次進步創新，記憶體也從資料儲存逐漸走向幕前，扮演「存算一體」的關鍵角色。吳敏求指出，旺宏已超前部署致力研發以記憶為中心（Memory-Centric）的相關應用，例如最新推出的FortiXTM系列3D NAND/NOR快閃記憶體，就是為AI應用量身打造的創新記憶體，兼具儲存及運算功能，相關技術論文近年於國際電子元件會議（IEDM）、國際固態電路研討會（ISSCC）等全球頂尖學術研討會上屢獲矚目。

嚴瑞雄：生成式AI與現有AI結合 拓寬智慧製造的應用

東台精機董事長嚴瑞雄就「AI驅動的智慧製造」開啟討論。擁有40年機械製造經驗的他，以機械專長來電機系談AI主題，他謙虛的說，「我是來破題的，答案都在專業的那裡。」他還分享自己受邀演講後，使用生成式AI發想演講內容的趣味過程，並以台語親切幽默的說，「機械系不是來踢館，是來學習未來要如何辦『成機論壇』」，引發現場笑聲不斷。

他提到，生成式AI的出現，讓AI技術能在區分和理解數據上創造出新的解決方案和創意，解決智慧製造少量多樣的挑戰，大幅加速AI導入的時程。讓生成式AI與現有AI的結合，拓寬智慧製造的應用範疇，也定義新的發展方向。相信生成式AI將繼續推動智慧製造技術的創新和進步，讓大家共同邁向製造者的桃花源。

胡書賓：台灣產業鏈具有競爭力 應擁抱生成式AI

華碩電腦共同執行長胡書賓以「生成式AI的發展、應用及生態系」為主題，透過簡單易懂的譬喻，為現場帶來有關AI演進、產業鏈生態系、大型語言模型等宏觀面分享。他提到，過去AI 1.0可以解決是非題、選擇題，現在AI2.0 生成式AI可以解決申論題，應用層面更廣。

以台智雲為例，這是國科會在2018年投入50億建置可用於模型訓練的AI 超級電腦為基礎的超算力雲服務公司，今年5月便推出利用2,000億個文字與近百萬的訓練樣本所做出的福爾摩沙大語言模型，提供台灣各產業發展生成式AI重要關鍵的基礎建設。他強調，生成式AI驅動知識生成、應用、生產力創造的典範轉移，台灣產業鏈具有競爭力，應擁抱生成式AI帶來的未來契機，推動台灣成為亞洲AI生態系強國，創造另一護國神山。

陳沛銘：AI模型大需求 記憶體必須進一步革新

華邦電子總經理陳沛銘以「Memory for AI」主題分享。他提到，「AI對記憶體是一個充滿挑戰但也充滿機會的領域，期待記憶體技術能為AI領域未來描繪出更加輝煌的前景。」以技術面而言，AI模型中，特別是大型的語言模型（如： ChatGPT），需要大量的記憶體來處理龐大的參數作訓練，傳統記憶體技術已現瓶頸。為滿足AI模型的龐大需求，記憶體必須進一步革新的趨勢；而伴隨著AI技術普及，Edge AI的應用也逐漸蓬勃發展。記憶體需配合其應用特性架構開發特殊的創新技術，例如：發展高效能、高頻寬、低延遲、低耗電的記憶體，以及利用3D堆疊技術增加記憶體容量及頻寬等技術創新，也是未來關注的重點。

陳有棟：TinyML技術將AI運算推向設備最終端

奇景光電副總經理陳有棟以「微型機器學習（TinyML）發展及應用｣為現場帶來不同的AI應用實例。他提到，未來10年人工智慧運算會從「雲端」到「邊緣端」蓬勃發展，而TinyML （微型機器學習）技術將人工智慧運算推向設備的最終端，結合感測器和嵌入式系統在終端以極低功耗，低成本，低延遲完成邊緣機器學習運算，對於物聯網，穿戴式設備，智慧家居，智慧健康監控和工業自動化等應用都帶來突破性的發展，但也同時必須克服工程面的硬體設計，機器學習算法優化，開源工具鏈整合等問題，及商務模式上應用碎片化等問題；以奇景光電WiseEye平台為實例，透過整合低功耗影像感測器及終端人工智慧處理器，如何克服這些工程與商務的困難，並提出結合TinyML生態圈的未來發展方向。

劉峻誠：GPU計算資源先面臨碳排放增加的挑戰

耐能智慧執行長劉峻誠就「個人化GPT：未來在終端」進行分享。他是世界現行多本AI教科書的作者，也是AI晶片量產先驅。一上台，他先展示沒有連接網際網路的「私有化GPT」，舉凡搜尋世界名人相關資料、語言翻譯或寫程式等該GPT的回覆時間都很即時，隨後他強調，這些技術小型電路就能實現，而且沒有風扇、可以像積木一樣堆疊，符合各式市場需求，引發現場諸多好奇。他提到，考慮到運行ChatGPT所需的GPU計算資源可能導致碳排放增加和成本上升，這對實現AI的民主性構成挑戰。終端算力NPU可同時解決延遲和隱私揭露問題，通過在邊緣運行AI演算法，實現最小延遲，成本效益顯著。