東海攜手HPE、NVIDIA、AMD 打造全台首創LLM校園平台

生成式 AI 為教育模式迎來改革浪潮，東海大學攜手 HPE、NVIDIA 及 AMD打 造全台首創「從晶片到應用」的全棧式（full-stack）LLM 校園學習平台，讓學生能實際建置 AI Agent、微調大型語言模型（LLM），創造具商業價值的 AI 應用，以克服 AI 教學的三大斷層。

隨著人工智慧技術掀起全球教育革命，東海大學借助 HPE 等科技巨頭之頂尖技術團隊，結合敦新科技的系統整合專業，導入高效能 AI 伺服器及 AI 深度學習解決方案，不僅於校園內提供產業級算力資源，更建構跨領域教學與實作場景，今（6）日於東海圖書館集思區正式舉行平台啟用儀式，現場貴賓雲集，包含台中市副市長鄭照新、東海大學校長張國恩、HPE 台灣暨香港董事長王嘉昇、AMD 台灣分公司資深業務協理黃偉喬、RedHat 台灣總經理孫媛音，以及東海大學副校長詹家昌、副校長張嘉修、副校長劉正、一級主管等人都到場參與。

校長張國恩表示，東海大學多年前在大渡山學會鄭清和理事長的支持下成立 AI 中心，積極推動 AI 產官學合作、AI 課程，奠定東海在 AI 教育研究上的基礎。而今再度創新突破，平台試運半年來，已誕生 2 組具商業價值的作品，包含應用於本地端 AI 護理師助理系統（PrivNurse AI）與整合「檢索增強生成」（Retrieval-Augmented Generation, RAG）架構的課程學習助教，這些成果充分展現東海團隊與學生的實力以及 LLM 學習平台的潛力。張國恩說，教育的本質在於讓知識轉化為實踐力，創造出真正能解決產業與社會需求的應用，這次和 HPE 一同打造 LLM 學習平台，不只是技術的革新，更是學習模式的變革，未來也會進一步優化系統，將基於 LLM 的聊天機器人開放校外使用，讓社會大眾共同體驗先進的 AI 科技，善盡大學的社會責任和影響力。

副市長鄭照新表示，東海大學致力推動成為 AI 大學，已建置 AI NB 教室，以及和資策會及產業進行密切合作，並與台中市政府共同爭取 NVIDIA 到台中設立研發中心等，都說明東海大學作為台中市推動智慧城市的重要夥伴，鄭照新也強調，台中做為科技供應鏈的重要城市，正積極推動台中成為台灣數位發展的重要核心，今天看到東海大學攜手 HPE、NVIDIA 及 AMD 等三大巨頭，共同打造全台第一個「從晶片到應用」的全棧式（full-stack）LLM 校園學習平台，台中市非常肯定東海大學作為 AI 教育的領導者，此外，他也強調，東海不僅在 AI 推動上遙遙領先，更是一所充滿人文的大學，台中市政府希望與東海持續合作，將人文與 AI 科技結合，共同幫助台中市打造為全台最佳的人文數位城市。

HPE 台灣暨香港董事長王嘉昇表示，很榮幸能與東海大學攜手合作，推動生成式 AI 教育的發展，幫助學生深化跨領域理論與應用學習，並為教師提供創新教學工具，提升教學效率。王嘉昇說，目前 HPE 也正積極將 AI 技術融入教育與研究流程，擴展在智慧校園、教學資源管理等領域的應用，期望加速教育科技的數位轉型，培養更多具備 AI 能力的人才。

圖資長楊朝棟也提及成立平台的契機，在推動 AI 技術引入教育體系的過程中，發現一般生成式 AI 教學存在著應用層次、算力資源及實作場景等三大斷層，為解決此困境，東海建置全棧式 LLM 校園學習平台，採用混合雲架構並搭配於 2024 年領先全國導入 CPU+NPU 且內含先進 GPU 運算設備的「玉釵 AI NB 教室」進行教學，幫助東海學生在較短的時間內完成複雜的運算任務，也將教學環境從「工具使用」升級到「模型創造」，並從產業面導入邊緣運算方案，將產業問題整合為領域知識微調模型，建立跨領域資料庫及部署架構，此外，也進一步為資訊與非資訊專業科系學生增設相對應的課程，未來學生可以自行建立更多 LLM 應用，幫助自身學習甚至助力產業發展。