本文共906字
【閱讀集點 好禮雙重奏】
1點已入帳！
企業在AI訓練與運行的過程中，始終面臨高昂成本、長時間訓練與數據安全風險等挑戰。為解決這些痛點，企業自主AI解決方案領導品牌APMIC與銓鍇國際（CKmates）推出「Test-Time Compute AI算力」解決方案，此方案結合類似DeepSeek R1的全新訓練方案「APMIC Toolbox s1」以及CKmates「AI CKompute」實體機櫃租賃服務。
APMIC指出，「APMIC Toolbox s1」是基於輝達（NVIDIA）NeMo開發的框架，支持AI教母李飛飛所發表的「Simple test-time scaling」訓練方法，具備DeepSeek的優點，但避開中國大陸訓練方法或模型所產生的資安問題，相較DeepSeek更節省90%的成本，訓練資料從80萬筆減少到1千筆。
過去為了實現高準確率的模型，通常需要昂貴的設備與訓練方法，「APMIC Toolbox s1」搭配CKmates「AI CKompute」算力機櫃租賃服務，提供搭載24片H100 GPU高階伺服器，可整櫃直送客戶現場，或以遠端連線方式使用，快速啟動資料訓練與進行高強度測試，不必排隊等雲端GPU資源，也免除將機密數據外移的隱憂。
「Test-Time Compute AI 算力」軟硬體整合解決方案，讓客戶在地端實現「知識蒸餾（Knowledge Distillation）」透過大模型學習企業領域知識，然後縮小到32B~70B的模型上，推論成本可以比ChatGPT節省高達98%以上，成為一個能訓練、推論的多模態的企業數位大腦，能夠分析圖片、文字，也可以進行企業知識的深度推理，相較於傳統的做法，資訊檢索準確度提升了70%，方便企業用戶進行知識管理、撰寫報告，並且透過自然語言輕鬆建立AI。
企業可依業務需求靈活調整「AI CKompute」租用方案，企業可依需求長期租用，甚至可租單一個月或幾天短期使用，以合理費用獲取強大算力支援，避免高昂的前期設備投資與維運負擔。租約到期後，客戶可選擇整機購買或直接歸還，是實踐「資本支出轉營運支出」的高彈性策略，讓企業無需投入鉅額資本支出，即可快速取得所需AI運算資源。
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結；未經授權，請勿複製轉貼文章內容
留言