快訊

經典賽/G2打線出爐!陳傑憲感冒休兵 劉基鴻四棒

百貨史上最嚴重工安意外…台中新光三越氣爆 總座急赴現場曝「震驚和悲傷」

新光三越氣爆1人救回…目前4死逾20傷 檢方路邊相驗令人鼻酸

比 DeepSeek省!APMIC+銓鍇 讓訓練AI模型只要1,000筆資料

企業在AI訓練與運行的過程中,始終面臨高昂成本、長時間訓練與數據安全風險等挑戰。示意圖。(路透)
企業在AI訓練與運行的過程中,始終面臨高昂成本、長時間訓練與數據安全風險等挑戰。示意圖。(路透)

企業在AI訓練與運行的過程中,始終面臨高昂成本、長時間訓練與數據安全風險等挑戰。為解決這些痛點,企業自主AI解決方案領導品牌APMIC與銓鍇國際(CKmates)推出「Test-Time Compute AI算力」解決方案,此方案結合類似DeepSeek R1的全新訓練方案「APMIC Toolbox s1」以及CKmates「AI CKompute」實體機櫃租賃服務。

APMIC指出,「APMIC Toolbox s1」是基於輝達(NVIDIA)NeMo開發的框架,支持AI教母李飛飛所發表的「Simple test-time scaling」訓練方法,具備DeepSeek的優點,但避開中國大陸訓練方法或模型所產生的資安問題,相較DeepSeek更節省90%的成本,訓練資料從80萬筆減少到1千筆。

過去為了實現高準確率的模型,通常需要昂貴的設備與訓練方法,「APMIC Toolbox s1」搭配CKmates「AI CKompute」算力機櫃租賃服務,提供搭載24片H100 GPU高階伺服器,可整櫃直送客戶現場,或以遠端連線方式使用,快速啟動資料訓練與進行高強度測試,不必排隊等雲端GPU資源,也免除將機密數據外移的隱憂。

「Test-Time Compute AI 算力」軟硬體整合解決方案,讓客戶在地端實現「知識蒸餾(Knowledge Distillation)」透過大模型學習企業領域知識,然後縮小到32B~70B的模型上,推論成本可以比ChatGPT節省高達98%以上,成為一個能訓練、推論的多模態的企業數位大腦,能夠分析圖片、文字,也可以進行企業知識的深度推理,相較於傳統的做法,資訊檢索準確度提升了70%,方便企業用戶進行知識管理、撰寫報告,並且透過自然語言輕鬆建立AI。

企業可依業務需求靈活調整「AI CKompute」租用方案,企業可依需求長期租用,甚至可租單一個月或幾天短期使用,以合理費用獲取強大算力支援,避免高昂的前期設備投資與維運負擔。租約到期後,客戶可選擇整機購買或直接歸還,是實踐「資本支出轉營運支出」的高彈性策略,讓企業無需投入鉅額資本支出,即可快速取得所需AI運算資源。

AI 資安 資本支出

延伸閱讀

00923近1月績效跑第一…贏00922、006208、00692!市值型ETF表現皆不俗

台股ETF 跟著趨勢賺

字節跳動旗下「豆包」新模型架構 推理成本最多降83%

佳士得首場AI藝術拍賣會掀爭議 逾4千人連署籲取消

相關新聞

台積電高雄P4、P5廠環評初審過關 承諾綠電與再生水

台積電高雄P4、P5廠擴建規畫環評上月初審未過,委員會今天再審建議通過,且無須進入第二階段環評, 2月21日前完成修正後...

實現數位島嶼願景 數發部修正計畫首增衛星行動使用頻段

數位發展部今(13)日表示,為提供民眾無所不在的通訊環境,促進下世代衛星通信服務及產業發展,並優化頻率資源配置,於本日公...

傳美國川普要求台積電與英特爾合資晶圓製造 經濟部回應了

台積電(2330)12日首度赴美召開董事會的決議,並未如外界猜測,宣布美國進一步的擴廠計畫;但國際金融服務供應商貝雅(B...

數發部修正無線電頻率供應計畫 首開放7項衛星通信頻段

數位發展部13日表示,為提供民眾無所不在的通訊環境,促進下世代衛星通信服務及產業發展,並優化頻率資源配置,於13日公告修...

傳美推動台積電與英特爾合資 專家:比課關稅更不利

根據國際金融服務供應商貝雅(Baird)發布報告指出,美國政府可能正在推動一項涉及晶片製造商英特爾(Intel)和台積電...

Nokia及Infinera併購案 公平會放行

公平會今日宣布,委員會議昨日通過,Nokia Corporation(簡稱Nokia)與Infinera Corpora...

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。