華為攻AI 另闢蹊徑 自研昇騰晶片瞄準「推論」應用
在輝達(NVIDIA)受到美國管制,晶片無法向大陸銷售之際,華為正透過自研的昇騰(Ascend)晶片,完成人工智慧(AI)中的「推論」(Inference)任務,並推薦給其他陸企採用,藉此在AI晶片市場中搶占更多市占率。
生成式AI的學習通常可分為訓練與推論兩個階段。推論是指大型語言模型(LLM)在生成回應時所進行的計算。
華為預測,隨著AI訓練階段的飽和,以及未來聊天機器人等AI應用程序變得更加普及,市場對AI「推論」的應用將有更大需求。
中華經濟研究院第二研究所國際鏈結組副組長江泰槿指出,面對美國愈來愈嚴格的科技管制,大陸正採取多管齊下的突破策略。大陸政府本身推出研發費用加倍扣抵、高科技企業租稅優惠等政策,積極扶植本土企業創新。
在運算能力方面,江泰槿表示,大陸透過分散式運算和演算法優化,整合中低階晶片運算力,開發專用AI加速器。其次,加速產業鏈在地化,從晶片設計到封裝測試全面布局。最後,探索替代性技術路線,透過改進演算法效率和優化模型架構,降低對高階硬體的依賴。
英國金融時報(FT)報導,大陸主要AI企業都仰賴輝達的繪圖處理器(GPU)訓練大型語言模型,但華為不想挑戰輝達晶片在訓練領域的地位,而是把最新的昇騰AI晶片,定位為大陸企業在執行「推論」工作時的硬體選擇,押注若模型訓練腳步放慢以及聊天機器人等AI應用更廣獲採用,推論的需求將升高。
報導引述華為的員工和昇騰的客戶指出,華為聚焦於技術挑戰較低,但也有利可圖的路徑,也就是翻新以輝達晶片訓練的AI模型,用昇騰晶片運行。
由於輝達和昇騰的軟體系統不同,華為正幫助企業使用另一套軟體工具,讓兩個系統相容。
華為蘇黎世研究室研究推論加速的資深AI研究員薩查洛波洛斯(Georgios Zacharopoulos)表示,訓練很重要,但只會進行幾次,華為主要聚焦於最終將服務更多客戶的推論。
大陸已要求當地科技巨頭採購更多華為的AI晶片,降低對輝達的依賴。
報導引述一名熟悉輝達大陸營運的消息人士的話指出,華為被輝達內部視為在大陸的最重大競爭對手,華為的晶片設計能力「非常先進」。
美國已針對管制出口管制AI晶片的對大陸出口,希望阻礙大陸在敏感科技的進展,因此大陸企業無法取得最先進的GPU,而是只能獲得效能較低的輝達H20晶片,但因為仍比當地其他選擇更好,因此需求依然熱門。
據半導體研究與顧問公司SemiAnalysis估算,輝達去年在大陸出貨100萬組H20晶片,銷售額120億美元,銷量為昇騰910B的兩倍。
延伸閱讀
贊助廣告
商品推薦
udn討論區
- 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
- 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
- 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
- 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
FB留言