輝達Blackwell系統為何暴紅? AI訓練推論都靠它

黃仁勳展示「Grace Blackwell NVL72 GPU」。 歐新社
黃仁勳展示「Grace Blackwell NVL72 GPU」。 歐新社

人工智慧(AI)晶片大廠輝達NVIDIA)執行長黃仁勳今天表示,Grace Blackwell系統已全面量產,今年第3季將升級到效能更強的GB300。究竟Blackwell與輝達先前的繪圖處理器(GPU)架構有什麼不同,已經運用到哪些領域,本文帶你一次看懂。

Blackwell是輝達研發的GPU架構,以美國數學家布萊克維爾(David Blackwell)的名字命名。輝達在2024年3月GTC年度技術大會上發表B200,採用台積電客製化4奈米製程生產,配備2080億個電晶體,輝達Blackwell架構GPU被譽為「地表最強AI晶片」。

GB200系統由1顆Grace中央處理器(CPU)、2顆B200 GPU組成,專為高效能運算(HPC)設計,運算效能比上一代H100提高30倍,可在兆級參數的大型語言模型(LLM)上運行生成式AI。

GB300是基於新一代Blackwell Ultra GPU的新架構,強化訓練與測試階段的推論擴展能力,包含GB300NVL72機架規模解決方案與HGX B300 NVL16系統。

GB300 NVL72採用機架規模設計,連接72顆Blackwell Ultra GPU與36顆Arm Neoverse架構GraceCPU,其AI效能比GB200 NVL72提升1.5倍。

黃仁勳今天在演講中播放Blackwell生產過程的影片,內容提到Blackwell是一項工程奇蹟。最初是台積電的一片空白矽晶圓,在12吋晶圓上,經歷數百道的晶片處理和紫外光微影步驟,逐層構建2000億個電晶體。

之後晶圓被劃線切割成個別的Blackwell裸晶粒,經過測試和分類,良品晶粒將被挑選出來進入後續製程,在台積電、矽品與艾克爾(Amkor)執行的CoWoS封裝中,32顆Blackwell晶粒與128組HBM堆疊,被接合在一片客製化系中介層晶圓上。

蝕刻在其中的金屬互連線,將Blackwell GPU與高頻寬記憶體(HBM)堆疊連接到每個系統封裝(SIP)單元,最後加熱、模塑並固化,形成B200超級晶片。

從晶圓上蝕刻的第一個電晶體,到鎖緊Blackwell機架的最後一顆螺絲,每個步驟都承載著輝達合作夥伴的奉獻、精準和工藝。黃仁勳強調,Blackwell不僅是一個科技奇蹟,更是台灣科技生態系統卓越成就的證明。

黃仁勳 輝達 NVIDIA

延伸閱讀

黃仁勳:通用機器人將開啟下一個兆級美元產業

【重磅快評】黃仁勳擘劃的願景 賴政府能夠實現嗎

AI教父黃仁勳回台掀「仁來瘋」!2字評價台灣人 外媒曝保鑣壓力大

輝達海外總部落腳北士科 蔣萬安:會給予一切支持

相關新聞

談海外總部落腳北士科 黃仁勳:地點具吸引力、大小很完美

輝達執行長黃仁勳今天為美超微演講站台後,對媒體表示,選擇北投、士林為台灣輝達總部,因為需要擴展台灣辦公室,北投地點具吸引...

輝達Blackwell系統為何暴紅? AI訓練推論都靠它

人工智慧(AI)晶片大廠輝達(NVIDIA)執行長黃仁勳今天表示,Grace Blackwell系統已全面量產,今年第3...

幕後/不是北市也難 輝達選士北科T17、T18暗藏三贏盤算

輝達執行長黃仁勳今宣布台灣總部設址在台北市士北科,雖然獎落台北市,但又難免憂心T17、T18涉及到新光人壽案。對此,市府...

輝達新總部花落北士科 地上權爭議可望循2模式解套

輝達新的台灣總部將落腳士林北投。據了解,黃仁勳屬意北士科有諸多考量,包括北市有AI發展的總部群聚效應,還有台北市地理區位...

士林北投房市振奮 專家:看產業進駐是否跟上

輝達台灣總部可望落腳北士科,房市專家指出,這個消息可振興周邊買盤,但不一定是輝達員工,更多在於原先對北士科觀望的剛性需求...

黃仁勳揭輝達AI布局 儲存設備將扮關鍵 這2家成亮點

輝達執行長黃仁勳昨在台北國際電腦展主題演說中指出,看好通用機器人將開啟下一個兆美元產業,而輝達不僅將協助台灣打造第一台大...

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。