黃仁勳台大演講曝光的輝達最新AI伺服器 在鴻海旗下鴻佰科技正式亮相

科技趨勢

6月6日台北國際電腦展倒數第二天,現場擠滿人潮,鴻海集團旗下鴻佰科技的攤位人山人海,所有人都擠在一個玻璃帷幕前,對著裡頭的機器指指點點,這一台機器就是輝達最新款AI伺服器NVIDIA GB200 NVL72。

輝達 (NVDIA)創辦人暨執行長黃仁勳日前在台大演講時,曝光了輝達全球第一台AI伺服器NVIDIA GB200 NVL72,當時市場盛傳這款地表史上最快,也是輝達最新款AI伺服器就是由鴻海集團旗下鴻佰製造,現在果然在台北國際電腦展鴻佰科技的攤位上正式亮相。

鴻佰是鴻海集團旗下工業富聯的子公司

根據現場解說人員透露,鴻佰是鴻海集團旗下工業富聯的子公司,鴻佰公司地點在土城與蘆竹,鴻佰除了與輝達合作,與超微、英特爾也維持合作關係。

輝達最新款AI伺服器NVIDIA GB200 NVL72前面擠滿圍觀人潮。(攝影/張瀞文)

根據了解,輝達最新AI伺服器NVIDIA GB200 NVL72合作的業者主要是鴻佰與廣達集團旗下的雲達。

鴻佰在2024 年台北國際電腦展 (Computex) 主要以「引領 AI 新運算」為主題,展示次世代 AI 數據中心全方位解決方案,包括亮相最新的 NVIDIA GB200 NVL72 伺服器機櫃及先進液冷解決方案。

作為首批搭載 NVIDIA Blackwell 架構 GPU 的合作夥伴之一,鴻佰揭示下一代 AI 資料中心的全新面貌,亮相最新的 NVIDIA GB200 NVL72 伺服器機櫃,此系統支援多節點與液冷設計,將 72 個 Blackwell GPU 與 36 個 Grace CPU 串聯成一個巨大的運算單元,可為兆級參數的大型語言模型實現訓練和即時推論。

輝達最新AI伺服器前擠滿圍觀人潮

面對龐大的 AI 算力需求,液冷技術的重要性日益凸顯,鴻佰此次也展出先進液冷解決方案,包含液態對氣態的 side car 氣冷機櫃,和液態對液態的 CDU 液冷機櫃,以應對不同資料中心環境的需求。

鴻佰推出各種模組化創新設計,包含自家研發的模組化伺服器,可搭載最新一代的 AMD EPYC 處理器與 Intel Xeon 處理器,以及市場上最多樣化的 1U/2U/4U NVIDIA MGX 伺服器產品組合,滿足不同加速運算需求。

此外,鴻佰也祭出搭載 NVIDIA H200、B100 或 B200 圖像加速卡的最新 AI 加速器,其模組化架構可搭配氣冷或液冷系統,並支援 AMD Instinct MI300X 平台或 Intel Gaudi 3 加速器,提供客戶多元平台選擇。

鴻佰與英特爾也維持合作關係。(攝影/張瀞文)

鴻海旗下工業富聯董事長鄭弘孟先前接受中央社等媒體採訪時指出,台灣的GB200伺服器產能已到位,海外首個GB200伺服器產線將在墨西哥廠,最快第3季小量生產。

鄭弘孟表示,工業富聯4月已經出貨輝達GB200 NVL36伺服器,至於GB200 NVL72成品也準備就緒。鴻海旗下鴻佰則表示,GB200 NVL72伺服器會先在美國加州聖荷西進行新產品導入(NPI)階段,相關晶片模組製造會在新竹湖口廠區。

根據相關人士透露,工業富聯在美國威斯康辛州建立表面組裝技術(SMT)線,在墨西哥和越南的SMT產線也已運作,加上台灣既有產線,工業富聯高階AI伺服器組裝產能陸續到位。

鴻佰是輝達最新AI伺服器主板和switch board主要供應商之一

鴻海2月下旬曾公告,透過轉投資工業富聯墨西哥子公司約4.53億元墨西哥披索(約新台幣8.27億元),取得哈里斯科州(Jalisco)土地,1月上旬也公告子公司增資鴻佰墨西哥廠1000萬美元;2021年9月鴻海子公司以2700萬美元取得鴻佰墨西哥子公司股權,產業人士分析,相關投資主要為擴大AI伺服器產線。

市場人士評估,鴻海是GB200 NVL72伺服器主板和switch board主要供應商之一,預估占GB200伺服器主板供應比重達50%,鴻海也是GB200伺服器晶片模組獨家供應商,也是大部分交換器閘(switch tray)供應商。

另外,談到在美國威斯康辛州伺服器產線進展,鄭弘孟指出,工業富聯在威州當地伺服器做得很好,全產能開出,預估今年威州廠營收可突破40億美元(約新台幣1296億元),主要客戶群涵蓋美國雲端服務供應商(CSP),應用在基礎建設工程。