輝達(Nvidia)次世代 AI 運算平台「Vera Rubin」首批次產品已送達微軟資料中心。微軟執行長 Satya Nadella 透過社群媒體公開此訊息,Nvidia 則表示已正式進入量產擴大階段,然而「Vera Rubin」機櫃不但一台要價超過1億元,而且重量超過1.5噸,運送本身就是一個很大的挑戰。
「今天是我們微軟資料中心交付首批Vera Rubin 產品的日期。非常感謝我們的合作夥伴」微軟執行長 Satya Nadella在X帳號上發文說「還感謝Azure 硬體和資料中心團隊,感謝他們為實現這一里程碑所做的卓越工作!」
傳統的資料中心無法裝置新的GPU伺服器 單單地板承重可能就過不了關,一位資料中心業者說「現在新的GPU機櫃和以前相比有三個特色,很貴,很重,很吃電」,進駐資料中心就像把相撲選手塞進一台RAV4裡。
像這次輝達交給微軟的「Vera Rubin」裡面標準是72顆GPU搭上32顆CPU,通常整台價值1億多甚至2億多,因此在裝置的時候都小心翼翼。出廠上貨運車運送到達地點,搭配吊車,小山貓車等等,一家貨運公司的資本額可能還比不上一台Rubin的伺服器機櫃。

以中華電信子公司是方電訊(6561)為例,其位於內湖舊宗路上Y2K大樓是台北少數能裝載最新GPU機櫃的大樓,裡面有好幾台輝達的GB300伺服器機櫃,為了運送裝載這批「貴客」,許多室內的樓地板高低差,除了斜坡,還加裝升降平台,否則一台一億多的輝達機櫃。
資料中心的供電最基本要求不中斷,因此都要建置「雙迴路」供電或「冗餘電源(備源電源)」,以及同一個機房要跟台電簽約來自兩個不同的變電所供電,以及萬無一失的冷卻系統,搭配不同的水冷管路,只為了在不斷電系統運作時候,能延長到供電恢復正常的情況。
外界可能無法了解AI資料中心的全貌,由於投資方砸重本建立,因此不但電源不能中斷,冷卻系統不能中斷,連對外資料通道也不能中斷,以是方電訊而言,通常都具備2家電信或者網路服務業者的支援。業者表示,在軟體部分就是管理和維護合約以及保險問題,客戶也會定期來檢測自己的伺服器。
國內目前對資料中心設置需求龐大,但目前北部電力吃緊,是方電訊(6561)計畫投資超過30億元於中科虎尾園區擴建全新AI資料中心,可以容納更多新一代的GPU伺服器,其他如國際業者GOOGLE也正在尋求新的資料中心設置地點,可預見未來一兩年,中南部還會有新的資料中心建置。