印度前2大數據中心、Hiranandani集團轄下Yotta Data宣布買進了10億美元的輝達(Nvidia)GPU,包括H100和DGX GH200產品,證實輝達CEO黃仁勳口中的AI工廠革命,正在進行:現有的大型數據中心,正在升級自己的伺服器。
印度最大數據中心、Hiranandani集團轄下Yotta Data執行長兼聯合創始人 Sunil Gupta 在今年1月對《路透社》表示,Yotta計劃向合作夥伴Nvidia 購買更多的人工智慧晶片,在去年,印度媒體報導Yotta一共要買進2萬片的輝達GPU,Sunil Gupta則首度對外透露,包括對H100和DGX GH200採購,將於2025年建造完成,這批採購價值合計10億美元,約320億台幣。
傳統大型數據中心,藉由GPU升級運算能力
美國大型企業數據中心企業Switch其中的一個數據中心,號稱全球第四大的Tahoe Reno Colocation早在2019年已經使用輝達的NVIDIA DGX-1 和 DGX-2。該集團為輝達長期合作夥伴。
今年3月,外電報導,Google承諾在 2024 年在美國和海外投資數十億美元,擴大其快速成長的資料中心足跡,為其雲端運算基礎設施和人工智慧計畫提供動力。Google已經宣布將在密蘇裡州堪薩斯城建造一個耗資10 億美元的資料中心園區。
此外Google還計劃在愛荷華州錫達拉皮茲(Cedar Rapids)建造一個耗資 5.76 億美元的新數據中心計畫,宣布了在墨西哥、馬來西亞、泰國、紐西蘭、希臘、挪威、奧地利和瑞典的數據中心擴建或建設計劃,這些新世代的數據中心,將大量採用GPU,可能是輝達的產品也可能是AMD的產品,全部都是生成式人工智慧數據中心。
GOOGLE投資數據中心,未來將在8個國家設址
6月10日,美國數位廠商Compass Datacenters 已在亞利桑那州鳳凰城的 El Mirage 地區購買了土地,並計劃在那裡開發一個新的數據中心(data center)園區。微軟在該地區之外經營一個雲端區域。亞馬遜計劃在梅薩建立兩個園區。這一批新的數據中心,都將進入新的生成式AI運算數據中心時代,和舊的數據中心開始產生區隔。
黃仁勳在演講中提到的「算力」通貨膨脹,意即原來的數據中心、機房耗在多能源、電費,若在舊的晶片架構下,新增的計算能力非常有限,因此需要升級進入全新的GPU時代,尤其OpenAi的ChatGPT已經證明了可行。
全球前15大數據中心,將成為輝達和AMD必爭之地
全球原有的前15大數據中心,包括第15名由Switch買下倒閉的安隆集團在內華達州的數據中心SuperNAP、Quincy Data center、phoenix one data center、歐洲的CLW1 Newport Campus、NAP OF AMERICAS、the UTAH data center、瑞典的Bahnhof data center、印度Yotto NM1、Lakeside Technology Center、Apple's Mesa Data Center(專門供應蘋果雲端服務)、Iron Mountain Underground、Tahoe Reno colocation、印度和IBM合作打造的tulip data center、中國電信在蒙古的機房以及香港潤澤國際在北京附近的機房。
現有數據中心一年的電費驚人,例如排名第10的the UTAH data center(美國國安局為其客戶之一)一年耗電65MW,要繳4千萬美元的電費(12.9億台幣),1天用掉1700萬加侖的水,傳統的算力,當面臨新的數據中心挑戰,未來幾年內勢必升級算力,其中,排名第8大的Yotta Data已率先採用輝達最新的GPU,也因此,除了位於中國的數據中心被禁售,傳統大型數據中心將是輝達、AMD未來幾年的必爭之地。