美超微(Super Micro Computer)創辦人梁見後2日在他的X帳號貼出和特斯拉創辦人伊隆.馬斯克(Elon Musk)在伺服器機房見面場景,並「感謝馬斯克將液冷技術引領到大型 AI 資料中心,這可能會為地球保留 200 億棵樹」。
馬斯克是梁見後大客戶,供應水冷式伺服器
梁見後今年6月在台北COMPUTEX的演講上和輝達CEO黃仁勳大談「綠色運算」,意即採用直接液冷(DLC)散熱的伺服器。
他之前貼文指出,「5 月開始向頂級 AI 客戶批量供應直接液冷(DLC)散熱。為了在一年內將 DLC 採用率從 <1% 提高到 30% 以上」、「我們邀請 IT 產業擁抱綠色運算,推動人工智慧革命!省錢,拯救我們的星球!」
從2日發布的和馬斯克見面的照片可知,梁見後之前提到的頂級 AI 客戶即是伊隆.馬斯克,他正為旗下的AI新創公司 xAI 正在打造的超級電腦。
聊天機器人Grok,將靠戴爾、美超微的伺服器跑出來
馬斯克在6月19日表示,戴爾(Dell Technologies)和美超微(Super Micro Computer)為 xAI 的超級電腦組裝伺服器機櫃。戴爾執行長戴爾(Michael Dell)也在X上的另一篇貼文中表示,該公司正與AI巨擘輝達建立一座「AI工廠」,將用來支援下一代的 xAI 聊天機器人Grok。
Grok相當於OpenAI的ChatGpt,屬於大型語言模型,ChatGpt較新的版本已經可以用1700億個參數打造模型,相信Grok的規模也不相上下,因此,需要龐大的超級電腦來跑訓練,餵資料、校正、產生語言模型。
站上美國職棒巨人隊投手丘,梁見後首次開球
今年稍早,馬斯克曾說過,訓練Grok 2模型需要約2萬組的輝達H100繪圖處理器(GPU),還表示Grok 3與未來的模型將需要10萬組輝達H100晶片。相信戴爾和美超微提供的伺服器機櫃,就是裝滿輝達h100晶片的機櫃,需要有良好的散熱能力。
梁見後已經在台北的演講上介紹美超微採用的水冷式散熱技術,從他最新的X貼文似乎暗示著,馬斯克對伺服器水冷式散熱提供了有效的解決方案。按照馬斯克的規劃,他希望在2025年秋季前讓超級電腦運作,應該是指開始建構大型語言模型。
因為生成式AI的大熱門,讓黃仁勳和梁見後在美國知名度大增,繼黃仁勳在美國職棒奧克蘭運動家隊「舊金山台灣日」開球之後,梁見後於6月28日也在美國職棒巨人隊球場開球,他穿著背號93號球衣,這也是他這輩子首次受邀上大聯盟的投手丘開球。