AI晶片龍頭輝達(Nvidia)憑藉著高速運算的圖形處理器GPU,獨霸AI運算市場,去年12月輝達繪圖處理器H100曾在eBay上售價超過40,000美元天價,使得谷歌、亞馬遜、微軟、臉書等使用數據中心大廠紛紛找尋替代品,甚至投資、培養「下一家輝達」,華爾街也點名包括等家AI公司,認為他們有挑戰輝達的能力。
今年1月,那斯達克上市公司、全球頂尖的半導體製造商Analog Devices宣布將部署SambaNova套件以率先開啟其於全球的AI轉型進程,這家AI晶片公司SambaNova大有來頭,2018年就獲得GOOGLE入股投資、軟體銀行緊追在後也入股,後來連快速吸引貝萊德、英特爾、中國華登國際、新加坡淡馬錫控股都入股。
在CPU和GPU之外找替代品,這家公司被矽谷支持
SambaNova是少數被華爾街認為足以挑戰輝達的AI晶片公司,創辦人兼首席執行長的羅德里戈·梁(Rodrigo Liang)曾誇下豪語「傳統的CPU和GPU架構已達到其計算的極限,我們已經找到新的方法。」
2023年SambaNova更展示其實力,新處理器可以幫助公司在短短幾天內建立並運行自己的大型語言模型(LLM),值得一提的是,該公司的SN40L 處理器也是請台積電代工,還使用5奈米高階製程。
第二家,去年7月,晶片新創廠商Cerebras Systems 宣布與G42(阿拉伯聯合大公國科技控股集團)聯手打造九台人工智慧(AI)超級電腦中的第一台「Condor Galaxy 1(CG-1)」,由Cerebras Systems提供新的AI運算方式、目標大幅縮短AI模型訓練時間。
OpenAI執行長或微軟相中投資,能大減訓練模型時間
Cerebras目前估值為41億美元,2020年到2320年自,OpenAI執行長奧特曼(Sam Altman)、Benchmark創投等管道募得7.4億美元。Cerebras由 Gary Lauterbach 和 Andrew Feldman 聯合創立,兩人曾創立一家超高密度伺服器公司Seammicro,在 2012 年被 AMD 以高達 3.57 億美元的價格收購。
第三家是d-Matrix,微軟投資OpenAI之時,還投資了另一家位於矽谷的公司d-Matrix,三星和海力士也是大股東,該公司正在開發一種專用晶片和軟件用於機器學習模型,根據《優分析》報導,d-Matrix設計的晶片經過優化,可幫助運行像 ChatGPT 這樣的生成型 AI 應用。該公司使用數位"內存記憶體運算"設計晶片(in-memory computing),使 AI 電腦程式碼運行起來更有效率,微軟已承諾在發布時評估使用這款晶片。
第四家是2022年才創立的Etched AI,由由兩位哈佛輟學生 Gavin Uberti 和 Chris Zhu(華裔)創立,一家為生成式AI(Generative AI)模型,設計更專業、功耗更低的晶片的新創公司,該公司計劃生產一款名為 Sohu 的 AI 推理加速晶片,執行大型語言模型LLM為 輝達的H100晶片 的 10 倍,模型在單位時間內能處理的數據量是輝達H100 的 140倍,預計今年第三季產出,獲得前Ebay 執行長Devin Wenig的融資。
捨GPU而用LPU,這公司每秒生成300個字
第五家Graphcore 成立於 2016 年,總部位於英國布里斯托爾。公司主要產品的智能處理單元(LPU),且聚焦於大模型推理。其LPU 搭配開源模型 Meta Llama 2 70B 可以實現每秒生成 300 個單詞,在 7 分鐘內就能生成與莎士比亞的《哈姆雷特》相同數量的單詞,這比普通人的打字速度快 75 倍。
第6家,獲得谷歌風險創投資金的Lightmatter,是一家光子計算公司,總部位於波士頓,並在矽谷設有分部,由Nicholas Harris等人創立,Lightmatter通過結合電子學、光子學和新型演算法來構建下一代AI計算平臺。Lightmatter指出,光子計算平台據稱能夠節省能源,減少資料的碳足跡和運營成本,為AI的快速發展提供源源不斷的動力。
第7家MatX,由谷歌5,400億參數的自然語言模型PaL大模型的開發者之一的Reiner Pope和谷歌TPU研發技術人員之一Mike Gunter聯合創立的MatX,公司正在開發一個名為AGI的AI計算平台,號稱速度比輝達的GPU架構更快。
英國的AI獨角獸生不逢時,從當紅一時變求售
第8家Tenstorrent比較特別,主要出資都是韓國大廠,現代和三星,由三位前 AMD 員工創辦,總部位於加拿大多倫多,公司的目標很簡單,開發出更便宜的GPU晶片,目前已經開發出基於 12奈米、專攻機器學習的 Grayskull 和 Wormhole 兩款晶片,公司的目標是把價格壓到類似性能 GPU 的5分之1到 10分之1,公司新的晶片Grendel採用3奈米製程,但不知道是三星代工還是台積電代工。
第9家Sima.ai,出身自半導體商賽靈思(Xilinx)的Krishna Rangasayee創立,大股東是戴爾(DELL)電腦的創投,2019年推出首款AI晶片組MLSoC,主要面向電腦視覺領域的推理計算,2023年6月,SiMa.ai表示第一代邊緣AI晶片已開始量產,正與製造、汽車、航空等行業的50多家客戶合作。
第10家是最近又被人提起、英國的AI獨角獸Graphcore,它曾經被視為「Nvidia的挑戰者」,初創時獲得德國BMW、BOSCH兩大集團投資,還有微軟、戴爾等明星股東,也是台積電5奈米製程的客戶,前途大好的Graphcore不幸遇上美中貿易大戰,原本中國占其業務25%,在美國禁賣政策下,公司受到嚴重打擊,目前求售當中,恰好軟銀的執行長孫正義宣稱要創設一家AI晶片公司,也許他買下Graphcore是最快的方式。