每日經(jīng)濟新聞 2024-07-23 22:54:21
◎ 10萬塊液冷H100 GPU!馬斯克在孟菲斯的“超級算力工廠”啟動運作了。
每經(jīng)記者 文巧 實習(xí)記者 岳楚鵬 每經(jīng)編輯 蘭素英
只花了19天,“硅谷狂人”馬斯克就將“超級算力工廠”建成了!
當(dāng)?shù)貢r間7月22日,馬斯克在X平臺上發(fā)文稱贊了xAI、X、英偉達,以及其他支持團隊的工作,并表示,在當(dāng)?shù)貢r間凌晨4:20,這些團隊合力打造的孟菲斯超級集群開始投入訓(xùn)練。
圖片來源:X平臺
該集群由10萬塊液冷H100芯片組成,是全球最強的超算集群。在同日接受著名心理學(xué)教授喬丹·彼得森的專訪時,馬斯克透露,從硬件安裝到投入訓(xùn)練,總共只花了19天。
同時,他還在采訪中介紹,Grok 2的訓(xùn)練已經(jīng)完成,將于下個月發(fā)布。目前,Grok 3正在孟菲斯的超算中心中進行訓(xùn)練,預(yù)計年底將會發(fā)布,屆時將是市面上最強大的模型。
不過在訪談中,馬斯克也坦言,自己對AI安全性的憂慮日益加劇。他認為,AI必須基于“親人類”的原則,但其他公司更想要創(chuàng)造的是比任何人類都聰明得多的數(shù)字超級智能,而這并不是一個好事。
當(dāng)下,xAI旗下的Grok正與谷歌Gemini及OpenAI的ChatGPT等產(chǎn)品展開激烈競爭。喬丹·彼得森在采訪一開始就拋出一個尖銳的問題,詢問馬斯克如何比較Grok和ChatGPT現(xiàn)在的表現(xiàn)。
馬斯克評價稱,目前搭載在X平臺上的基礎(chǔ)Grok模型并不是很強,比ChatGPT要弱上一個量級。他表示:“X是一家相當(dāng)新的公司,它才成立一年多一點,所以我們有很多工作要做,才能趕上那些已經(jīng)成立了5年,10年或是20年的公司。”
他隨后補充道:“我們正在快速追趕,我認為xAI的改進速度比其他任何公司都快,我們建造了一個大型訓(xùn)練中心,從硬件安裝到投入訓(xùn)練只花了19天。”
《每日經(jīng)濟新聞》記者注意到,孟菲斯“超算工廠”擁有10萬塊液冷H100 GPU,在單個RDMA結(jié)構(gòu)(即遠程直接數(shù)據(jù)存取結(jié)構(gòu))上運行,是全球最大的超算集群。按照成本估算,每塊H100的價格約為3萬~4萬美元。這也就意味著,馬斯克的“超算工廠”價值將達30億~40億美元(約合人民幣218億~290億元)。從算力上來看,OpenAl GPT-4的訓(xùn)練用了25000塊A100 GPU,約為“超算工廠”的1/20。
當(dāng)被問及xAI的下一代模型時,馬斯克稱,Grok 2最近完成了訓(xùn)練,工程師正在修復(fù)漏洞,下個月就能正式發(fā)布。
談及其性能,馬斯克透露道:“它(Grok2)應(yīng)該與ChatGPT最新的模型(GPT-4)相當(dāng)。我們正在孟菲斯數(shù)據(jù)中心訓(xùn)練Grok 3,大概需要三四個月的時間來進行調(diào)整和修復(fù)錯誤。我們希望能在12月之前發(fā)布Grok 3,到那時Grok 3應(yīng)該是世界上最強大的AI。”
圖片來源:喬丹·彼得森訪談截圖
在訪談中,馬斯克也坦言,自己對AI安全性的憂慮日益加劇。他認為,所有的AI公司想要創(chuàng)造的是比任何人類都聰明得多的數(shù)字超級智能,而這并不是一個好事。
在馬斯克看來,AI必須基于“親人類”的原則。他告訴彼得森,在與谷歌的前首席執(zhí)行官拉里·佩奇討論相關(guān)話題后,他越來越擔(dān)心AI的安全問題了。“他(佩奇)稱我為物種歧視者(speciesist)。我確實是個物種歧視者,我支持人類而不是機器。拉里的觀點則是,我們以后都會將我們的思想上傳到電腦上,每個人都會變成機器。”他說道。
馬斯克進一步表示:“不支持人類是一件瘋狂的事情。我的意思是,如果人類不加入人類陣營,那誰會加入呢?這是壓死駱駝的最后一根稻草。我想,我們真的需要一些新的AI公司,這樣才能與谷歌抗衡。”而這也是Grok的使命所在,和帶有“覺醒病毒”的ChatGPT和Gemini展開競爭。
實際上,正是有關(guān)AI安全的討論促使馬斯克和山姆·阿爾特曼于2015年共同創(chuàng)立了OpenAI。不過,2018年馬斯克和后者理念不和,離開OpenAI,最終創(chuàng)立了自己的AI聊天機器人Grok,并多次批評OpenAI背離初衷。
他認為,OpenAI應(yīng)該是作為一個開源的非營利性的組織。OpenAI中的“Open”是指“開源”,而OpenAI現(xiàn)在真正想要實現(xiàn)的是利潤最大化,并非嘗試去解決一些真正的問題。
馬斯克透露,“我仍在考慮提起法律訴訟,至少可以讓法庭向我解釋,我所資助的組織為何能實現(xiàn)截然相反的目標(biāo)。”
如需轉(zhuǎn)載請與《每日經(jīng)濟新聞》報社聯(lián)系。
未經(jīng)《每日經(jīng)濟新聞》報社授權(quán),嚴禁轉(zhuǎn)載或鏡像,違者必究。
讀者熱線:4008890008
特別提醒:如果我們使用了您的圖片,請作者與本站聯(lián)系索取稿酬。如您不希望作品出現(xiàn)在本站,可聯(lián)系我們要求撤下您的作品。
歡迎關(guān)注每日經(jīng)濟新聞APP