每日經(jīng)濟(jì)新聞
要聞

每經(jīng)網(wǎng)首頁(yè) > 要聞 > 正文

英偉達(dá)又賺了!斥資超180億元,馬斯克用了10萬(wàn)塊H100芯片訓(xùn)練最新大模型

每日經(jīng)濟(jì)新聞 2024-07-03 16:53:20

每經(jīng)編輯 黃勝    每經(jīng)實(shí)習(xí)編輯 宋欣悅    

7月1日,特斯拉CEO埃隆·馬斯克(Elon Musk)正在為其即將推出的AI聊天機(jī)器人Grok的新版本造勢(shì)。馬斯克在社交媒體上宣布,其人工智能初創(chuàng)公司xAI的大語(yǔ)言模型Grok-2將于8月正式推出,將帶來(lái)更先進(jìn)的AI功能。馬斯克透露,xAI的Grok-3用了10萬(wàn)塊英偉達(dá)H100芯片進(jìn)行訓(xùn)練,預(yù)計(jì)將于年底發(fā)布,相信它會(huì)“非常特別”。

圖片來(lái)源:X

H100是英偉達(dá)開(kāi)發(fā)的圖形處理單元,是由英偉達(dá)公司制造的一種超級(jí)強(qiáng)大的計(jì)算芯片,是當(dāng)前世界上最先進(jìn)的計(jì)算芯片之一,專(zhuān)門(mén)用來(lái)處理復(fù)雜的人工智能(AI)和機(jī)器學(xué)習(xí)(ML)任務(wù)。你可以把它想象成計(jì)算機(jī)的大腦,但它比普通電腦的處理器要強(qiáng)大得多,特別適合那些需要大量計(jì)算和數(shù)據(jù)處理的工作,隨著科技公司競(jìng)相開(kāi)發(fā)更智能的AI產(chǎn)品,這些芯片成了硅谷的熱門(mén)商品。

據(jù)英偉達(dá)官網(wǎng)介紹,相較于上一代產(chǎn)品,H100可使大型語(yǔ)言模型的速度提升30倍。H100 GPU配備第四代Tensor Core和Transformer引擎,可使大型語(yǔ)言模型的訓(xùn)練速度提升高達(dá)9倍,推理速度提升30倍。

圖片來(lái)源:英偉達(dá)官網(wǎng)

英偉達(dá)H100的價(jià)格目前已經(jīng)飆升至2.5萬(wàn)到3萬(wàn)美元(約合18.1萬(wàn)到21.8萬(wàn)元人民幣)。即使按照最低售價(jià)2.5萬(wàn)美元來(lái)計(jì)算,馬斯克這10萬(wàn)塊H100的成本也高達(dá)約25億美元(約合181億元人民幣)。

據(jù)英偉達(dá)最新財(cái)報(bào),截至今年4月28日的2025財(cái)年第一財(cái)季,實(shí)現(xiàn)營(yíng)收260億美元(約合1880億元人民幣),較第四季度增長(zhǎng)18%,較去年同期增長(zhǎng)262%。

圖片來(lái)源:英偉達(dá)官網(wǎng)

去年7月,馬斯克創(chuàng)立了人工智能公司xAI,專(zhuān)注于人工智能業(yè)務(wù),旨在利用AI探索宇宙的本質(zhì)。xAI的投資者包括安德森·霍洛維茨(Andreessen Horowitz)、紅杉資本和富達(dá)管理與研究公司。

去年11月,xAI推出首款A(yù)I大模型聊天機(jī)器人Grok,直接對(duì)標(biāo)ChatGPT。據(jù)介紹,Grok通過(guò)X平臺(tái)實(shí)時(shí)了解世界,甚至是其他AI工具盡可能回避的尖銳問(wèn)題。xAI團(tuán)隊(duì)強(qiáng)調(diào),Grok是一款有點(diǎn)聰明、又有點(diǎn)叛逆的聊天機(jī)器人,“建議那些討厭幽默的人千萬(wàn)不要使用”。

圖片來(lái)源:X

xAI團(tuán)隊(duì)表示,Grok的定位是向科幻小說(shuō)《銀河便車(chē)指南》(The Hitchhiker's Guide to the Galaxy)看齊。書(shū)中有一部名為“深思”(Deep Thought)的超級(jí)計(jì)算機(jī),它會(huì)回答世上所有的問(wèn)題,其主要任務(wù)是找出“生命、宇宙及萬(wàn)事萬(wàn)物的終極答案”。這正與xAI的成立目標(biāo):“了解宇宙的真正本質(zhì)”,幾乎完全一致。

自今年3月以來(lái),xAI又陸續(xù)發(fā)布了具有處理128k上下文能力的Grok-1.5以及具有圖像理解能力的Grok-1.5V,并允許X(原Twitter)上的高級(jí)用戶(hù)訪問(wèn)聊天機(jī)器人。

Grok-1.5可以處理128k token的上下文窗口,容量增加到之前上下文長(zhǎng)度的16倍,并在處理編程和數(shù)學(xué)相關(guān)任務(wù)方面表現(xiàn)出色。該模型可以處理更長(zhǎng)、更復(fù)雜的提示詞,同時(shí)在上下文窗口擴(kuò)展時(shí)仍然能保持其指令跟蹤能力。

Grok-1.5V則是馬斯克的第一代多模態(tài)模型,于2024年4月發(fā)布。除了文本功能,Grok-1.5V還能夠處理文檔、圖標(biāo)、屏幕截圖和照片之類(lèi)的各種視覺(jué)信息,不僅可以將手繪圖表轉(zhuǎn)換成Python代碼,還能看一眼食品標(biāo)簽就計(jì)算出卡路里,甚至還可以看懂梗圖。

今年5月,馬斯克表示,xAI是一家新公司,因此Grok仍有大量準(zhǔn)備工作要做,才能與谷歌Deepmind和OpenAI相抗衡。

據(jù)外媒報(bào)道,此前,馬斯克就向其投資者透露,他創(chuàng)辦的AI公司xAI計(jì)劃建造一個(gè)“超級(jí)算力工廠”(Gigafactory of Compute),為下一代AI聊天機(jī)器人Grok提供算力支持。這個(gè)超級(jí)計(jì)算機(jī)計(jì)劃連接10萬(wàn)塊英偉達(dá)H100 GPU。

馬斯克當(dāng)時(shí)表示,他希望在2025年秋季之前讓超級(jí)計(jì)算機(jī)運(yùn)行起來(lái),并補(bǔ)充說(shuō)xAI可以與甲骨文合作開(kāi)發(fā)這臺(tái)大型計(jì)算機(jī)。xAI是甲骨文最大的H100芯片服務(wù)器的租賃客戶(hù),已經(jīng)使用了超過(guò)1.5萬(wàn)塊H100芯片。

xAI官方博客表示:“對(duì)于構(gòu)建能夠理解世界的AGI(通用人工智能)來(lái)說(shuō),提高我們的多模態(tài)理解和生成能力是重要步驟。未來(lái)幾個(gè)月,我們預(yù)計(jì)在圖像、音頻和視頻等多模態(tài)中對(duì)這兩種功能進(jìn)行重大改進(jìn)。”

每日經(jīng)濟(jì)新聞綜合自公開(kāi)消息

如需轉(zhuǎn)載請(qǐng)與《每日經(jīng)濟(jì)新聞》報(bào)社聯(lián)系。
未經(jīng)《每日經(jīng)濟(jì)新聞》報(bào)社授權(quán),嚴(yán)禁轉(zhuǎn)載或鏡像,違者必究。

讀者熱線(xiàn):4008890008

特別提醒:如果我們使用了您的圖片,請(qǐng)作者與本站聯(lián)系索取稿酬。如您不希望作品出現(xiàn)在本站,可聯(lián)系我們要求撤下您的作品。

Ai 英偉達(dá) 馬斯克

歡迎關(guān)注每日經(jīng)濟(jì)新聞APP

每經(jīng)經(jīng)濟(jì)新聞官方APP

0

0

免费va国产高清不卡大片,笑看风云电视剧,亚洲黄色性爱在线观看,成人 在线 免费