每日經(jīng)濟(jì)新聞 2024-03-20 09:17:29
每經(jīng)編輯 杜宇
據(jù)媒體3月19日?qǐng)?bào)道,英偉達(dá)CEO黃仁勛稱英偉達(dá)最新的AI芯片Blackwell售價(jià)將在3萬(wàn)美元(約合人民幣22萬(wàn)元)至4萬(wàn)美元之間。他估計(jì),英偉達(dá)在研發(fā)成本上花費(fèi)了大約100億美元(約合人民幣720億元)。
圖片來(lái)源:CNBC報(bào)道截圖
該價(jià)格表明,該芯片很可能是訓(xùn)練和部署ChatGPT等人工智能軟件的熱門芯片,其定價(jià)范圍將與其前身H100(即Hopper)相似。
黃仁勛訴CNBC的Kristina Partsinevilos,成本不僅與芯片有關(guān),還與設(shè)計(jì)數(shù)據(jù)中心和集成到其他公司的數(shù)據(jù)中心有關(guān)。
北京時(shí)間3月19日凌晨4點(diǎn),全球市值第三大公司英偉達(dá)在美國(guó)加州圣何塞舉辦GTC大會(huì)正式開幕,經(jīng)典皮衣造型的黃仁勛在會(huì)上正式公布了堪稱“核武級(jí)”的NVIDIA Blackwell架構(gòu)及其首款芯片B200,這款雙芯片設(shè)計(jì),擁有2080億個(gè)晶體管。
該芯片預(yù)計(jì)將在今年晚些時(shí)候發(fā)貨。
Blackwell平臺(tái)能夠在萬(wàn)億參數(shù)級(jí)的大型語(yǔ)言模型(LLM)上構(gòu)建和運(yùn)行實(shí)時(shí)生成式AI,而成本和能耗比前身低25倍。
圖片來(lái)源:視頻截圖
據(jù)悉,英偉達(dá)稱,Blackwell擁有六項(xiàng)革命性的技術(shù),可以支持多達(dá)10萬(wàn)億參數(shù)的模型進(jìn)行AI訓(xùn)練和實(shí)時(shí)LLM推理:
全球最強(qiáng)大的芯片:Blackwell架構(gòu)GPU由2080億個(gè)晶體管組成,采用量身定制的臺(tái)積電4納米工藝制造,兩個(gè)reticle極限GPU裸片將10 TB/秒的芯片到芯片鏈路連接成單個(gè)統(tǒng)一的GPU。
第二代Transformer引擎:結(jié)合了Blackwell Tensor Core技術(shù)和TensorRT-LLM和NeMo Megatron框架中的英偉達(dá)先進(jìn)動(dòng)態(tài)范圍管理算法,Blackwell將通過(guò)新的4位浮點(diǎn)AI支持雙倍的計(jì)算和模型大小推理能力。
第五代NVLink:為提高數(shù)萬(wàn)億參數(shù)和混合專家AI模型的性能,最新一代英偉達(dá)NVLink為每個(gè)GPU提供了突破性的1.8TB/s雙向吞吐量,確保最復(fù)雜LLM之間多達(dá)576個(gè)GPU之間的無(wú)縫高速通信。
RAS引擎:Blackwell支持的GPU包含一個(gè)專用引擎,實(shí)現(xiàn)可靠性、可用性和服務(wù)性。此外,Blackwell架構(gòu)還增加了芯片級(jí)功能,利用基于AI的預(yù)防性維護(hù)進(jìn)行診斷和預(yù)測(cè)可靠性問(wèn)題。這可以最大限度地延長(zhǎng)系統(tǒng)正常運(yùn)行時(shí)間,并提高大部署規(guī)模AI的彈性,使其能連續(xù)運(yùn)行數(shù)周甚至數(shù)月,并降低運(yùn)營(yíng)成本。
安全人工智能:先進(jìn)的機(jī)密計(jì)算功能可在不影響性能的情況下保護(hù)AI模型和客戶數(shù)據(jù),并支持新的本機(jī)接口加密協(xié)議,這對(duì)于醫(yī)療保健和金融服務(wù)等隱私敏感行業(yè)至關(guān)重要。
解壓縮引擎:專用解壓縮引擎支持最新格式,加快數(shù)據(jù)庫(kù)查詢,提供數(shù)據(jù)分析和數(shù)據(jù)科學(xué)的最高性能。未來(lái)幾年,在企業(yè)每年花費(fèi)數(shù)百億美元的數(shù)據(jù)處理方面,將越來(lái)越多地由GPU加速。
圖片來(lái)源:視頻截圖
Blackwell GPU體積龐大,將兩個(gè)單獨(dú)制造的晶粒組合成一個(gè)由臺(tái)積電制造的芯片。它還將作為一款名為GB200 NVLink 2的整個(gè)服務(wù)器提供,該服務(wù)器結(jié)合了72個(gè)Blackwell GPU和其他旨在訓(xùn)練AI模型的英偉達(dá)部件。
亞馬遜、谷歌、微軟和甲骨文將通過(guò)云服務(wù)提供對(duì)GB200的訪問(wèn)。GB200將兩個(gè)B200 Blackwell GPU與一個(gè)基于Arm的Grace CPU配對(duì)。英偉達(dá)表示,亞馬遜網(wǎng)絡(luò)服務(wù)將構(gòu)建一個(gè)包含20000個(gè)GB200芯片的服務(wù)器集群。
在人工智能(AI)領(lǐng)域開發(fā)者盛會(huì)——英偉達(dá)2024 GTC 期間,英偉達(dá)創(chuàng)始人兼CEO黃仁勛自信地放出豪言,英偉達(dá)會(huì)在一年可“掘金”幾千億美元的數(shù)據(jù)中心市場(chǎng)搶到更多的“蛋糕”。
黃仁勛告訴與會(huì)者,因?yàn)橛ミ_(dá)生產(chǎn)的芯片和軟件種類繁多,所以公司處于有利地位,在全球數(shù)據(jù)中心設(shè)備的支出中,會(huì)有一大部分都來(lái)自英偉達(dá)的產(chǎn)品。
黃仁勛預(yù)計(jì),每年全球?qū)?shù)據(jù)中心設(shè)備投入的費(fèi)用將共計(jì)2500億美元,英偉達(dá)產(chǎn)品在其中占據(jù)的份額將超過(guò)其他芯片生產(chǎn)商。英偉達(dá)正致力于開發(fā)軟件,以便各行各業(yè)采用和使用AI技術(shù)。英偉達(dá)提供AI模型和其他軟件,然后根據(jù)客戶的算力和運(yùn)行的芯片數(shù)量向客戶收費(fèi)。
截至當(dāng)?shù)貢r(shí)間3月19日收盤,英偉達(dá)報(bào)893.98美元,漲幅1.07%,市值2.2萬(wàn)億美元。
每日經(jīng)濟(jì)新聞綜合公開資料
免責(zé)聲明:本文內(nèi)容與數(shù)據(jù)僅供參考,不構(gòu)成投資建議,使用前請(qǐng)核實(shí)。據(jù)此操作,風(fēng)險(xiǎn)自擔(dān)。
如需轉(zhuǎn)載請(qǐng)與《每日經(jīng)濟(jì)新聞》報(bào)社聯(lián)系。
未經(jīng)《每日經(jīng)濟(jì)新聞》報(bào)社授權(quán),嚴(yán)禁轉(zhuǎn)載或鏡像,違者必究。
讀者熱線:4008890008
特別提醒:如果我們使用了您的圖片,請(qǐng)作者與本站聯(lián)系索取稿酬。如您不希望作品出現(xiàn)在本站,可聯(lián)系我們要求撤下您的作品。
歡迎關(guān)注每日經(jīng)濟(jì)新聞APP