每日經(jīng)濟(jì)新聞 2025-02-25 11:05:44
每經(jīng)編輯 程鵬
2月25日,DeepSeek官宣,今日開源代碼庫(kù)為DeepEP,它是首個(gè)用于 MoE 模型訓(xùn)練和推理的開源EP通信庫(kù)。
特點(diǎn)有:高效的全員溝通;節(jié)點(diǎn)內(nèi)和節(jié)點(diǎn)間均支持 NVLink和RDMA;用于訓(xùn)練和推理預(yù)填充的高吞吐量?jī)?nèi)核;用于推理解碼的低延遲內(nèi)核;原生 FP8 調(diào)度支持;靈活的GPU資源控制,實(shí)現(xiàn)計(jì)算-通信重疊。
編輯|程鵬 蓋源源
校對(duì)|段煉
封面圖片來(lái)源:視覺(jué)中國(guó)(資料圖 圖文無(wú)關(guān))
來(lái)源:每日經(jīng)濟(jì)新聞app
如需轉(zhuǎn)載請(qǐng)與《每日經(jīng)濟(jì)新聞》報(bào)社聯(lián)系。
未經(jīng)《每日經(jīng)濟(jì)新聞》報(bào)社授權(quán),嚴(yán)禁轉(zhuǎn)載或鏡像,違者必究。
讀者熱線:4008890008
特別提醒:如果我們使用了您的圖片,請(qǐng)作者與本站聯(lián)系索取稿酬。如您不希望作品出現(xiàn)在本站,可聯(lián)系我們要求撤下您的作品。
歡迎關(guān)注每日經(jīng)濟(jì)新聞APP