騰訊云聯(lián)合信通院發(fā)布《行業(yè)大模型標(biāo)準(zhǔn)體系及能力架構(gòu)研究報(bào)告》

2023騰訊全球數(shù)字生態(tài)大會(huì)「行業(yè)大模型及智能應(yīng)用專場(chǎng)」于9月7日舉行，會(huì)上，騰訊云與中國信通院（以下簡(jiǎn)稱“信通院”）共同發(fā)布了《行業(yè)大模型標(biāo)準(zhǔn)體系及能力架構(gòu)研究報(bào)告》，參考了騰訊云在行業(yè)大模型產(chǎn)業(yè)應(yīng)用領(lǐng)域的實(shí)踐和經(jīng)驗(yàn)，為客戶構(gòu)建行業(yè)大模型提供了標(biāo)準(zhǔn)化流程、綜合評(píng)估方法，以便更好地幫助行業(yè)伙伴構(gòu)建專屬大模型。

生態(tài)大會(huì)上，騰訊還首次對(duì)外公布了騰訊混元大模型進(jìn)展，并宣布從技術(shù)底座、平臺(tái)能力、智能應(yīng)用三大維度升級(jí)MaaS能力。基于自研騰訊混元大模型，同時(shí)支持業(yè)內(nèi)20余款主流開源模型，助力客戶構(gòu)建專屬大模型及智能應(yīng)用，加速模型產(chǎn)業(yè)落地，推進(jìn)“效能革命”。

隨著人工智能模型規(guī)模逐漸增大，性能顯著提升，各行各業(yè)迎來了新的發(fā)展機(jī)遇。相比于通但不精的通用大模型，更專注、更專業(yè)的行業(yè)大模型在特定產(chǎn)業(yè)場(chǎng)景具有廣泛的應(yīng)用和商業(yè)創(chuàng)新價(jià)值。但行業(yè)大模型落地到真實(shí)場(chǎng)景里，客戶仍面臨著投入成本高、計(jì)算資源少、數(shù)據(jù)質(zhì)量差、專業(yè)人才稀缺等問題?；谛袠I(yè)用戶的痛點(diǎn)，騰訊云與通信院開展了行業(yè)大模型標(biāo)準(zhǔn)體系及能力架構(gòu)的研究，幫助企業(yè)解決行業(yè)大模型應(yīng)用問題，提升企業(yè)使用大模型進(jìn)行數(shù)字化轉(zhuǎn)型的效率。

建立標(biāo)準(zhǔn)化流程，指導(dǎo)企業(yè)建設(shè)大模型能力

行業(yè)大模型的構(gòu)建，對(duì)行業(yè)數(shù)據(jù)、計(jì)算資源和部署運(yùn)維等提出較高的要求，這對(duì)于很多企業(yè)來說有一定的門檻，而且當(dāng)前缺乏面向行業(yè)大模型的構(gòu)建方法和流程的指導(dǎo)方案，企業(yè)不清楚如何著手構(gòu)建行業(yè)大模型?；诖藛栴}，騰訊云與信通院針對(duì)垂直領(lǐng)域的行業(yè)大模型，建立標(biāo)準(zhǔn)化流程，指導(dǎo)企業(yè)建設(shè)大模型能力。

構(gòu)建行業(yè)大模型首先需要對(duì)業(yè)務(wù)需求和資源進(jìn)行評(píng)估，具體包括業(yè)務(wù)需求評(píng)估、算力層評(píng)估、算法層評(píng)估、數(shù)據(jù)層評(píng)估和工程層評(píng)估等。

「業(yè)務(wù)需求評(píng)估」需要結(jié)合實(shí)際場(chǎng)景和需求，對(duì)業(yè)務(wù)數(shù)據(jù)、業(yè)務(wù)指標(biāo)、業(yè)務(wù)服務(wù)方式進(jìn)行明確，通過算力層、算法層、數(shù)據(jù)層和工程層的評(píng)估，確定所選用的基礎(chǔ)模型和精調(diào)算法，根據(jù)數(shù)據(jù)安全隱私、數(shù)據(jù)質(zhì)量等問題，確定平臺(tái)適配性和訓(xùn)練流。

行業(yè)數(shù)據(jù)與大模型的共建包括明確場(chǎng)景目標(biāo)、模型選擇、訓(xùn)練環(huán)境搭建、數(shù)據(jù)處理等環(huán)節(jié)。行業(yè)數(shù)據(jù)與大模型的共建，首先需要明確行業(yè)大模型實(shí)際應(yīng)用場(chǎng)景及模型評(píng)價(jià)目標(biāo)，在模型庫中選擇合適的基礎(chǔ)大模型，通過硬件環(huán)境的搭建和軟件平臺(tái)的構(gòu)建，將數(shù)據(jù)加工為模型訓(xùn)練所需數(shù)據(jù)，最后進(jìn)行特定場(chǎng)景行業(yè)大模型的訓(xùn)練共建，包括數(shù)據(jù)上傳訓(xùn)練平臺(tái)、準(zhǔn)備訓(xùn)練代碼和環(huán)境、發(fā)起模型訓(xùn)練任務(wù)、存儲(chǔ)訓(xùn)練后的模型、測(cè)評(píng)訓(xùn)練后的模型等關(guān)鍵環(huán)節(jié)。

行業(yè)大模型的精調(diào)與優(yōu)化部署，其中包括模型精調(diào)、模型評(píng)估、模型重訓(xùn)優(yōu)化、模型聯(lián)調(diào)部署、模型應(yīng)用運(yùn)營等階段。行業(yè)大模型精調(diào)與優(yōu)化部署，具體根據(jù)業(yè)務(wù)需求和資源的評(píng)估情況以及對(duì)行業(yè)數(shù)據(jù)與大模型的共建，利用前期準(zhǔn)備的特定行業(yè)特定場(chǎng)景數(shù)據(jù)進(jìn)行大模型的訓(xùn)練精調(diào)，并且對(duì)其生成的模型進(jìn)行評(píng)估與多輪迭代訓(xùn)練優(yōu)化。隨后對(duì)模型進(jìn)行推理服務(wù)部署、服務(wù)配置、應(yīng)用服務(wù)聯(lián)調(diào)，并對(duì)已上線的模型服務(wù)提供監(jiān)控、管理、運(yùn)營維護(hù)等能力。

完善標(biāo)準(zhǔn)體系，全面建立能力評(píng)估指標(biāo)

隨著大模型的快速興起，業(yè)界也意識(shí)到，創(chuàng)新技術(shù)的發(fā)展離不開標(biāo)準(zhǔn)化的推動(dòng)，大模型標(biāo)準(zhǔn)體系的建設(shè)和完善，對(duì)于推動(dòng)大模型應(yīng)用落地，加速大模型與行業(yè)應(yīng)用融合，促進(jìn)產(chǎn)業(yè)向標(biāo)準(zhǔn)化、合規(guī)化、規(guī)?；较虬l(fā)展，具有重要意義。

信通院作為國家信息通信領(lǐng)域的重要研究機(jī)構(gòu)，一直關(guān)注AI技術(shù)的發(fā)展和應(yīng)用，特別是大模型技術(shù)的創(chuàng)新和推廣。聚焦基礎(chǔ)大模型在實(shí)際需求中的“建、用、管”等關(guān)鍵環(huán)節(jié)，信通院從多個(gè)方向牽頭構(gòu)建和完善大模型的標(biāo)準(zhǔn)體系，騰訊全程并深度參與整個(gè)標(biāo)準(zhǔn)工作，聚焦工程化應(yīng)用，圍繞模型開發(fā)、模型能力、模型運(yùn)營、模型應(yīng)用、模型可信五方面形成標(biāo)準(zhǔn)指標(biāo)體系，全面評(píng)估大模型的綜合水平。

金融、文旅、政務(wù)、傳媒、電信、教育、汽車等行業(yè)大模型標(biāo)準(zhǔn)和評(píng)測(cè)指標(biāo)，對(duì)于推動(dòng)行業(yè)大模型的高質(zhì)量發(fā)展和提升用戶體驗(yàn)，提升數(shù)智化水平起著關(guān)鍵作用。一方面，行業(yè)大模型標(biāo)準(zhǔn)可用于指導(dǎo)第三方測(cè)評(píng)機(jī)構(gòu)對(duì)特定行業(yè)大模型能力的評(píng)估、驗(yàn)收等工作，另外一方面，評(píng)測(cè)指標(biāo)則可考察模型在各應(yīng)用場(chǎng)景的覆蓋情況，以及在數(shù)據(jù)處理、數(shù)據(jù)合規(guī)、數(shù)據(jù)隱私和安全性等方面的表現(xiàn)。

“我們希望行業(yè)大模型標(biāo)準(zhǔn)體系及能力架構(gòu)研究，能夠幫助行業(yè)伙伴解決如何將大模型能力“應(yīng)用”到自身的行業(yè)和場(chǎng)景里的問題，可以更有效地解決成本、數(shù)據(jù)、安全，合規(guī)等大模型實(shí)際落地難題。通過建立標(biāo)準(zhǔn)體系，為行業(yè)大模型的建設(shè)和應(yīng)用提供指引和支持。”騰訊法務(wù)副總裁江波提到。

在20多個(gè)行業(yè)落地大模型的同時(shí)，騰訊云一直都在積極參與、推動(dòng)行業(yè)大模型標(biāo)準(zhǔn)建設(shè)。早在2020年，騰訊就被選舉為全國信標(biāo)委人工智能分委會(huì)委員兼副秘書長(zhǎng)，國家在推進(jìn)包括人工智能新基建的過程中，騰訊作為核心成員，承擔(dān)了很多標(biāo)準(zhǔn)制定工作及技術(shù)引領(lǐng)作用。

前不久，騰訊云就與中國信通院共同啟動(dòng)了行業(yè)大模型標(biāo)準(zhǔn)聯(lián)合推進(jìn)計(jì)劃，并聯(lián)合信通院牽頭開展國內(nèi)首個(gè)金融行業(yè)大模型標(biāo)準(zhǔn)，為金融行業(yè)智能化的高質(zhì)量規(guī)范化發(fā)展提供重要支撐。

中國信息通信研究院云計(jì)算與大數(shù)據(jù)研究所所長(zhǎng)何寶宏表示，隨著人工智能技術(shù)的快速發(fā)展，行業(yè)大模型已成為推動(dòng)產(chǎn)業(yè)升級(jí)的重要驅(qū)動(dòng)力。為了規(guī)范和引領(lǐng)行業(yè)大模型的健康、可持續(xù)發(fā)展，有必要構(gòu)建行業(yè)大模型的標(biāo)準(zhǔn)體系，以科學(xué)評(píng)價(jià)大模型技術(shù)能力和應(yīng)用效果。愿本次研究成果，助力大模型產(chǎn)業(yè)發(fā)展和生態(tài)建設(shè)。