生成式人工智能飛速發(fā)展，安全問(wèn)題需重點(diǎn)關(guān)注

每經(jīng)記者 唐俊    每經(jīng)編輯 劉艷美

“隨著技術(shù)不斷更新迭代，大模型的應(yīng)用門(mén)檻持續(xù)降低，無(wú)處不在的數(shù)據(jù)和算法在推動(dòng)發(fā)展的同時(shí)，也帶來(lái)了新的挑戰(zhàn)，比如個(gè)人數(shù)據(jù)泄露、虛假新聞、誤用濫用等安全風(fēng)險(xiǎn)。”8月29日，在2024年中國(guó)網(wǎng)絡(luò)文明大會(huì)人工智能分論壇上，中央網(wǎng)信辦、國(guó)家網(wǎng)信辦總工程師孫蔚敏說(shuō)。

生成式人工智能正在快速發(fā)展，與此同時(shí)，相關(guān)的安全問(wèn)題也越來(lái)越突出。

圖片來(lái)源：每經(jīng)記者 唐俊 攝

生成式人工智能快速發(fā)展

2022年底，ChatGPT橫空出世，出色的對(duì)話和理解能力，點(diǎn)燃了人們對(duì)于生成式人工智能的熱情。生成式人工智能背后，是具有大量參數(shù)的人工智能模型，也就是常說(shuō)的大模型。

2023年，中國(guó)科技圈開(kāi)啟“百模大戰(zhàn)”，包括百度、阿里、騰訊、華為、字節(jié)跳動(dòng)等大型科技公司以及月之暗面等創(chuàng)業(yè)企業(yè)，紛紛推出自己的中文大模型。

2024年初，OpenAI推出的Sora再次經(jīng)驚艷公眾，Sora可以根據(jù)文字描述生成極其真實(shí)的視頻畫(huà)面。之后，快手旗下的可靈大模型在海外走紅，可靈同樣可以生成真實(shí)的視頻畫(huà)面。

短短兩年時(shí)間，中國(guó)大模型數(shù)量快速上升，并且已經(jīng)影響科技圈之外的各個(gè)行業(yè)。截至目前，我國(guó)完成備案并上線、能為公眾提供服務(wù)的生成式人工智能服務(wù)大模型已達(dá)190多個(gè)，注冊(cè)用戶數(shù)超過(guò)6億。

在大會(huì)舉辦地成都，人工智能產(chǎn)業(yè)也在快速發(fā)展?！睹咳战?jīng)濟(jì)新聞》記者從現(xiàn)場(chǎng)了解到，成都已有5個(gè)大模型通過(guò)國(guó)家網(wǎng)信辦備案，全國(guó)首個(gè)人形機(jī)器人任務(wù)生成式模型在成都誕生。2024年上半年，成都人工智能核心產(chǎn)業(yè)規(guī)模562億元、同比增長(zhǎng)32.6%。為支持人工智能產(chǎn)業(yè)發(fā)展，最近，成都還舉辦金融賦能人工智能企業(yè)產(chǎn)融對(duì)接會(huì)，會(huì)上發(fā)布688戶人工智能企業(yè)首批預(yù)授信白名單，預(yù)授信總額度105.5億元，成都銀行等金融機(jī)構(gòu)為人工智能發(fā)展提供支持。

與此同時(shí)，孫蔚敏表示，目前中央網(wǎng)信辦正通過(guò)共建共享機(jī)制激勵(lì)企業(yè)貢獻(xiàn)部分語(yǔ)料，集成首批1.2G中文語(yǔ)料和600G中文開(kāi)源互聯(lián)網(wǎng)語(yǔ)料，并公開(kāi)發(fā)布。

不過(guò)中國(guó)科學(xué)院科技基礎(chǔ)能力局副局長(zhǎng)曾大軍在論壇上談到，目前各行各業(yè)對(duì)于大模型的認(rèn)識(shí)存在兩個(gè)誤區(qū)：一是“神話”大模型，不過(guò)現(xiàn)在大家已經(jīng)慢慢認(rèn)識(shí)到大模型也有缺陷；二是大模型只是一個(gè)工具，但實(shí)際上需要與業(yè)務(wù)深度結(jié)合。

曾大軍認(rèn)為，大模型不只是一個(gè)產(chǎn)品，而是一套技術(shù)體系，對(duì)大模型應(yīng)該有更立體的理解。

針對(duì)大模型發(fā)展，孫蔚敏表示，要充分發(fā)揮我國(guó)超大規(guī)模市場(chǎng)優(yōu)勢(shì)，探索開(kāi)發(fā)全新的應(yīng)用場(chǎng)景和賦能模式，促進(jìn)生成式人工智能技術(shù)在工業(yè)、農(nóng)業(yè)、教育、醫(yī)療、衛(wèi)生等各個(gè)領(lǐng)域落地應(yīng)用，合力推動(dòng)人工智能在傳統(tǒng)行業(yè)領(lǐng)域應(yīng)用取得更大的突破。

安全問(wèn)題如何保證？

“大模型和人工智能技術(shù)，對(duì)整個(gè)科技發(fā)展和社會(huì)進(jìn)步帶來(lái)深遠(yuǎn)的影響，無(wú)疑是一場(chǎng)巨大的革命，但同時(shí)它也帶來(lái)一些對(duì)于安全和治理的思考。”中央廣播電視總臺(tái)技術(shù)局?jǐn)?shù)據(jù)應(yīng)用部主任梅劍平在論壇上說(shuō)。

梅劍平認(rèn)為，對(duì)于一個(gè)不知道未來(lái)會(huì)發(fā)展到什么程度、達(dá)到什么能力的新技術(shù)，思考其潛在的風(fēng)險(xiǎn)是非常重要的。

而對(duì)于大模型的安全問(wèn)題，四川大學(xué)網(wǎng)絡(luò)空間安全學(xué)院院長(zhǎng)、教授陳興蜀，已經(jīng)有了許多思考。陳興蜀對(duì)《每日經(jīng)濟(jì)新聞》記者表示，她所關(guān)注的是兩方面的安全，一是人工智能自身的安全，另外是如何利用人工智能來(lái)防護(hù)網(wǎng)絡(luò)安全。

陳興蜀提到，大模型數(shù)萬(wàn)億的參數(shù)、深層次的網(wǎng)絡(luò)結(jié)構(gòu)，導(dǎo)致模型的可解釋性非常差。“就是說(shuō)我們輸入進(jìn)去以后，不知道它到底會(huì)輸出什么，模型可解釋性實(shí)際上目前是業(yè)界的難點(diǎn)。”

于是有人利用這個(gè)特點(diǎn)對(duì)模型展開(kāi)攻擊。陳興蜀舉例，自動(dòng)駕駛車輛上的模型可以識(shí)別道路信息，當(dāng)出現(xiàn)停止路標(biāo)時(shí)車輛會(huì)停下來(lái)，但如果給該模型加入擾動(dòng)，人工智能可能作出相反的判斷，從而產(chǎn)生危險(xiǎn)的后果。如果類似的事情出現(xiàn)在重點(diǎn)行業(yè)里，會(huì)產(chǎn)生非常大的影響。

大模型訓(xùn)練會(huì)使用億級(jí)的數(shù)據(jù)量，如何保證個(gè)人隱私也是公眾關(guān)注的焦點(diǎn)。陳興蜀對(duì)《每日經(jīng)濟(jì)新聞》記者表示，由于大模型的解釋性差，并不知道中間到底存了什么信息。她認(rèn)為，給模型輸入數(shù)據(jù)的時(shí)候規(guī)避掉涉及個(gè)人隱私的信息，是解決途徑之一。

另外，陳興蜀團(tuán)隊(duì)也在研究，如何通過(guò)人工智能來(lái)提升網(wǎng)絡(luò)上的自動(dòng)化攻防對(duì)抗能力。她舉例，四川大學(xué)一個(gè)wap設(shè)備每天產(chǎn)生的安全告警日志達(dá)到百萬(wàn)級(jí)，由于數(shù)據(jù)量非常大，導(dǎo)致這些日志無(wú)人查看。但人工智能出現(xiàn)后，可以利用AI去閱讀日志以提升網(wǎng)絡(luò)安全。

2023年7月，國(guó)家網(wǎng)信辦會(huì)同相關(guān)部門(mén)發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，在全球范圍內(nèi)率先開(kāi)展立法，對(duì)數(shù)據(jù)使用、算法設(shè)計(jì)、價(jià)值導(dǎo)向提出要求，為行業(yè)健康發(fā)展提供支撐。

孫蔚敏在論壇上表示，未來(lái)將優(yōu)化大模型備案的流程，加強(qiáng)生成、合成內(nèi)容的標(biāo)識(shí)管理，在分級(jí)分類、安全測(cè)試、應(yīng)急響應(yīng)等方面豐富完善安全標(biāo)準(zhǔn)體系，引導(dǎo)推動(dòng)大模型提升安全能力，確保人工智能始終朝著安全可靠的方向發(fā)展。