生成式人工智能飛速發(fā)展，安全問題需重點關(guān)注

每經(jīng)記者 唐俊    每經(jīng)編輯 劉艷美

“隨著技術(shù)不斷更新迭代，大模型的應(yīng)用門檻持續(xù)降低，無處不在的數(shù)據(jù)和算法在推動發(fā)展的同時，也帶來了新的挑戰(zhàn)，比如個人數(shù)據(jù)泄露、虛假新聞、誤用濫用等安全風(fēng)險。”8月29日，在2024年中國網(wǎng)絡(luò)文明大會人工智能分論壇上，中央網(wǎng)信辦、國家網(wǎng)信辦總工程師孫蔚敏說。

生成式人工智能正在快速發(fā)展，與此同時，相關(guān)的安全問題也越來越突出。

圖片來源：每經(jīng)記者 唐俊 攝

生成式人工智能快速發(fā)展

2022年底，ChatGPT橫空出世，出色的對話和理解能力，點燃了人們對于生成式人工智能的熱情。生成式人工智能背后，是具有大量參數(shù)的人工智能模型，也就是常說的大模型。

2023年，中國科技圈開啟“百模大戰(zhàn)”，包括百度、阿里、騰訊、華為、字節(jié)跳動等大型科技公司以及月之暗面等創(chuàng)業(yè)企業(yè)，紛紛推出自己的中文大模型。

2024年初，OpenAI推出的Sora再次經(jīng)驚艷公眾，Sora可以根據(jù)文字描述生成極其真實的視頻畫面。之后，快手旗下的可靈大模型在海外走紅，可靈同樣可以生成真實的視頻畫面。

短短兩年時間，中國大模型數(shù)量快速上升，并且已經(jīng)影響科技圈之外的各個行業(yè)。截至目前，我國完成備案并上線、能為公眾提供服務(wù)的生成式人工智能服務(wù)大模型已達190多個，注冊用戶數(shù)超過6億。

在大會舉辦地成都，人工智能產(chǎn)業(yè)也在快速發(fā)展?！睹咳战?jīng)濟新聞》記者從現(xiàn)場了解到，成都已有5個大模型通過國家網(wǎng)信辦備案，全國首個人形機器人任務(wù)生成式模型在成都誕生。2024年上半年，成都人工智能核心產(chǎn)業(yè)規(guī)模562億元、同比增長32.6%。為支持人工智能產(chǎn)業(yè)發(fā)展，最近，成都還舉辦金融賦能人工智能企業(yè)產(chǎn)融對接會，會上發(fā)布688戶人工智能企業(yè)首批預(yù)授信白名單，預(yù)授信總額度105.5億元，成都銀行等金融機構(gòu)為人工智能發(fā)展提供支持。

與此同時，孫蔚敏表示，目前中央網(wǎng)信辦正通過共建共享機制激勵企業(yè)貢獻部分語料，集成首批1.2G中文語料和600G中文開源互聯(lián)網(wǎng)語料，并公開發(fā)布。

不過中國科學(xué)院科技基礎(chǔ)能力局副局長曾大軍在論壇上談到，目前各行各業(yè)對于大模型的認識存在兩個誤區(qū)：一是“神話”大模型，不過現(xiàn)在大家已經(jīng)慢慢認識到大模型也有缺陷；二是大模型只是一個工具，但實際上需要與業(yè)務(wù)深度結(jié)合。

曾大軍認為，大模型不只是一個產(chǎn)品，而是一套技術(shù)體系，對大模型應(yīng)該有更立體的理解。

針對大模型發(fā)展，孫蔚敏表示，要充分發(fā)揮我國超大規(guī)模市場優(yōu)勢，探索開發(fā)全新的應(yīng)用場景和賦能模式，促進生成式人工智能技術(shù)在工業(yè)、農(nóng)業(yè)、教育、醫(yī)療、衛(wèi)生等各個領(lǐng)域落地應(yīng)用，合力推動人工智能在傳統(tǒng)行業(yè)領(lǐng)域應(yīng)用取得更大的突破。

安全問題如何保證？

“大模型和人工智能技術(shù)，對整個科技發(fā)展和社會進步帶來深遠的影響，無疑是一場巨大的革命，但同時它也帶來一些對于安全和治理的思考。”中央廣播電視總臺技術(shù)局數(shù)據(jù)應(yīng)用部主任梅劍平在論壇上說。

梅劍平認為，對于一個不知道未來會發(fā)展到什么程度、達到什么能力的新技術(shù)，思考其潛在的風(fēng)險是非常重要的。

而對于大模型的安全問題，四川大學(xué)網(wǎng)絡(luò)空間安全學(xué)院院長、教授陳興蜀，已經(jīng)有了許多思考。陳興蜀對《每日經(jīng)濟新聞》記者表示，她所關(guān)注的是兩方面的安全，一是人工智能自身的安全，另外是如何利用人工智能來防護網(wǎng)絡(luò)安全。

陳興蜀提到，大模型數(shù)萬億的參數(shù)、深層次的網(wǎng)絡(luò)結(jié)構(gòu)，導(dǎo)致模型的可解釋性非常差。“就是說我們輸入進去以后，不知道它到底會輸出什么，模型可解釋性實際上目前是業(yè)界的難點。”

于是有人利用這個特點對模型展開攻擊。陳興蜀舉例，自動駕駛車輛上的模型可以識別道路信息，當出現(xiàn)停止路標時車輛會停下來，但如果給該模型加入擾動，人工智能可能作出相反的判斷，從而產(chǎn)生危險的后果。如果類似的事情出現(xiàn)在重點行業(yè)里，會產(chǎn)生非常大的影響。

大模型訓(xùn)練會使用億級的數(shù)據(jù)量，如何保證個人隱私也是公眾關(guān)注的焦點。陳興蜀對《每日經(jīng)濟新聞》記者表示，由于大模型的解釋性差，并不知道中間到底存了什么信息。她認為，給模型輸入數(shù)據(jù)的時候規(guī)避掉涉及個人隱私的信息，是解決途徑之一。

另外，陳興蜀團隊也在研究，如何通過人工智能來提升網(wǎng)絡(luò)上的自動化攻防對抗能力。她舉例，四川大學(xué)一個wap設(shè)備每天產(chǎn)生的安全告警日志達到百萬級，由于數(shù)據(jù)量非常大，導(dǎo)致這些日志無人查看。但人工智能出現(xiàn)后，可以利用AI去閱讀日志以提升網(wǎng)絡(luò)安全。

2023年7月，國家網(wǎng)信辦會同相關(guān)部門發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，在全球范圍內(nèi)率先開展立法，對數(shù)據(jù)使用、算法設(shè)計、價值導(dǎo)向提出要求，為行業(yè)健康發(fā)展提供支撐。

孫蔚敏在論壇上表示，未來將優(yōu)化大模型備案的流程，加強生成、合成內(nèi)容的標識管理，在分級分類、安全測試、應(yīng)急響應(yīng)等方面豐富完善安全標準體系，引導(dǎo)推動大模型提升安全能力，確保人工智能始終朝著安全可靠的方向發(fā)展。