奇安信發(fā)布Q-GPT安全機(jī)器人和大模型衛(wèi)士 齊向東：大模型廣泛應(yīng)用必然帶來(lái)不可忽視的安全隱患

每經(jīng)記者 可楊    每經(jīng)編輯 董興生    

8月25日，奇安信集團(tuán)宣布推出Q-GPT（奇安信大模型）安全機(jī)器人和大模型衛(wèi)士。

奇安信方面介紹，Q-GPT安全機(jī)器人是基于奇安信大模型的虛擬安全專家，可以全天候工作。一臺(tái)機(jī)器人等于60多位安全專家，可產(chǎn)生約2000萬(wàn)元的運(yùn)營(yíng)效益。大模型衛(wèi)士則集安全風(fēng)險(xiǎn)發(fā)現(xiàn)、大模型訪問(wèn)控制、數(shù)據(jù)泄露管控、違法違規(guī)行為溯源、大模型應(yīng)用分析等于一體。

圖片來(lái)源：企業(yè)供圖

關(guān)于推出上述產(chǎn)品的原因，奇安信董事長(zhǎng)齊向東表示，大模型的廣泛應(yīng)用在提高生產(chǎn)力的同時(shí)，也必然帶來(lái)不可忽視的安全隱患。

安全機(jī)器人未來(lái)是否會(huì)替代網(wǎng)絡(luò)安全專家？奇安信（SH688561，股價(jià)48.11元，市值330億元）副總裁、人工智能研究院院長(zhǎng)張勇在接受包括《每日經(jīng)濟(jì)新聞》記者在內(nèi)的媒體采訪時(shí)表示，安全機(jī)器人不會(huì)代替安全專家，相反，將解放這批專家，更多地投入到其他更深、更高級(jí)的工作中。

大模型時(shí)代，解決數(shù)據(jù)泄露問(wèn)題迫在眉睫

大模型熱潮持續(xù)，Microsoft365 Copilot、WPS AI和釘釘?shù)绒k公產(chǎn)品與大模型加速結(jié)合，同時(shí)，用友網(wǎng)絡(luò)（600588.SH，股價(jià)16.89元，市值579.85億元）和金蝶云等企業(yè)服務(wù)公司也先后推出針對(duì)企業(yè)服務(wù)的企業(yè)級(jí)大模型。

大模型在企業(yè)端的應(yīng)用正在不斷加速，與此同時(shí)，背后的安全問(wèn)題也引發(fā)行業(yè)關(guān)注。

“ChatGPT等大模型，會(huì)泄露企業(yè)的商業(yè)秘密，已經(jīng)引起廣泛關(guān)注。據(jù)統(tǒng)計(jì)，在使用ChatGPT的員工中大多數(shù)會(huì)泄露數(shù)據(jù)，其中11%的數(shù)據(jù)為企業(yè)敏感數(shù)據(jù)。解決大模型數(shù)據(jù)泄露難題，迫在眉捷。”奇安信集團(tuán)副總裁張卓表示。

張卓認(rèn)為，這些數(shù)據(jù)泄露，長(zhǎng)此以往，可能會(huì)導(dǎo)致企業(yè)的競(jìng)爭(zhēng)力逐步喪失。舉例而言，一家擁有核心知識(shí)產(chǎn)權(quán)與專利的某龍頭企業(yè)A，當(dāng)員工大量使用大模型來(lái)處理日常工作時(shí)，可能會(huì)導(dǎo)致公司的一些敏感技術(shù)信息在此過(guò)程中不斷提交給大模型；而大模型經(jīng)過(guò)不停地迭代、演化、訓(xùn)練，掌握了這些行業(yè)的一些先進(jìn)經(jīng)驗(yàn)和知識(shí)，而后幫助中下游某些研發(fā)能力欠缺的企業(yè)，通過(guò)靈活使用大模型，快速掌握先進(jìn)生產(chǎn)力，逐步提升公司能力，進(jìn)而導(dǎo)致龍頭企業(yè)A的核心競(jìng)爭(zhēng)力喪失。

對(duì)于大模型在企業(yè)中的應(yīng)用，張卓建議，企業(yè)應(yīng)當(dāng)關(guān)注大模型使用帶來(lái)的安全風(fēng)險(xiǎn)；管控使用GPT類產(chǎn)品的人員、應(yīng)用、數(shù)據(jù)；監(jiān)控并記錄GPT類應(yīng)用訪問(wèn)行為，保護(hù)關(guān)鍵業(yè)務(wù)數(shù)據(jù)不泄露；對(duì)于使用GPT類工具的內(nèi)部人員，做好相應(yīng)權(quán)限限制；限制在GPT類工具上使用復(fù)制粘貼等行為。

齊向東也表示，大模型的廣泛應(yīng)用在提高生產(chǎn)力的同時(shí)，也必然帶來(lái)不可忽視的安全隱患。這可能造成企業(yè)對(duì)大模型陷入想用而不敢用的兩難境地。這也是奇安信發(fā)布大模型衛(wèi)士的原因，即希望通過(guò)大模型衛(wèi)士幫助企業(yè)規(guī)范員工，正確使用大模型產(chǎn)品協(xié)助工作。

齊向東 圖片來(lái)源：企業(yè)供圖

網(wǎng)絡(luò)安全專家稀缺，大模型補(bǔ)位

齊向東介紹，在網(wǎng)絡(luò)安全方面，政企機(jī)構(gòu)長(zhǎng)期面臨三大困擾：告警疲勞、專家稀缺以及效率瓶頸。

首先，攻擊者手法層出不窮，攻擊頻次日益密集，企業(yè)每天都會(huì)產(chǎn)生海量告警，有限的安全專家無(wú)暇應(yīng)對(duì)，通常只有1%的告警被研判，99%的告警被無(wú)奈放棄，形成告警疲勞。

其次，安全本就是一個(gè)對(duì)知識(shí)、技術(shù)和實(shí)戰(zhàn)經(jīng)驗(yàn)要求很高的行業(yè)，高水平人才難以快速培養(yǎng)，企業(yè)面臨著專家少的難題。據(jù)教育部統(tǒng)計(jì)，到2027年，我國(guó)網(wǎng)絡(luò)安全人員缺口將達(dá)到327萬(wàn)。

第三，人本身受制于精力、情緒、狀態(tài)等多方面因素，不可能全天候工作，形成效率瓶頸，也就是“加人不劃算、不加人干不完”。

奇安信方面稱，Q-GPT安全機(jī)器人的推出，是為了解決網(wǎng)絡(luò)安全行業(yè)面臨的專家稀少、告警疲勞以及效率低的痛點(diǎn)。

未來(lái)，安全機(jī)器人是否會(huì)替代網(wǎng)絡(luò)安全專家？張勇表示，安全機(jī)器人會(huì)代替一部分安全專家的工作，但是不會(huì)替代安全專家。“大模型是個(gè)新技術(shù)，新技術(shù)肯定會(huì)造成一些原有崗位被代替，與此同時(shí)，它一定會(huì)創(chuàng)造更多、更新、更高價(jià)值的崗位。”他進(jìn)一步表示，安全機(jī)器人可以代替一部分安全專家的常規(guī)告警分析、研判等工作，但同時(shí)，也是解放這批專家，讓他們能夠更多地投入到其他更深入、更高級(jí)的工作中，研判更高級(jí)的知識(shí)。另外，大模型也需要安全專家將自己的知識(shí)歸納、總結(jié)、提升，把它變成數(shù)據(jù)，進(jìn)而對(duì)大模型進(jìn)行訓(xùn)練。

值得一提的是，當(dāng)前，大模型熱潮逐步轉(zhuǎn)向?qū)I(yè)大模型的競(jìng)爭(zhēng)，頭部企業(yè)對(duì)行業(yè)大模型的布局也在加速。

8月初，三六零集團(tuán)也發(fā)布安全行業(yè)大模型“360安全大模型”，以提升網(wǎng)絡(luò)安全服務(wù)效果。彼時(shí)，三六零集團(tuán)創(chuàng)始人周鴻祎稱，該大模型“目前安全攻防判斷準(zhǔn)確率已超96%”。