每日經(jīng)濟(jì)新聞
要聞

每經(jīng)網(wǎng)首頁(yè) > 要聞 > 正文

每經(jīng)專(zhuān)訪中國(guó)科學(xué)技術(shù)大學(xué)張衛(wèi)明教授:做好科普,讓大眾了解深度偽造技術(shù)的存在,預(yù)防傳統(tǒng)電詐的手段就能有效預(yù)防AI詐騙

每日經(jīng)濟(jì)新聞 2023-06-16 16:47:53

張衛(wèi)明:目前,國(guó)內(nèi)外有很多團(tuán)隊(duì)在研究深度合成內(nèi)容檢測(cè),但這些檢測(cè)方法主要是被動(dòng)檢測(cè),仍存在局限。如果能在部署模型階段,植入一些標(biāo)識(shí),去做主動(dòng)檢測(cè),這個(gè)可能更重要。比如,能不能在生成內(nèi)容里嵌入水印,同時(shí)不影響內(nèi)容的質(zhì)量?目前關(guān)于人工智能生成內(nèi)容水印的研究,已經(jīng)變成了新的熱點(diǎn)。

每經(jīng)記者 宋欽章    每經(jīng)實(shí)習(xí)記者 張宏    每經(jīng)編輯 廖丹    

 以前都說(shuō)“有圖有真相”“有視頻有真相”……但自AI換臉工具出現(xiàn)后,這就要打一個(gè)大大的問(wèn)號(hào)了。

前不久,一男子因AI換臉,10分鐘被騙430萬(wàn)元。類(lèi)似這樣的新聞引起了人們對(duì)AI換臉技術(shù)的警覺(jué)。

據(jù)《每日經(jīng)濟(jì)新聞》記者了解,市面上已經(jīng)出現(xiàn)了開(kāi)源的AI換臉軟件支持實(shí)時(shí)換臉,可以應(yīng)用于線上直播,甚至視頻通話場(chǎng)景。

中國(guó)科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副院長(zhǎng)張衛(wèi)明教授團(tuán)隊(duì)曾參與大名鼎鼎的DeepFaceLab(一種利用深度學(xué)習(xí)進(jìn)行視頻換臉的工具)的開(kāi)發(fā)。資料顯示,2020年,他帶領(lǐng)團(tuán)隊(duì)參加由Facebook、MIT等組織的全球最大的“深度偽造檢測(cè)挑戰(zhàn)賽(DFDC)”,獲得亞軍。

近日,張衛(wèi)明教授接受了《每日經(jīng)濟(jì)新聞》(下稱(chēng)“NBD”)的專(zhuān)訪。談及開(kāi)源換臉技術(shù),他認(rèn)為相關(guān)技術(shù)的科普非常重要,可以有效提升民眾的防騙素養(yǎng),“某個(gè)先進(jìn)技術(shù)如果只有很少的人知道和使用,大眾缺少認(rèn)知才更容易被欺騙。”

中國(guó)科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副院長(zhǎng)張衛(wèi)明 圖片來(lái)源:受訪者供圖

深度合成內(nèi)容的檢測(cè)要從被動(dòng)轉(zhuǎn)向主動(dòng)

NBD:您的多個(gè)在研項(xiàng)目與深度防偽檢測(cè)有關(guān),可以介紹一下相關(guān)人工智能安全領(lǐng)域的最新研究進(jìn)展嗎?

張衛(wèi)明:深度偽造檢測(cè)相關(guān)研究進(jìn)程,其實(shí)跟人工智能本身的技術(shù)進(jìn)展有很大關(guān)聯(lián)。近兩年,以GPT為代表的生成式人工智能迎來(lái)大爆發(fā)?,F(xiàn)在的深度合成,可以看成是生成式人工智能的一個(gè)分支。與諸多技術(shù)一樣,生成式人工智能也是一把雙刃劍,它可能被惡意使用。大家目前最擔(dān)心的事情之一,是生成式人工智能帶來(lái)的大量偽造信息。

以前我們主要做深度偽造檢測(cè),現(xiàn)在我們關(guān)心的問(wèn)題更寬泛一點(diǎn),包括了各種人工智能生成內(nèi)容的檢測(cè)。現(xiàn)在的GPT越來(lái)越接近人類(lèi),可以被用來(lái)寫(xiě)各種各樣的文案,包括釣魚(yú)郵件、虛假新聞等,同時(shí)還沖擊到了教育領(lǐng)域,比如現(xiàn)在學(xué)生的作業(yè),你無(wú)法斷定是不是機(jī)器寫(xiě)的。所以一個(gè)很熱門(mén)的問(wèn)題是,怎樣檢測(cè)這些文本是機(jī)器寫(xiě)的還是人寫(xiě)的。

目前,國(guó)內(nèi)外有很多團(tuán)隊(duì)在研究深度合成內(nèi)容檢測(cè),但這些檢測(cè)方法主要是被動(dòng)檢測(cè),仍存在局限。如果能在部署模型階段,植入一些標(biāo)識(shí),去做主動(dòng)檢測(cè),這個(gè)可能更重要。比如,能不能在生成內(nèi)容里嵌入水印,同時(shí)不影響內(nèi)容的質(zhì)量?目前關(guān)于人工智能生成內(nèi)容水印的研究,已經(jīng)變成了新的熱點(diǎn)。

其實(shí)我們國(guó)家已經(jīng)針對(duì)深度合成應(yīng)用密集出臺(tái)了相關(guān)規(guī)定,要求深度合成服務(wù)提供者應(yīng)當(dāng)對(duì)生成內(nèi)容進(jìn)行顯著標(biāo)記。

給文本做標(biāo)識(shí)是比較難的,但是這個(gè)問(wèn)題確實(shí)很重要。我們注意到,OpenAI等公司也在做自己的水印技術(shù)用于機(jī)器文本鑒別。類(lèi)似這樣的研究,正在變成新的熱點(diǎn)。

NBD:一方面,研發(fā)者可以添加水印,另一方面,一些懂技術(shù)的人,也可以去掉水印。由此可見(jiàn),深度偽造與其檢測(cè),就像一個(gè)對(duì)抗的循環(huán),您怎么看待這一現(xiàn)象呢?

張衛(wèi)明:確實(shí)存在這樣的情況,所有的安全都是一攻一防,安全技術(shù)都有它的邊界。所有的攻防,包括深度合成以及檢測(cè)的攻防,都是在動(dòng)態(tài)博弈中發(fā)展,并不會(huì)說(shuō)最終PK出一個(gè)結(jié)局來(lái)。

因?yàn)榘踩@個(gè)領(lǐng)域,有一個(gè)共識(shí),就是沒(méi)有絕對(duì)的安全,安全永遠(yuǎn)是相對(duì)的。你做各種各樣的安全防護(hù),理論上來(lái)講,它都有可能被攻擊。一旦有新的攻擊出現(xiàn),那就要求我們?nèi)ハ胄碌难a(bǔ)救措施。安全理念的提升,也是在這種對(duì)抗過(guò)程中動(dòng)態(tài)地發(fā)展。

前面提到國(guó)家出臺(tái)相關(guān)規(guī)定明確要求去打顯著標(biāo)識(shí),其實(shí)那個(gè)是指可見(jiàn)的水印。可見(jiàn)水印有一個(gè)很大的問(wèn)題,容易被人刻意擦除。相對(duì)來(lái)說(shuō),不可見(jiàn)水印有一定的優(yōu)越性,一個(gè)方面是它不可見(jiàn),別人不知道這里面有水??;另一方面,即使知道有水印,也不知道水印在什么位置。

目前做水印技術(shù),會(huì)把信息藏在非常魯棒的特征空間上,來(lái)抵抗各種各樣的擦除。當(dāng)然它是有邊界的,比如說(shuō)給視頻擦水印的人,他如果不計(jì)損失的話,可以把視頻質(zhì)量變得很低,確實(shí)可能把水印擦掉。所以這里面其實(shí)是一個(gè)博弈。

預(yù)防AI詐騙關(guān)鍵在于知道深度偽造技術(shù)的存在

NBD:我們了解到,您的團(tuán)隊(duì)開(kāi)發(fā)了一種開(kāi)源的AI換臉工具,旨在科普這種技術(shù),提升大家對(duì)深度合成的認(rèn)知水平。但有人認(rèn)為,一旦這種深度偽造技術(shù)普及之后,民眾可能對(duì)通話安全有所擔(dān)憂(yōu)。對(duì)此,您怎么看?

張衛(wèi)明:我是這么理解的,大家目前最擔(dān)心的,其實(shí)是用生成式人工智能(比如深度合成)去實(shí)施各種各樣的詐騙。這個(gè)確實(shí)影響很大,但恰恰是因?yàn)檫@樣,更應(yīng)該去做這樣的科普、開(kāi)源,讓老百姓真的體驗(yàn)到現(xiàn)在的技術(shù)發(fā)展到什么程度了。

以前我們說(shuō)有圖有真相、有視頻有真相?,F(xiàn)在要有一個(gè)意識(shí),就是有圖可能也不是真相,有實(shí)時(shí)的視頻,可能也不是真相。

對(duì)普通百姓來(lái)說(shuō),關(guān)鍵是要知道這種深度偽造技術(shù)的存在。因?yàn)樽龇雷o(hù)其實(shí)是萬(wàn)變不離其宗的,不見(jiàn)得需要很高級(jí)的技術(shù),防傳統(tǒng)電信詐騙的手段就很有效。比如一個(gè)視頻通話里面,對(duì)方跟你聊到了金錢(qián)的事情,提到了轉(zhuǎn)賬,你可能就要提高警覺(jué)了,這可能是一個(gè)假視頻,需要多方核實(shí)一下。

所以,不知道有這個(gè)技術(shù)的存在才是可怕的。目前已經(jīng)有一些愛(ài)好者制作了很多樣例,你會(huì)看到各種社交平臺(tái)出現(xiàn)了大量這種技術(shù)的創(chuàng)造性應(yīng)用。大眾看到后就會(huì)理解,現(xiàn)在的技術(shù)可以做到什么程度。這在某種意義上是教育了更多的人,讓他們有這個(gè)認(rèn)知。我們無(wú)法阻止技術(shù)的進(jìn)步,讓民眾了解AI技術(shù)的發(fā)展現(xiàn)狀,才能更好地預(yù)防其潛在危害。

NBD:您認(rèn)為生成式人工智能未來(lái)最適合的應(yīng)用場(chǎng)景有哪些?

張衛(wèi)明:未來(lái)可能有很多正向的且比較有趣的應(yīng)用,最典型的是在娛樂(lè)領(lǐng)域,比如游戲、影視劇等等。

其實(shí)我在課堂上,曾經(jīng)讓一年級(jí)本科生去暢想未來(lái)這個(gè)技術(shù)可能會(huì)怎么應(yīng)用。與社會(huì)層面更多關(guān)注這一技術(shù)的風(fēng)險(xiǎn)所不同的是,年輕學(xué)生們認(rèn)為它的正面想象空間更大。

以影視娛樂(lè)為例,他們暢想可以去換臉體驗(yàn)演大片?;蛘咴诮巧缪菪陀螒蛑?,通過(guò)實(shí)時(shí)換臉、VR等技術(shù),能以自己的聲音、自己的臉進(jìn)入到游戲里去。

還有就是心理治療。如果能用這些技術(shù),重現(xiàn)一個(gè)人或一個(gè)場(chǎng)景的話,可能對(duì)心理治療會(huì)很有幫助。再有就是在線教育。通過(guò)換臉等技術(shù),讓自己特別喜歡的老師,給自己講各種課,讓自己“聽(tīng)得進(jìn)去”更“學(xué)得進(jìn)去”。

還有一個(gè)應(yīng)用是新時(shí)代的紅色文化宣傳、科學(xué)家精神宣傳。我們最近做了一個(gè)嘗試,發(fā)布了數(shù)字人錢(qián)學(xué)森,逼真度很高。錢(qián)老數(shù)字人發(fā)布以后,好評(píng)如潮,很多媒體都報(bào)道并轉(zhuǎn)載了相關(guān)視頻。這也讓我意識(shí)到,做科學(xué)家精神宣傳、紅色文化傳承,用這種方式可能更適合現(xiàn)在的年輕人,會(huì)達(dá)到很好的宣傳效果,是一個(gè)很好的正向應(yīng)用。

封面圖片來(lái)源:視覺(jué)中國(guó)

如需轉(zhuǎn)載請(qǐng)與《每日經(jīng)濟(jì)新聞》報(bào)社聯(lián)系。
未經(jīng)《每日經(jīng)濟(jì)新聞》報(bào)社授權(quán),嚴(yán)禁轉(zhuǎn)載或鏡像,違者必究。

讀者熱線:4008890008

特別提醒:如果我們使用了您的圖片,請(qǐng)作者與本站聯(lián)系索取稿酬。如您不希望作品出現(xiàn)在本站,可聯(lián)系我們要求撤下您的作品。

人工智能 Ai 科普

歡迎關(guān)注每日經(jīng)濟(jì)新聞APP

每經(jīng)經(jīng)濟(jì)新聞官方APP

0

0

免费va国产高清不卡大片,笑看风云电视剧,亚洲黄色性爱在线观看,成人 在线 免费