每日經(jīng)濟(jì)新聞
今日?qǐng)?bào)紙

每經(jīng)網(wǎng)首頁(yè) > 今日?qǐng)?bào)紙 > 正文

賣(mài)家說(shuō)劉德華的臉更適合我!揭秘AI變臉生意鏈:1.5萬(wàn)元包學(xué)會(huì)

每日經(jīng)濟(jì)新聞 2023-06-19 22:26:32

每經(jīng)記者 宋欽章 實(shí)習(xí)記者 張宏    每經(jīng)編輯 易啟江    

面對(duì)屏幕里AI換臉后的自己,《每日經(jīng)濟(jì)新聞》記者(以下簡(jiǎn)稱(chēng)每經(jīng)記者)一時(shí)感到愕然:寸頭、條紋衫、偏瘦,電腦屏幕里端坐著的,正是記者本人,但這位“每經(jīng)記者”卻是一張明星的面孔。本人試著眨了眨眼睛、左右轉(zhuǎn)頭,屏幕里的“明星”也跟著眨了眨眼睛、左右轉(zhuǎn)頭;當(dāng)本人把手放在臉前晃一晃時(shí),他也重復(fù)了同樣的動(dòng)作。

沒(méi)錯(cuò),以上正是每經(jīng)記者暗訪調(diào)查中,賣(mài)家遠(yuǎn)程給記者測(cè)試的實(shí)時(shí)換臉效果。賣(mài)家還頗顯負(fù)責(zé)地向每經(jīng)記者表示,可以進(jìn)一步提升換臉效果:你的臉型跟他不匹配,劉德華更適合你!

近來(lái),“AI換臉”爆火網(wǎng)絡(luò),還被和詐騙連接到了一起。繼此前“10分鐘被AI換臉騙走430萬(wàn)元”事件后,5月25日,又一起AI換臉詐騙事件被媒體曝光,這次金額達(dá)到245萬(wàn)元,且整個(gè)詐騙過(guò)程時(shí)間更短,只有9秒鐘。

每經(jīng)記者就此展開(kāi)調(diào)查,并發(fā)現(xiàn)了一條圍繞AI換臉的生意鏈:有科技博主打著科普的名義,私下兜售換臉套餐,價(jià)格從399元至1.5萬(wàn)元不等,甚至可以定制人臉模型;還有不少用戶(hù)兜售用于訓(xùn)練人臉?biāo)夭牡膕rc(源視頻)素材包,或售賣(mài)已經(jīng)訓(xùn)練好的人臉模型,有賣(mài)家告訴每經(jīng)記者:“有現(xiàn)成的明星,每個(gè)價(jià)格800~1200元。”

細(xì)思極恐,正與你視頻聊天的兒子、女兒,可能不是你所覺(jué)得的那個(gè)兒子、女兒。普通人有沒(méi)有辦法識(shí)別?每經(jīng)記者采訪到了在換臉圈子內(nèi)知名度非同一般的一款實(shí)時(shí)換臉軟件開(kāi)發(fā)者,他透露了普通人鑒別對(duì)方是否換臉的訣竅。

5月27日,北京中關(guān)村論壇展覽(科博會(huì)),觀眾在數(shù)字經(jīng)濟(jì)展區(qū)體驗(yàn)AI換臉、虛擬形象生成技術(shù) 視覺(jué)中國(guó)圖

眼見(jiàn)非實(shí):兜售視頻聊天換臉工具

去年5月,CCTV-12社會(huì)與法頻道曝光一起AI換臉詐騙案件:2022年2月,陳先生到浙江溫州市公安局甌海分局仙巖派出所報(bào)案稱(chēng),自己被“好友”詐騙了近5萬(wàn)元。經(jīng)警方核實(shí),詐騙分子利用陳先生好友“阿誠(chéng)”在社交平臺(tái)發(fā)布的視頻,截取其面部視頻畫(huà)面后再利用“AI換臉”技術(shù)合成,制造出陳先生是與“好友”視頻聊天的假象。對(duì)方借口國(guó)際漫游限制,聯(lián)系不上國(guó)內(nèi)航空公司的經(jīng)理,請(qǐng)求陳先生代其向航空公司轉(zhuǎn)賬,從而導(dǎo)致陳先生上當(dāng)。

2020年,上海某公司高管被詐騙150萬(wàn)元,就是因?qū)Ψ绞褂肁I換臉與人工生成的語(yǔ)音技術(shù)冒充其公司領(lǐng)導(dǎo),并要該高管轉(zhuǎn)賬,致使其無(wú)法分辨而被騙。

記者了解到,去年11月,大量博主反映接到境外視頻通話請(qǐng)求,不少博主懷疑此類(lèi)視頻電話的目的是盜取人臉及聲音信息。一名博主將報(bào)警過(guò)程發(fā)布在自己主頁(yè)上,警察建議其不要接此類(lèi)電話,并且拉黑對(duì)方、關(guān)閉視頻電話功能,同時(shí)建議其關(guān)閉所有銀行卡和付費(fèi)軟件的刷臉支付功能,遇到此類(lèi)情況及時(shí)報(bào)警。

一名博主向每經(jīng)記者講述了詐騙分子冒充其遠(yuǎn)房親戚,通過(guò)微信語(yǔ)音通話對(duì)其實(shí)施詐騙的過(guò)程:

“今年4月份,遠(yuǎn)房親戚突然通過(guò)微信向我借錢(qián),正當(dāng)我猶豫時(shí),對(duì)方打來(lái)語(yǔ)音通話。49秒的語(yǔ)音通話中,聲音沒(méi)有任何異常。我說(shuō),我還以為是騙子。她說(shuō)不是,她那邊信號(hào)不好,她在出差。不料,10分鐘后,真正的遠(yuǎn)房親戚打來(lái)電話,稱(chēng)被盜號(hào)了。如果我當(dāng)時(shí)不是剛好有事,直接就打錢(qián)給她了。”

值得注意的是,在某社交平臺(tái)上,不少科技類(lèi)博主發(fā)布視頻提示AI變臉詐騙風(fēng)險(xiǎn)。而這些視頻,無(wú)一例外都在展示AI變臉的逼真效果。

每經(jīng)記者以學(xué)習(xí)者身份接觸了其中一位科技博主,加上微信后,對(duì)方比較謹(jǐn)慎地詢(xún)問(wèn)記者變臉的意圖是什么。記者稱(chēng)是為了科普,該博主隨即表示,變臉399元包教包會(huì),直播中實(shí)時(shí)變臉,外加任意短視頻,想換哪個(gè)人的臉就換哪個(gè)人的臉,并分享軟件和教程。

“咱們這個(gè)可以微信視頻聊天中換臉嗎?”每經(jīng)記者追問(wèn)。“可以。”對(duì)方答道。“399元包括微信視頻變臉嗎?”“對(duì),都包括的。如果你不是說(shuō)科普,微信視頻聊天我都不會(huì)教的,我現(xiàn)在都不教外面的人了,像你這種說(shuō)科普的我才教。”隨后,對(duì)方給記者發(fā)來(lái)支付寶收款碼,“考慮好了,掃碼立馬給你安排。”

記者翻閱該博主的朋友圈,出現(xiàn)最多的內(nèi)容是:“想學(xué)習(xí)的人一言不合上去就是轉(zhuǎn)款!”“及時(shí)把握先機(jī)及時(shí)上車(chē)。”“歡迎大家學(xué)習(xí)直播變臉。”“想學(xué)習(xí)的人,關(guān)注的從來(lái)是我該怎么學(xué),什么時(shí)候?qū)W,不想學(xué)習(xí)的人考慮的都是各種理由。”“都是有敏銳嗅覺(jué)的,知道錢(qián)在哪里,一上來(lái)就談合作,立馬轉(zhuǎn)賬加入拜師傅。”“互聯(lián)網(wǎng)懂的都懂!”如此等。

記者親測(cè):公開(kāi)賣(mài)知名演員換臉?biāo)夭?/strong>

AI真的能實(shí)現(xiàn)實(shí)時(shí)換臉嗎?會(huì)不會(huì)“一眼假”?記者決定親測(cè)一下。

除了前述博主的“399元包教包會(huì)”換臉套餐之外,記者還發(fā)現(xiàn)了另外一款“包教包會(huì)包售后”換臉套餐,售價(jià)竟然高達(dá)1.5萬(wàn)元。但如果僅僅遠(yuǎn)程測(cè)試換臉效果,只需付99元即可。記者花99元下了單后:寸頭、條紋衫、偏瘦……電腦屏幕里端坐著的,正是記者本人,但這位“記者”卻是一張明星的面孔。本人試著眨了眨眼睛、左右轉(zhuǎn)頭,屏幕里的“明星”也跟著眨了眨眼睛、左右轉(zhuǎn)頭。當(dāng)本人把手放在臉前晃一晃時(shí),他也重復(fù)了同樣的動(dòng)作。不過(guò)并非天衣無(wú)縫,除了有明顯的延遲之外,在手遮擋的地方,他的面部出現(xiàn)了輕微的扭曲,看上去有點(diǎn)怪異。

沒(méi)錯(cuò),以上正是賣(mài)家遠(yuǎn)程給記者測(cè)試的換臉效果。如賣(mài)家所說(shuō),測(cè)試結(jié)果顯示,該AI換臉軟件確實(shí)可以做到實(shí)時(shí)換臉(出于安全等考慮,本報(bào)道對(duì)該換臉軟件采取匿名化處理,以下用“軟件X”代指)。

面對(duì)屏幕里換臉后的自己,記者一時(shí)感到愕然,端詳了半天,說(shuō)不出哪里怪異。無(wú)疑,他是記者投射的鏡像,就是記者本人。但是,經(jīng)過(guò)了AI的處理,他又很難稱(chēng)得上是本人。這種錯(cuò)位感,想必每個(gè)初次嘗試AI換臉的人都體驗(yàn)過(guò),既有高科技帶來(lái)的驚喜,又有細(xì)思后的極恐——萬(wàn)一有人換上了自己的臉怎么辦?

恍惚之際,賣(mài)家接連發(fā)來(lái)消息:“你的臉型跟他不匹配,不過(guò)也有解決辦法,需要制作的時(shí)候匹配。你的臉型更適合劉德華。”“還有一點(diǎn),就是燈光一定要亮,你這個(gè)太暗了,會(huì)影響效果。”“要求電腦配備獨(dú)立顯卡,至少6G顯存,越高越好。”“我們可以AI做臉,就是這張臉,誰(shuí)都不是,變帥變漂亮都行。”“我目前做的效果,沒(méi)有說(shuō)不滿(mǎn)意的,效果你放心就好了。”賣(mài)家一五一十地向記者介紹。

針對(duì)用手遮擋面部會(huì)發(fā)生扭曲的問(wèn)題,賣(mài)家表示這可以解決,“只是沒(méi)有錄制你的一段用手遮擋的視頻。”

不過(guò),記者花的99元僅僅是測(cè)試費(fèi)用,若想要永久擁有這款軟件,則需支付全款。在賣(mài)家這里,軟件X的全款售價(jià)是1萬(wàn)元,如需定制人臉模型,另付5000元。

上萬(wàn)元的售價(jià)讓人望而卻步。不過(guò),記者發(fā)現(xiàn),軟件X的代碼實(shí)際上是開(kāi)源的,在網(wǎng)上不難找到它的下載鏈接,甚至“從入門(mén)到精通”的教程也比比皆是。

經(jīng)過(guò)一通操作之后,記者成功變臉成為某喜劇明星,出現(xiàn)在跟同事的視頻通話場(chǎng)景中,電話另一邊被換臉嚇了一跳。

有意思的是,記者發(fā)現(xiàn)在變臉成為該喜劇明星之后,即使用手遮擋面部,也不會(huì)明顯影響變臉效果,這與前面的測(cè)試結(jié)果不大一樣。專(zhuān)業(yè)人士告訴記者,這可能和人臉模型的質(zhì)量有關(guān)。

換臉軟件早已有之,但能實(shí)現(xiàn)實(shí)時(shí)換臉的軟件并不多,具備實(shí)時(shí)換臉功能的軟件X,在換臉圈子內(nèi)的知名度非同一般。記者找了兩三家兜售實(shí)時(shí)換臉軟件的賣(mài)家,當(dāng)打開(kāi)收到的網(wǎng)盤(pán)鏈接時(shí),發(fā)現(xiàn)它們最終都指向了軟件X。

另外,網(wǎng)上已有不少AI換臉圈子,換臉愛(ài)好者在圈子內(nèi)互相分享?yè)Q臉資源與換臉經(jīng)驗(yàn)。

在記者打入的圈子里,這些換臉愛(ài)好者也有自己的交流方式,如訓(xùn)練人臉模型的過(guò)程被稱(chēng)為“煉丹”,而電腦的圖形處理器(GPU)則被稱(chēng)為“爐子”。

根據(jù)一些公開(kāi)的說(shuō)法,訓(xùn)練高質(zhì)量的人臉模型需要上千張不同的圖像。至于訓(xùn)練時(shí)間的長(zhǎng)短,除了跟人臉?biāo)夭臄?shù)量和質(zhì)量有關(guān),也由“爐子”等因素決定,如果沒(méi)有GPU而僅用CPU訓(xùn)練,速度要慢得多。結(jié)合前述賣(mài)家的說(shuō)法和論壇的經(jīng)驗(yàn)帖,訓(xùn)練一個(gè)人臉模型可能需花費(fèi)兩天至一周時(shí)間。

也有不少用戶(hù)兜售用于訓(xùn)練人臉?biāo)夭牡膕rc(源視頻)素材包,單個(gè)src素材包約含幾千張人臉圖像,有的甚至多達(dá)上萬(wàn)張,這些是訓(xùn)練人臉模型必需的原料。src素材包大多是知名演員、網(wǎng)紅的人臉圖像,大部分來(lái)自于相關(guān)影視劇的截圖。

在某電商平臺(tái)上搜索“src人臉”,可以發(fā)現(xiàn)這類(lèi)包含知名演員的src素材已被公開(kāi)售賣(mài),價(jià)格從幾元至幾十元不等。經(jīng)過(guò)進(jìn)一步打探,記者發(fā)現(xiàn)他們也售賣(mài)已經(jīng)訓(xùn)練好的人臉模型,雖然沒(méi)有在店鋪上架,但是可以私下轉(zhuǎn)賬購(gòu)買(mǎi)。“有現(xiàn)成的知名明星,每個(gè)價(jià)格800元~1200元,男的很少,女的差不多十多個(gè)。”對(duì)方說(shuō)。

對(duì)抗偽造:普通人如何鑒別真假臉?

據(jù)了解,AI換臉主要依賴(lài)于一種基于深度學(xué)習(xí)生成內(nèi)容的深度合成技術(shù)。

深度合成技術(shù),也常常被稱(chēng)為深度偽造技術(shù),是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類(lèi)算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等網(wǎng)絡(luò)信息的技術(shù)。除了人臉替換,目前該技術(shù)還應(yīng)用于表情操縱、語(yǔ)音合成、文章生成、智能對(duì)話等不同細(xì)分領(lǐng)域。

梁瑞剛等人2020年于《信息安全學(xué)報(bào)》發(fā)表的論文《視聽(tīng)覺(jué)深度偽造檢測(cè)技術(shù)研究綜述》中提到,以換臉技術(shù)為代表的視覺(jué)深度偽造生成技術(shù)的實(shí)現(xiàn),總體可以分為數(shù)據(jù)收集、模型訓(xùn)練和偽造內(nèi)容生成三個(gè)核心步驟。在模型訓(xùn)練階段,目前深度偽造模型的構(gòu)造主要基于GAN(生成對(duì)抗網(wǎng)絡(luò))實(shí)現(xiàn),由編碼器(encoder)和解碼器(decoder)構(gòu)成:編碼器用于提取人臉圖像的潛在特征,解碼器則用于重構(gòu)人臉圖像。

實(shí)際上,軟件X的開(kāi)發(fā)團(tuán)隊(duì)2021年在arXiv平臺(tái)上發(fā)表了相關(guān)論文,詳述了上述軟件X的功能特點(diǎn)及工作流程。

據(jù)該論文介紹,軟件X的換臉流程依次分為三個(gè)階段:提取、訓(xùn)練和轉(zhuǎn)換。

其中,提取階段旨在從源圖像和目標(biāo)圖像中提取人臉,具體分為人臉檢測(cè)、人臉對(duì)齊和人臉?lè)指钊齻€(gè)步驟。值得注意的是,在人臉?lè)指畈襟E,軟件X提供了一種自動(dòng)算法,可以有效去除不規(guī)則遮擋,并補(bǔ)充開(kāi)發(fā)了一種高效人臉?lè)指罟ぞ撸梢酝ㄟ^(guò)少量的鏡頭學(xué)習(xí),以滿(mǎn)足某些特定鏡頭中生成細(xì)粒度遮罩。這一解釋?zhuān)C實(shí)了前述賣(mài)家解決遮擋問(wèn)題的可能性。

經(jīng)過(guò)與網(wǎng)上流傳的其他換臉軟件進(jìn)行不完全對(duì)比,記者發(fā)現(xiàn),軟件X在換臉效果上更加逼真,而且支持大多數(shù)換臉軟件無(wú)法提供的實(shí)時(shí)換臉功能。

幾經(jīng)周折,每經(jīng)記者聯(lián)系上了特看科技的滾石(網(wǎng)名),資料證實(shí),他正是軟件X的開(kāi)發(fā)者之一。滾石坦言,他參與軟件X開(kāi)發(fā)的動(dòng)機(jī)比較純粹,“初衷就是好玩,以及提升主播的顏值。”

記者提到近期AI實(shí)時(shí)換臉工具被用于電信詐騙的新聞,他表示有所耳聞,也提出了自己的看法:“這是新技術(shù)發(fā)展的客觀規(guī)律,所有新技術(shù)必定會(huì)被用于黑白灰各種途徑。就像現(xiàn)在AIGC(人工智能自動(dòng)生成內(nèi)容)的發(fā)展,也是會(huì)被用于各種正面和負(fù)面場(chǎng)景。”

滾石表示,商業(yè)場(chǎng)景中的高質(zhì)量換臉需要采集目標(biāo)人物多角度多光影多表情下的人臉圖像,但不追求高質(zhì)量效果的話,幾張圖也能大致實(shí)現(xiàn)實(shí)時(shí)換臉。“在AI繪畫(huà)等技術(shù)加持下,換臉對(duì)素材要求越來(lái)越低,甚至有一些算法可以做到一張圖實(shí)時(shí)換臉。”

技術(shù)的發(fā)展降低了換臉的門(mén)檻,當(dāng)這種“魔法”變得人人唾手可得時(shí),普通人使用也能輕而易舉地變成另一個(gè)人。這不禁讓人擔(dān)憂:我們?nèi)粘0l(fā)朋友圈是否會(huì)泄漏人臉信息?對(duì)此,滾石這樣回答:“普通人沒(méi)有辦法規(guī)避,你總會(huì)有照片暴露在網(wǎng)上。”

針對(duì)自己參與開(kāi)發(fā)的換臉軟件,他向記者透露了普通人鑒別對(duì)方是否換臉的訣竅:“讓對(duì)方把手大面積遮擋人臉,遮住面部中心80%以上的區(qū)域,緩慢移動(dòng)手,看是否會(huì)出現(xiàn)畫(huà)面異常。”

“跟美顏相機(jī)的美顏效果丟了一樣,原理是遮擋面積大到一定程度,人臉檢測(cè)會(huì)失效,導(dǎo)致?lián)Q臉或者美顏等人臉?biāo)惴ň褪Я?。這招目前是比較有效的,但注意一定要超大面積遮擋,小面積遮擋影響不到人臉檢測(cè)。”他如是解釋。

值得一提的是,此前的流行說(shuō)法稱(chēng)AI換臉無(wú)法眨眼,以及會(huì)出現(xiàn)面部不自然等現(xiàn)象。而在滾石看來(lái),這些判斷方法已經(jīng)是過(guò)時(shí)且無(wú)效的。“我們開(kāi)發(fā)的軟件可以完美實(shí)現(xiàn)眨眼,小面積遮擋、說(shuō)話、光影變化。”

他發(fā)來(lái)的測(cè)試視頻也證明了這一點(diǎn),視頻中的一名中國(guó)人被換臉成外國(guó)人面孔,并能夠自如地用手遮擋面部,甚至可以在臉上捏來(lái)捏去。“這是我們?yōu)榭缇持辈ド碳议_(kāi)發(fā)的工具,可以完美解決常規(guī)遮擋,實(shí)現(xiàn)多角度多表情多光影的復(fù)雜情況下?lián)Q臉。”

除了滾石提到的通過(guò)用手大面積遮擋面部,換臉視頻也可以通過(guò)技術(shù)手段鑒別。記者注意到,與AI換臉技術(shù)同步發(fā)展的偽造人臉檢測(cè)技術(shù),近年來(lái)取得了長(zhǎng)足的進(jìn)步。

比如,去年上海交通大學(xué)電子信息與電氣工程學(xué)院人工智能研究院教授楊小康團(tuán)隊(duì)的兩篇關(guān)于偽造人臉鑒別的論文,被人工智能?chē)?guó)際頂級(jí)會(huì)議CVPR 2022收錄。據(jù)上海交通大學(xué)官網(wǎng)介紹,楊小康團(tuán)隊(duì)提出名為RECCE(中文釋義:偵查)的鑒別方法,利用圖像重建技術(shù)放大偽造痕跡,即使是方法未知的偽造人臉圖像,也能十分容易地準(zhǔn)確識(shí)別偽造區(qū)域。大量實(shí)驗(yàn)結(jié)果表明,所提出的新方法在多個(gè)大規(guī)模數(shù)據(jù)集上取得當(dāng)前最好的對(duì)抗攻擊效果,為偽造人臉檢測(cè)算法提供了最強(qiáng)的對(duì)抗攻擊樣本作為測(cè)試。

不過(guò),滾石認(rèn)為,理論上隨著換臉技術(shù)發(fā)展,是可以做到無(wú)法檢測(cè)出來(lái)的。“因?yàn)檫@個(gè)換臉技術(shù)和鑒別技術(shù)是會(huì)互相學(xué)習(xí)進(jìn)步的,最終狀態(tài)就是換臉效果越來(lái)越真實(shí),直至和真人一樣。就像AI領(lǐng)域的GAN生成對(duì)抗技術(shù)一樣,一個(gè)生成器和一個(gè)鑒別器互相對(duì)抗學(xué)習(xí),直至生成器生成的圖再也無(wú)法被鑒別器識(shí)別。”

記者注意到,在上述軟件X論文的開(kāi)頭部分,開(kāi)發(fā)團(tuán)隊(duì)表達(dá)了這樣一種觀點(diǎn):“被攻擊后的檢測(cè)并不是減少深度偽造惡意影響的唯一方式。檢測(cè)傳播的欺騙內(nèi)容總是為時(shí)已晚。從我們的角度來(lái)看,對(duì)于學(xué)術(shù)界和公眾來(lái)說(shuō),幫助網(wǎng)民了解什么是深度偽造,以及如何生成電影質(zhì)量的交換視頻要好得多。俗話說(shuō)‘進(jìn)攻是最好的防守’,讓普通網(wǎng)民意識(shí)到深度偽造的存在,加強(qiáng)他們對(duì)社交網(wǎng)絡(luò)上發(fā)布的惡搞媒體的識(shí)別能力,比糾結(jié)于惡搞媒體是否真實(shí)更為關(guān)鍵。”

技術(shù)向善:AI換臉有哪些法律風(fēng)險(xiǎn)

北京大成律師事務(wù)所高級(jí)合伙人肖颯在接受記者采訪時(shí)表示,AI換臉技術(shù)涉及的法律風(fēng)險(xiǎn)可分為民事侵權(quán)與刑事犯罪兩方面來(lái)看。

民事侵權(quán)方面,主要涉及侵犯肖像權(quán)和侵犯名譽(yù)權(quán)。刑事犯罪方面,一是利用AI換臉技術(shù)制作的視頻內(nèi)容可能具有違法性,二是AI換臉的使用手段可能具有違法性。

“在AI換臉視頻內(nèi)容被刑法所禁止的情形下,此時(shí)刑法的評(píng)價(jià)對(duì)象是利用AI技術(shù)創(chuàng)造出的虛假視頻,該行為違法性的核心也來(lái)源于此。該類(lèi)別下,除了可能涉及制作、復(fù)制、出版、販賣(mài)、傳播淫穢物品牟利罪或傳播淫穢物品罪之外,還可能涉及侮辱罪,誹謗罪,編造、故意傳播虛假信息罪等。另一種刑事犯罪情形是,AI換臉視頻內(nèi)容并不違法,但將其運(yùn)用到違法的領(lǐng)域內(nèi),即AI換臉技術(shù)成為了一種新型犯罪手段。該類(lèi)別下,除了可能涉及詐騙罪,還可能涉及的罪名包括敲詐勒索罪,非法侵入計(jì)算機(jī)信息系統(tǒng)罪,非法獲取計(jì)算機(jī)信息系統(tǒng)數(shù)據(jù)、非法控制計(jì)算機(jī)信息系統(tǒng)罪,提供侵入、非法控制計(jì)算機(jī)信息系統(tǒng)程序、工具罪等。”肖颯告訴每經(jīng)記者。

另外,肖颯提醒,在當(dāng)前的大數(shù)據(jù)時(shí)代,隱私問(wèn)題應(yīng)當(dāng)被公眾更加關(guān)注和防范。“目前,在我們的生活中,很多公司打著‘安全和為用戶(hù)需求考慮’的幌子,擴(kuò)大了電子監(jiān)控設(shè)備的適用范圍。如各大應(yīng)用商店中仍可以搜索到大量的換臉APP,各類(lèi)產(chǎn)品中包含的人臉識(shí)別步驟使得用戶(hù)在不知不覺(jué)中就泄露了自己的人臉信息。而部分軟件在與用戶(hù)訂立‘隱私條款’時(shí),使用了‘包括但不限于’對(duì)用戶(hù)人臉信息的無(wú)限制使用。在大數(shù)據(jù)時(shí)代下,利用收集數(shù)據(jù)的便利性和廣泛性,企業(yè)可以憑借一張簡(jiǎn)單的照片就關(guān)聯(lián)出用戶(hù)的其他信息,進(jìn)而對(duì)用戶(hù)信息進(jìn)行買(mǎi)賣(mài)謀取非法利益,給用戶(hù)帶來(lái)了巨大的信息泄露風(fēng)險(xiǎn)。”

值得一提的是,記者注意到,在實(shí)際的換臉詐騙場(chǎng)景中,由于人臉模型的制作過(guò)程相對(duì)復(fù)雜,犯罪團(tuán)伙自身或無(wú)力承擔(dān)這一“技術(shù)活”。在換臉圈子里,就有人拋出這樣的問(wèn)題:別人用AI換臉去詐騙的話,幫這個(gè)人制作人臉模型的人會(huì)不會(huì)也有法律責(zé)任?

對(duì)此,肖颯認(rèn)為,如果這個(gè)制作人臉模型的人知道該模型將用于詐騙,符合相關(guān)法律規(guī)定的“明知”情形,或?qū)?gòu)成幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪,如果該制作人臉模型的人與詐騙者有事先共謀,則可能直接與詐騙人一起構(gòu)成詐騙罪的共同犯罪。

此外,針對(duì)網(wǎng)上大量售賣(mài)的AI換臉軟件及教程,肖颯表示,依照著作權(quán)法,換臉軟件若能符合“計(jì)算機(jī)軟件”或其他符合作品特征的智力成果,其開(kāi)發(fā)者依法享有著作權(quán)。開(kāi)發(fā)者作為著作權(quán)人有權(quán)許可、轉(zhuǎn)讓該權(quán)利。故而,只有著作權(quán)人或受著作權(quán)人許可的人可以售賣(mài)該換臉軟件/換臉教程。

若不符合相關(guān)法律規(guī)定的“明知”情形,該開(kāi)發(fā)者或被許可人無(wú)需擔(dān)負(fù)任何法律責(zé)任。另外,軟件開(kāi)發(fā)者或被許可人即使聲明“不得用于違法用途”,若私下幫助信息網(wǎng)絡(luò)犯罪,仍需擔(dān)負(fù)法律責(zé)任。

據(jù)記者了解,近年來(lái),以AI換臉為代表的深度合成技術(shù)風(fēng)靡國(guó)內(nèi)外,為規(guī)范深度合成技術(shù)的應(yīng)用,世界多國(guó)出臺(tái)了相關(guān)規(guī)定。

去年12月,中國(guó)國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》(以下簡(jiǎn)稱(chēng)《規(guī)定》),自2023年1月10日起施行。

《規(guī)定》第十四條提到,深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識(shí)別信息編輯功能的,應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人,并取得其單獨(dú)同意。

第十七條規(guī)定,深度合成服務(wù)提供者提供以下深度合成服務(wù),可能導(dǎo)致公眾混淆或者誤認(rèn)的,應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí),向公眾提示深度合成情況:(一)智能對(duì)話、智能寫(xiě)作等模擬自然人進(jìn)行文本的生成或者編輯服務(wù);(二)合成人聲、仿聲等語(yǔ)音生成或者顯著改變個(gè)人身份特征的編輯服務(wù);(三)人臉生成、人臉替換、人臉操控、姿態(tài)操控等人物圖像、視頻生成或者顯著改變個(gè)人身份特征的編輯服務(wù);(四)沉浸式擬真場(chǎng)景等生成或者編輯服務(wù);(五)其他具有生成或者顯著改變信息內(nèi)容功能的服務(wù)。

肖颯告訴記者,美國(guó)有幾個(gè)州已經(jīng)通過(guò)立法禁止深度合成,但只針對(duì)傳播有關(guān)政治選舉或色情制品的深度合成。有關(guān)其他領(lǐng)域深度合成的法規(guī)并不包括在內(nèi),例如,用于社會(huì)工程的深度合成目前沒(méi)有被禁止。“美國(guó)通過(guò)的立法也只適用于某些州,而不是全國(guó)范圍的。”

肖颯表示,歐盟委員會(huì)提出了《人工智能法》(Artificial Intelligence Act),該法將深度合成納入其范圍,是對(duì)其進(jìn)行監(jiān)管的初步嘗試。

記者手記

如果掌握了魔法,你會(huì)用它來(lái)干什么?

“AI換臉真的這么神奇嗎?”當(dāng)AI換臉詐騙頻上熱搜的時(shí)候,我不禁這樣問(wèn)。彼時(shí),我對(duì)AI換臉的印象還停留在當(dāng)年“螞蟻呀嘿”魔性視頻爆火的階段。直到看到自己的臉被換成一款栩栩如生的明星臉時(shí),我才意識(shí)到,原來(lái)這門(mén)技術(shù)已經(jīng)如此厲害了。然而,它可能被用于非法目的,讓人細(xì)思極恐。

無(wú)疑,AI換臉技術(shù)是一把雙刃劍,當(dāng)掌握這種“魔法”的門(mén)檻越來(lái)越低時(shí),我們不禁要問(wèn):“自己會(huì)拿它來(lái)干什么?”這讓我想起小時(shí)候看的一部電視劇,叫《魔幻手機(jī)》,手持“傻妞”的人可以掌握超能力,有人用它來(lái)行俠仗義,有人則用它來(lái)滿(mǎn)足貪欲。

那我們?cè)摻惯@種技術(shù)嗎?現(xiàn)在沒(méi)有誰(shuí)敢輕易下結(jié)論,不過(guò)相關(guān)技術(shù)開(kāi)發(fā)者在論文中提到的一句諺語(yǔ),讓我很有感觸,這句諺語(yǔ)原文是:The best defense is a good offense。翻譯成中文,意思大致就是:進(jìn)攻是最好的防守。

封面圖片來(lái)源:視覺(jué)中國(guó)

如需轉(zhuǎn)載請(qǐng)與《每日經(jīng)濟(jì)新聞》報(bào)社聯(lián)系。
未經(jīng)《每日經(jīng)濟(jì)新聞》報(bào)社授權(quán),嚴(yán)禁轉(zhuǎn)載或鏡像,違者必究。

讀者熱線:4008890008

特別提醒:如果我們使用了您的圖片,請(qǐng)作者與本站聯(lián)系索取稿酬。如您不希望作品出現(xiàn)在本站,可聯(lián)系我們要求撤下您的作品。

Ai 軟件 劉德華

歡迎關(guān)注每日經(jīng)濟(jì)新聞APP

每經(jīng)經(jīng)濟(jì)新聞官方APP
免费va国产高清不卡大片,笑看风云电视剧,亚洲黄色性爱在线观看,成人 在线 免费