熱搜！男子利用AI技術(shù)“一鍵去衣”，偽造近7000張學(xué)生同事裸照，賣價(jià)1.5元1張

每經(jīng)編輯 程鵬 杜宇    

“AI換臉”相信大家都不陌生。只需要一張照片，通過人工智能深度合成技術(shù)，任何人都能成為視頻中的主人公，甚至連表情和動作都能以假亂真。

然而，這項(xiàng)新技術(shù)，卻讓一些人產(chǎn)生了不良想法。今日（6月18日），話題#男子用AI偽造學(xué)生同事近7000張裸照#沖上熱搜。

據(jù)央視新聞官方微博6月18日消息，犯罪嫌疑人白某某，原本是一家互聯(lián)網(wǎng)公司的技術(shù)員。他用AI“一鍵去衣”技術(shù)，深度偽造淫穢圖片近7000張，再每張1.5元賣出。圖片涉及女性人數(shù)多，包括學(xué)生、教師、同事。目前白某某已被提起公訴。

據(jù)央視新聞客戶端，一名被警方抓獲的犯罪嫌疑人白某某原本是一家互聯(lián)網(wǎng)公司的技術(shù)員，他因?yàn)槭褂肁I去衣技術(shù)，制作、販賣淫穢物品而涉嫌犯罪。2023年6月，家住北京的白某某在境外的社交媒體上接觸到了這項(xiàng)“一鍵去衣”的技術(shù)，于是他動起了歪心思，打算利用這項(xiàng)技術(shù)來賺錢。

北京市海淀區(qū)人民檢察院檢察官助理郭樹正表示：白某某用的這款人工智能軟件，能很快對被害人的圖片“一鍵去衣”，基本上幾秒鐘、幾分鐘就能批量生成相應(yīng)的圖片。

警方在白某某家的電腦里，查獲了大量的涉案照片，都是經(jīng)過“一鍵去衣”技術(shù)處理的。

郭樹正：他在QQ上向351個(gè)人販賣過相關(guān)圖片，圖片數(shù)量將近7000張。

北京市海淀區(qū)人民檢察院檢察官李鵬表示：白某某在境外的社交媒體上發(fā)布了廣告，內(nèi)容就是“去衣”，1.5元一張。

這就是白某某發(fā)布的廣告帖，上面寫著“電腦AI去衣，白菜價(jià)”“身邊人、網(wǎng)紅、明星皆可”。他的廣告發(fā)布后，有不少人聯(lián)系白某某，給他發(fā)送照片并購買這項(xiàng)“去衣”服務(wù)。

郭樹正：一張圖片他賣1.5元，能迅速滿足相關(guān)人的需求。這個(gè)時(shí)候就有很多人去瀏覽白某某在境外社交網(wǎng)站上發(fā)布的帖子，經(jīng)過我們統(tǒng)計(jì)，瀏覽他發(fā)布廣告的人有3萬人左右。

AI去衣”究竟是怎樣的一種技術(shù)呢？據(jù)白某某供述，這項(xiàng)技術(shù)并不是真的“去衣”，而是一種偽造、重繪的技術(shù)。

郭樹正：其實(shí)我們可以把它理解為深度的圖片偽造，它并不是真的去掉別人照片上的衣服，其實(shí)都是針對已有的模型和已有的模組進(jìn)行圖片重繪。

而且，這項(xiàng)技術(shù)操作起來十分簡單，去衣只需要一鍵就能完成，因此白某某定價(jià)不高，一張照片只需要1.5元，卻可以利用低價(jià)吸引更多的訂單。

短短幾個(gè)月的時(shí)間，白某某就制作了幾千張去衣的圖片，賺了將近一萬元錢。然而，他卻沒有意識到這一行為可能產(chǎn)生的嚴(yán)重后果。

檢察機(jī)關(guān)認(rèn)為，被告人白某某以牟利為目的，制作、販賣淫穢物品，情節(jié)嚴(yán)重，其行為觸犯了《中華人民共和國刑法》的相關(guān)規(guī)定，應(yīng)當(dāng)以制作、販賣淫穢物品牟利罪追究其刑事責(zé)任。

檢察機(jī)關(guān)認(rèn)為，白某某利用AI技術(shù)犯罪的行為不僅侵犯了無數(shù)無辜者的隱私與名譽(yù)，還破壞了網(wǎng)絡(luò)環(huán)境的純凈，與科技向善的精神相背離。而利用新技術(shù)犯罪，也將受到司法機(jī)關(guān)的嚴(yán)厲打擊。

另外，一鍵去衣、AI換臉技術(shù)，還會被不法分子利用，成為敲詐勒索的工具。近期，這類案件又有抬頭趨勢。前不久，深圳警方打掉一個(gè)團(tuán)伙，這個(gè)團(tuán)伙從網(wǎng)上等各種渠道收集被害人圖片信息，然后進(jìn)行合成處理，用來敲詐勒索。

公訴人：人工智能技術(shù)興起之后，已經(jīng)成為當(dāng)今科技領(lǐng)域備受矚目的技術(shù)之一，正在深刻改變我們社會、經(jīng)濟(jì)以及生活方式，為社會帶來更多的便利。同時(shí)我們也打擊治理運(yùn)用AI技術(shù)實(shí)施犯罪，任何利用新技術(shù)實(shí)施犯罪的行為必將受到嚴(yán)懲。

據(jù)央視新聞，2022年8月，杭州市蕭山警方在網(wǎng)上巡查中獲取一條線索，轄區(qū)內(nèi)有人利用AI技術(shù)制作淫穢視頻在網(wǎng)上進(jìn)行大量傳播，警方依法對此立案偵查，并迅速抓獲了犯罪嫌疑人虞某，隨后該案被移送至杭州市蕭山區(qū)人民檢察院審查起訴。

圖片來源：央視新聞視頻截圖

檢察機(jī)關(guān)調(diào)查發(fā)現(xiàn)，虞某從2020年開始接觸“AI換臉”軟件，起初，他想通過在網(wǎng)上推廣該項(xiàng)技術(shù)以及相關(guān)的軟件來獲利，但是，一段時(shí)間過后關(guān)注他的人卻很少，一次偶然的機(jī)會，虞某看到有人在社交群組中發(fā)布淫穢信息來吸引他人關(guān)注，于是他也動起了類似念頭。

據(jù)虞某供述，為了吸引更多的關(guān)注和流量，他在社交軟件上創(chuàng)建了“瀏覽群”和“私人定制群”，“瀏覽群”主要用來傳播“AI換臉”的淫穢視頻吸引、招攬觀看者，其中包括一些經(jīng)過虞某換臉的視頻，當(dāng)有人提出“定制換臉”的需求，虞某會將這些人引入所謂“私人定制群”。

圖片來源：央視視頻截圖

杭州市蕭山區(qū)人民檢察院第七檢察部檢察官助理陳禹堯：通過收取入（瀏覽）群費(fèi)用的方式，一個(gè)198元、298元或者398元。另外一個(gè)就是虞某還提供人臉視頻定制服務(wù)，相當(dāng)于客戶如果需要定制一個(gè)換臉的視頻，他可以根據(jù)時(shí)長，根據(jù)視頻的難度大小收取相應(yīng)的費(fèi)用。

據(jù)檢察機(jī)關(guān)調(diào)查，虞某一邊通過傳播換臉的淫穢視頻來“吸粉引流”，同時(shí)又通過出售“AI換臉”軟件和提供所謂“AI換臉”的私人定制服務(wù)，在不到半年的時(shí)間里就獲利數(shù)萬元。而被“AI換臉”侵害人臉敏感信息的受害者，不僅包括多位知名公眾人物，還有很多不特定的普通人。

據(jù)檢察機(jī)關(guān)調(diào)查，虞某根據(jù)“AI換臉”視頻的長度、清晰度等難易條件，按照5分鐘300元、10分鐘500元等標(biāo)準(zhǔn)來收取定制的費(fèi)用。虞某聲稱，“只要能看到臉的都能換”。

據(jù)檢察機(jī)關(guān)了解，虞某的客戶要求“定制”換臉的對象不僅包括一些知名的公眾人物，也有生活中的普通人，其中就有人提出想要定制自己暗戀女生的換臉視頻，而對于這些未經(jīng)同意就擅自侵犯他人敏感信息的違法行為，虞某也是來者不拒。

另外，虞某除了進(jìn)行定制化的換臉服務(wù)，還將“AI換臉”軟件分為初級、中級和高級三個(gè)等級進(jìn)行銷售并傳授使用教程，同時(shí)還提供網(wǎng)上非法收集的他人人臉?biāo)夭摹?/span>

2023年4月14日，杭州蕭山區(qū)人民檢察院決定對虞某“AI換臉”侵犯公民個(gè)人信息公益訴訟案立案，當(dāng)日履行公告程序，公告期滿，無適格主體提起訴訟。6月9日，檢察機(jī)關(guān)依法對虞某提起民事公益訴訟。7月28日，該案在杭州互聯(lián)網(wǎng)法院一審公開審理。

2023年11月，杭州市蕭山區(qū)人民法院判決被告人虞某犯制作、傳播淫穢物品牟利罪，判處有期徒刑七年三個(gè)月，并處罰金6萬元。

任何利用新技術(shù)犯罪的行為，必將受到嚴(yán)懲！以牟利為目的，制作、販賣、傳播淫穢物品的行為，要承擔(dān)哪些法律后果？

根據(jù)《中華人民共和國刑法》第三百六十三條規(guī)定，以牟利為目的，制作、復(fù)制、出版、販賣、傳播淫穢物品的，處三年以下有期徒刑、拘役或者管制，并處罰金；情節(jié)嚴(yán)重的，處三年以上十年以下有期徒刑，并處罰金；情節(jié)特別嚴(yán)重的，處十年以上有期徒刑或者無期徒刑，并處罰金或者沒收財(cái)產(chǎn)。

中國行政法學(xué)研究會常務(wù)理事、華東政法大學(xué)教授沈?？〗ㄗh提升全民個(gè)人信息保護(hù)意識，謹(jǐn)防隱私泄露?！安还苁窃诨ヂ?lián)網(wǎng)上還是社交軟件上，盡量避免過多地暴露自己的信息，在涉及轉(zhuǎn)賬交易等行為時(shí)，可以多角度詢問身份信息，反復(fù)驗(yàn)證對方是否為本人。”

專家建議大家盡量不要把個(gè)人的隱私數(shù)據(jù)隨意發(fā)到公共互聯(lián)網(wǎng)上，如果有一些不法分子想要對你的家人實(shí)施詐騙，采集到數(shù)據(jù)以后還是比較容易實(shí)現(xiàn)的。

據(jù)北京商報(bào)報(bào)道，當(dāng)前AI換臉的一些技術(shù)弱點(diǎn)仍然存在。中國信通院人工智能中心安全與元宇宙部主任石霖指出，一些換臉的視頻會存在光照、表情等不夠自然、幀與幀之間不夠連貫的問題，盡管隨著模型能力的提升，這些換臉的痕跡已經(jīng)做到幾乎肉眼難以辨別的程度，但我們?nèi)匀豢梢酝ㄟ^一些專用的檢測算法進(jìn)行辨別。這些檢測算法在訓(xùn)練過程中大量學(xué)習(xí)了換臉視頻中偽造特征的方式，在使用的過程中逐幀提取特征，從而判斷一段視頻是否經(jīng)過了換臉。當(dāng)前，這些技術(shù)已經(jīng)開始用在金融場景中，實(shí)現(xiàn)對詐騙等行為的識別。

那么，這些鑒別技術(shù)應(yīng)用于反詐領(lǐng)域，前景如何？不得不承認(rèn)，網(wǎng)絡(luò)信號與算力仍是待解決的難題。“由于這些技術(shù)仍然需要大量的計(jì)算資源特別是GPU的支持，因此，通常在使用過程中，需要將相關(guān)的檢測模型部署在服務(wù)器中。但如果想要將這些檢測模型部署在手機(jī)、個(gè)人電腦中，或嵌入到社交、會議軟件里，可能會對軟硬件的使用體驗(yàn)造成較大的影響。近年來，很多技術(shù)企業(yè)已經(jīng)開始嘗試不斷優(yōu)化檢測模型，探索將模型部署在端側(cè)?！笔卣f道。

編輯|程鵬?杜宇?杜恒峰

校對|段煉

封面圖片來源：截圖

每日經(jīng)濟(jì)新聞綜合自央視新聞客戶端、央視新聞官方微博、北京商報(bào)