微信最新公告！賬號關(guān)閉，永久封禁

每經(jīng)編輯 畢陸名

12月15日，“微信珊瑚安全”微信公眾號發(fā)布關(guān)于打擊利用AI仿冒知名人士進(jìn)行營銷宣傳的公告。

內(nèi)容如下：

近期有媒體報道網(wǎng)絡(luò)存在利用AI技術(shù)仿冒名人進(jìn)行不當(dāng)營銷的現(xiàn)象。為守護(hù)用戶權(quán)益，避免消費(fèi)者上當(dāng)受騙，結(jié)合用戶舉報、日常巡查等線索，微信平臺從速從嚴(yán)打擊了一批利用AI仿冒知名人士進(jìn)行不當(dāng)營銷、惡意博取流量的違規(guī)行為，并針對相關(guān)情況開展專項治理。截至目前，累計處置內(nèi)容532條，關(guān)閉賬號209個。典型案例如下：

下一步，微信平臺將持續(xù)對“利用AI仿冒知名人士進(jìn)行營銷宣傳”等違規(guī)行為增加打擊力度，進(jìn)一步提升技術(shù)治理能力和水平，維護(hù)良好生態(tài)。同時，微信平臺也倡導(dǎo)廣大用戶自覺遵守法律法規(guī)與平臺規(guī)則。針對“利用AI合成技術(shù)生成違規(guī)內(nèi)容”的行為，平臺歡迎廣大網(wǎng)友提供更多線索，共同構(gòu)建清朗有序的網(wǎng)絡(luò)環(huán)境。

當(dāng)下，AI合成技術(shù)已經(jīng)非常成熟且已被頻繁應(yīng)用在短視頻制作中。調(diào)取一段錄像，輸入一段語音，便能提取克隆相關(guān)的嗓音特質(zhì)，并針對“自行設(shè)計”的臺詞，智能修改口型。

據(jù)央廣網(wǎng)報道，利用AI技術(shù)炮制名人音視頻作品以假亂真，甚至偽裝成熟人、親人實(shí)施精準(zhǔn)詐騙的案例屢見不鮮。

對此，北京市京都律師事務(wù)所合伙人徐偉律師認(rèn)為，未經(jīng)授權(quán)使用AI換臉技術(shù)進(jìn)行經(jīng)營行為，已侵犯到當(dāng)事人的肖像權(quán)。在這種情況之下，如果經(jīng)營者有夸大產(chǎn)品功效、虛高產(chǎn)品價格的行為，消費(fèi)者基于對當(dāng)事人的信任而購買該產(chǎn)品，該行為還有可能構(gòu)成詐騙罪。而且，最高人民法院、最高人民檢察院、公安部聯(lián)合發(fā)布的《關(guān)于依法懲治網(wǎng)絡(luò)暴力違法犯罪的指導(dǎo)意見》中明確，對利用“深度合成”等生成式人工智能技術(shù)發(fā)布違法信息的，依法從重處罰。

“AI換臉”技術(shù)的應(yīng)用中，從視頻最終的內(nèi)容角度考量，如果有人利用換臉軟件對他人進(jìn)行惡意丑化、玷污式惡搞，或者將他人的臉換到不雅視頻中，還會侵犯他人的名譽(yù)權(quán)。

此類事件中，徐偉認(rèn)為除了經(jīng)營者，AI技術(shù)提供者和視頻平臺，也需要承擔(dān)相應(yīng)的責(zé)任。

徐偉介紹，根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，要求深度合成服務(wù)提供者提供深度合成服務(wù)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，必須在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識，向公眾提示深度合成情況。目前一些較大的視頻平臺在許多AI生成的真人換臉視頻下方都含有提示信息，在用戶刷到AI生成內(nèi)容的視頻時，會標(biāo)注“AI生成內(nèi)容”或“疑似包含AI創(chuàng)作信息，請注意甄別真實(shí)度”等提醒。如果被投訴的虛假視頻發(fā)現(xiàn)沒有該類提示性標(biāo)注，則平臺難辭其咎。

視頻平臺若是對平臺使用者的這種侵權(quán)行為不予恰當(dāng)處理，則可能承擔(dān)連帶責(zé)任。平臺具有一定的審查、監(jiān)督職責(zé)，在被告知或發(fā)現(xiàn)此類違法行為后，應(yīng)當(dāng)積極響應(yīng)權(quán)利人的請求，及時撤銷、下架相關(guān)侵權(quán)圖片、視頻，中止相關(guān)直播等，避免惡劣影響的進(jìn)一步擴(kuò)大。相反，平臺若是有意放縱此類行為的發(fā)生、繼續(xù)，對相關(guān)投訴、舉報等視若無睹則應(yīng)當(dāng)與侵權(quán)者承擔(dān)連帶責(zé)任。

每日經(jīng)濟(jì)新聞綜合“微信珊瑚安全”、央廣網(wǎng)

封面圖片來源：視覺中國