泰勒·斯威夫特AI“不雅照”被瘋傳！驚動白宮

每經(jīng)編輯 畢陸名

Deepfake最新受害者出現(xiàn)了——全球頂流，泰勒·斯威夫特（Taylor Swift，中文綽號“霉霉”）。

近乎是在一夜之間，X、Facebook等社交平臺上便充斥了大量虛假“不雅照片”，而且瀏覽量已經(jīng)高達上千萬！盡管最早傳播這些圖片的賬號已被封禁，但照片的流傳仍未徹底阻斷。

圖片來源：視頻截圖

泰勒·斯威夫特本人也已經(jīng)得知此事，對此表示相當憤怒，粉絲們也自發(fā)組織了保護行動。

在X上，有網(wǎng)友直接@馬斯克，喊話說這事馬斯克你得出來管管了。

究其原因，事情要從泰勒·斯威夫特和美國NFL橄欖球運動員Travis Kelce的戀情說起。Kelce效力于堪薩斯城酋長隊，兩人的戀愛關(guān)系被曝光后，泰勒也成為了該球隊比賽的?？汀?/p>

于是便有人借題發(fā)揮，用AI生成了以球場為背景，涉及泰勒和多名虛構(gòu)“隊員”的露骨照片。

圖片來源：視頻截圖

而關(guān)于這些圖片的傳播過程，則存在多種傳聞，有說法是最早出現(xiàn)在某加密聊天群組當中。有報道則稱，這些Deepfake照片一開始被傳至一家不良網(wǎng)站，這個網(wǎng)站上充斥著大量以知名人士為主角的不雅照片。

除了泰勒，這家網(wǎng)站還收錄了成百上千的名人，包括飾演芭比的Magrot Robbie也未能幸免。

“Taylor Swift AI”一度成為了X上的熱門話題，不過目前疑似已被屏蔽。

截至目前，一些參與傳播照片賬號已被各大平臺陸續(xù)封禁，但仍有不少漏網(wǎng)之魚。

Facebook方面，母公司Meta也有一名發(fā)言人稱：這些內(nèi)容違反了我們的政策，我們正在將其從我們的平臺上刪除，并對發(fā)布該內(nèi)容的賬戶采取行動。

但也有網(wǎng)友說，這不是刪除的問題，這些照片一開始就不應該出現(xiàn)在這些平臺上。對此Meta也做出了回應，表示“會繼續(xù)監(jiān)測并及時刪除違規(guī)內(nèi)容”。

在26日白宮記者會上，發(fā)言人讓-皮埃爾被問及此事時表示，“我們對此類圖像流傳感到擔憂，更確切地說，是虛假圖像，這令人擔憂。”

“雖然社交媒體公司在內(nèi)容管理方面可以獨立做出決定，但我們認為他們在執(zhí)行自己規(guī)則方面可以發(fā)揮重要作用，以防止錯誤信息和未經(jīng)同意的真實人物私密圖像傳播。”讓-皮埃爾說。

她還補充說，網(wǎng)絡上的執(zhí)法不嚴對女性影響更大，她們是受到網(wǎng)絡騷擾和欺凌的主要目標。讓-皮埃爾稱，這并不是新問題，是拜登和哈里斯政府從上任第一天起就優(yōu)先考慮的問題，“我們對此非常重視。再一次，這讓我們感到擔憂。”

圖片來源：視頻截圖

值得一提的是，這不是泰勒·斯威夫特第一次被AI整蠱。1月初，一則由人工智能生成的假泰勒·斯威夫特帶貨廣告在社交媒體Facebook上傳播。

“嘿你們好，我是泰勒·斯威夫特。由于包裝出錯，有3000套Le Creuset（中文名譯為‘酷彩’）炊具套裝無法正常線下銷售，轉(zhuǎn)向線上出售。有一個好消息分享給你們，我與Le Creuset聯(lián)手進行促銷——有20位忠實粉絲將免費獲得贈送的炊具套裝。”

AI生成的泰勒·斯威夫特推銷Le Creuset炊具視頻。

在這則廣告中，斯威夫特坐在鋼琴前，向大家推銷法國高端炊具品牌Le Creuset，并表示作為她的“新年大放送”，會向20位粉絲免費贈送一套炊具。

事實上，視頻中的“霉霉”并不是真的斯威夫特，而是AI“深度造假”技術(shù)合成了她的聲音，并將聲音與她的形象和Le Creuset廣告片段拼湊在一起。涉事公司對此迅速做出回應稱，斯威夫特沒有參與任何消費者贈品活動，所有關(guān)于產(chǎn)品促銷的活動均來自官方社交活動。

什么是AI“深度造假”？

AI“深度造假”（Deepfake）技術(shù)再次引發(fā)關(guān)注。深度造假（Deepfake）是英文“Deep learning”（深度學習）和“Fake”（偽造）的混成詞，指利用深度學習技術(shù)生成合成圖像、音頻或視頻的技術(shù)。

美國布法羅大學“媒體取證實驗室”的計算機科學教授呂思偉（Siwei Lyu）表示，“霉霉”這起“深度造假”詐騙活動很可能是利用文字轉(zhuǎn)語音服務制作的。這類工具可將腳本轉(zhuǎn)譯成聲音，并用唇語同步程序?qū)⑵浜铣芍烈曨l片段。

每日經(jīng)濟新聞綜合公開消息

封面圖片來源：視覺中國