地震“被壓廢墟下的小男孩”，實(shí)際為AI生成圖片！發(fā)布者會(huì)被追責(zé)嗎？

每經(jīng)編輯 陳柯名    

1月7日9時(shí)05分，西藏日喀則市定日縣發(fā)生6.8級(jí)地震，災(zāi)情牽動(dòng)人心，許多網(wǎng)友在社交平臺(tái)上為災(zāi)民祈福。

在視頻平臺(tái)上，一張“被壓廢墟下的小男孩”圖片引發(fā)廣泛關(guān)注。圖片中，一名戴帽子的小男孩被壓在倒塌的廢墟下，全身鋪滿(mǎn)塵埃。記者注意到，這張圖片在某短視頻平臺(tái)，被多個(gè)賬戶(hù)轉(zhuǎn)發(fā)，卻配文都與西藏日喀則地震關(guān)聯(lián)，有賬戶(hù)因此獲得上萬(wàn)轉(zhuǎn)發(fā)和評(píng)贊。

而實(shí)際上，這張小男孩圖片是由AI生成。仔細(xì)觀察這張圖片，就能發(fā)現(xiàn)疑點(diǎn)，圖中孩子的左手，有六根手指，這是AI生成的典型特征。且平臺(tái)也在相關(guān)視頻下方給出文字提示：“疑似使用AI生成技術(shù)，請(qǐng)謹(jǐn)慎甄別”。雖有提示，不少網(wǎng)友仍被誤導(dǎo)，并在留言區(qū)關(guān)注男孩的生命安全。

▲圖中孩子的左手顯示為六根手指

據(jù)新京報(bào)，進(jìn)一步檢索發(fā)現(xiàn)，一個(gè)叫“AI小芭芘”的賬號(hào)于2024年11月18日在某平臺(tái)上傳的一條短視頻中，有完全相同的畫(huà)面，作者也明確聲稱(chēng)這條內(nèi)容是用AI工具創(chuàng)作的。因此，從7日到今天上傳的，暗示或宣稱(chēng)這位孩子是地震受災(zāi)人員的視頻，都是誤導(dǎo)性的。

其實(shí)這并非個(gè)例。在某視頻平臺(tái)上，紅星新聞?dòng)浾咭浴叭湛t地震群眾被埋”為關(guān)鍵詞進(jìn)行搜索發(fā)現(xiàn)，不少視頻博主都發(fā)布了AI生成的災(zāi)區(qū)圖片，且都在配文中與日喀則地震關(guān)聯(lián)。盡管大部分圖片下方都有小字提示為“AI生成”，但相關(guān)內(nèi)容仍讓不少網(wǎng)友信以為真。

據(jù)紅星新聞，記者嘗試在多款A(yù)I智能生成軟件中進(jìn)行相關(guān)圖片生成，多數(shù)軟件生成圖片無(wú)風(fēng)險(xiǎn)提示，如在一款A(yù)I智能APP中，記者輸入“日喀則地震嬰兒被埋”的關(guān)鍵詞，軟件在未給予任何侵權(quán)、違規(guī)、虛假信息等干預(yù)提示下，自動(dòng)生成了多張相關(guān)圖片。

對(duì)此，北京京展律師事務(wù)所主任律師張曉玲分析認(rèn)為，AI軟件在輸入有關(guān)地震等關(guān)鍵詞時(shí)，未給出任何“不傳播虛假信息”等提示，直接生成相關(guān)圖片，存在不妥。

“AI軟件在算法上，應(yīng)當(dāng)也有能力對(duì)關(guān)鍵詞進(jìn)行識(shí)別，需要具備一定的道德和法律的判斷能力，在用戶(hù)輸入關(guān)鍵詞時(shí)給予明確的警示，避免生成和傳播虛假信息?！睆垥粤嵴f(shuō)。

網(wǎng)友利用AI技術(shù)生成地震災(zāi)區(qū)現(xiàn)場(chǎng)關(guān)聯(lián)圖片，并引發(fā)社會(huì)關(guān)注，這樣的行為是否欠妥？就此，河南澤槿律師事務(wù)所主任付建在接受紅星新聞采訪(fǎng)時(shí)指出，盡管網(wǎng)友本身或并無(wú)惡意，只是希望借助AI生成的圖片獲取流量，或希望更多人來(lái)關(guān)注地震。但用“假圖”關(guān)聯(lián)真實(shí)事件，付建認(rèn)為，其行為雖不違法，但不符合社會(huì)公序良俗和道德，讓他人產(chǎn)生誤解，有失妥當(dāng)。

張曉玲也提到，若相關(guān)內(nèi)容轉(zhuǎn)發(fā)評(píng)論量較大，造成了不良社會(huì)影響，那么根據(jù)《治安管理處罰法》相關(guān)規(guī)定，發(fā)布者編造虛假的險(xiǎn)情、疫情、災(zāi)情、警情，在信息網(wǎng)絡(luò)或者其他媒體上傳播，嚴(yán)重?cái)_亂社會(huì)秩序的，處三年以下有期徒刑、拘役或者管制；造成嚴(yán)重后果的，處三年以上七年以下有期徒刑。

編輯|陳柯名 蓋源源

校對(duì)|段煉

每日經(jīng)濟(jì)新聞綜合自紅星新聞、新京報(bào)等