抖音出手，又一批賬號(hào)涼了！

每經(jīng)編輯 盧祥勇    

3月26日，抖音安全中心發(fā)布消息稱，去年，抖音發(fā)布《關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議》，明確平臺(tái)不鼓勵(lì)利用AI生成虛擬人物進(jìn)行低質(zhì)創(chuàng)作，將嚴(yán)格處罰違規(guī)使用AI生成虛擬人物發(fā)布違背科學(xué)常識(shí)、弄虛作假、造謠傳謠的內(nèi)容。

近期平臺(tái)發(fā)現(xiàn)，站內(nèi)仍有不當(dāng)使用AI技術(shù)生成虛擬人物發(fā)布內(nèi)容的賬號(hào)，平臺(tái)進(jìn)行了嚴(yán)厲處置。

其中典型行為包括：

1、生成境外虛假人設(shè)，消費(fèi)愛國(guó)心理、博取關(guān)注。用虛假外國(guó)人的形象，以想嫁給中國(guó)、想到中國(guó)生活、評(píng)價(jià)社會(huì)事件等言論博取眼球。

2、生成俊男美女虛假形象，騙取互動(dòng)，交友導(dǎo)流。直接稱用戶為“你”“娘”“媽媽”“老公”等，發(fā)布情感誘導(dǎo)、唱情歌、為你謀福利等表達(dá)虛假情感的內(nèi)容，將用戶導(dǎo)流至私人聊天工具，甚至進(jìn)行詐騙。

3、生成精英人士虛假人設(shè)，發(fā)布心靈雞湯、財(cái)商、偽國(guó)學(xué)、厚黑學(xué)、偽成功學(xué)等不良內(nèi)容，低質(zhì)吸粉，甚至引流到站外以賣課、入群等方式獲利。

針對(duì)違規(guī)使用AI生成虛擬人物的行為，平臺(tái)會(huì)對(duì)違規(guī)視頻下架，對(duì)違規(guī)賬號(hào)進(jìn)行取消其投稿和營(yíng)利權(quán)限、抹除賬號(hào)粉絲、封禁賬號(hào)等處置，并利用模型、技術(shù)識(shí)別能力等手段，進(jìn)行長(zhǎng)期系統(tǒng)的識(shí)別發(fā)現(xiàn)和處置。同時(shí)，平臺(tái)已掌握部分黑產(chǎn)團(tuán)伙不當(dāng)使用AI生成虛擬人物用于犯罪的線索，將報(bào)警打擊。

人工智能技術(shù)的快速發(fā)展，豐富了互聯(lián)網(wǎng)內(nèi)容生態(tài)，但也帶來(lái)技術(shù)濫用的挑戰(zhàn)。平臺(tái)重申，創(chuàng)作者、主播、用戶、商家、廣告主等平臺(tái)生態(tài)參與者，在抖音應(yīng)用生成式人工智能技術(shù)時(shí)，須遵循以下規(guī)范：

1、發(fā)布者應(yīng)對(duì)人工智能生成內(nèi)容進(jìn)行顯著標(biāo)識(shí)，幫助其他用戶區(qū)分虛擬與現(xiàn)實(shí)，特別是易混淆場(chǎng)景。

2、發(fā)布者需對(duì)人工智能生成內(nèi)容產(chǎn)生的相應(yīng)后果負(fù)責(zé)，無(wú)論內(nèi)容是如何生成的。

3、虛擬人需在平臺(tái)進(jìn)行注冊(cè)，虛擬人技術(shù)使用者需實(shí)名認(rèn)證。

4、禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容，包括但不限于肖像權(quán)、知識(shí)產(chǎn)權(quán)等。一經(jīng)發(fā)現(xiàn)，平臺(tái)將嚴(yán)格處罰。

5、禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布違背科學(xué)常識(shí)、弄虛作假、造謠傳謠的內(nèi)容。一經(jīng)發(fā)現(xiàn)，平臺(tái)將嚴(yán)格處罰。

此前3月25日，抖音還發(fā)布了關(guān)于開展“厚黑學(xué)”“偽成功學(xué)”專項(xiàng)治理的公告。其中提到，為落實(shí)國(guó)家網(wǎng)信辦和北京網(wǎng)信辦“清朗”系列專項(xiàng)行動(dòng)要求，抖音開展“厚黑學(xué)”“偽成功學(xué)”專項(xiàng)治理行動(dòng)，治理“自媒體”炒作社會(huì)焦慮，無(wú)底線吸粉引流牟利問題。

近期平臺(tái)在巡查中發(fā)現(xiàn)，有少數(shù)“自媒體”利用普通人想迅速成功的心理，針對(duì)性策劃內(nèi)容和開設(shè)矩陣號(hào)，將取得成功的方式簡(jiǎn)單化、套路化甚至“厚黑化”，并通過(guò)開設(shè)私董會(huì)、培訓(xùn)班等方式變現(xiàn)。也有部分“自媒體”，利用技術(shù)大爆炸時(shí)代普通人擔(dān)憂“落伍”的正常心態(tài)，渲染社會(huì)焦慮并販賣“解藥”，通過(guò)大量矩陣號(hào)將用戶引流至第三方以賣課、入群等方式變現(xiàn)。

上述行為，嚴(yán)重違反了平臺(tái)規(guī)則，損害了其他用戶的權(quán)益，平臺(tái)將采取包含下架視頻、取消營(yíng)利權(quán)限、抹除不當(dāng)獲取的粉絲、禁止搜索關(guān)注、封禁賬號(hào)在內(nèi)的措施進(jìn)行治理。

編輯|盧祥勇 杜恒峰

校對(duì)|段煉

封面圖來(lái)源：每日經(jīng)濟(jì)新聞 劉國(guó)梅 攝

每日經(jīng)濟(jì)新聞綜合自湖南省公安廳官微、湖南日?qǐng)?bào)、化州市政府、張家口市政府