小紅書副總裁許磊：持續(xù)完善AIGC治理體系，守好“真實”平臺生命線

11月21日，小紅書副總裁許磊出席2024烏鎮(zhèn)世界互聯(lián)網(wǎng)大會“人工智能技術(shù)創(chuàng)新與治理”論壇，并發(fā)表主旨演講。許磊指出，AIGC大幅降低內(nèi)容創(chuàng)作門檻的同時，也對平臺治理帶來了新挑戰(zhàn)。小紅書已初步完成AIGC治理體系建設(shè)，將持續(xù)治理工作推進(jìn)，守好“真實”的平臺生命線。

作為鼓勵用戶真誠分享的內(nèi)容社區(qū)，小紅書歷經(jīng)11年，已發(fā)展成“3億人的生活百科全書”。基于個性化推薦算法，小紅書平臺將超過一半的流量曝光分配給千粉以下用戶，踐行流量普惠。“我們相信算法是有價值的。”許磊表示。

隨著生成式人工智能技術(shù)的興起，算法從分發(fā)領(lǐng)域進(jìn)入到內(nèi)容生產(chǎn)領(lǐng)域，對內(nèi)容平臺帶來了全新的機(jī)遇與挑戰(zhàn)。AI輔助工具提升了用戶創(chuàng)作的積極性，同時也降低了惡意仿冒的門檻，增加了虛構(gòu)新聞、假冒真人引流和虛假營銷的風(fēng)險。

許磊表示，小紅書為“真誠分享”而生，真實是小紅書平臺的生命線。為此，小紅書在2023年就啟動應(yīng)對AIGC的治理體系建設(shè)，并在公司層面成立了專項組，加快治理工作推進(jìn)。

首先，加大AI識別模型的研發(fā)投入，基于“分類器”技術(shù)的識別模型，平臺對識別為疑似AI生成的內(nèi)容進(jìn)行顯著標(biāo)識，提醒用戶注意甄別內(nèi)容真實性。同時，平臺設(shè)置了機(jī)器識別+人工識別的雙重屏障，以減少AI生成低質(zhì)內(nèi)容的曝光，針對其中侵權(quán)、假冒、誘導(dǎo)等內(nèi)容第一時間下架處理。

對于創(chuàng)作者，平臺要求主動對AI生成的內(nèi)容進(jìn)行顯著標(biāo)識，并持續(xù)簡化打標(biāo)流程，鼓勵創(chuàng)作者利用新技術(shù)進(jìn)行內(nèi)容創(chuàng)新的同時，也積極參與到生態(tài)建設(shè)中。

“小紅書將創(chuàng)新與治理兩手抓，迎接好新一波人工智能技術(shù)浪潮帶來的機(jī)遇與挑戰(zhàn)。”許磊表示。