追蹤丨AI換臉猖獗、95%的詐騙導流第三方??中國犯罪學學會副會長皮勇：犯罪在變，教材沒有及時更新

每經(jīng)記者 畢媛媛  杜蔚    每經(jīng)編輯 文多    

“雷軍回應‘7天假期被AI雷軍罵了8天’”“靳東建議AI換臉立法”??今年全國兩會期間，人工智能（AI）技術治理成為討論焦點之一，其中“AI換臉”引發(fā)的風險問題受到代表委員們熱議。

在這場身份保衛(wèi)戰(zhàn)中，公眾人物、媒體首當其沖。“AI張文宏”深夜直播帶貨、“AI劉曉慶”分享雞湯、“AI古天樂”代言網(wǎng)游……AI換臉已淪為黑灰產(chǎn)業(yè)鏈的作案工具。日前，每日經(jīng)濟新聞刊發(fā)《微信抖音都難防！花1280元，直播、視頻通話能實時換成劉亦菲、楊冪的臉，拍臉按鼻露齒及大幅遮擋都不會“掉臉”》廣受各界關注，平臺也開始思考：AI深度偽造導致傳統(tǒng)防偽手段失效后如何保護數(shù)億用戶。

3月10日，“小紅書”在北京舉辦首次“詐騙治理開放日”，公布了2024年平臺反詐治理成果：通過不斷完善全鏈路治理體系，平臺全年共處置涉詐違規(guī)賬號492萬個，主動攔截94.3%的詐騙行為，詐騙舉報量同比下降60%。

但是，在分享治理措施和經(jīng)驗的同時，小紅書反詐治理負責人蒼連表示，詐騙治理是個長期過程，存在不少難點，需要更多互聯(lián)網(wǎng)平臺、企業(yè)以及用戶共同參與解決。其中，95%的詐騙行為被誘導至第三方平臺實施，形成監(jiān)管斷點，這讓追蹤溯源難上加難。

中國犯罪學學會副會長兼信息犯罪防控專業(yè)委員會主任、同濟大學法學教授皮勇警示，伴隨AI時代到來，深度合成的影像越來越真實，犯罪人是誰？聲音來自誰？越來越難以分辨。“犯罪在變，我們的‘教材’卻沒有及時更新。”

皮勇介紹“打防結合、共同防治”的反詐模式 圖片來源：主辦方提供

詐騙渠道從傳統(tǒng)電信渠道向網(wǎng)絡全面轉(zhuǎn)移

“千萬不要覺得自己不會被騙。”蘇州市公安局金牌反詐講師朱鈺表示，詐騙分子盯上的是我們每一個人，不會區(qū)分人們的學歷、職業(yè)。

當下，AI技術迅猛發(fā)展，詐騙形式也以超乎想象的速度不斷升級。對于警方而言，傳統(tǒng)的事后打擊犯罪方式已陷入被動的局面。“犯罪分子在網(wǎng)上飛，在全世界飛，我們公安民警如果在地上追，根本沒有用。不僅成本投入巨大，人員消耗也大，還無法有效遏制。”朱鈺無奈地說道。

基于多年的從警經(jīng)驗，朱鈺總結出當下詐騙的三大特點——

第一，從過去的廣撒網(wǎng)式詐騙轉(zhuǎn)變?yōu)榫珳试p騙。詐騙分子通過非法手段獲取公民個人信息，據(jù)此量身定制詐騙劇本，實施精準詐騙。

第二，詐騙手法從單一走向組合套路。詐騙手段不斷演變，從最初的、簡單的冒充熟人式、中獎式詐騙，發(fā)展到如今融合刷單返利、殺豬盤、虛假投資等多種形式的復合型詐騙，靈活性更強，讓人防不勝防。

第三，詐騙渠道從傳統(tǒng)電信渠道向網(wǎng)絡全面轉(zhuǎn)移。利用社交軟件、直播平臺、網(wǎng)絡游戲等新型網(wǎng)絡產(chǎn)物實施詐騙的案例日益增多，隱蔽性愈發(fā)突出，增加了識別和防范的難度。

除了詐騙手法更具迷惑性，目前網(wǎng)絡詐騙的危害也遠超以往。隨著互聯(lián)網(wǎng)的發(fā)展普及，公開數(shù)據(jù)顯示，網(wǎng)絡犯罪案件增長迅速，目前占全部犯罪案件的七成以上。

蒼連分享平臺治理策略和措施 圖片來源：主辦方提供

蒼連以站外導流難追蹤為例進一步介紹道，詐騙行為在平臺內(nèi)通常偽裝成正常筆記（即博主發(fā)布的內(nèi)容）和交流內(nèi)容，不觸及詐騙核心環(huán)節(jié)的誘導轉(zhuǎn)賬或資金流轉(zhuǎn)。因此，其詐騙特征不明顯，平臺辨別存在困難。隨后，詐騙者會將用戶引導至第三方平臺實施進一步的詐騙活動，“這一比例高達95%，導致難以實現(xiàn)有效追蹤”。

一年近120種不法手段！AI時代如何構筑反詐防線

AI的應用場景愈發(fā)廣泛，也為詐騙分子提供了新的偽裝手段。

朱鈺直言，如今除了詐騙手法更具迷惑性，網(wǎng)絡詐騙的危害其實也遠超從前，因為產(chǎn)業(yè)鏈條盤根錯節(jié)，而且跨境跨國犯罪的趨勢明顯，打擊難度非常之大。

針對上述問題，公安機關也在不斷地調(diào)整打擊和防范的措施。在此情況下，警企合作正在加強。朱鈺介紹：“我們也希望短視頻平臺發(fā)現(xiàn)詐騙風險后，能夠及時同步警方來聯(lián)動，將這些信息最早最快地告訴我們，避免更多人民群眾的財產(chǎn)受損失。”

“這對治理的‘及時性’和‘對抗性’都提出了很大的考驗。”蒼連透露，過去一年，小紅書累計出現(xiàn)近120種詐騙方式，比2023年的96種增加了四分之一。詐騙話術演變也非常迅速，例如“導流到其他平臺”的話術變體，目前就有不下500種。

所幸，借助AI，小紅書建立了超過100個識別模型?！睹咳战?jīng)濟新聞》記者在現(xiàn)場了解到，疊加大模型理解能力，小紅書可對詐騙風險實現(xiàn)跨場景內(nèi)容的理解與攔截。2024年，小紅書對詐騙行為的主動攔截率達到了94.3%，月均推送風險提醒3700萬次。蒼連表示：“平臺用戶對詐騙單日舉報量方面，2024年底比年初減少了60%，呈現(xiàn)顯著下降。”

圖片來源：主辦方提供

業(yè)內(nèi)專家呼吁，社會各界共同參與反詐斗爭，形成全民反詐的強大合力。

“進入人工智能時代，我們的反詐犯罪防控又遇到了新的問題。深度合成的影像越來越真，犯罪人是誰？聲音來自誰？越來越難以分辨。”皮勇在活動現(xiàn)場表示，大眾要帶著懷疑的態(tài)度對待網(wǎng)絡空間。

皮勇認為：“犯罪在變，我們的‘教材’還沒有及時更新。未來，當人形機器人進入我們的生活，將對國家立法提出新的挑戰(zhàn)??需要進行人工智能化的升級，才具備治理‘未來已來’的智能化犯罪的能力。”