多地出現(xiàn)“AI換臉”新騙局！中國互聯(lián)網(wǎng)協(xié)會發(fā)文提醒，有人被騙走430萬，生成露臉說話視頻僅需數(shù)30元

近日，內(nèi)蒙古包頭等多地出現(xiàn)AI換臉新騙局，單筆被騙金額高達400余萬，引發(fā)廣泛關(guān)注。 5月24日，中國互聯(lián)網(wǎng)協(xié)會發(fā)文提醒，不法分子利用AI技術(shù)，通過聲音合成，偽造成特定人物的聲音，通過AI換臉，偽裝成特定人物，實時與他人進行視頻通話。更換后的面部表情自然，以假亂真，能夠冒充他人身份聯(lián)系被害人，博取被害人信任后實施詐騙。面對利用AI技術(shù)的新型騙局，廣大公眾需提高警惕，加強防范! 據(jù)中新經(jīng)緯，目前制作一套“露臉且說話”視頻成本低至數(shù)十元，只需提供正面照就能生成視頻，不僅眼睛、嘴巴、頭會動，如果提供文字口型也能對上，一個晚上就能完工。有商家稱用照片生成一段1分鐘時長的視頻僅需30元左右。如果視頻時間短。質(zhì)量要求不高幾塊錢一段都可以。 圖片來源：視覺中國-VCG111424718601 中國互聯(lián)網(wǎng)協(xié)會：警惕！“AI換臉”新騙局 據(jù)中國互聯(lián)網(wǎng)協(xié)會5月24日消息，今年以來，ChatGPT和GPT-4等技術(shù)的應(yīng)用，成為了信息科技領(lǐng)域的熱點，引起公眾對AI技術(shù)的廣泛關(guān)注和熱情。但伴隨著深度合成技術(shù)的開放開源，深度合成產(chǎn)品和服務(wù)逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻，進行詐騙、誹謗的違法行為屢見不鮮。 近期，包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布一起使用智能AI技術(shù)進行電信網(wǎng)絡(luò)詐騙的案件。不法分子利用AI技術(shù)，通過聲音合成，偽造成特定人物的聲音，通過AI換臉，偽裝成特定人物，實時與他人進行視頻通話。更換后的面部表情自然，以假亂真，能夠冒充他人身份聯(lián)系被害人，博取被害人信任后實施詐騙。 面對利用AI技術(shù)的新型騙局，廣大公眾需提高警惕，加強防范! 01做好個人信息安全第一責任人 1、加強個人信息保護意識，防止信息泄露：不輕易提供人臉、指紋等個人生物信息給他人；不要輕易透露自己的身份證、銀行卡、驗證碼等信息；不要貪圖方便把身份證、銀行卡照片等直接共同存放于手機內(nèi)。 提示：發(fā)現(xiàn)APP過度、強制收集個人信息，請至12321.cn投訴。 2、陌生鏈接不要點,陌生軟件不要下載,陌生好友不要隨意添加,不明二維碼不要隨意掃描。管理好自己的朋友圈，也不要輕易向陌生人開啟手機屏幕共享。 3、做好個人防護，安裝安全軟件，防止手機和電腦中病毒。對個人賬戶的安全狀況保持警惕，尤其是陌生設(shè)備的登陸情況，防止微信、QQ等被盜號給親朋好友帶來麻煩。 4、對于不常用的APP，建議卸載前注銷個人帳號。 △提示：APP不提供個人帳號注銷方式，或為注銷帳號設(shè)置各類障礙的，請至12321.cn投訴。 02遠程轉(zhuǎn)賬務(wù)必需要多重驗證，把好“錢袋子” 如果有人自稱“家人”“朋友”“老師”“領(lǐng)導”通過社交軟件、短信、電子郵件等以“手機掉水里了，學校需要緊急交輔導班學費”“人在境外旅游，需要幫忙買機票”“給領(lǐng)導辦私事，需緊急轉(zhuǎn)賬”“遭遇車禍，需要馬上手術(shù)”“情況特殊，需要過橋資金拆借”等各種方式和理由誘導你轉(zhuǎn)賬匯款，務(wù)必第一時間提高警惕！ 在AI時代，文字、聲音、圖像和視頻都有可能是深度合成的。在轉(zhuǎn)賬匯款、資金往來這樣的典型場景，要通過回撥對方手機號等額外通信方式核實確認，不要僅憑單一溝通渠道未經(jīng)核實就直接轉(zhuǎn)賬匯款！無論對方是誰！ △提示：遭遇詐騙信息，請至12321.cn反詐專欄舉報，如發(fā)生資金損失請及時報警。 一直以來，中國互聯(lián)網(wǎng)協(xié)會不斷推進行業(yè)自律，積極開展防范治理電信網(wǎng)絡(luò)詐騙工作。2023年6月14-16日，中國互聯(lián)網(wǎng)協(xié)會將組織舉辦“2023年電信網(wǎng)絡(luò)詐騙治理工作培訓”，解讀電信網(wǎng)絡(luò)詐騙治理法律法規(guī)，分析研判電信網(wǎng)絡(luò)詐騙治理的重點工作和發(fā)展形勢，助力企業(yè)落實防范治理電信網(wǎng)絡(luò)詐騙責任，提高管理能力，促進行業(yè)健康發(fā)展。 四川綿陽：騙子利用AI換臉和擬聲技術(shù)佯裝領(lǐng)導，一市民被騙40余萬 5月23日，四川綿陽市反電信網(wǎng)絡(luò)詐騙中心發(fā)布預(yù)警稱，近日，多地連續(xù)發(fā)生多例AI詐騙案例。 典型案例:市民王先生突然接到主管單位領(lǐng)導視頻電話，稱其朋友想借王先生公司賬戶過賬40余萬，還說該款項隨后就轉(zhuǎn)到王先生公司對公賬號，基于對領(lǐng)導的信任，加上已經(jīng)視頻聊天核實了身份，王先生立即就把40余萬轉(zhuǎn)至指定賬戶上，隨后發(fā)現(xiàn)上當受騙。這是騙子利用智能AI換臉和擬聲技術(shù)，佯裝領(lǐng)導對他實施了詐騙。 警方提示 1、視頻電話眼見、耳聽未必屬實，務(wù)請多方核實相關(guān)信息。 2、保護好隱私信息，不輕易提供人臉指紋等個人生物信息給他人，不過度公開或分享動圖、視頻等。 3、未經(jīng)核實請勿大額轉(zhuǎn)賬匯款。 內(nèi)蒙古包頭：科技公司老板10分鐘被騙走430萬元 據(jù)平安包頭官方微信號5月20日消息，5月8日，包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布一起使用智能AI技術(shù)進行電信詐騙的案件。 4月20日11時40分左右，福州市某科技公司法人代表郭先生的好友突然通過微信視頻聯(lián)系到他，兩人經(jīng)過短暫聊天后，好友告訴郭先生，自己的朋友在外地投標，需要430萬元保證金，且需要公對公賬戶過賬，所以想要借用郭先生公司的賬戶走一下賬。好友向郭先生要了銀行卡號，聲稱已經(jīng)把錢打到郭先生的賬戶上，還把銀行轉(zhuǎn)賬底單的截圖通過微信發(fā)給了郭先生。基于視頻聊天信任的前提下，郭先生沒有核實錢是否到賬，于11時49分先后分兩筆把430萬元給對方打了過去。錢款轉(zhuǎn)賬后，郭先生給好友微信發(fā)了一條消息，稱事情已經(jīng)辦妥。但讓他沒想到的是，好友回過來的消息竟然是一個問號。 郭先生撥打好友電話，對方說沒有這回事，他這才意識到竟然遇上了“高端”騙局，對方通過智能AI換臉技術(shù)，佯裝成好友對他實施了詐騙。 “從頭到尾都沒有和我提借錢的事情，就說會先把錢給我打過來，再讓我給他朋友賬戶轉(zhuǎn)過去，而且當時是給我打了視頻的，我在視頻中也確認了面孔和聲音，所以才放松了戒備”，郭先生說。 4月20日12時21分，包頭市電信網(wǎng)絡(luò)犯罪偵查局接到福建省福州市公安局刑偵支隊的外協(xié)請求，稱福建省一知名民營企業(yè)負責人被騙走430萬元，而涉案的銀行卡為包頭市蒙商銀行對公賬戶，希望包頭警方能夠幫忙進行緊急止付。 包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局立即啟動“包頭市警銀聯(lián)動綠色查詢機制”，當班民警以最快速度完成核查、報審程序，第一時間將涉案卡的信息通報至蒙商銀行相關(guān)部門。在銀行的全力協(xié)助下，僅用時10分鐘，就將該詐騙賬戶內(nèi)的336.84萬元被騙資金成功攔截。 同時，向福州市公安局警方提供了剩余款項93.16萬元資金流出信息，為深入突破該案剩余資金查找提供了突破方向。目前，福建警方與包頭警方對此資金正在全力追繳當中。 每日經(jīng)濟新聞綜合自中國互聯(lián)網(wǎng)協(xié)會、平安包頭官方微信號、中新經(jīng)緯