第四范式主任科學(xué)家：AI發(fā)展、監(jiān)管處于動(dòng)態(tài)博弈狀態(tài)

每經(jīng)記者 張虹蕾    每經(jīng)編輯 盧九安    

圖片來(lái)源：第四范式 供圖

在日常生活場(chǎng)景，AI細(xì)分技術(shù)領(lǐng)域應(yīng)用速度不斷加快，在推動(dòng)能源、交通、建筑、醫(yī)療等行業(yè)轉(zhuǎn)型升級(jí)過(guò)程中起到的作用日益突顯；在疫情防控工作中，AI技術(shù)應(yīng)用可以準(zhǔn)確掌握疫情發(fā)展動(dòng)態(tài)，對(duì)疫情的影響進(jìn)行預(yù)演判斷。

值得注意的是，在應(yīng)用過(guò)程中，AI技術(shù)的不足之處、軟硬件之間融合應(yīng)用存在裂縫等問(wèn)題也隨之暴露。由濫用AI技術(shù)所引發(fā)的個(gè)人隱私數(shù)據(jù)泄露等問(wèn)題，也引發(fā)了業(yè)界的擔(dān)憂(yōu)。

近日，《每日經(jīng)濟(jì)新聞》記者（以下簡(jiǎn)稱(chēng)“NBD”）專(zhuān)訪AI獨(dú)角獸企業(yè)第四范式主任科學(xué)家涂威威，其談及了AI數(shù)據(jù)保護(hù)等問(wèn)題。涂威威表示，AI的發(fā)展和監(jiān)管處于動(dòng)態(tài)博弈的狀態(tài)，無(wú)論是治理和數(shù)據(jù)保護(hù)都是為了更好的發(fā)展。能夠平衡兩者關(guān)系，制定AI治理規(guī)則及數(shù)據(jù)保護(hù)的法律，才能更好引領(lǐng)AI行業(yè)的發(fā)展，掌握競(jìng)爭(zhēng)主動(dòng)權(quán)。

數(shù)據(jù)質(zhì)量決定AI價(jià)值  隱私保護(hù)成本仍存挑戰(zhàn)

NBD：數(shù)據(jù)對(duì)AI技術(shù)的重要性何在？

涂威威：AI三要素是數(shù)據(jù)、算法、算力。對(duì)于任何企業(yè)，打牢數(shù)據(jù)基礎(chǔ)都非常關(guān)鍵。AI真正核心是從數(shù)據(jù)中發(fā)掘更多業(yè)務(wù)規(guī)律和價(jià)值。在算法、算力的支持下，數(shù)據(jù)的數(shù)量、質(zhì)量決定AI價(jià)值。

NBD：目前，AI企業(yè)在數(shù)據(jù)安全建設(shè)方面面臨什么問(wèn)題？

涂威威:對(duì)于多數(shù)大眾以及企業(yè)而言，數(shù)據(jù)隱私保護(hù)是復(fù)雜又龐大的工程。技術(shù)層面面臨兩方面的挑戰(zhàn)：在效果方面，需要讓數(shù)據(jù)安全、用戶(hù)隱私得到相同保護(hù)強(qiáng)度，并且提出更有效的算法，解決應(yīng)用場(chǎng)景問(wèn)題；在成本方面，機(jī)器學(xué)習(xí)、隱私保護(hù)技術(shù)復(fù)雜程度高，技術(shù)環(huán)節(jié)仍需要較多專(zhuān)家介入到數(shù)據(jù)預(yù)處理、特征工程、模型調(diào)參當(dāng)中，這也加大了人工接觸數(shù)據(jù)的機(jī)會(huì)，理論上增加泄露隱私風(fēng)險(xiǎn)。

NBD:在保護(hù)數(shù)據(jù)安全方面，有哪些探索路徑？

涂威威：為了更好的實(shí)現(xiàn)數(shù)據(jù)保護(hù)，我認(rèn)為企業(yè)需要從技術(shù)、標(biāo)準(zhǔn)兩方面發(fā)力。在技術(shù)層面，我們?cè)陔[私技術(shù)方面的工作主要為差分隱私、隱私保護(hù)的遷移學(xué)習(xí)技術(shù)等。

此外，我們研究出自動(dòng)多方機(jī)器學(xué)習(xí)技術(shù)。讓機(jī)器自動(dòng)完成數(shù)據(jù)預(yù)處理、特征工程、模型調(diào)參等工作。大幅減少了專(zhuān)家人工的介入，提升安全性的同時(shí)，也大幅降低了隱私保護(hù)技術(shù)的使用門(mén)檻，并與多方機(jī)構(gòu)開(kāi)展了深度合作。不過(guò)，以差分隱私技術(shù)為代表的隱私保護(hù)技術(shù)與自動(dòng)機(jī)器學(xué)習(xí)相結(jié)合還需要解決很多問(wèn)題。例如，如何在保護(hù)隱私的同時(shí)保證自動(dòng)機(jī)器學(xué)習(xí)的效果與效率、如何有效自動(dòng)分配隱私預(yù)算等。

在標(biāo)準(zhǔn)方面，我們此前通過(guò)GDPR認(rèn)證。也希望在數(shù)據(jù)隱私保護(hù)方面探索更多國(guó)際交流、合作空間。

線上數(shù)據(jù)持續(xù)攀升  數(shù)據(jù)保護(hù)要求更高

NBD:疫情期間，AI技術(shù)發(fā)揮出哪些作用？

涂威威:在疫情防控工作中，關(guān)鍵在于及時(shí)發(fā)現(xiàn)高風(fēng)險(xiǎn)人群與超級(jí)傳染者，準(zhǔn)確掌握疫情發(fā)展動(dòng)態(tài)并就不同政策對(duì)疫情的影響進(jìn)行預(yù)演判斷，以及更快速地追溯到病毒的傳播路徑，提高政府部門(mén)的防控效率。  

之前，我們聯(lián)合高校研究所、醫(yī)療機(jī)構(gòu)臨床專(zhuān)家，研發(fā)出基于AI的智能疫情防控方案投入應(yīng)用。主要包含三部分：一是利用AI技術(shù)豐富現(xiàn)有的防控篩查規(guī)則模型，精準(zhǔn)篩查高風(fēng)險(xiǎn)易感人群，進(jìn)行精準(zhǔn)防控；二是構(gòu)建了更接近實(shí)際情況的可學(xué)習(xí)的省、市、區(qū)、縣級(jí)數(shù)字孿生系統(tǒng)，實(shí)時(shí)預(yù)演分析疫情發(fā)展，做出拐點(diǎn)的預(yù)測(cè)；三是利用AI技術(shù)構(gòu)建疫情溯源系統(tǒng)，快速追溯傳染路徑。

NBD:疫情下，AI應(yīng)用場(chǎng)景有哪些新突破？

涂威威：疫情帶來(lái)最大的變化就是企業(yè)在線化程度加深。在線化不是簡(jiǎn)單把貨品從線下搬到線上，而是對(duì)經(jīng)營(yíng)行為進(jìn)行數(shù)字化行為、智能化服務(wù)。需要通過(guò)智能推薦、智能搜索、智能推送、智能客服等AI技術(shù)引擎，幫助企業(yè)多快好省地實(shí)現(xiàn)線上化智能運(yùn)營(yíng)，解決流量暴漲帶來(lái)的消費(fèi)者體驗(yàn)和資源調(diào)配優(yōu)化等問(wèn)題，開(kāi)辟線上化發(fā)展新局面。

NBD:這給企業(yè)帶來(lái)了哪些新思考？

涂威威：這次疫情中，我們服務(wù)的大型零售企業(yè)都在思考兩方面的內(nèi)容：一是解決突然增長(zhǎng)的線上訂單壓力；二是思考怎樣把在線客戶(hù)轉(zhuǎn)為私域流量。

為了幫助企業(yè)應(yīng)對(duì)突然爆發(fā)的在線需求，AI企業(yè)也需要提供線上化、智能化的精細(xì)化運(yùn)營(yíng)能力，幫助零售、金融、制造等傳統(tǒng)行業(yè)擁抱數(shù)字化革新、把握線上發(fā)展新機(jī)遇。未來(lái)，線上用戶(hù)、商品服務(wù)組合、用戶(hù)線上積累數(shù)據(jù)會(huì)不斷攀升。同時(shí)，也意味著對(duì)用戶(hù)隱私保護(hù)的技術(shù)提出了更高的要求。

數(shù)據(jù)保護(hù)制定權(quán)或成未來(lái)競(jìng)爭(zhēng)方向

NBD:業(yè)界認(rèn)為，AI治理規(guī)則及數(shù)據(jù)保護(hù)制定權(quán)至關(guān)重要，您怎樣看待？

涂威威：數(shù)據(jù)應(yīng)用隱私問(wèn)題一直備受關(guān)注。2018年，“史上最嚴(yán)個(gè)人數(shù)據(jù)保護(hù)法”歐盟GDPR強(qiáng)制執(zhí)行。2019年初，谷歌因違反GDPR條例被法國(guó)數(shù)據(jù)保護(hù)監(jiān)管機(jī)構(gòu)處以5000萬(wàn)歐元罰款。

GDPR之后，各個(gè)國(guó)家、地區(qū)重點(diǎn)加大了隱私保護(hù)關(guān)注力度，并通過(guò)立法等方式進(jìn)行有效干預(yù)。2020年1月，加州消費(fèi)者隱私法案（CCPA）生效。3月6日，國(guó)內(nèi)《個(gè)人信息安全規(guī)范》正式發(fā)布，在現(xiàn)有《網(wǎng)絡(luò)安全法》的基礎(chǔ)上，積極推動(dòng)《數(shù)據(jù)安全法》、《個(gè)人信息保護(hù)法》等，進(jìn)一步加強(qiáng)隱私保護(hù)的力度。

因而，數(shù)據(jù)是AI的基石，保護(hù)隱私是AI落地的必要條件，AI治理規(guī)則、數(shù)據(jù)保護(hù)的制定權(quán)將成為未來(lái)競(jìng)爭(zhēng)的方向。

NBD:此前有APP收集人臉信息，如何面對(duì)數(shù)據(jù)帶來(lái)的倫理道德挑戰(zhàn)？

涂威威:對(duì)于企業(yè)來(lái)說(shuō)，直接收集數(shù)據(jù)是成本最低，效率最高的方式。例如，互聯(lián)網(wǎng)金融行業(yè)，企業(yè)通過(guò)買(mǎi)第三方數(shù)據(jù)判定信用等級(jí)，成本極其低。但這種方式存在侵權(quán)風(fēng)險(xiǎn)。

除了提高數(shù)據(jù)隱私保護(hù)意識(shí)和技術(shù)解決能力之外，目前，國(guó)家不斷完善數(shù)據(jù)隱私保護(hù)層面的法律法規(guī)制定。相關(guān)行業(yè)標(biāo)準(zhǔn)也在制定中，其中包括了操作流程及規(guī)范、人員管理、技術(shù)選型等方面。

NBD:對(duì)于行業(yè)未來(lái)的發(fā)展，您還有何建議？

涂威威：AI的本質(zhì)在于能更有效、更精細(xì)化地挖掘數(shù)據(jù)的價(jià)值，而挖掘數(shù)據(jù)的同時(shí)，伴隨著泄露隱私的風(fēng)險(xiǎn)。然而，以往常用的加密及普通的匿名化手段并不能完全保證數(shù)據(jù)安全，攻擊者還可以對(duì)分析結(jié)果的差分攻擊以及查表撞庫(kù)等方法反推原數(shù)據(jù)。

隱私保護(hù)這場(chǎng)風(fēng)暴仍在席卷全球科技行業(yè)，國(guó)際及國(guó)內(nèi)在數(shù)據(jù)合規(guī)方面的整體意識(shí)不斷增強(qiáng)。AI企業(yè)在隱私保護(hù)和數(shù)據(jù)安全這條道路上并沒(méi)有什么捷徑可走，AI企業(yè)必須靜下心來(lái)做好產(chǎn)品和技術(shù)本身。

封面圖片來(lái)源：第四范式 供圖