AI時代如何守護(hù)信息安全？百度安全總經(jīng)理馬杰：時刻保持安全意識

每經(jīng)記者 劉春山    每經(jīng)編輯 張海妮    

10月15日，百度安全總經(jīng)理馬杰在介紹AI安全相關(guān)情況 

圖片來源：每經(jīng)記者 劉春山 攝

“2017年底百度就發(fā)表過一篇論文。當(dāng)年市場上8款旗艦機(jī)，拿一個小小的指紋印章就打開。通過拍照、玻璃杯提取指紋就能做到，雖然這些手機(jī)沒有被做過任何手腳，也能被輕松騙過。”百度安全總經(jīng)理馬杰曾表示。近期，拍照就能提取指紋的傳言讓大家有所擔(dān)憂。10月15日，馬杰表示，外界所說的該情形從技術(shù)上是能夠在一定程度上實現(xiàn)的。其同時表示，在5G以及AI時代，網(wǎng)絡(luò)信息環(huán)境或?qū)⒈┞冻龈辔ｋU因素，而新的AI技術(shù)能輕松篡改各種傳感器，安全人員需要花更多精力去研究防治策略。

實際上，面對新的技術(shù)威脅，馬杰對未來的信息安全環(huán)境表示看好。馬杰在接受《每日經(jīng)濟(jì)新聞》采訪時表示，做信息安全永遠(yuǎn)是跟著時代步伐走的，當(dāng)初百度全面去做AI儲備時，就開始在做AI安全這件事情，“其實很多時候問題只要被提出來了，解決方案還是比較好辦的。如果發(fā)現(xiàn)不了（問題），反而是最大的問題。”

談信息安全：可從攻擊者角度去思考問題

拍照“比V”就能被提取指紋，換臉軟件是否保存面部信息，近來一系列關(guān)于個人生物識別信息泄漏的話題在網(wǎng)絡(luò)上被熱烈討論。除了個人隱私信息之外，大家更擔(dān)心隨之而來的資金風(fēng)險。

據(jù)馬杰介紹，之前的互聯(lián)網(wǎng)時代，最主要的安全風(fēng)險以病毒為核心，包含一些網(wǎng)絡(luò)的DDos攻擊。到了移動互聯(lián)網(wǎng)時代，隨著手機(jī)越做越安全，病毒不再是問題的時候，電信欺詐、偽基站的問題又出來了。現(xiàn)在到了人工智能時代，以前的這些風(fēng)險會繼續(xù)存在，但也出現(xiàn)了一些新的風(fēng)險。在過去的工業(yè)革命中，往往都是人類去適應(yīng)新的機(jī)器，人類學(xué)著怎么安全駕駛，學(xué)習(xí)怎樣安全用電。而在AI時代，第一次人類發(fā)明的事物要先來“適應(yīng)人”，這個變化是巨大的，帶來了包括模型安全在內(nèi)的新問題，衍生出不同的信息安全挑戰(zhàn)。

馬杰表示，機(jī)器深度學(xué)習(xí)需要大量的數(shù)據(jù)作為原料讓它們變得聰明，這同時就帶來了數(shù)據(jù)安全和隱私的問題，如何去度量中間的“尺度”尤為重要。此外，AIoT設(shè)備全面覆蓋，數(shù)量還會爆發(fā)式增長。AI正在滲透到社會和經(jīng)濟(jì)的方方面面，在AI時代，可能一個小的風(fēng)險就會造成一個更大的問題，會因為量變而產(chǎn)生質(zhì)變。

AI技術(shù)的復(fù)雜性，呼喚安全技術(shù)進(jìn)行升級。馬杰介紹，AI時代的安全威脅主要來自模型安全、數(shù)據(jù)安全與隱私、系統(tǒng)與網(wǎng)絡(luò)安全、安全生態(tài)四個方面。

在AI時代，如何更好地解決安全問題？馬杰同時強(qiáng)調(diào)，從攻擊者角度去思考，是提升安全防護(hù)能力和效率的一大途徑。比如，百度自己的AI技術(shù)可以生成“假臉”，同步也在研究如何識別“假臉”。

“你給我若干句話，我可以把你的聲音創(chuàng)造出來。”稍早之前，人工智能系統(tǒng)微軟小冰的負(fù)責(zé)人李笛在接受《每日經(jīng)濟(jì)新聞》記者專訪時介紹，微軟小冰一直有這種“黑科技”能力，但沒有對普通用戶開放。李笛還表示，人類對于AI的了解還是知之甚少，人工智能企業(yè)將這些AI技術(shù)產(chǎn)品化時，應(yīng)當(dāng)保持克制。

談安全企業(yè)生存：要讓安全公司活下去

在人工智能時代，信息安全更加重要，而百度對于安全一直高度重視，并在該方面持續(xù)投入。

《每日經(jīng)濟(jì)新聞》記者從百度相關(guān)人士處了解到，百度安全部門在百度內(nèi)部屬于基礎(chǔ)技術(shù)體系（TG），從而作為百度全部業(yè)務(wù)底層安全技術(shù)的重要支撐。目前，百度安全大致分為AI安全、移動安全、云安全、數(shù)據(jù)安全、業(yè)務(wù)安全，AI安全是其中最主要的工作和最主要的研究方向。

網(wǎng)絡(luò)黑產(chǎn)打擊也一直是百度的持久戰(zhàn)。馬杰介紹，少數(shù)網(wǎng)站通過篡改頁面信息、甚至植入惡意代碼來侵犯用戶利益，黑產(chǎn)也是所有互聯(lián)網(wǎng)公司、AI公司共同的敵人，百度以往跟各地公安合作偵破了很多案件。

馬杰在溝通會上演示了一個視頻片段，車間里前面一批人走過時沒有紅框，而后面一批人出現(xiàn)時，卻出現(xiàn)了紅框提醒。馬杰介紹，紅框提醒是因為AI識別出后面的人沒有戴安全帽，若在工廠運營能提升工人的安全程度。而在工廠之外，還有非常多的小場景能夠?qū)崿F(xiàn)，對很多AI大牛來說在算法上毫無挑戰(zhàn)性。

“對內(nèi)全面覆蓋百度的業(yè)務(wù)場景，對外是向個人用戶和商業(yè)伙伴輸出研究、技術(shù)方案，甚至包括很多開放開源的代碼。”馬杰介紹，“開放”是百度安全在AI時代的聚焦方向，百度推出的AIoT安全解決方案，也已引入華為、TCL、創(chuàng)維等50余家生態(tài)合作伙伴，覆蓋超過1.5億部設(shè)備。

但目前，大多數(shù)信息安全公司的處境并不是很好。有數(shù)據(jù)顯示，我國所有的安全公司加起來一年銷售額只有三四百億元，可能還不及一款游戲的收入。而跟其他發(fā)達(dá)國家相比，國內(nèi)在信息安全上的投入還是要小得多。

對此，馬杰表示，百度雖然不以安全為掙錢目標(biāo)，但外界需要讓這些以安全為生意的公司能活下去，要讓他們做更重要的事情。“如果我們企業(yè)的CEO、負(fù)責(zé)人不能理解安全在其中的重要性，他們一定不會把錢放到安全維護(hù)里面去。”馬杰說，業(yè)界要共同把AI安全這個事情做好，這比互相搶生意重要得多，“大家把蛋糕做大是首要的事情”。

對于個人如何守護(hù)信息安全，馬杰向《每日經(jīng)濟(jì)新聞》記者表示，給予普通用戶具體的一個技巧是很難的，因為也有太多信息安全場景，核心是時刻保持安全意識。