中國(guó)科學(xué)院院士張鈸：人工智能現(xiàn)在還難以處理突發(fā)事件 融入人類知識(shí)是提高其安全性的重要措施

12月12日，中國(guó)科學(xué)院院士、計(jì)算機(jī)科學(xué)與技術(shù)專家張鈸在2019智能協(xié)同云技術(shù)與產(chǎn)業(yè)發(fā)展高峰論壇上提到，人工智能的應(yīng)用場(chǎng)景需要滿足具有豐富的數(shù)據(jù)或（和）知識(shí)、確定性信息、完全信息、靜態(tài)（按照確定規(guī)律演化、可預(yù)測(cè)）、單領(lǐng)域與單任務(wù)5個(gè)條件，不能滿足其中任何一個(gè)，人工智能就會(huì)遇到困難。

記者了解到，會(huì)上發(fā)布了航天智云平臺(tái)2.0版本及相關(guān)產(chǎn)業(yè)應(yīng)用。張鈸以平臺(tái)為由頭說(shuō)開(kāi)去，他提到，航天智云平臺(tái)基本上是根據(jù)數(shù)據(jù)、算力、知識(shí)、算法4方面資源來(lái)構(gòu)建的。從目前構(gòu)建平臺(tái)角度來(lái)看，大家對(duì)數(shù)據(jù)和算力都足夠重視，但是大多數(shù)人還不夠重視知識(shí)和算法。

要想建立一個(gè)智能化平臺(tái)，如何達(dá)到智能化？張鈸指出，其實(shí)很重要的就是利用知識(shí)和算法兩個(gè)資源。人工智能模型和算法是核心，我們必須要從當(dāng)前人工智能所具備的能力出發(fā)來(lái)處理這個(gè)問(wèn)題。

現(xiàn)在人工智能模型和算法究竟能夠解決什么樣類型的問(wèn)題？面臨著什么樣的挑戰(zhàn)？

圖片來(lái)源：每經(jīng)記者 張蕊 攝

張鈸表示，首先人工智能目前的算法只能應(yīng)用在符合以下5個(gè)條件的場(chǎng)景，即：具有豐富的數(shù)據(jù)或（和）知識(shí)、確定性信息、完全信息、靜態(tài)（按照確定規(guī)律演化、可預(yù)測(cè)）、單領(lǐng)域與單任務(wù)。

“從這點(diǎn)來(lái)看，我們過(guò)去取得的成果都是符合這5個(gè)條件。”他舉例說(shuō)，AlphaGo應(yīng)該說(shuō)是非常復(fù)雜的問(wèn)題，但是AlphaGo完全符合這5個(gè)條件，它有豐富的數(shù)據(jù)，它的信息是確定的，而且它是完全信息博弈，所以它是按照規(guī)定的規(guī)律在演化，它下去的過(guò)程是完全可預(yù)測(cè)的，單任務(wù)單領(lǐng)域。

“如果我們應(yīng)用場(chǎng)景不符合這5個(gè)條件中的任何一個(gè)，人工智能就會(huì)遇到困難。”張鈸說(shuō)，舉一個(gè)最簡(jiǎn)單的例子，自動(dòng)駕駛。自動(dòng)駕駛為什么到現(xiàn)在為止，還不能在交通比較復(fù)雜的情況下運(yùn)用呢？問(wèn)題就是因?yàn)樽詣?dòng)駕駛基本上不符合這5個(gè)條件。

他進(jìn)一步分析，“具有豐富的數(shù)據(jù)”是可以符合的，但它不是確定性信息，也不是完全信息，它是動(dòng)態(tài)的，而且它也不是單純的單任務(wù)，它有道路、有車輛、有行人，涉及的領(lǐng)域很廣。

“所以在這種情況下，實(shí)際上人工智能很難應(yīng)用，甚至很難通過(guò)大數(shù)據(jù)學(xué)習(xí)來(lái)解決問(wèn)題，因?yàn)樗鼤?huì)出來(lái)突發(fā)事件。人工智能現(xiàn)在還難以處理突發(fā)事件，突發(fā)事件也不可以通過(guò)大數(shù)據(jù)的學(xué)習(xí)來(lái)學(xué)到。”他說(shuō)。

張鈸強(qiáng)調(diào)，如果人工智能的算法不安全，其他的安全其實(shí)談不上，所以一個(gè)智能化的系統(tǒng)首先要考慮人工智能的算法是否安全。

他指出，現(xiàn)在基于深度學(xué)習(xí)的大數(shù)據(jù)的算法和模型有“四個(gè)不”：不安全（容易受到攻擊與欺騙）、不可解釋（所以不可信）、不可靠（不可避免產(chǎn)生重大的錯(cuò)誤）、不易推廣。如果這“四個(gè)不”不解決，這個(gè)平臺(tái)肯定是不安全的。

在張鈸看來(lái)，正是由于人工智能目前這種不確定性，因此不可以用到關(guān)鍵的地方、人命關(guān)天的地方，比如醫(yī)療、自動(dòng)駕駛，“不能隨便用”。

此外，他還提到，現(xiàn)在的人工智能缺乏自我知識(shí)與常識(shí)。平臺(tái)越網(wǎng)絡(luò)化、信息化和智能化，越是脆弱，越容易受到攻擊。

他認(rèn)為，要應(yīng)對(duì)這個(gè)問(wèn)題，人機(jī)協(xié)同是關(guān)鍵。“人類的參與，特別是人類知識(shí)的融入是提高安全性的重要措施，建立通用知識(shí)庫(kù)十分重要。”