專訪北京智源人工智能研究院院長、北大計算機學(xué)院教授黃鐵軍：我們完全有可能做到和ChatGPT同樣好甚至更好

每經(jīng)記者 張壽林    每經(jīng)編輯 張益銘

北大教授黃鐵軍從事智能視覺信息處理技術(shù)研究30余年，如今他愈發(fā)擔(dān)心AI超越人類智能，因為路徑越來越清晰。

不管是人工智能還是人腦，其學(xué)習(xí)都是基于神經(jīng)網(wǎng)絡(luò)。前者訓(xùn)練的數(shù)據(jù)量超過人類一生閱讀量很多個數(shù)量級，而且融會貫通，可以突然涌現(xiàn)新的能力，這一點事實上已經(jīng)發(fā)生了。

“而且隨著發(fā)展，其融會貫通的能力越來越強。”黃鐵軍提醒。

2024年1月7日，在第二十五屆北大光華新年論壇期間，每日經(jīng)濟新聞記者（以下簡稱“NBD”）專訪北京智源人工智能研究院院長、北京大學(xué)計算機學(xué)院教授黃鐵軍。

他提出，一個人工智能系統(tǒng)發(fā)展到一定階段，特別是具身智能比如機器人在與環(huán)境互動過程中，可能突然意識到自身和環(huán)境的關(guān)系。至此，具身智能便擁有了自我意識。

北京智源人工智能研究院院長、北大計算機學(xué)院教授黃鐵軍

圖片來源：北京大學(xué)光華管理學(xué)院

AI超越人類智能的路徑已經(jīng)存在

NBD：目前一部分AIGC不太受用戶認可，就在于生成結(jié)果不太可信，難以令人滿意。請問人工智能持續(xù)發(fā)展，需要努力追求100%可信、絕對可靠嗎？

黃鐵軍：這是錯誤的看法，通俗地說，人工智能不存在100%準確和可信的問題。

我們要轉(zhuǎn)換思路。比如，大家常提到“大模型幻覺”，這個詞就有問題。

假如一位作家創(chuàng)作了童話故事，你會說他有幻覺？這是在想象和創(chuàng)作，事實上大家也是這么認為的，并且給予贊美。而當(dāng)人工智能具備想象和創(chuàng)造能力時，卻貶斥為“幻覺”，這其實反映了大家低估了AI的強大潛能。

我們需正視一點，真正的智能，都具備生成豐富可能性的能力，這是智能的基本特征。反之，沒有這種能力，就不應(yīng)該稱為智能系統(tǒng)。

在這一前提下，我們可將AIGC視為人工智能產(chǎn)生猜測。猜測，總要面臨與事實是否相符的問題，對此，我們一分為二地看。

首先是通過事實證實或者證偽，目前大模型應(yīng)用中多種技術(shù)正致力于解決這一問題，例如檢索增強，通過外部引文鏈接和數(shù)據(jù)來源進行核實比對。

其次是現(xiàn)實中無法找到依據(jù)，這一猜測可能是個好想法，也可能毫無意義，也可能將來被證偽。這與人類類似，只不過人類社會經(jīng)過千百年迭代，對自身言論發(fā)展出相應(yīng)的檢視規(guī)則，特別是在印刷書刊上發(fā)言，通過多重審校，提高可信度。AI目前還未進化出這套體系，因此各種可能性都有，但不能說這就是幻覺，更不能說有AI的猜測就是錯的。

當(dāng)然，現(xiàn)實中，AI生成作品，應(yīng)該標識出來。當(dāng)前階段，若將人類作品與AI作品相混，確實會產(chǎn)生風(fēng)險。因為作為用戶，看到一個報告或報道，缺省情況是相信，但AI內(nèi)容生成的可信度還沒達到人類水平。

NBD：大家稱2023年是AI元年，這意味著剛剛開始，而您卻早已表達了對AI超越人類的擔(dān)憂，擔(dān)心人類因此面臨威脅？對此，請問您能否進一步展開闡述？

黃鐵軍：數(shù)年前，不少人對人工智能是否智能都存疑，現(xiàn)在大多數(shù)人都相信，人工智能確實有智能。有了智能，與擁有更強的智能，以及超越人類的智能，只是程度不同而已。

我擔(dān)心它超越人類智能，是因為技術(shù)路徑已經(jīng)存在，隨著神經(jīng)網(wǎng)絡(luò)規(guī)模的擴大、訓(xùn)練數(shù)據(jù)的增加，以及人工智能系統(tǒng)與環(huán)境交互，AI產(chǎn)生意識的可能性還是存在的。反過來說，也沒有任何理論或證據(jù)表明不可能。

NBD：那可否假設(shè)一下，它會以怎樣的場景、怎樣的方式超越人類甚至控制人類？

黃鐵軍：最可能的臨界點就是它有了意識。在擁有意識之前，只是功能強大，一旦有了意識，它就有主動性了。

當(dāng)然，不是說一夜之間突然來了一個機器人，比我們都強大，將我們控制，而是說，我們可以看到一些技術(shù)征象，它會有超越人類的可能性。

舉例而言，ChatGPT是一個大型人工神經(jīng)網(wǎng)絡(luò)，人腦是生物神經(jīng)網(wǎng)絡(luò)，二者都是神經(jīng)網(wǎng)絡(luò)。人一生至多讀一萬本書，人工智能可以短時間讀完人類所有書籍，而且融會貫通，突然涌現(xiàn)出新的能力，這一點事實上已經(jīng)發(fā)生了。

現(xiàn)在它是幾百億連接的人工神經(jīng)網(wǎng)絡(luò)，近似一個小型動物的腦復(fù)雜度，已經(jīng)具備了一定智能。隨著進一步發(fā)展，其融會貫通能力會越來越強。

此外，人工智能處理速度也領(lǐng)先人腦千倍以上。以視覺系統(tǒng)為例，每秒30幀電視畫面人就感覺為連續(xù)了，而我們開發(fā)的脈沖視覺芯片比人眼或目前典型計算機視覺系統(tǒng)快千倍，旋轉(zhuǎn)的車輪在人工智能眼里清清楚楚，我們看到的卻是模糊一片。

照此發(fā)展，誰敢說它永遠不會超過人類？

我們?nèi)擞幸庾R，有主觀能動性，但也不要視其為獨有，具有自我意識的動物達十余種，它們皆可意識到自身和外界環(huán)境的關(guān)系。

因此，一個人工智能系統(tǒng)發(fā)展到一定階段，特別是具身智能比如機器人在與環(huán)境互動過程中，就可能突然意識到自身和環(huán)境的關(guān)系。正如人類，一般到兩歲左右才能意識到自己與環(huán)境的區(qū)別，更小時是分不清的。突然產(chǎn)生的意識，不是誰賦予它的，而是在和環(huán)境互動過程中，頻繁獲得反饋，進而將自身與環(huán)境區(qū)分開來。

下一次歷史性重大科學(xué)突破或由AI完成

NBD：一方面，您全程參與我國新一代人工智能發(fā)展規(guī)劃建議、起草和實施，另一方面，我們知道，您2015年還曾擔(dān)任北京“腦科學(xué)與類腦計算”重大專項專家組召集人。既然人類可發(fā)明出超越人腦自身的人工智能，在您看來，人工智能的研究，對于揭秘人腦這塊科學(xué)“硬骨頭”可提供怎樣的幫助？

黃鐵軍：這是一個相互促進的過程。人類的智能，是自然進化的產(chǎn)物，生物進化是比較慢的。當(dāng)代人類大腦，與數(shù)千年前春秋戰(zhàn)國時期的人在生理上基本談不上變化。但人工智能發(fā)展很快，現(xiàn)在與幾年之前相比便差異巨大。中長期看，人工智能早晚要超過人類智能，換言之，世界上將出現(xiàn)另外一個更復(fù)雜的智能系統(tǒng)。

腦科學(xué)特別是認知神經(jīng)科學(xué)，對于人工智能系統(tǒng)的設(shè)計提供了啟發(fā)。另一方面，人工智能作為一種技術(shù)，將制造出越來越復(fù)雜的智能系統(tǒng)。人工神經(jīng)網(wǎng)絡(luò)，在它有意識之前，你可以自由地解析它，比如加或減一個參數(shù)，來調(diào)整它，而人腦研究，很多時候是無法實驗的，所以，機器智能的研究有助于人腦智能的揭秘，一定程度上也是因為實驗比較自由。

以前很多人可能下意識地認為，腦科學(xué)的揭秘是人工智能技術(shù)發(fā)展的前提，但是現(xiàn)在看來，人工智能并不依賴于腦科學(xué)的突破和人腦奧秘的揭示，更可能是反向加速，最終，人工智能可能是腦科學(xué)之后更需研究的一個復(fù)雜對象，為腦科學(xué)研究開辟無窮無盡的未知疆域。

NBD：人工智能照此發(fā)展，在您看來，下一個爆發(fā)點很可能是什么？

黃鐵軍：可以說有很多方面，但是具體的、大家體感會比較強的，可能還是某個具身智能體，比如自動駕駛這種智能體，以及未來的機器人。

當(dāng)然短期內(nèi)更多是數(shù)字人，一些數(shù)字人事情做得比人好，一些職業(yè)就被替代了，這時大家感受會比較強烈。

還有AI科學(xué)家。人類歷史上，那些里程碑式的人物如牛頓、愛因斯坦，正是解決了一個個重大科學(xué)問題而被銘記，這一次，如果是AI解決的，那它也就將列位于科學(xué)發(fā)展殿堂。

而且，我認為未來不久便可能獲得突破，不再像以前幾十年甚至上百年才能等到一個人類天才出現(xiàn)，才能開啟科學(xué)新紀元。我認為這種科學(xué)突破會接二連三地出現(xiàn)。

NBD：請問我國AI研究目前處于國際什么水平？

黃鐵軍：實際上，中國的人工智能在1977年就有世界級里程碑式成果。首屆國家最高科技獎獲得者吳文俊院士發(fā)明的機器定理證明方法，屬于那個時代的世界頂級成果。

在ChatGPT面世之前，國內(nèi)在做的大模型也有不少，只是未進入公眾視野。所以，相較大眾感受，ChatGPT面世對于從事AI的人而言，體感沒那么強烈。

現(xiàn)在，大模型至少從產(chǎn)業(yè)角度而言，是最主流的一個方向，從方法和能力上講，可以說國內(nèi)國際沒有巨大差別。人工智能，目前的全球格局是，美國中國兩家頭部，加上其他。

我們沒有首先做出這種爆款，但這條路大家都清楚，我們想要做到同樣好甚至更好，完全是有可能的。

這就像大家都在造手機，別人出了爆款，并不意味著我就造不出更好的，甚至全新的設(shè)計?，F(xiàn)在人工智能大模型，基本上也屬于這種情況，不是說OpenAI壟斷了造大模型的秘密，只是說他目前做得更系統(tǒng)，或者經(jīng)驗更豐富，但這種優(yōu)勢并不具有壟斷性、絕對性。

封面圖片來源：視覺中國-VCG111424718601