清華大學(xué)蘇世民書院院長、人工智能國際治理研究院院長薛瀾：AI的可怕在于“未知的未知”，發(fā)展和治理應(yīng)“雙輪”并行

每經(jīng)記者 文巧    每經(jīng)編輯 蘭素英    

北京時間6月25日～27日，世界經(jīng)濟(jì)論壇第十五屆新領(lǐng)軍者年會在遼寧大連舉行。在會議現(xiàn)場，清華大學(xué)蘇世民書院院長、人工智能國際治理研究院院長薛瀾教授接受了《每日經(jīng)濟(jì)新聞》記者（以下簡稱NBD）的獨(dú)家專訪。

薛瀾教授認(rèn)為，開發(fā)人工智能（AI）系統(tǒng)不能簡單認(rèn)為越強(qiáng)大越好，AI風(fēng)險存在“未知的未知”（Unknown unknowns），而這才是最可怕的。因此，AI發(fā)展和治理這兩個“輪子”必須共同推進(jìn)。

談及AI替代人類工作這一話題時，薛瀾教授表示，這一次（AI浪潮）可能真的不一樣，在相當(dāng)一段時間內(nèi)有可能替代的工作更多，創(chuàng)造的新工作相比沒有那么多。因此要從政策方面幫助被替代的行業(yè)從業(yè)者轉(zhuǎn)崗，而社會也要考慮如何創(chuàng)造新的就業(yè)機(jī)會。

薛瀾教授 圖片來源：每經(jīng)記者 張宏攝

從系統(tǒng)角度優(yōu)化，可縮小AI發(fā)展差距

NBD：您如何評價中國當(dāng)前AI發(fā)展的現(xiàn)狀？中美在AI領(lǐng)域的競爭非常激烈，您怎么看待中美之間的發(fā)展差距？

薛瀾：從全球角度來看，AI技術(shù)發(fā)展非?？?。大模型確實是日新月異，各種各樣的模型正不斷（涌現(xiàn)）出來?？傮w來講，中國一直是跟著全世界前沿的步伐在往前推進(jìn)。當(dāng)然，我們可能因為算力的限制有一定的差距，但（我們）能始終跟上，這已經(jīng)是非常了不起的。至于算力問題，我們國家也在努力通過各種方式來解決。

現(xiàn)在，有一些專家認(rèn)為，算力固然重要，但除了芯片之外，整個系統(tǒng)的很多環(huán)節(jié)可以進(jìn)一步優(yōu)化，很多企業(yè)也在這方面努力。這樣，盡管算力有差距，但如果系統(tǒng)做到最好，差距也會進(jìn)一步縮小。

NBD：對于AI的治理，各國和地區(qū)有哪些共識與不同？

薛瀾：在基本原則上，各國共識是大同小異的，比如AI向善、趨利避害。

但是，各國的具體措施千差萬別，主要是因為：第一，各國AI發(fā)展水平、應(yīng)用場景和公眾對技術(shù)的接受程度有差別；第二，各國在價值觀念、文化和歷史上也有差異。因此，具體的治理政策和措施上應(yīng)該有很大的不同。

圖片來源：視覺中國-VCG41N1472123004

AI的發(fā)展與治理應(yīng)“雙輪”并行

NBD：您認(rèn)為AI給社會治理帶來的最大風(fēng)險是什么？與歷史上其他新技術(shù)如核能、互聯(lián)網(wǎng)、生物技術(shù)等相比，風(fēng)險有什么差異？

薛瀾：從本質(zhì)上講，AI帶來的風(fēng)險和以前這些技術(shù)的風(fēng)險是相似的，即可能對人類最基本的生存問題帶來威脅，例如核武器戰(zhàn)爭、生物醫(yī)學(xué)濫用等帶來的風(fēng)險，而AI亦是如此。

AI技術(shù)發(fā)展的特點是特別快，一旦到了一定階段，技術(shù)突飛猛進(jìn)，影響范圍和程度將前所未有。日常生活中，很多服務(wù)和產(chǎn)品背后都有AI技術(shù)的應(yīng)用，其泛在程度也是前所未有的。

應(yīng)對風(fēng)險確實非常困難，因為它帶來的風(fēng)險可能現(xiàn)在還不知道。技術(shù)應(yīng)用一般需要一段時間，其風(fēng)險才會顯現(xiàn)出來。

NBD：也就是說，發(fā)展與謹(jǐn)慎對待是并行的。

薛瀾：對。我們在風(fēng)險治理里邊經(jīng)常提到的一點是“Unknown unknowns”，也就是“未知的未知”，這才是最可怕的。

NBD：您曾談及，在跟國際專家討論AI發(fā)展時，提到過幾條“紅線”，能具體講講嗎？

薛瀾：今年三月份，我們在北京開了一個關(guān)于AI安全的研討會，很多技術(shù)和治理專家共同討論了AI要避免進(jìn)入的一些紅線。例如，如果AI系統(tǒng)會產(chǎn)生欺騙行為，就要特別小心，遠(yuǎn)離它。

類似的問題提了四五條，說到底，不能簡單認(rèn)為AI系統(tǒng)越強(qiáng)大越好。我們擔(dān)心“未知的未知”，所以需要解決這個問題。

NBD：那么，越安全越好嗎？

薛瀾：當(dāng)然，絕對的安全也是很難做到的，除非我們就不發(fā)展了！但也有專家認(rèn)為，不發(fā)展才是最大的不安全。所有的科技發(fā)展必然存在潛在風(fēng)險，所以我們始終得是發(fā)展和治理兩個輪子共同去推進(jìn)。

AI替代人類工作，怎么辦？

NBD：許多人擔(dān)心，AI會替代大量人類工作崗位，您怎么看？

薛瀾：對，這是一個確實需要關(guān)注的問題。至少從目前來看，AI的能力越來越強(qiáng)，很多與知識生產(chǎn)、應(yīng)用和傳播相關(guān)的行業(yè)可能都會受到影響，尤其是傳統(tǒng)的白領(lǐng)工作。這是一個事實。

以前，我們認(rèn)為技術(shù)創(chuàng)新會替代一些工作，但也會創(chuàng)造新的工作。但這一次，我認(rèn)為可能真的不一樣，在相當(dāng)一段時間內(nèi)有可能（AI）替代的工作更多，創(chuàng)造的新工作相比沒有那么多。

NBD：您覺得替代的工作主要是傳統(tǒng)的勞力型工作，還是有創(chuàng)造力的工作？

薛瀾：目前來看，很多腦力勞動的工作會受到影響。雖然現(xiàn)在主要替代的是重復(fù)性強(qiáng)的腦力工作，但隨著AI系統(tǒng)越來越強(qiáng)大，復(fù)雜的腦力工作也可能被替代。舉例來講，過去法官可能需要有助手去整理很多文件資料，現(xiàn)在AI可以輕松應(yīng)對。

NBD：從政策上，我們應(yīng)該如何保證就業(yè)不受負(fù)面影響？

薛瀾：首先要監(jiān)測和觀察AI技術(shù)對就業(yè)的影響，掌握事實情況。其次，要及時提供更多培訓(xùn)，幫助被替代的行業(yè)從業(yè)者轉(zhuǎn)崗，承擔(dān)新的工作。因為（AI）可能創(chuàng)造了許多就業(yè)機(jī)會，但我們過去不知道有這樣的需求。同時，社會也要考慮如何創(chuàng)造新的就業(yè)機(jī)會，并采取多元化的就業(yè)和生活方式。

封面圖片來源：每經(jīng)記者 張宏攝