世界互聯(lián)網(wǎng)大會(huì)｜人工智能與數(shù)字倫理：AI創(chuàng)造廣闊機(jī)遇，但安全倫理風(fēng)險(xiǎn)亟待解決

每經(jīng)記者 王晶    每經(jīng)編輯 梁梟    

又到了一年一度的烏鎮(zhèn)時(shí)間，11月9日，世界互聯(lián)網(wǎng)大會(huì)正式開(kāi)幕。

當(dāng)前，以人工智能（Artificial Intelligence，AI）為代表的新一輪科技改變和產(chǎn)業(yè)變革正在重構(gòu)全球創(chuàng)新版圖，重塑全球經(jīng)濟(jì)結(jié)構(gòu)，既為世界各國(guó)創(chuàng)造了更加廣闊的發(fā)展機(jī)遇，也帶來(lái)了安全倫理時(shí)等方面的風(fēng)險(xiǎn)挑戰(zhàn)。身處這一變局之中，如何順應(yīng)信息化、數(shù)字化、網(wǎng)絡(luò)化、智能化發(fā)展趨勢(shì)，同時(shí)又塑造健康的倫理價(jià)值，是人們共同面對(duì)的緊迫課題。

今日（11月10日）下午，在世界互聯(lián)網(wǎng)大會(huì)分論壇“人工智能與數(shù)字倫理”上，清華大學(xué)人工智能研究院名譽(yù)院長(zhǎng)、中國(guó)科學(xué)院院士張鈸，中國(guó)工程院院士高文，之江實(shí)驗(yàn)室主任朱世強(qiáng)等人工智能與數(shù)字科技領(lǐng)域的知名專(zhuān)家學(xué)者，以及微軟、阿里等人工智能和數(shù)字領(lǐng)域頭部企業(yè)負(fù)責(zé)人，共同圍繞人工智能技術(shù)、應(yīng)用和產(chǎn)業(yè)發(fā)展過(guò)程中的安全風(fēng)險(xiǎn)治理與數(shù)字倫理建設(shè)，以“人工智能的產(chǎn)業(yè)方向與倫理取向”為主題展開(kāi)交流。各位嘉賓各抒己見(jiàn)，為推動(dòng)國(guó)際社會(huì)人工智能倫理研究和治理體系構(gòu)建等方面碰撞思維、交流互鑒。

AI研究及治理需要全世界不同領(lǐng)域的人員參與

早在上世紀(jì)50年代，美國(guó)科幻小說(shuō)家阿西莫夫就在小說(shuō)《我是機(jī)器人》中對(duì)相關(guān)機(jī)器人提出具有前瞻性的“機(jī)器人三定律”：即“機(jī)器人必須不危害人類(lèi)，也不允許它眼看人將受害而袖手旁觀；機(jī)器人必須絕對(duì)服從于人類(lèi)，除非這種服從有害于人類(lèi)；機(jī)器人必須保護(hù)自身不受傷害，除非為了保護(hù)人類(lèi)或者是人類(lèi)命令它作出犧牲”。

但是上述提醒并沒(méi)有引起人工智能界的重視，因?yàn)楫?dāng)時(shí)人工智能研究還處于探索階段，進(jìn)展緩慢。而隨著人工智能迅猛發(fā)展，曾經(jīng)的“遠(yuǎn)慮”似乎日益成為“近憂(yōu)”。

對(duì)于發(fā)展第三代人工智能的思路，清華大學(xué)人工智能研究院名譽(yù)院長(zhǎng)、中國(guó)科學(xué)院院士張鈸認(rèn)為：“人工智能的研究和治理都需要全世界不同領(lǐng)域的人員參與和合作，除從事人工智能的研發(fā)和使用人員之外，還需要法律、道德、倫理等不同領(lǐng)域人員的參與，我們需要明晰倫理道德的標(biāo)準(zhǔn)，什么是符合道德和倫理的？不同國(guó)家、民族團(tuán)體和個(gè)人，都有不盡相同的認(rèn)識(shí)，因此需要全球范圍的合作，共同制定出一套符合全人類(lèi)利益的標(biāo)準(zhǔn)。”

之江實(shí)驗(yàn)室主任、中國(guó)人工智能產(chǎn)業(yè)聯(lián)盟副理事長(zhǎng)朱世強(qiáng)則認(rèn)為，人工智能是人類(lèi)智能在機(jī)器領(lǐng)域的延伸，真正的主動(dòng)權(quán)仍然是掌握在人身上。“現(xiàn)在任何一項(xiàng)技術(shù)只要是人開(kāi)發(fā)出來(lái)的，總有人能夠控制它，所以技術(shù)并沒(méi)有原罪，但是技術(shù)的應(yīng)用是有正邪的。”

他以菜刀舉例稱(chēng)：“菜刀是用來(lái)切菜的，菜刀也很多次被用來(lái)殺人，但菜刀是沒(méi)有原罪的，我們的技術(shù)邏輯是希望‘以道制魔’，用技術(shù)手段把菜刀打造成鋒利的，但是讓它永遠(yuǎn)砍不到人頭上去。這個(gè)聽(tīng)起來(lái)有點(diǎn)天方夜譚，但至少應(yīng)該是我們努力的一個(gè)方向。”

朱世強(qiáng)表示，在當(dāng)前發(fā)展階段，最重要的任務(wù)仍然是發(fā)展技術(shù)。據(jù)他介紹：“我們正構(gòu)建之江實(shí)驗(yàn)室預(yù)防人工智能危害社會(huì)的技術(shù)圖譜，試圖用一種先進(jìn)的技術(shù)來(lái)阻止人工智能的濫用和惡意的違法應(yīng)用。”

除了國(guó)內(nèi)專(zhuān)家外，2007年圖靈獎(jiǎng)獲得者、世界頂尖科學(xué)家協(xié)會(huì)會(huì)員約瑟夫·斯發(fā)基斯也通過(guò)視頻形式進(jìn)行了演講。他是2007年圖靈獎(jiǎng)獲得者、國(guó)際嵌入式系統(tǒng)研究中心Verimag實(shí)驗(yàn)室名譽(yù)研究主任，曾作為歐洲“卓越網(wǎng)絡(luò)”（Network of Excellence）嵌入式系統(tǒng)設(shè)計(jì)研究聯(lián)盟的技術(shù)協(xié)調(diào)人。

多年來(lái)，斯發(fā)基斯一直在觀察ICT（信息與通信技術(shù)）和人工智能之間的融合。他認(rèn)為，這種融合越來(lái)越快速，ICT和人工智能也共同帶來(lái)了自治系統(tǒng)，這是從弱人工智能到通用人工智能的一大進(jìn)展。但如今面對(duì)的挑戰(zhàn)是，自治系統(tǒng)過(guò)于依賴(lài)人工智能賦能的組件。

對(duì)于如何實(shí)現(xiàn)自治系統(tǒng)，斯發(fā)基斯認(rèn)為，要將人工智能集成到關(guān)鍵應(yīng)用程序中，但現(xiàn)在這還沒(méi)有完全實(shí)現(xiàn)，因?yàn)槿斯ぶ悄苓€沒(méi)有自我解釋的能力，比如解釋神經(jīng)網(wǎng)絡(luò)是如何在如此之多的技術(shù)中學(xué)習(xí)的。

算力會(huì)像電力一樣方便使用

討論完人工智能倫理的技術(shù)邏輯，以及數(shù)字倫理的法理與道理后，人工智能及其產(chǎn)業(yè)模式優(yōu)化對(duì)未來(lái)人類(lèi)社會(huì)生產(chǎn)生活形態(tài)的影響也備受外界關(guān)注。

眾所周知，人工智能技術(shù)可以顯著提升人類(lèi)效率，尤其在圖像識(shí)別、語(yǔ)音識(shí)別等領(lǐng)域快速完成識(shí)別和復(fù)雜運(yùn)算。此外，面對(duì)開(kāi)放性問(wèn)題，人工智能技術(shù)亦可通過(guò)窮舉計(jì)算，找到人類(lèi)預(yù)料之外的規(guī)律和關(guān)聯(lián)。

在高文院士看來(lái)，大模型正在改變?nèi)斯ぶ悄茉诟鱾€(gè)領(lǐng)域的一些研究情況和現(xiàn)狀，如自然語(yǔ)言大模型等，但想要訓(xùn)練大模型很重要的一點(diǎn)是要有算力，并且算力對(duì)國(guó)家經(jīng)濟(jì)的發(fā)展有很大推動(dòng)作用。

“算力對(duì)國(guó)家的宏觀經(jīng)濟(jì)發(fā)展有重大影響，與GDP/數(shù)字經(jīng)濟(jì)的走勢(shì)呈現(xiàn)正相關(guān)。算力指數(shù)平均每提高一個(gè)點(diǎn)，可能會(huì)對(duì)數(shù)字經(jīng)濟(jì)的增長(zhǎng)產(chǎn)生千分之五的貢獻(xiàn)，GDP會(huì)有0.18%的提升。不僅如此，算力還將促進(jìn)科學(xué)創(chuàng)新。”高文說(shuō)道。

那么，未來(lái)是否有可能把算力通過(guò)一個(gè)算力網(wǎng)絡(luò)輸送給各部門(mén)、各行各業(yè)呢？高文表示，通過(guò)東數(shù)西算等抓手建起算力網(wǎng)，若干年后，算力也會(huì)讓用戶(hù)像用電一樣方便地使用算力，算力會(huì)是一種消費(fèi)。

不過(guò)，要想達(dá)到上述理想狀態(tài)，算力還面臨著很多技術(shù)問(wèn)題。但在國(guó)家發(fā)改委的部署與支持下，鵬城實(shí)驗(yàn)室探索中國(guó)算力網(wǎng)0.1，2019年啟動(dòng)中國(guó)智算網(wǎng)預(yù)研項(xiàng)目建設(shè)，今年6月完成驗(yàn)收。高文介紹稱(chēng)，中國(guó)算力網(wǎng)0.1結(jié)束以后目前正在推動(dòng)中國(guó)算力網(wǎng)1.0版的工作，這個(gè)工作執(zhí)行期從2022年7月到2025年12月，希望中國(guó)算力網(wǎng)1.0完成后，可以集聚更大的算力。

站在企業(yè)的角度，螞蟻集團(tuán)首席技術(shù)官倪行軍認(rèn)為，科技倫理應(yīng)該融入到公司業(yè)務(wù)和產(chǎn)品生命周期中，企業(yè)應(yīng)秉承對(duì)用戶(hù)、行業(yè)、社會(huì)負(fù)責(zé)任的態(tài)度，更好地服務(wù)于數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展和高水平安全。

據(jù)倪行軍介紹，螞蟻集團(tuán)已經(jīng)在無(wú)障礙和適老化改造、保證算法公平性、增強(qiáng)算法普惠等方面做了一些工作。

此外，從去年開(kāi)始，螞蟻集團(tuán)和浙江省內(nèi)一些學(xué)術(shù)機(jī)構(gòu)和同業(yè)發(fā)起成立浙江金融科技倫理委員會(huì)，旗下的數(shù)字金融平臺(tái)也發(fā)布了平臺(tái)自律準(zhǔn)則。今年6月，螞蟻集團(tuán)啟動(dòng)ESG可持續(xù)發(fā)展戰(zhàn)略，“科技倫理建設(shè)”作為重要子議題上升為集團(tuán)重點(diǎn)工作。

同時(shí)，倪行軍還透露，螞蟻集團(tuán)已在公司內(nèi)部成立科技倫理委員會(huì)，接下來(lái)還將成立顧問(wèn)委員會(huì)，邀請(qǐng)業(yè)界資深的專(zhuān)家學(xué)者，參與和指導(dǎo)科技倫理建設(shè)工作。

封面圖片來(lái)源：攝圖網(wǎng)-400094444