強(qiáng)大的AI如何治理？中科院研究員曾毅：企業(yè)要為長(zhǎng)遠(yuǎn)愿景做準(zhǔn)備

每經(jīng)記者 劉春山    每經(jīng)編輯 魏官紅    

人工智能作為一項(xiàng)顛覆性技術(shù)，正如水電一般融入人類(lèi)日常生活的方方面面，也開(kāi)始引發(fā)部分人思考如何更好地將這項(xiàng)技術(shù)為人類(lèi)所用。6月初，美國(guó)經(jīng)歷了一場(chǎng)大規(guī)模的反種族歧視示威，包括IBM、亞馬遜和微軟在內(nèi)的科技公司，紛紛主動(dòng)叫停了可能帶有種族偏見(jiàn)的人臉識(shí)別，重新審視人工智能技術(shù)應(yīng)用紅線，引發(fā)外界廣泛關(guān)注。

同樣的，大洋彼岸，在突發(fā)的新冠肺炎疫情中，AI電話人群篩查、人臉身份識(shí)別在國(guó)內(nèi)發(fā)揮了巨大作用，也引發(fā)人們對(duì)于新技術(shù)的隱私保護(hù)顧慮。如何對(duì)這項(xiàng)強(qiáng)大的新技術(shù)進(jìn)行規(guī)范，成為學(xué)界、業(yè)界、監(jiān)管層和公眾共同關(guān)心的問(wèn)題。

近日，《每日經(jīng)濟(jì)新聞》記者采訪了中國(guó)科學(xué)院自動(dòng)化所研究員、北京智源人工智能研究院AI倫理與可持續(xù)發(fā)展研究中心主任曾毅，他同時(shí)是科技部新一代人工智能治理專業(yè)委員會(huì)委員。“剛剛頒布的民法典，關(guān)于個(gè)人隱私、個(gè)人數(shù)據(jù)相關(guān)的保護(hù)已經(jīng)得到加強(qiáng)。”曾毅向記者透露，從前沿研究的角度來(lái)講，人工智能立法在科技部、若干省市等都有專門(mén)的研究計(jì)劃部署，相關(guān)高校和產(chǎn)業(yè)都在協(xié)作制定可行的草案，北京市也在籌劃推動(dòng)與人工智能相關(guān)的立法工作。

中國(guó)科學(xué)院自動(dòng)化所研究員曾毅  圖片來(lái)源：受訪者供圖

迫切需要加強(qiáng)從業(yè)者倫理培訓(xùn)

美國(guó)近期的反種族歧視大游行，也引發(fā)了抵制人臉識(shí)別的算法偏見(jiàn)。大眾再次意識(shí)到，前沿科技與群體權(quán)益之間的矛盾如此刺眼。

《每日經(jīng)濟(jì)新聞》記者曾參加過(guò)多次關(guān)于人工智能治理的研討會(huì)，在討論人工智能治理時(shí)，偏見(jiàn)、隱私這兩個(gè)關(guān)鍵詞被反復(fù)提及。

由于人類(lèi)文化以及成長(zhǎng)環(huán)境不同，每個(gè)人都有鮮明的個(gè)性，對(duì)于特定事物的判斷，人類(lèi)個(gè)體很難做到不偏不倚，人在訓(xùn)練機(jī)器模型時(shí)就會(huì)出現(xiàn)偏差，這就會(huì)導(dǎo)致AI的偏見(jiàn)。穿著紅色衣服的面試者，在某些人看來(lái)是熱情開(kāi)朗，有些地區(qū)的個(gè)體卻不這樣認(rèn)為。

另一方面，人工智能企業(yè)是數(shù)據(jù)的大戶，要使用大量的數(shù)據(jù)訓(xùn)練模型，這就需要在可信的環(huán)境下進(jìn)行。據(jù)曾毅介紹，幾乎所有人工智能行業(yè)的從業(yè)者和技術(shù)專家在加入人工智能企業(yè)之前，沒(méi)有經(jīng)過(guò)任何的人工智能倫理培訓(xùn)或教育，這方面迫切需要加強(qiáng)。

國(guó)內(nèi)領(lǐng)先人工智能企業(yè)曠視首席運(yùn)營(yíng)官、AI治理研究院院長(zhǎng)徐云程認(rèn)為，正是由于AI技術(shù)的普遍性與其對(duì)于社會(huì)影響的深刻性，促使社會(huì)各界在AI商業(yè)化比較早期的時(shí)候，就開(kāi)始探索AI治理的這條道路。“人工智能行業(yè)一直有一個(gè)觀點(diǎn)，不能先發(fā)展后治理，應(yīng)該是邊發(fā)展邊治理。”

從全球來(lái)看，人工智能規(guī)范很難有統(tǒng)一的標(biāo)準(zhǔn)，人工智能的倫理和治理之間很難形成共識(shí)。曾毅介紹稱，聯(lián)合國(guó)有非常多的關(guān)于人工智能治理和倫理方面的努力，在不同國(guó)家的努力中尋求共識(shí)，與不同文化的基本哲學(xué)思想和價(jià)值觀息息相關(guān)，這是根源。

聯(lián)合國(guó)教科文組織牽頭全球193個(gè)會(huì)員國(guó)推薦專家來(lái)構(gòu)成一個(gè)全球的人工智能倫理的特設(shè)專家組，形成了全球人工智能倫理的草案，目前已經(jīng)發(fā)布，并處于征求意見(jiàn)的階段。曾毅作為中國(guó)的代表，擔(dān)任三個(gè)工作組中倫理工作組的共同組長(zhǎng)，努力推動(dòng)全球AI技術(shù)普惠、縮小各國(guó)之間的差距。

AI企業(yè)需要發(fā)揮更積極的作用

人工智能企業(yè)作為以盈利為目的的商業(yè)機(jī)構(gòu)，如何建立一套適宜企業(yè)自身發(fā)展需求的AI治理體系，既以負(fù)責(zé)任的態(tài)度承擔(dān)企業(yè)社會(huì)責(zé)任，又不阻礙甚至是促進(jìn)業(yè)務(wù)發(fā)展，這是擺在像曾毅這樣的學(xué)者面前的重要研究課題，也是曠視這樣的AI企業(yè)在進(jìn)行AI治理落地時(shí)的重要考量。

圖片來(lái)源：攝圖網(wǎng)

曾毅一直在倡導(dǎo)人工智能企業(yè)關(guān)注可持續(xù)發(fā)展，建議相關(guān)企業(yè)要為長(zhǎng)遠(yuǎn)愿景做準(zhǔn)備。“當(dāng)GDPR（通用數(shù)據(jù)保護(hù)條例）發(fā)布時(shí)，歐洲幾乎沒(méi)有人工智能企業(yè)歡迎，因?yàn)樗麄冇X(jué)得這需要花費(fèi)大量額外的工作，也看不到直接的收益。所以，幾乎所有的人工智能大公司都反對(duì)，小公司也反對(duì)。”曾毅對(duì)《每日經(jīng)濟(jì)新聞》記者表示，在GDPR實(shí)施了以后，幫助企業(yè)符合規(guī)范，企業(yè)開(kāi)始發(fā)現(xiàn)用戶大量增長(zhǎng)。在這個(gè)階段，用戶會(huì)選擇更加相信符合標(biāo)準(zhǔn)的企業(yè)的互聯(lián)網(wǎng)應(yīng)用。

GDPR從隱私保護(hù)與安全角度出發(fā)，對(duì)違反者的罰款，最高可達(dá)其全球年?duì)I業(yè)額的4%或2000萬(wàn)歐元，取兩者中較高值。

企業(yè)的AI治理一直都是各方關(guān)注的焦點(diǎn)。只有企業(yè)的落地和實(shí)踐，才能讓各種社會(huì)層面的監(jiān)管或共識(shí)得到切實(shí)推進(jìn)。在國(guó)際上，2016年，亞馬遜、微軟、谷歌、IBM和Facebook聯(lián)合成立了一家非營(yíng)利性的人工智能合作組織（Partnership on AI），蘋(píng)果于2017年1月加入該組織。在科技巨頭們的共識(shí)里，與其靠外界強(qiáng)加約束AI發(fā)展，不如先成立倫理委員會(huì)自主監(jiān)督。

曠視則在2019年8月成立了“曠視人工智能道德委員會(huì)”，作為公司人工智能治理事項(xiàng)最高的決策機(jī)構(gòu)，這也是中國(guó)首家成立該項(xiàng)組織的AI企業(yè)。

曾毅總結(jié)稱，這兩年的經(jīng)驗(yàn)表明，人工智能倫理這件事情一定不是單單某一方就能推動(dòng)的。它既不能完全由企業(yè)來(lái)推動(dòng)，也不能完全由學(xué)界推動(dòng)，它一定是共同的，包括媒體、公眾、專家以及政府層面。它需要真正協(xié)同的機(jī)制，在這個(gè)機(jī)制里，企業(yè)需要發(fā)揮一個(gè)主觀能動(dòng)和更積極的角色。

“它不是就技術(shù)講技術(shù)的問(wèn)題，涉及倫理、經(jīng)濟(jì)學(xué)、法學(xué)等諸多領(lǐng)域，是真正的交叉學(xué)科的領(lǐng)域，而且需要海內(nèi)外協(xié)同。”徐云程贊同曾毅的觀點(diǎn)，她說(shuō)：“我們并不會(huì)把人工智能技術(shù)的發(fā)展、商業(yè)應(yīng)用和法律制定、標(biāo)準(zhǔn)制定對(duì)立起來(lái)，相反，越多的交流越能讓這個(gè)產(chǎn)業(yè)良性化、健康化、可持續(xù)化發(fā)展。”

國(guó)內(nèi)人工智能立法已有計(jì)劃

6月15日，“中國(guó)人臉識(shí)別第一案”在浙江杭州市富陽(yáng)區(qū)法院開(kāi)庭審理，引發(fā)公眾關(guān)注。對(duì)簿公堂的是浙江理工大學(xué)副教授郭兵和杭州野生動(dòng)物世界。因動(dòng)物園改裝系統(tǒng)，明確若不注冊(cè)人臉識(shí)別將無(wú)法入園，也無(wú)法辦理退卡退費(fèi)。因不愿意使用人臉識(shí)別，持有年卡的郭兵將其告上法庭。

郭兵的訴訟無(wú)前例可循。曾毅對(duì)《每日經(jīng)濟(jì)新聞》表示，之前已經(jīng)有了《人工智能北京共識(shí)》和科技部《新一代人工智能治理原則》，中國(guó)提出的人工智能原則和西方的沖突并沒(méi)有那么大。全球各個(gè)地區(qū)在討論人工智能的倫理和治理形成共識(shí)時(shí)，聯(lián)合國(guó)在其中發(fā)揮了重要作用。

曾毅介紹道：“世界衛(wèi)生組織也成立了健康領(lǐng)域人工智能倫理治理的專家組，我代表中國(guó)參加了這個(gè)專家組，這個(gè)專家組的主要目標(biāo)是針對(duì)廣泛的健康領(lǐng)域，制定人工智能倫理和治理的WHO原則。”曾毅表示，在疫情期間，該組織的主要工作是制定關(guān)于密切追蹤者應(yīng)用，類(lèi)似健康碼系統(tǒng)相關(guān)的倫理原則，這在5月底發(fā)布了。

AI治理是個(gè)深刻的話題，之前并沒(méi)有成熟的模式可以遵循。在曾毅看來(lái)，AI治理是多方利益相關(guān)方的責(zé)任和問(wèn)責(zé)的問(wèn)題，涉及每一個(gè)人工智能產(chǎn)品的全生命周期，涉及設(shè)計(jì)、研發(fā)、使用、部署各個(gè)層面。

在國(guó)內(nèi)層面，曾毅向記者透露，從前沿研究的角度來(lái)講，人工智能立法在科技部等機(jī)構(gòu)都有專門(mén)的研究計(jì)劃部署，相關(guān)的高校和產(chǎn)業(yè)都在協(xié)作制定，北京市也在推動(dòng)和人工智能相關(guān)的立法工作。

從互聯(lián)網(wǎng)時(shí)代開(kāi)始，為了追趕風(fēng)口，國(guó)內(nèi)眾多互聯(lián)網(wǎng)應(yīng)用似乎都經(jīng)歷過(guò)野蠻生長(zhǎng)階段，犧牲了用戶眾多權(quán)益，最后在監(jiān)管層的管控下逐漸歸于理性?，F(xiàn)在人工智能行業(yè)的發(fā)展又站到了新起點(diǎn)，如何規(guī)范好前沿技術(shù)成為所有人工智能企業(yè)面對(duì)的命題。