強大的AI如何治理？中科院研究員曾毅：企業(yè)要為長遠(yuǎn)愿景做準(zhǔn)備

每經(jīng)記者 劉春山    每經(jīng)編輯 魏官紅    

人工智能作為一項顛覆性技術(shù)，正如水電一般融入人類日常生活的方方面面，也開始引發(fā)部分人思考如何更好地將這項技術(shù)為人類所用。6月初，美國經(jīng)歷了一場大規(guī)模的反種族歧視示威，包括IBM、亞馬遜和微軟在內(nèi)的科技公司，紛紛主動叫停了可能帶有種族偏見的人臉識別，重新審視人工智能技術(shù)應(yīng)用紅線，引發(fā)外界廣泛關(guān)注。

同樣的，大洋彼岸，在突發(fā)的新冠肺炎疫情中，AI電話人群篩查、人臉身份識別在國內(nèi)發(fā)揮了巨大作用，也引發(fā)人們對于新技術(shù)的隱私保護顧慮。如何對這項強大的新技術(shù)進行規(guī)范，成為學(xué)界、業(yè)界、監(jiān)管層和公眾共同關(guān)心的問題。

近日，《每日經(jīng)濟新聞》記者采訪了中國科學(xué)院自動化所研究員、北京智源人工智能研究院AI倫理與可持續(xù)發(fā)展研究中心主任曾毅，他同時是科技部新一代人工智能治理專業(yè)委員會委員。“剛剛頒布的民法典，關(guān)于個人隱私、個人數(shù)據(jù)相關(guān)的保護已經(jīng)得到加強。”曾毅向記者透露，從前沿研究的角度來講，人工智能立法在科技部、若干省市等都有專門的研究計劃部署，相關(guān)高校和產(chǎn)業(yè)都在協(xié)作制定可行的草案，北京市也在籌劃推動與人工智能相關(guān)的立法工作。

中國科學(xué)院自動化所研究員曾毅  圖片來源：受訪者供圖

迫切需要加強從業(yè)者倫理培訓(xùn)

美國近期的反種族歧視大游行，也引發(fā)了抵制人臉識別的算法偏見。大眾再次意識到，前沿科技與群體權(quán)益之間的矛盾如此刺眼。

《每日經(jīng)濟新聞》記者曾參加過多次關(guān)于人工智能治理的研討會，在討論人工智能治理時，偏見、隱私這兩個關(guān)鍵詞被反復(fù)提及。

由于人類文化以及成長環(huán)境不同，每個人都有鮮明的個性，對于特定事物的判斷，人類個體很難做到不偏不倚，人在訓(xùn)練機器模型時就會出現(xiàn)偏差，這就會導(dǎo)致AI的偏見。穿著紅色衣服的面試者，在某些人看來是熱情開朗，有些地區(qū)的個體卻不這樣認(rèn)為。

另一方面，人工智能企業(yè)是數(shù)據(jù)的大戶，要使用大量的數(shù)據(jù)訓(xùn)練模型，這就需要在可信的環(huán)境下進行。據(jù)曾毅介紹，幾乎所有人工智能行業(yè)的從業(yè)者和技術(shù)專家在加入人工智能企業(yè)之前，沒有經(jīng)過任何的人工智能倫理培訓(xùn)或教育，這方面迫切需要加強。

國內(nèi)領(lǐng)先人工智能企業(yè)曠視首席運營官、AI治理研究院院長徐云程認(rèn)為，正是由于AI技術(shù)的普遍性與其對于社會影響的深刻性，促使社會各界在AI商業(yè)化比較早期的時候，就開始探索AI治理的這條道路。“人工智能行業(yè)一直有一個觀點，不能先發(fā)展后治理，應(yīng)該是邊發(fā)展邊治理。”

從全球來看，人工智能規(guī)范很難有統(tǒng)一的標(biāo)準(zhǔn)，人工智能的倫理和治理之間很難形成共識。曾毅介紹稱，聯(lián)合國有非常多的關(guān)于人工智能治理和倫理方面的努力，在不同國家的努力中尋求共識，與不同文化的基本哲學(xué)思想和價值觀息息相關(guān)，這是根源。

聯(lián)合國教科文組織牽頭全球193個會員國推薦專家來構(gòu)成一個全球的人工智能倫理的特設(shè)專家組，形成了全球人工智能倫理的草案，目前已經(jīng)發(fā)布，并處于征求意見的階段。曾毅作為中國的代表，擔(dān)任三個工作組中倫理工作組的共同組長，努力推動全球AI技術(shù)普惠、縮小各國之間的差距。

AI企業(yè)需要發(fā)揮更積極的作用

人工智能企業(yè)作為以盈利為目的的商業(yè)機構(gòu)，如何建立一套適宜企業(yè)自身發(fā)展需求的AI治理體系，既以負(fù)責(zé)任的態(tài)度承擔(dān)企業(yè)社會責(zé)任，又不阻礙甚至是促進業(yè)務(wù)發(fā)展，這是擺在像曾毅這樣的學(xué)者面前的重要研究課題，也是曠視這樣的AI企業(yè)在進行AI治理落地時的重要考量。

圖片來源：攝圖網(wǎng)

曾毅一直在倡導(dǎo)人工智能企業(yè)關(guān)注可持續(xù)發(fā)展，建議相關(guān)企業(yè)要為長遠(yuǎn)愿景做準(zhǔn)備。“當(dāng)GDPR（通用數(shù)據(jù)保護條例）發(fā)布時，歐洲幾乎沒有人工智能企業(yè)歡迎，因為他們覺得這需要花費大量額外的工作，也看不到直接的收益。所以，幾乎所有的人工智能大公司都反對，小公司也反對。”曾毅對《每日經(jīng)濟新聞》記者表示，在GDPR實施了以后，幫助企業(yè)符合規(guī)范，企業(yè)開始發(fā)現(xiàn)用戶大量增長。在這個階段，用戶會選擇更加相信符合標(biāo)準(zhǔn)的企業(yè)的互聯(lián)網(wǎng)應(yīng)用。

GDPR從隱私保護與安全角度出發(fā)，對違反者的罰款，最高可達其全球年營業(yè)額的4%或2000萬歐元，取兩者中較高值。

企業(yè)的AI治理一直都是各方關(guān)注的焦點。只有企業(yè)的落地和實踐，才能讓各種社會層面的監(jiān)管或共識得到切實推進。在國際上，2016年，亞馬遜、微軟、谷歌、IBM和Facebook聯(lián)合成立了一家非營利性的人工智能合作組織（Partnership on AI），蘋果于2017年1月加入該組織。在科技巨頭們的共識里，與其靠外界強加約束AI發(fā)展，不如先成立倫理委員會自主監(jiān)督。

曠視則在2019年8月成立了“曠視人工智能道德委員會”，作為公司人工智能治理事項最高的決策機構(gòu)，這也是中國首家成立該項組織的AI企業(yè)。

曾毅總結(jié)稱，這兩年的經(jīng)驗表明，人工智能倫理這件事情一定不是單單某一方就能推動的。它既不能完全由企業(yè)來推動，也不能完全由學(xué)界推動，它一定是共同的，包括媒體、公眾、專家以及政府層面。它需要真正協(xié)同的機制，在這個機制里，企業(yè)需要發(fā)揮一個主觀能動和更積極的角色。

“它不是就技術(shù)講技術(shù)的問題，涉及倫理、經(jīng)濟學(xué)、法學(xué)等諸多領(lǐng)域，是真正的交叉學(xué)科的領(lǐng)域，而且需要海內(nèi)外協(xié)同。”徐云程贊同曾毅的觀點，她說：“我們并不會把人工智能技術(shù)的發(fā)展、商業(yè)應(yīng)用和法律制定、標(biāo)準(zhǔn)制定對立起來，相反，越多的交流越能讓這個產(chǎn)業(yè)良性化、健康化、可持續(xù)化發(fā)展。”

國內(nèi)人工智能立法已有計劃

6月15日，“中國人臉識別第一案”在浙江杭州市富陽區(qū)法院開庭審理，引發(fā)公眾關(guān)注。對簿公堂的是浙江理工大學(xué)副教授郭兵和杭州野生動物世界。因動物園改裝系統(tǒng)，明確若不注冊人臉識別將無法入園，也無法辦理退卡退費。因不愿意使用人臉識別，持有年卡的郭兵將其告上法庭。

郭兵的訴訟無前例可循。曾毅對《每日經(jīng)濟新聞》表示，之前已經(jīng)有了《人工智能北京共識》和科技部《新一代人工智能治理原則》，中國提出的人工智能原則和西方的沖突并沒有那么大。全球各個地區(qū)在討論人工智能的倫理和治理形成共識時，聯(lián)合國在其中發(fā)揮了重要作用。

曾毅介紹道：“世界衛(wèi)生組織也成立了健康領(lǐng)域人工智能倫理治理的專家組，我代表中國參加了這個專家組，這個專家組的主要目標(biāo)是針對廣泛的健康領(lǐng)域，制定人工智能倫理和治理的WHO原則。”曾毅表示，在疫情期間，該組織的主要工作是制定關(guān)于密切追蹤者應(yīng)用，類似健康碼系統(tǒng)相關(guān)的倫理原則，這在5月底發(fā)布了。

AI治理是個深刻的話題，之前并沒有成熟的模式可以遵循。在曾毅看來，AI治理是多方利益相關(guān)方的責(zé)任和問責(zé)的問題，涉及每一個人工智能產(chǎn)品的全生命周期，涉及設(shè)計、研發(fā)、使用、部署各個層面。

在國內(nèi)層面，曾毅向記者透露，從前沿研究的角度來講，人工智能立法在科技部等機構(gòu)都有專門的研究計劃部署，相關(guān)的高校和產(chǎn)業(yè)都在協(xié)作制定，北京市也在推動和人工智能相關(guān)的立法工作。

從互聯(lián)網(wǎng)時代開始，為了追趕風(fēng)口，國內(nèi)眾多互聯(lián)網(wǎng)應(yīng)用似乎都經(jīng)歷過野蠻生長階段，犧牲了用戶眾多權(quán)益，最后在監(jiān)管層的管控下逐漸歸于理性?，F(xiàn)在人工智能行業(yè)的發(fā)展又站到了新起點，如何規(guī)范好前沿技術(shù)成為所有人工智能企業(yè)面對的命題。