北大國發(fā)院席天揚：數(shù)據(jù)治理時代，政府部門也需要設(shè)置算法審計

每經(jīng)記者 吳林靜    每經(jīng)實習(xí)記者 石普寧    每經(jīng)編輯 劉艷美

“我們現(xiàn)在處在一個巨大的歷史性技術(shù)變革過程中，這種技術(shù)變革必然會使得國家治理的方式發(fā)生根本性轉(zhuǎn)變。”7月31日，北大國發(fā)院政治學(xué)長聘副教授席天揚在北大國發(fā)院“平臺經(jīng)濟創(chuàng)新與治理”研討會暨《平臺經(jīng)濟：創(chuàng)新、治理與繁榮》發(fā)布會上表示，大數(shù)據(jù)和數(shù)字技術(shù)進入國家治理，治理邏輯本質(zhì)上從一種人格化的管理體系轉(zhuǎn)變?yōu)榉侨烁窕墓芾眢w系，從依靠人的治理轉(zhuǎn)變?yōu)橐揽繑?shù)據(jù)的治理。

借用制度經(jīng)濟學(xué)家道格拉斯·諾斯（Douglass North）的觀點來看，非人格化的制度依賴于規(guī)則，而不是人與人之間的相互了解。在公共治理當(dāng)中，利用大數(shù)據(jù)的非人格化管理體系，有沒有好處呢？席天揚以健康碼舉例說，在疫情常態(tài)化防控背景下，健康碼能夠以相對較低的成本促進陌生群體之間的信任，維持社會基本正常運行的機制，“但同時，應(yīng)該看到這種依賴于數(shù)字技術(shù)和大數(shù)據(jù)的管理體系，對國家治理也帶來了潛在挑戰(zhàn)。”

挑戰(zhàn)有四個方面。

其一是權(quán)責(zé)不對等。通過對大數(shù)據(jù)的占有，公共部門對私人的權(quán)利在不斷擴張，然而，公共部門的責(zé)任卻越來越小。“因為它的行為變得更加隱秘了。”席天揚稱，“在大數(shù)據(jù)數(shù)字技術(shù)治理下，有可能我們不知道誰做決定，誰來負(fù)責(zé)。”

然后是糾錯成本高。此前就發(fā)生過“健康寶彈窗”事件。從概率上來講，以大數(shù)據(jù)與算法為支撐的治理方式發(fā)生偏差的概率較小，但一旦有錯誤發(fā)生，難以用個體的力量去糾正系統(tǒng)性的偏差，這種糾錯的代價是巨大的。而且，除了數(shù)字技術(shù)本身出現(xiàn)差錯，還要注意人為的“惡意行為”。

數(shù)字化鴻溝也是挑戰(zhàn)之一。國家工業(yè)信息安全發(fā)展研究中心發(fā)布的最新數(shù)據(jù)顯示，32.7%的老年人不知如何下載APP，農(nóng)民數(shù)字素養(yǎng)得分僅為18.6分。疫情期間對數(shù)字技術(shù)的大量采用，在方便了生活的同時，也將部分弱勢群體拒之門外。“未來的公共治理，尤其在提供數(shù)字化的公共服務(wù)上要警惕。”席天揚表示。

最后一個挑戰(zhàn)表現(xiàn)在系統(tǒng)的穩(wěn)健性。在疫情防控中，發(fā)生過多起因系統(tǒng)崩潰而造成健康碼長時間失靈的事件。隨著大數(shù)據(jù)和數(shù)字技術(shù)的普遍采用，服務(wù)器的穩(wěn)健性也日益凸顯。席天揚指出，由于技術(shù)或非技術(shù)原因?qū)е碌南到y(tǒng)錯誤，對國家的安全和社會的穩(wěn)定都會產(chǎn)生重要影響。

谷歌文本語料庫的數(shù)據(jù)顯示，2000年以后，從全球范圍看來，公共政策的討論中大數(shù)據(jù)和人工智能的熱度在不斷上升。技術(shù)數(shù)字賦能，正成為全球國家治理的關(guān)鍵詞，如何應(yīng)對這些挑戰(zhàn)，也就成了政府部門亟需更新的知識技能儲備。

針對上述挑戰(zhàn)，席天揚提出了三條應(yīng)對措施。

首先，政府采集數(shù)據(jù)需要構(gòu)筑企業(yè)和政府兩重防火墻，只有企業(yè)的防火墻是不夠的。席天揚認(rèn)為，對于相關(guān)企業(yè)在APP中過度收集、使用個人信息的問題相關(guān)法律法規(guī)正變得越來越完善，但是，私人數(shù)據(jù)到企業(yè)終端后，政府在什么樣的情況下可以接入、使用這些數(shù)據(jù)，應(yīng)該有一定的正當(dāng)程序。

其次，公共治理導(dǎo)入私人數(shù)據(jù)不應(yīng)該成為默認(rèn)權(quán)利。席天揚表示，在公共治理中，從不同的領(lǐng)域?qū)胨饺藬?shù)據(jù)的邊界在不斷擴張，比如公交系統(tǒng)跟健康碼相連。“這種行為是不是要經(jīng)過一定的授權(quán)？它在什么樣的情況下是合法的？它的邊界在哪里？”

最后，擁有數(shù)據(jù)的政府部門也需要數(shù)據(jù)/算法審計。席天揚將之歸納為“合法、透明、問責(zé)和回應(yīng)性”。具體來看，數(shù)據(jù)/算法審計的關(guān)鍵詞分別指的是：數(shù)據(jù)的存儲與實用程序應(yīng)當(dāng)合法；算法的邏輯應(yīng)當(dāng)透明；使用數(shù)字技術(shù)治理導(dǎo)致的不良后果應(yīng)當(dāng)有問責(zé)；對公眾的重大關(guān)切應(yīng)當(dāng)有回應(yīng)。

封面圖片來源：攝圖網(wǎng)_306614854