北大國(guó)發(fā)院席天揚(yáng)：數(shù)據(jù)治理時(shí)代，政府部門也需要設(shè)置算法審計(jì)

每經(jīng)記者 吳林靜    每經(jīng)實(shí)習(xí)記者 石普寧    每經(jīng)編輯 劉艷美

“我們現(xiàn)在處在一個(gè)巨大的歷史性技術(shù)變革過(guò)程中，這種技術(shù)變革必然會(huì)使得國(guó)家治理的方式發(fā)生根本性轉(zhuǎn)變。”7月31日，北大國(guó)發(fā)院政治學(xué)長(zhǎng)聘副教授席天揚(yáng)在北大國(guó)發(fā)院“平臺(tái)經(jīng)濟(jì)創(chuàng)新與治理”研討會(huì)暨《平臺(tái)經(jīng)濟(jì)：創(chuàng)新、治理與繁榮》發(fā)布會(huì)上表示，大數(shù)據(jù)和數(shù)字技術(shù)進(jìn)入國(guó)家治理，治理邏輯本質(zhì)上從一種人格化的管理體系轉(zhuǎn)變?yōu)榉侨烁窕墓芾眢w系，從依靠人的治理轉(zhuǎn)變?yōu)橐揽繑?shù)據(jù)的治理。

借用制度經(jīng)濟(jì)學(xué)家道格拉斯·諾斯（Douglass North）的觀點(diǎn)來(lái)看，非人格化的制度依賴于規(guī)則，而不是人與人之間的相互了解。在公共治理當(dāng)中，利用大數(shù)據(jù)的非人格化管理體系，有沒(méi)有好處呢？席天揚(yáng)以健康碼舉例說(shuō)，在疫情常態(tài)化防控背景下，健康碼能夠以相對(duì)較低的成本促進(jìn)陌生群體之間的信任，維持社會(huì)基本正常運(yùn)行的機(jī)制，“但同時(shí)，應(yīng)該看到這種依賴于數(shù)字技術(shù)和大數(shù)據(jù)的管理體系，對(duì)國(guó)家治理也帶來(lái)了潛在挑戰(zhàn)。”

挑戰(zhàn)有四個(gè)方面。

其一是權(quán)責(zé)不對(duì)等。通過(guò)對(duì)大數(shù)據(jù)的占有，公共部門對(duì)私人的權(quán)利在不斷擴(kuò)張，然而，公共部門的責(zé)任卻越來(lái)越小。“因?yàn)樗男袨樽兊酶与[秘了。”席天揚(yáng)稱，“在大數(shù)據(jù)數(shù)字技術(shù)治理下，有可能我們不知道誰(shuí)做決定，誰(shuí)來(lái)負(fù)責(zé)。”

然后是糾錯(cuò)成本高。此前就發(fā)生過(guò)“健康寶彈窗”事件。從概率上來(lái)講，以大數(shù)據(jù)與算法為支撐的治理方式發(fā)生偏差的概率較小，但一旦有錯(cuò)誤發(fā)生，難以用個(gè)體的力量去糾正系統(tǒng)性的偏差，這種糾錯(cuò)的代價(jià)是巨大的。而且，除了數(shù)字技術(shù)本身出現(xiàn)差錯(cuò)，還要注意人為的“惡意行為”。

數(shù)字化鴻溝也是挑戰(zhàn)之一。國(guó)家工業(yè)信息安全發(fā)展研究中心發(fā)布的最新數(shù)據(jù)顯示，32.7%的老年人不知如何下載APP，農(nóng)民數(shù)字素養(yǎng)得分僅為18.6分。疫情期間對(duì)數(shù)字技術(shù)的大量采用，在方便了生活的同時(shí)，也將部分弱勢(shì)群體拒之門外。“未來(lái)的公共治理，尤其在提供數(shù)字化的公共服務(wù)上要警惕。”席天揚(yáng)表示。

最后一個(gè)挑戰(zhàn)表現(xiàn)在系統(tǒng)的穩(wěn)健性。在疫情防控中，發(fā)生過(guò)多起因系統(tǒng)崩潰而造成健康碼長(zhǎng)時(shí)間失靈的事件。隨著大數(shù)據(jù)和數(shù)字技術(shù)的普遍采用，服務(wù)器的穩(wěn)健性也日益凸顯。席天揚(yáng)指出，由于技術(shù)或非技術(shù)原因?qū)е碌南到y(tǒng)錯(cuò)誤，對(duì)國(guó)家的安全和社會(huì)的穩(wěn)定都會(huì)產(chǎn)生重要影響。

谷歌文本語(yǔ)料庫(kù)的數(shù)據(jù)顯示，2000年以后，從全球范圍看來(lái)，公共政策的討論中大數(shù)據(jù)和人工智能的熱度在不斷上升。技術(shù)數(shù)字賦能，正成為全球國(guó)家治理的關(guān)鍵詞，如何應(yīng)對(duì)這些挑戰(zhàn)，也就成了政府部門亟需更新的知識(shí)技能儲(chǔ)備。

針對(duì)上述挑戰(zhàn)，席天揚(yáng)提出了三條應(yīng)對(duì)措施。

首先，政府采集數(shù)據(jù)需要構(gòu)筑企業(yè)和政府兩重防火墻，只有企業(yè)的防火墻是不夠的。席天揚(yáng)認(rèn)為，對(duì)于相關(guān)企業(yè)在APP中過(guò)度收集、使用個(gè)人信息的問(wèn)題相關(guān)法律法規(guī)正變得越來(lái)越完善，但是，私人數(shù)據(jù)到企業(yè)終端后，政府在什么樣的情況下可以接入、使用這些數(shù)據(jù)，應(yīng)該有一定的正當(dāng)程序。

其次，公共治理導(dǎo)入私人數(shù)據(jù)不應(yīng)該成為默認(rèn)權(quán)利。席天揚(yáng)表示，在公共治理中，從不同的領(lǐng)域?qū)胨饺藬?shù)據(jù)的邊界在不斷擴(kuò)張，比如公交系統(tǒng)跟健康碼相連。“這種行為是不是要經(jīng)過(guò)一定的授權(quán)？它在什么樣的情況下是合法的？它的邊界在哪里？”

最后，擁有數(shù)據(jù)的政府部門也需要數(shù)據(jù)/算法審計(jì)。席天揚(yáng)將之歸納為“合法、透明、問(wèn)責(zé)和回應(yīng)性”。具體來(lái)看，數(shù)據(jù)/算法審計(jì)的關(guān)鍵詞分別指的是：數(shù)據(jù)的存儲(chǔ)與實(shí)用程序應(yīng)當(dāng)合法；算法的邏輯應(yīng)當(dāng)透明；使用數(shù)字技術(shù)治理導(dǎo)致的不良后果應(yīng)當(dāng)有問(wèn)責(zé)；對(duì)公眾的重大關(guān)切應(yīng)當(dāng)有回應(yīng)。

封面圖片來(lái)源：攝圖網(wǎng)_306614854