北大國發(fā)院張俊妮：算法究竟有沒有價值觀？

每經(jīng)記者 唐元    每經(jīng)編輯 劉艷美

算法之于平臺，尤為關(guān)鍵。一句“算法沒有價值觀”，曾把利用算法推薦的互聯(lián)網(wǎng)平臺推上風(fēng)口浪尖。算法究竟有沒有價值觀？

7月31日，在北大國發(fā)院主辦的“平臺經(jīng)濟(jì)創(chuàng)新與治理”研討會暨《平臺經(jīng)濟(jì)：創(chuàng)新、治理與繁榮》發(fā)布會上，北大國發(fā)院經(jīng)濟(jì)學(xué)長聘副教授張俊妮認(rèn)為，雖然技術(shù)具有中立性，但設(shè)計算法的人擁有自己的價值觀，“即使他未曾有意地把自己的價值觀放進(jìn)去，但是算法體現(xiàn)出來的效果可能是有價值觀的。”同時，在如今的信息化時代，個人很難抵御算法推薦，國際上對“可信人工智能”的討論一直存在。

張俊妮以YouTube為例指出，算法優(yōu)化目標(biāo)，是平臺企業(yè)如何權(quán)衡自己與各方利益相關(guān)者利益的關(guān)鍵所在。2005年至2011年，YouTube平臺算法優(yōu)化目標(biāo)是視頻瀏覽量或點擊量，其結(jié)果是導(dǎo)致“標(biāo)題黨”不斷出現(xiàn)；2012年，優(yōu)化目標(biāo)調(diào)整為用戶觀看視頻的時間，但用戶花在視頻上的時間，并不等于真正享受這樣的時間或擁有高質(zhì)量的時間；到了2016年，優(yōu)化目標(biāo)開始優(yōu)先考慮用戶滿意度，通過視頻分享率等維度進(jìn)行衡量。

但YouTube前計算機(jī)程序員查斯洛認(rèn)為，“這些改變大多流于表面，并沒有從根本上改變算法中的偏見”。他的進(jìn)一步研究結(jié)果表明，在美國、法國、英國和德國選舉、全球變暖和大規(guī)模槍擊事件期間，平臺推薦內(nèi)容中系統(tǒng)地放大了分裂、聳人聽聞和陰謀論的視頻。

2018年初，媒體報導(dǎo)了查斯洛的調(diào)查結(jié)果。作為回應(yīng)，YouTube宣布將為視頻標(biāo)注新的信息標(biāo)簽，以努力打擊陰謀論和鼓吹宣傳。2018年至2019年，該平臺推出三十余項改革政策，旨在積極減少平臺推薦邊緣內(nèi)容以及誤導(dǎo)內(nèi)容，這其中也凝聚了機(jī)器學(xué)習(xí)和真人相結(jié)合的嘗試。

2019年底，該平臺將美國人通過推薦觀看邊緣或誤導(dǎo)內(nèi)容的平均時間減少了70%，2021年這項指標(biāo)進(jìn)一步降低至1%以下。

值得注意的是，在構(gòu)建更負(fù)責(zé)任算法期間，平臺經(jīng)濟(jì)效益也得到了進(jìn)一步提升。數(shù)據(jù)顯示，2018年至2021年間，YouTube廣告收入年增長超過30%，在2021年獲得288億美元廣告收入。

對外賣平臺而言，算法優(yōu)化目標(biāo)同樣非常重要。在三個利益相關(guān)方中，騎手是在安全到達(dá)的前提下獲得應(yīng)有的收入；消費(fèi)者希望獲得健康安全、美味營養(yǎng)的食物；作為餐飲企業(yè)，則希望通過提升菜品味道和質(zhì)量獲得更多收入。因此，平臺算法應(yīng)對以上方面做更優(yōu)考量。

“‘economy’最早有兩種翻譯，一種叫‘經(jīng)濟(jì)’，來自于最早的經(jīng)世濟(jì)民，另外一種叫‘計學(xué)’，也就是如何去計量、去計算的學(xué)問。”張俊妮表示，平臺企業(yè)不應(yīng)只著眼于怎樣把用戶捆綁在平臺上，而應(yīng)該深層次地去滿足用戶的真實核心需求，“被更多人需要，被更多人深度需要，被更多人持續(xù)需要”。

封面圖片來源：攝圖網(wǎng)_501196827