當(dāng)無(wú)人駕駛遭遇道德困境

試想這樣一個(gè)場(chǎng)景：當(dāng)你駕駛一輛汽車在被濃霧籠罩的郊區(qū)道路上行駛時(shí)，突然發(fā)現(xiàn)前方道路上有一群人在橫穿馬路，此時(shí)旁邊車道上也有一個(gè)人在穿越馬路。假設(shè)當(dāng)時(shí)已經(jīng)來(lái)不及剎車，只能選擇撞向一群人還是一個(gè)人，此時(shí)你會(huì)如何抉擇？關(guān)于這個(gè)問題，記者詢問了身邊的朋友，幾乎100％選擇了撞向橫穿馬路的一個(gè)人，僅有一人選擇撞向未知的無(wú)人區(qū)域。人類駕駛者如此選擇，在無(wú)人駕駛時(shí)代，汽車又將作出怎樣的抉擇呢？根據(jù)當(dāng)前無(wú)人駕駛汽車的發(fā)展水平，這個(gè)問題或許有些荒謬，但確實(shí)有機(jī)構(gòu)已經(jīng)開始展開研究。

“電車難題”

有外媒報(bào)道稱，日前，德國(guó)奧斯納布呂克大學(xué)（Osnabruck）認(rèn)知科學(xué)院的研究人員發(fā)明了一組應(yīng)用于無(wú)人駕駛汽車的數(shù)學(xué)模型。通過電腦控制，利用VR技術(shù)，再現(xiàn)各種聲音、圖像，將生物按照其價(jià)值進(jìn)行排序，在事故發(fā)生之際，無(wú)人駕駛汽車自動(dòng)做出取舍，最大限度地保證人員的生命安全。

根據(jù)報(bào)道，奧斯納布呂克大學(xué)認(rèn)知科學(xué)院的研究團(tuán)隊(duì)通過沉浸式虛擬現(xiàn)實(shí)，在模擬的交通場(chǎng)景中研究人類的行為與道德判斷。其模擬的場(chǎng)景就是讓參與者在郊外駕駛車輛，當(dāng)碰到?jīng)]有預(yù)期且無(wú)可避免的兩難處境時(shí)，他們必須決定在無(wú)生命的物體、動(dòng)物和人類之間，哪個(gè)可以幸免。測(cè)試結(jié)束后，該研究團(tuán)隊(duì)發(fā)現(xiàn)，人類在困境中的行為可以透過一個(gè)相當(dāng)簡(jiǎn)單、僅以生命為基礎(chǔ)的模型來(lái)建模。這個(gè)模型可以套用在每一個(gè)人、動(dòng)物或無(wú)生命的物體之上，這意味著人類的道德行為可以被機(jī)器的演算法描述。

按照生命價(jià)值進(jìn)行取舍，這就如同1967年哲學(xué)家菲利帕·福特（Philippa Foot）在其論文《墮胎問題和教條雙重影響》中提出的“電車難題”：一個(gè)瘋子把五個(gè)無(wú)辜的人綁在電車軌道上。一輛失控的電車朝他們駛來(lái)，并且片刻后就要碾壓到他們。幸運(yùn)的是，你可以拉一個(gè)拉桿，讓電車開到另一條軌道上。然而問題在于，那個(gè)瘋子在另一個(gè)電車軌道上也綁了一個(gè)人?？紤]以上狀況，你是否還會(huì)拉動(dòng)拉桿？

根據(jù)同理心論點(diǎn)，這套道德學(xué)模型的開發(fā)者正是控制拉桿的人，根據(jù)該模型的結(jié)論，在無(wú)人駕駛汽車面臨此類交通事故時(shí)，車輛必然是駛向一個(gè)人所在的道路。但即便如此，這套模型是否符合道德倫理依然有待商榷，出現(xiàn)這種情況時(shí)，開發(fā)者是否應(yīng)承擔(dān)法律責(zé)任也是一個(gè)值得探討的問題。

道德困境

“究竟無(wú)人駕駛汽車是否該采用道德判斷？如果采用，它是否要模仿人類的判斷方式來(lái)進(jìn)行道德判斷？如果它們由始至終都遵照道德倫理行事，但事情的結(jié)局還是不如預(yù)期，該由誰(shuí)負(fù)責(zé)呢？”前述道德模塊的研究人員戈登·皮帕（Gordon Pipa）教授指出，社會(huì)應(yīng)盡快對(duì)無(wú)人駕駛的道德判斷問題進(jìn)行討論。

記者查閱資料發(fā)現(xiàn)，這并不是輿論首次針對(duì)無(wú)人駕駛汽車道德判斷問題提出疑問。早在2015年就有人指出，無(wú)人駕駛車輛存在道德困境，只不過當(dāng)時(shí)的兩難選擇是犧牲車上的乘客還是犧牲路人。根據(jù)當(dāng)時(shí)法國(guó)圖盧茲經(jīng)濟(jì)學(xué)院的吉恩-弗朗索斯·博納豐（Jean-Francois Bonnefon）教授與同事展開的相關(guān)研究結(jié)果顯示，通常情況下人們認(rèn)為，從設(shè)計(jì)上自動(dòng)駕駛汽車應(yīng)該使死亡人數(shù)最小化。

如果可以避開一群人，我們就可以選擇傷害一個(gè)人嗎？斯坦福大學(xué)教授克里斯·格德斯（Chris Gerdes）呼吁，研究人員、汽車工程師和汽車制造商要為他們研發(fā)的技術(shù)面臨的倫理道德抉擇做好準(zhǔn)備。他指出，不應(yīng)該簡(jiǎn)單地做一個(gè)道德模塊，然后把它插入無(wú)人駕駛汽車中。其他專家也認(rèn)為，在無(wú)人駕駛技術(shù)研發(fā)中會(huì)面臨嚴(yán)峻的倫理道德考驗(yàn)。清華大學(xué)蘇州汽車研究院智能汽車技術(shù)研究所所長(zhǎng)戴一凡認(rèn)為，無(wú)人駕駛汽車道德爭(zhēng)議的最終原因，在于人類對(duì)道德倫理缺乏共識(shí)。

兩難抉擇

面對(duì)道德困境時(shí)，無(wú)人駕駛汽車該如何抉擇？記者調(diào)查過程中，一位被調(diào)查者提出了這樣的疑問：“為何剎不住車？”這個(gè)疑問將無(wú)人駕駛汽車的道德困境打回到技術(shù)研發(fā)的原點(diǎn)：既然技術(shù)無(wú)法達(dá)到，理論上也存在很多爭(zhēng)議，為何還要提升無(wú)人駕駛的等級(jí)？

同濟(jì)大學(xué)汽車安全技術(shù)研究所所長(zhǎng)朱西產(chǎn)告訴記者：“無(wú)人駕駛汽車的道德抉擇問題是人工智能的一個(gè)分支，是無(wú)人駕駛汽車達(dá)到L5級(jí)時(shí)必須要考慮的問題。”朱西產(chǎn)認(rèn)為，就目前無(wú)人駕駛汽車技術(shù)而言，無(wú)人駕駛汽車是根據(jù)車輛傳感器、地圖等軟硬件提供的確定信息作出決策，這個(gè)決策是確定性的。如果發(fā)生事故，就是決策出問題，也可以據(jù)此判斷出，到底是哪方面出現(xiàn)問題，然后由相應(yīng)的問題方來(lái)承擔(dān)相應(yīng)責(zé)任。

北汽集團(tuán)新技術(shù)研究院副院長(zhǎng)榮輝指出，發(fā)展無(wú)人駕駛汽車技術(shù)，首先要改變的觀念就是“自動(dòng)駕駛或無(wú)人駕駛不會(huì)發(fā)生傷亡事故”，自動(dòng)駕駛和無(wú)人駕駛技術(shù)的到來(lái)會(huì)顯著減少事故的發(fā)生率，但無(wú)法完全避免事故的發(fā)生。同時(shí)榮輝認(rèn)為，無(wú)人駕駛汽車道德倫理爭(zhēng)議問題本身就屬于“詭辯論”，作為無(wú)人駕駛汽車技術(shù)研發(fā)人員，更應(yīng)該探討的問題首先是怎么快速發(fā)現(xiàn)人，然后緊急把車剎住。

針對(duì)這個(gè)問題，戴一凡認(rèn)為，雖然無(wú)人駕駛終將面臨道德程序的問題，但目前看還不急迫，當(dāng)下首要需解決的還是無(wú)人駕駛的技術(shù)問題。另外，榮輝指出，關(guān)于無(wú)人駕駛的相關(guān)法律法規(guī)應(yīng)該盡快完善，只有法律法規(guī)跟上技術(shù)發(fā)展的步伐，才有可能最大程度地規(guī)避這類道德倫理之爭(zhēng)。