人臉識別失靈真可怕！蘋果錯把無辜學生當賊抓 如今被起訴并索賠10億美元

每經記者 蔡鼎    每經編輯 張楊運    

人臉識別給我們的生活帶來了諸多的便捷，例如無票乘車、上班打卡、協助警方逮捕犯罪瘋子等等。然而，如果依靠不成熟的人臉識別技術，則可能要付出高昂的代價。

據美國多家媒體報道，近日，紐約一名18歲的學生起訴了蘋果公司，并要求索賠10億美元，原因是蘋果的面部識別軟件錯誤地將他與蘋果商店的一系列盜竊案聯系在了一起。更糟糕的是，蘋果將錯誤的信息提供給了警方，逮捕了這名學生。

圖片來源：攝圖網

原告：罪犯很可能使用了我的身份實施盜竊

彭博社的報道中稱，這名叫奧斯曼·巴（Ousmane Bah）的學生于2018年11月29日凌晨4點在他紐約的家中被逮捕，當時他被指控從一家蘋果商店偷竊物品。奧斯曼在本周一提起的訴訟中稱，警方的逮捕令中顯示的嫌犯照片并不像他，但警方還是對他進行了逮捕。他表示，他被指控的一起盜竊案發(fā)生在2018年5月31日，實施盜竊的罪犯使用他的身份信息冒充了他，并在蘋果商店內偷走了價值1200美元的商品。奧斯曼還表示，他當天在紐約曼哈頓參加畢業(yè)舞會，根本不可能在波士頓實施盜竊。

“我被迫對多項虛假的指控做出回應，這些指控也導致了我嚴重的壓力，并給我?guī)砹酥T多困難。”奧斯曼在起訴書中說道。據悉，奧斯曼此次起訴的被告中包括蘋果公司和一家名為Security Industry Experts Inc.的公司，但兩家公司都拒絕置評。

奧斯曼表示，他曾經丟失過一個學習許可，上面包括了他的姓名、住址和個人信息，但沒有照片。他稱，這張學習許可可能被真正的盜賊發(fā)現或者偷走，并在蘋果零售店用作身份證明，這或許導致他的姓名被錯誤地和蘋果面部識別系統中的盜賊面孔聯系在一起。奧斯曼認為，蘋果公司可能是相信了這名男子的話，隨后蘋果商店內的安全系統就將這名嫌犯的面部識別成了他的臉。

除了波士頓的這家蘋果商店外，真正實施了盜竊的罪犯還在新澤西州、特拉華州和曼哈頓的蘋果商店實施了盜竊。法庭文件顯示，直到在去年6月收到法院的傳票后，奧斯曼才得知自己被指控盜竊。截至目前，除了新澤西州外，其他所有州對奧斯曼的指控都已被撤銷，新澤西州的案件目前仍在等待判決。

“由于蘋果的疏忽，奧斯曼在多個州被指控犯有多項重罪。在此之前，奧斯曼從未面臨過法律的指控，也從未與執(zhí)法部門發(fā)生過任何沖突。由于被告的疏忽，奧斯曼先生受到了嚴重的傷害。”奧斯曼的律師Subhan Tariq在一份聲明中表示。“被（錯誤地）逮捕讓奧斯曼感到羞辱、害怕和深深地擔憂。”

紐約警察局的探員們認為，在其中一起盜竊案中，真正的犯罪人是使用了奧斯曼的學習許可作為身份證明，這就導致奧斯曼的名字與小偷聯系在了一起。起訴書中稱，探員們“懷疑實施這些盜竊的人一定在其中的一次盜竊中使用了奧斯曼的臨時身份證明。”

起訴書中還稱，蘋果“在其商店中使用面部識別軟件來追蹤涉嫌盜竊的個人，這是消費者應該擔心的一種監(jiān)控形式，尤其是大多數消費者并不知道他們的面部正在被秘密地分析。”

圖片來源：攝圖網

人臉識別失敗案例比比皆是

從以上案例可以看出，盡管人臉識別系統在過去幾年的時間內已經變得越來越強大，但也有嚴重失誤的例子，蘋果的這起案例也只是眾多人臉識別失敗案例中的一起。

在2017年9月蘋果iPhone X的發(fā)布會上，也出現了極其尷尬的一幕。當時蘋果公司軟件工程高級副總裁克雷格·費德里吉（Craig Federighi）在發(fā)布會上表示：“iPhone X將使用人臉識別技術來解鎖，從而保護用戶的個人信息。”然而，費德里吉在發(fā)布會上展示這一全新功能時，他手上的iPhone X并未能識別出他的面部信息，他隨后便被迫使用密碼來解鎖這部iPhone X。后來蘋果表示，面部識別解鎖是能確保的，問題的發(fā)生是由于費德里吉操作不當。

除了蘋果外，三星的手機也面臨著同樣的問題——網上瘋傳的幾段視頻顯示，只要將在另一部手機上的用戶自拍照拍對準三星的手機，擁有面部識別功能的三星手機便能成功識別并解鎖。這隨后引起了三星手機用戶極大的擔憂，因為這樣任何人有用戶自拍的人都能很容易地解鎖手機。后來三星承認，人臉識別功能并不意味著100%的安全，這只是解鎖手機的另一種方式罷了。

2013年波士頓馬拉松爆炸案也是一個人臉識別技術慘敗的案例。盡管事后有監(jiān)控錄像顯示兩名嫌疑人的圖像，但警方使用的人臉識別檢測系統還是無法識別出任何人。研究人員表示，這是因為圖像的像素太低，不利于算法的運行。此外，谷歌廣受歡迎的照片應用程序在很大程度上依賴人臉識別來對用戶相冊中的照片進行分類，但當這款應用程序錯誤地將一對黑人夫婦貼上“大猩猩”的標簽后，也遭遇到了廣泛的抨擊。

要說人臉識別最可怕的錯誤，那么就要說到美國丹佛的金融顧問史蒂夫·塔利（Steve Tally）兩次被誣告搶劫兩家銀行。當時，美國聯邦調查局（FBI）的面部識別系統發(fā)現史蒂夫·塔利和搶劫銀行的人有相似之處。但尷尬的是，因為面部識別器未能識別出塔利右臉頰上的痣，并且他的身高比真正的罪犯高了3公分，隨后對塔利的所有指控全被撤銷。塔利也因這次錯誤的逮捕失去了工作和家庭，在他被捕期間還受傷，目前無家可歸。塔利也對此提起了訴訟，要求賠償他1000萬美元。