人工智能已經(jīng)取得了顯著的進(jìn)步，但事實(shí)上，剛剛起步的技術(shù)和有偏見(jiàn)的數(shù)據(jù)也不可避免地會(huì)產(chǎn)生人類未曾想到的錯(cuò)誤。這就是為什么審查人工智能故障是必要和有意義的。

Synced最近對(duì)全年的人工智能十大“失敗案例”進(jìn)行了首次總結(jié)(2018 in Review: 10 AI Failures)。

AI人臉識(shí)別闖紅燈“智障” 知名企業(yè)家董明珠躺槍

董明珠在寧波“闖紅燈”被抓?原來(lái)是在過(guò)馬路時(shí)公交廣告上董小姐的“大頭照”太明顯，一下子被闖紅燈人臉識(shí)別系統(tǒng)捕捉到，竟然誤以為是真人!董小姐人在家中，卻在社交媒體上不幸躺槍成了“jaywalker”。

那輛巴士剛好被投放了印有董明珠頭像的廣告。當(dāng)這輛巴士行駛在寧波中山東路，經(jīng)過(guò)江夏橋東一帶時(shí)，恰好從中間垂直方向穿過(guò)了一條亮著紅燈的斑馬線，而車身廣告上董明珠的照片正臉剛好對(duì)準(zhǔn)了一側(cè)的紅燈，如果是個(gè)真人的話，TA的確是在闖紅燈。高大上的AI檢測(cè)系統(tǒng)頓時(shí)變成“人工智障”，把照片當(dāng)成了真人，直接把這輛公交車拍了下來(lái)，還鎖定了車身上董明珠的照片，判定此人闖紅燈。該系統(tǒng)還從數(shù)據(jù)庫(kù)里搜索，把董明珠的車身廣告照片和一行「***，在江夏橋東違法闖紅燈」曝光到了大屏幕上。寧波交警事后回應(yīng)稱，技術(shù)人員已經(jīng)對(duì)該系統(tǒng)進(jìn)行了全面升級(jí)。

CloudWalk深度學(xué)習(xí)研究員Zhou Xiang告訴Synced，問(wèn)題可能出在算法缺乏實(shí)時(shí)檢測(cè)上?！霸谶@個(gè)距離進(jìn)行現(xiàn)場(chǎng)探測(cè)是一項(xiàng)具有挑戰(zhàn)性的工作，雖然將圖像識(shí)別為真人現(xiàn)在非常普遍。”

Uber自動(dòng)駕駛汽車殺死了一名行人

在公共道路上第一個(gè)已知的與車輛相關(guān)的自動(dòng)駕駛行人死亡事件中，優(yōu)步的自動(dòng)駕駛SUV于3月28日在亞利桑那州的Tempe市撞倒了一名女性行人，致其當(dāng)場(chǎng)死亡。

Uber發(fā)現(xiàn)其自動(dòng)駕駛軟件決定在汽車傳感器檢測(cè)到行人后卻沒(méi)有采取任何行動(dòng)。根據(jù)美國(guó)國(guó)家運(yùn)輸安全委員會(huì)關(guān)于事故的初步報(bào)告，這是因?yàn)閁ber的自動(dòng)模式禁用了沃爾沃工廠安裝的自動(dòng)緊急制動(dòng)系統(tǒng)。

在悲劇發(fā)生之后，Uber在北美城市暫停了自駕駕駛測(cè)試，而Nvidia和豐田也在美國(guó)停止了自駕車道路測(cè)試。事故發(fā)生8個(gè)月后，Uber宣布計(jì)劃在匹茲堡恢復(fù)自駕車路試，盡管該公司的自駕車未來(lái)仍然不明朗。

IBM Watson醫(yī)療保健出現(xiàn)重大漏洞

根據(jù)Stat獲得的內(nèi)部文件，佛羅里達(dá)州Jupiter醫(yī)院的一名醫(yī)生評(píng)論IBM的旗艦人工智能程序Watson時(shí)寫(xiě)道，“這個(gè)產(chǎn)品很糟糕，簡(jiǎn)直就是一坨屎。”IBM最初是一個(gè)問(wèn)答機(jī)器，一直在廣泛的應(yīng)用程序和流程(包括醫(yī)療保健)中探索Watson的AI功能。 2013年，IBM開(kāi)發(fā)了Watson首個(gè)針對(duì)癌癥治療推薦的商業(yè)應(yīng)用程序，該公司在過(guò)去五年中與醫(yī)院和研究中心建立了許多重要的合作伙伴關(guān)系。但Watson AI Health并沒(méi)有給醫(yī)生留下深刻印象。一些人抱怨它對(duì)癌癥治療提出了錯(cuò)誤的建議，可能會(huì)導(dǎo)致嚴(yán)重甚至致命的后果。

據(jù)報(bào)道，在沒(méi)有顯著進(jìn)步的項(xiàng)目上花費(fèi)數(shù)年后，IBM正在縮小Watson Health的規(guī)模并裁掉該部門(mén)員工的一半以上。

亞馬遜AI招聘工具“性別歧視”明顯

據(jù)報(bào)道，亞馬遜人力資源部門(mén)在2014年至2017年期間使用了支持AI的招聘軟件來(lái)幫助審核簡(jiǎn)歷并提出建議。然而，該軟件對(duì)男性申請(qǐng)人更有利，因?yàn)槠淠Ｐ褪窃谶^(guò)去十年中提交給亞馬遜的簡(jiǎn)歷上接受培訓(xùn)的，當(dāng)時(shí)雇用了更多的男性候選人。

據(jù)報(bào)道，該軟件降級(jí)了包含“女性”一詞的簡(jiǎn)歷，或暗示申請(qǐng)人是女性，例如因?yàn)樗麄冊(cè)妥x過(guò)女子大學(xué)。亞馬遜此后放棄了該軟件。該公司并未否認(rèn)使用該工具提出建議，但表示從未用于評(píng)估候選人。

DeepFakes將色情主角錯(cuò)認(rèn)成《星戰(zhàn)》Daisy Ridley

去年12月，Reddit網(wǎng)上出現(xiàn)了一些國(guó)際頂級(jí)女星——25歲《星戰(zhàn)》女星黛絲烈尼(Daisy Ridley)的色情視頻，原因竟然是是“DeepFakes”采用生成對(duì)抗網(wǎng)絡(luò)，將明星的臉與色情視頻中女性的臉進(jìn)行了交換。

雖然面部交換技術(shù)已經(jīng)開(kāi)發(fā)多年，但DeepFakes的方法顯示，任何擁有足夠面部圖像的人現(xiàn)在都可以制作他們自己非常有說(shuō)服力的假視頻。色請(qǐng)視頻的創(chuàng)作者，就是將《星球大戰(zhàn)》知名演員Daisy Ridley的臉與上面的色情女星交換了。

2018年，逼真的名人假視頻依舊充斥著互聯(lián)網(wǎng)。雖然這種方法在技術(shù)上并非“失敗”，但其潛在的危險(xiǎn)是嚴(yán)重而深遠(yuǎn)的：如果視頻證據(jù)不再可信，這可能會(huì)進(jìn)一步鼓勵(lì)流傳假新聞。

Google Photo出現(xiàn)了bug

Google相冊(cè)包含一個(gè)相對(duì)未知的AI功能，可以自動(dòng)檢測(cè)具有相同背景/場(chǎng)景的圖像，并將它們合并為單個(gè)全景圖片。 1月份，Reddit用戶“MalletsDarker”在滑雪場(chǎng)拍攝了三張照片：兩張是風(fēng)景照，另一張是他朋友的照片。當(dāng)谷歌照片合并這三個(gè)時(shí)，發(fā)生了一件奇怪的事情，因?yàn)樗呐笥训哪X袋被渲染成一個(gè)從森林中窺視出來(lái)的尖峰巨人。尷尬作死瞬間如圖：

這張照片使得r/funny subreddit排名前十，并獲得了202k的贊成票。社交媒體稱贊谷歌算法巧妙地混合了圖像，同時(shí)嘲笑它在構(gòu)圖基礎(chǔ)方面的愚蠢。

LG機(jī)器人Cloi在揭幕儀式上“傻掉”

1月8日應(yīng)該是LG的IoT AI助手Cloi在拉斯維加斯舉行的2018年國(guó)際消費(fèi)電子展上首次亮相的那一天。 Cloi被呈現(xiàn)為一個(gè)簡(jiǎn)單而愉快的界面，能夠識(shí)別控制家用電器的語(yǔ)音命令。然而，當(dāng)可愛(ài)的機(jī)器人走上舞臺(tái)進(jìn)行現(xiàn)場(chǎng)演示時(shí)，觀眾正在觀看和等待，一直等待……因?yàn)樗茨芑貞?yīng)LG市場(chǎng)營(yíng)銷主管的命令，只產(chǎn)生尷尬的沉默。

波士頓動(dòng)力學(xué)機(jī)器人blooper

SoftBank擁有的機(jī)器人制造商波士頓動(dòng)力公司今年不止一次為互聯(lián)網(wǎng)贏得了驚喜：它的機(jī)器人SpotMini可以靈巧地用頭戴式抓手臂打開(kāi)門(mén);它的人形機(jī)器人阿特拉斯現(xiàn)在可以做“跑酷”了——順利跳過(guò)原木，跳躍一系列40厘米的步驟而不會(huì)停下步伐。

但即使是波士頓動(dòng)力公司也有其不小心“哎呀”的時(shí)刻：在未來(lái)科學(xué)家和技術(shù)專家大會(huì)上首次亮相時(shí)，阿特拉斯在一個(gè)完美的演示中舉起了盒子等。但正當(dāng)表演結(jié)束準(zhǔn)備離開(kāi)時(shí)，這個(gè)可憐的機(jī)器人絆倒在窗簾上，笨拙地從舞臺(tái)上摔下來(lái)。不過(guò)，它摔倒的樣子倒也挺像人類的。

2018年AI對(duì)世界杯的預(yù)測(cè)幾乎都是錯(cuò)誤的

2018年世界杯是一年中最重要的體育賽事，高盛、德國(guó)多特蒙德技術(shù)大學(xué)、Electronic Arts、彼爾姆國(guó)立研究大學(xué)和其他機(jī)構(gòu)的人工智能研究人員運(yùn)行了機(jī)器學(xué)習(xí)模型，來(lái)預(yù)測(cè)多階段比賽的結(jié)果。然而大多數(shù)都是完全錯(cuò)誤的，只有EA——使用其視頻游戲FIFA 18的新評(píng)級(jí)進(jìn)行模擬——正確地支持了勝利者法國(guó)。EA游戲引擎以眾多機(jī)器學(xué)習(xí)技術(shù)為后盾，旨在使玩家的表現(xiàn)盡可能逼真。

SQL服務(wù)數(shù)據(jù)科學(xué)家Nick Burns提供了一個(gè)解釋：“無(wú)論你的模型有多好，它們都只是和你的數(shù)據(jù)一樣好……最近的足球數(shù)據(jù)還不足以預(yù)測(cè)世界杯的表現(xiàn)。缺少信息和未定義的影響太多了。”

Startup聲稱可以從面部掃描預(yù)測(cè)智商

以色列機(jī)器學(xué)習(xí)初創(chuàng)公司Faception提出了有爭(zhēng)議的說(shuō)法，即其人工智能技術(shù)可以分析面部圖像和骨骼結(jié)構(gòu)，以揭示人們的智商，個(gè)性，甚至是暴力傾向。數(shù)據(jù)科學(xué)家Ben Snyder在Twitter上斥責(zé)該公司的技術(shù)：“那是顱相學(xué)。你只是把ML當(dāng)作一個(gè)種族主義的背鍋俠?！斑@條推文收到了超過(guò)6,500次轉(zhuǎn)推送和近17,000個(gè)點(diǎn)贊。

【來(lái)源：前瞻網(wǎng)】