據(jù)微軟公司的一篇博客文章稱，微軟公司的臉部識別工具在識別膚色較暗的人上準確率更高了。對于膚色較深的男性和女性，微軟將錯誤率降低了20倍，單就女性方面來看錯誤率降低了9倍。

該公司表示，他們一直在訓練數(shù)據(jù)集更為強大的AI工具，目前已經(jīng)取得了進展?！叭绻覀冇糜柧毜臋C器學習系統(tǒng)來模擬在有偏見的社會中做出決策，同時使用該社會所產(chǎn)生的數(shù)據(jù)，那么這些系統(tǒng)必然會重現(xiàn)它的偏見，”微軟高級研究員漢納瓦拉赫在博客文章中說。

今年2月，麻省理工學院媒體實驗室的一份報告稱，他們測試了微軟，IBM和中國的Megvii的面部識別系統(tǒng)，發(fā)現(xiàn)多達35％的深色皮膚女性的性別不能被系統(tǒng)正確識別。

該報告證實了許多人多年來一直懷疑的情況，即面部識別系統(tǒng)可能會受到有限的數(shù)據(jù)和其他因素如種族主義的偏見的影響。如研究人員可能覺得女性的膚色不會那么深，同時也沒有足夠的數(shù)據(jù)讓系統(tǒng)學習，就可能導致深色皮膚的女性被錯誤識別成男性。

早在2015年，谷歌就在一張照片中將一位黑人軟件工程師認定為“大猩猩”，谷歌后來也不得不為這個錯誤道歉。

盡管今天微軟宣布減少人臉識別系統(tǒng)中的種族偏見，但如果執(zhí)法部門掌握了改進的面部識別工具，那么對于有色人種如何實施可能會引發(fā)什么問題，以及這是否會加劇已存在問題。

微軟今年1月公開宣布，將與美國移民及海關執(zhí)法局(ICE)合作，幫助該部門進行人臉以及身份識別，但這一消息一出就引起了包括微軟員工在內(nèi)的民眾們的強烈抗議，很多人呼吁微軟員工進行抗議或者辭職。

微軟首席執(zhí)行官Satya Nadella上周在一份備忘錄中澄清說，“微軟并未與美國移民及海關執(zhí)法局達成任何有關于拆散邊境家庭的合作。微軟對強制將兒童從邊境家庭分離的行為深感痛心，同時將極力敦促有關部門改變立場以及國會通過相關法規(guī)來改善現(xiàn)狀?！?