微軟的面部識(shí)別可以更好地識(shí)別膚色較暗的人

據(jù)公司博客文章稱，微軟表示其面部識(shí)別工具在識(shí)別膚色較暗的人群方面正在變得越來(lái)越好。皮膚較深的男性和女性的錯(cuò)誤率降低了20倍，所有女性的錯(cuò)誤率降低了9倍。

該公司表示，它正在通過(guò)更大，更多樣化的數(shù)據(jù)集來(lái)培訓(xùn)其AI工具，這已經(jīng)取得了進(jìn)展。“如果我們正在培訓(xùn)機(jī)器學(xué)習(xí)系統(tǒng)，以模仿在偏見(jiàn)社會(huì)中做出的決策，使用該社會(huì)產(chǎn)生的數(shù)據(jù)，那么這些系統(tǒng)必然會(huì)重現(xiàn)其偏見(jiàn)，”微軟高級(jí)研究員Hanna Wallach在博客文章中說(shuō)。

今年2月，麻省理工學(xué)院媒體實(shí)驗(yàn)室的一份報(bào)告測(cè)試了微軟，IBM和中國(guó)Megvii的面部識(shí)別系統(tǒng)，發(fā)現(xiàn)高達(dá)35%的膚色較深的女性的性別被系統(tǒng)誤認(rèn)。該報(bào)告僅證實(shí)了許多人多年來(lái)一直懷疑的情況 - 面部識(shí)別系統(tǒng)可能受到有限數(shù)據(jù)集和其他因素(如系統(tǒng)性種族主義)的偏見(jiàn)。早在2015年，谷歌就在一張照片中將軟件工程師的黑人朋友稱為“大猩猩”，并不得不為此錯(cuò)誤道歉。

盡管如此，雖然微軟今天的公告顯示其面部識(shí)別系統(tǒng)中的種族偏見(jiàn)有所減少，但如果執(zhí)法部門開(kāi)始使用改進(jìn)的面部識(shí)別工具，那么目前還不清楚這對(duì)于有色人種會(huì)如何發(fā)揮作用以及這是否會(huì)加劇已經(jīng)存在問(wèn)題的做法。微軟與美國(guó)移民和海關(guān)執(zhí)法局(ICE)合作，其面部識(shí)別工具作為資源提供給政府機(jī)構(gòu)。微軟首席執(zhí)行官薩蒂亞·納德拉上周在一份備忘錄中澄清說(shuō)“微軟并沒(méi)有與美國(guó)政府就任何與邊境家庭分離兒童有關(guān)的項(xiàng)目進(jìn)行合作”，但他沒(méi)有說(shuō)明面部識(shí)別如何在使ICE受益方面發(fā)揮作用。工作。