麻省理工學(xué)院的研究人員推出了一種用于去偏置算法的AI

鑒于算法在我們?nèi)粘Ｉ钪械钠占昂推占?，公平和平等待遇變得至關(guān)重要 - 去年麻省理工學(xué)院的一項(xiàng)研究揭示了面部識(shí)別算法中的性別和種族偏見，這一事實(shí)對(duì)許多人來說非常突出。。

這一教訓(xùn)似乎相當(dāng)明確 - 偏見，偏見，即使參與制定培訓(xùn)數(shù)據(jù)集的任何特定人員都沒有表現(xiàn)出有意識(shí)的偏見，這似乎也是正確的(有時(shí)候發(fā)現(xiàn)有75%的男性和超過80%的人)上述研究的白色圖像)。

為了解決這個(gè)問題，麻省理工學(xué)院計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室(CSAIL)的一個(gè)團(tuán)隊(duì)目前正在開發(fā)一種能夠同時(shí)學(xué)習(xí)的算法 - 手頭的任務(wù)(如人臉檢測)和訓(xùn)練數(shù)據(jù)的基本結(jié)構(gòu)，它通過重新采樣自動(dòng)識(shí)別和最小化偏差。

在測試中，與最新和最好的面部識(shí)別系統(tǒng)相比，該算法設(shè)法將“分類偏差”降低了60%以上，同時(shí)保持了其特有的整體精確度。

新系統(tǒng)的關(guān)鍵創(chuàng)新是，雖然它的同行至少需要人類的一些輸入才能學(xué)習(xí)相關(guān)的偏見，麻省理工學(xué)院的數(shù)字“去偏置器”根本不需要手持 - 只需在其上投擲一個(gè)數(shù)據(jù)集就可以了底層結(jié)構(gòu)，然后根據(jù)需要重新取樣。

“特別是面部分類是一種經(jīng)常被視為'已解決'的技術(shù)，即使很明顯經(jīng)常使用的數(shù)據(jù)集也沒有經(jīng)過適當(dāng)?shù)膶彶椋?rdquo;博士說。學(xué)生Alexander Amini是本周在AIES上發(fā)表的一篇相關(guān)論文的作者。

Amini說，糾正這些問題勢在必行，因?yàn)槲覀冮_始看到這些算法被用于安全，執(zhí)法和其他領(lǐng)域。

此外，麻省理工學(xué)院團(tuán)隊(duì)開發(fā)的系統(tǒng)可能與無法手動(dòng)檢查的較大數(shù)據(jù)集特別相關(guān)，并可能擴(kuò)展到其他計(jì)算機(jī)視覺應(yīng)用。