科技的白人男性勞動(dòng)力如何向人工智能提供偏見

大約80%的人工智能教授都是男性，而女性在Facebook的人工智能研究人員中占15%，在谷歌則占10%。

對于主要科技公司的黑人員工，這一比例甚至更低，谷歌只有2.5%，F(xiàn)acebook和微軟只有4%。

一項(xiàng)新研究表明，當(dāng)人工智能項(xiàng)目由大多數(shù)白人男性工作者構(gòu)建時(shí)，偏見滲透，他們強(qiáng)調(diào)“對'正常'人的狹隘觀念”。

根據(jù)紐約大學(xué)AI Now研究所的一份新報(bào)告，科技行業(yè)大多數(shù)白人男性編碼人員正在制造“多元化危機(jī)”，其偏見滲透到面部識(shí)別程序和聊天機(jī)器人等產(chǎn)品中。該報(bào)告重點(diǎn)介紹了Google，F(xiàn)acebook和微軟等主要科技公司的勞動(dòng)力性別失衡如何幫助人工智能中的偏見。

AI用于從面部識(shí)別到聊天機(jī)器人的各種產(chǎn)品。但該報(bào)告指出，在Facebook上只有15%的人工智能研究人員是女性，而對谷歌來說，它甚至更低，為10%。

這強(qiáng)調(diào)了該研究的作者所說的反映多元化社會(huì)的多元化勞動(dòng)力的重要性。他們認(rèn)為，科技行業(yè)的大多數(shù)白人男性人工智能編碼器與技術(shù)產(chǎn)品中的偏見有關(guān)。他們表示，對問題進(jìn)行補(bǔ)救將需要更廣泛的多樣性方法，包括從精英校園以外的大學(xué)招聘，以及提高AI產(chǎn)品的透明度。

“到目前為止，人工智能行業(yè)的多樣性問題以及它所構(gòu)建的系統(tǒng)中的偏見問題都傾向于單獨(dú)考慮，”作者Sarah Myers West，Meredith Whittaker和Kate Crawford寫道。“但我們認(rèn)為這些是同一問題的兩個(gè)版本：勞動(dòng)力和制度建設(shè)中的歧視問題深深地交織在一起。”

“'正常'人的狹隘觀念”

研究人員寫道，不僅人工智能可能會(huì)歧視某些類型的人，而且它“對他人有利，加強(qiáng)了對'正常'人的狹隘觀念”。

該報(bào)告強(qiáng)調(diào)了人工智能計(jì)劃為已經(jīng)遭受偏見的群體創(chuàng)造有害環(huán)境的幾種方式。其中包括：

亞馬遜人工智能招聘工具掃描申請人的簡歷依賴于之前的招聘簡歷，為理想的招聘設(shè)定標(biāo)準(zhǔn)。然而，人工智能開始降低參加女子學(xué)院的申請人的評級，或者在簡歷中加入“女性”一詞。

亞馬遜的Rekognition面部分析計(jì)劃難以識(shí)別黑皮膚的女性。根據(jù)一份報(bào)告，該計(jì)劃誤認(rèn)為他們是男性，雖然該計(jì)劃沒有任何問題識(shí)別男性的任何膚色。

“深切關(guān)注”

對于人工智能內(nèi)部的偏見問題，紐約大學(xué)并不是第一個(gè)發(fā)出警告的人。諸如麻省理工學(xué)院技術(shù)評論和ACLU等團(tuán)體已經(jīng)記錄了影響招聘和刑事判決等問題的問題結(jié)果。

麻省理工學(xué)院技術(shù)評論指出，問題源于深度學(xué)習(xí)階段，當(dāng)編碼員通過培訓(xùn)數(shù)據(jù)“教授”一個(gè)項(xiàng)目時(shí)。程序員可以依靠不能準(zhǔn)確反映世界的數(shù)據(jù)集來向系統(tǒng)添加偏見，例如依賴包含極少數(shù)黑人的面部圖像。

程序員還可以通過確定哪些屬性很重要來增加偏見 - 例如性別。如果一家公司以前的雇員大多是男性，該計(jì)劃可能會(huì)學(xué)習(xí)排除女性，如亞馬遜的招聘計(jì)劃，加強(qiáng)了招聘的偏見模式。

“人工智能系統(tǒng)用于種族和性別的分類，檢測和預(yù)測是迫切需要重新評估的，”紐約大學(xué)的研究人員指出。“這些工具的商業(yè)部署引起了人們的深切關(guān)注。”