設(shè)計(jì)方法可能有助于修正人工智能

人工智能（A I）和機(jī)器學(xué)習(xí)程序中的偏差是眾所周知的。來(lái)自北卡羅萊納州立大學(xué)和賓夕法尼亞州立大學(xué)的研究人員現(xiàn)在建議軟件開(kāi)發(fā)人員將“女權(quán)主義設(shè)計(jì)思維”的概念納入他們的開(kāi)發(fā)過(guò)程，作為一種改善公平的方式-特別是在開(kāi)發(fā)招聘過(guò)程中使用的軟件方面。

信息系統(tǒng)/技術(shù)教授、NC State大學(xué)系學(xué)者費(fèi)·佩頓說(shuō)：“關(guān)于人工智能中的偏見(jiàn)是如何表現(xiàn)出來(lái)的，似乎有無(wú)數(shù)的故事，關(guān)于是什么導(dǎo)致了這種偏見(jiàn)，還有許多想法。””我們的目標(biāo)是提出指導(dǎo)方針，用以制定可行的解決辦法，解決IT勞動(dòng)力中針對(duì)婦女、非裔人和拉丁美洲職業(yè)的算法偏見(jiàn)。

佩頓是一篇有關(guān)這項(xiàng)工作的論文的合著者，他說(shuō)：“現(xiàn)有的太多招聘算法都包含了事實(shí)身份標(biāo)記，因?yàn)樾詣e、種族、族裔、年齡等因素而排除了合格候選人?！拔覀冎皇窃趯で蠊健舐氄吣軌蚱降鹊貐⑴c招聘過(guò)程?！?/p>

佩頓和她的合作者認(rèn)為，一種稱為女權(quán)主義設(shè)計(jì)思維的方法可以作為一個(gè)有價(jià)值的框架來(lái)開(kāi)發(fā)軟件，以有意義的方式減少算法偏見(jiàn)。在這種背景下，應(yīng)用女性主義設(shè)計(jì)思維將意味著將公平思想納入算法本身的設(shè)計(jì)中。

該論文的合著者、賓夕法尼亞州立大學(xué)信息科學(xué)與技術(shù)系副教授Lynette Yarger說(shuō)：“使算法偏見(jiàn)的影響更加復(fù)雜的是，女性、黑人和拉丁裔軟件工程師在歷史上的代表性不足，他們根據(jù)他們的生活經(jīng)歷，就公平設(shè)計(jì)方法提供了新的見(jiàn)解?！?/p>

佩頓說(shuō)：“從本質(zhì)上說(shuō)，這種方法將意味著開(kāi)發(fā)出重視性別、種族和族裔包容和公平的算法?！薄边@方面的實(shí)際應(yīng)用是開(kāi)發(fā)和實(shí)施一個(gè)創(chuàng)建算法的過(guò)程，在這個(gè)過(guò)程中，設(shè)計(jì)師正在考慮一個(gè)包括婦女、包括黑人、包括拉丁人的受眾。從本質(zhì)上講，所有背景的開(kāi)發(fā)人員都會(huì)被要求積極考慮與自己不同的人和價(jià)值。

“要明確的是，這不僅僅是做某件事，因?yàn)樗诘赖律鲜钦_的。但我們知道，婦女、非裔人和拉丁人在IT領(lǐng)域的代表性不足。有充分的證據(jù)表明，多元化、包容性的員工隊(duì)伍可以改善公司的底線，”佩頓說(shuō)?！叭绻隳茏稣_的事情，提高自己的利潤(rùn)率，為什么你不會(huì)呢？”