谷歌從AI工具中屏蔽基于性別的代詞以防止偏見的指控

路透社-Alphabet的Google在5月推出了Gmail的一個巧妙功能，它可以在用戶輸入句子時自動完成句子。 點擊“我愛”，Gmail可能會提出“你”或“它”。但是，如果用戶的情感對象是“他”或“她”，他們就會失去運氣。

谷歌的技術(shù)不會暗示基于性別的代詞，因為它的“智能合成”技術(shù)可能會錯誤地預測某人的性別或性別身份，并冒犯用戶，產(chǎn)品領(lǐng)導者在采訪中向路透社透露。

Gmail產(chǎn)品經(jīng)理保羅?蘭伯特(Paul Lambert)表示，1月份，一位公司研究科學家發(fā)現(xiàn)了這個問題，當時他打字說：“我下周要見一位投資者”，而Smart Compose則提出了一個可能的后續(xù)問題：“你想見見他嗎?”而不是“她”。

消費者已經(jīng)習慣了智能手機自動校正帶來的尷尬失態(tài)。 但在性別問題正在重塑政治和社會的時候，谷歌拒絕冒險，批評者也像以前一樣仔細審視人工智能的潛在偏見。

“并非所有的‘螺絲起子’都是相等的，”蘭伯特說。 性別是一個“大的，大的事情”出錯。

正確處理智能組合可能對生意有好處。 證明谷歌比競爭對手更了解人工智能的細微差別是該公司為其品牌建立親和力并吸引客戶使用其人工智能驅(qū)動的云計算工具、廣告服務(wù)和硬件的戰(zhàn)略的一部分。

Gmail擁有15億用戶，蘭伯特說Smart Compose在全球11%的Gmail.com發(fā)送的信息上提供了幫助。

智能組合是AI開發(fā)者所謂的自然語言生成(N LG)的一個例子，其中計算機通過研究文學、電子郵件和網(wǎng)頁中單詞之間的模式和關(guān)系來學習寫句子。

一個顯示了數(shù)十億個人類句子的系統(tǒng)變得善于完成常見的短語，但受到一般性的限制。 例如，男性長期以來一直在金融和科學等領(lǐng)域占據(jù)主導地位，因此這項技術(shù)將從數(shù)據(jù)中得出結(jié)論：投資者或工程師是“他”或“他”。

蘭伯特說，由大約15名工程師和設(shè)計師組成的智能組合團隊嘗試了幾種解決方案，但沒有一個被證明是無偏見的或值得的。 他們認為最好的解決方案是最嚴格的解決方案：限制覆蓋范圍。 蘭伯特說，性別代詞禁令對Smart Compose提出建議的情況影響不到1%。

“我們唯一可靠的技術(shù)是保守，”Prabhakar Raghavan說。

谷歌決定在性別問題上保持安全是因為該公司的預測技術(shù)令人難堪。

該公司于2015年道歉，當時其照片服務(wù)的圖像識別功能將一對黑人夫婦標記為大猩猩。 在2016年，谷歌改變了搜索引擎的自動完成功能，因為它建議反猶查詢“是猶太人的邪惡”，當用戶尋找猶太人的信息。

谷歌已禁止其預測技術(shù)中的誹謗和種族誹謗，并提到其商業(yè)對手或悲劇事件。

該公司禁止性別代詞的新政策也影響了谷歌智能回復中可能的反應(yīng)清單。 這項服務(wù)允許用戶用“聽起來不錯”等短語即時回復短信和電子郵件。

谷歌利用其人工智能倫理團隊開發(fā)的測試來揭示新的偏見。 蘭伯特說，一個垃圾郵件和虐待團隊攻擊系統(tǒng)，試圖通過思考黑客或記者可能會找到“多汁”的失態(tài)。

以外的工人尋找當?shù)氐奈幕瘑栴}。 Smart Compose不久將使用其他四種語言：西班牙語、葡萄牙語、語和法語。

“你需要很多人的監(jiān)督，”工程領(lǐng)導拉哈萬說，因為“在每種語言中，不恰當?shù)木W(wǎng)絡(luò)必須涵蓋不同的東西。

谷歌不是唯一一家處理基于性別的代名詞問題的科技公司。

來自湯森路透(Thomson Reuters)投資的紐約初創(chuàng)企業(yè)Agolo利用AI總結(jié)商業(yè)文檔。

它的技術(shù)無法在某些文檔中可靠地確定哪個代詞與哪個名稱。 因此，這篇摘要引用了幾句話來給用戶更多的上下文，Agolo的首席技術(shù)官MohamedAlTantawy說。

他說，更長的副本比缺失細節(jié)更好。 “最小的錯誤會使人們失去信心，”Al Tantawy說。 “人們希望百分之百正確。

然而，不完美仍然存在。 谷歌和蘋果開發(fā)的預測鍵盤工具提出了性別化的“”來完成“”和“推銷員”的“銷售”。

把中性的土耳其短語“一個是士兵”輸入谷歌翻譯，它用英語吐出“他是士兵”。 阿里巴巴和微軟的翻譯工具也是如此。 Amazon.com選擇“她”作為云計算客戶翻譯服務(wù)中的同一短語。

人工智能專家呼吁這些公司展示一個免責聲明和多個可能的翻譯。

微軟的Linked In表示，它在其一年前的預測消息工具“智能回復”中避免了性別代詞，以避免潛在的錯誤。

阿里巴巴和亞馬遜沒有回應(yīng)置評請求。

北卡羅來納州達勒姆的集成工程師JohnHegele說，像Smart Compose中的警告和限制仍然是復雜系統(tǒng)中最常用的對策，該公司從統(tǒng)計數(shù)據(jù)中生成新聞文章。

“最終目標是一個完全由機器生成的系統(tǒng)，它神奇地知道該寫什么，”Hegele說。 “已經(jīng)取得了很多進展，但我們還沒有實現(xiàn)。