AI情感識別不可信任

隨著人工智能被用來做出更多關于我們生活的決定，工程師們已經(jīng)找到了使其更具情感智慧的方法。這意味著自動化人類自然產(chǎn)生的一些情感任務 - 最明顯的是，看著一個人的臉并知道他們的感受。

為實現(xiàn)這一目標，微軟，IBM和亞馬遜等科技公司都出售他們所謂的“情感識別”算法，這種算法可以推斷人們基于面部分析的感受。例如，如果有人皺眉，噘起嘴唇，就意味著他們生氣了。如果他們的眼睛很寬，他們的眉毛就會抬起，嘴巴張得很緊，這意味著他們會害怕，等等。

客戶可以通過各種方式使用這種技術，構(gòu)建從尋找“憤怒”威脅的自動化監(jiān)控系統(tǒng)到有望淘汰無聊和不感興趣的候選人的求職面試軟件。

但我們可以很容易地根據(jù)他們看起來如何看待人們的感覺是有爭議的，并且對該研究的一項重要的新評論表明，沒有堅定的科學理由。

“公司可以說任何他們想要的東西，但數(shù)據(jù)很清楚，”東北大學心理學教授，該評論的五位作者之一Lisa Feldman Barrett告訴The Verge。“他們可以發(fā)現(xiàn)一個皺眉，但這與檢測憤怒不是一回事。”

該評價由心理科學協(xié)會委托，并要求該領域的五位杰出科學家仔細檢查證據(jù)。每位評論家都代表了情感科學領域的不同理論陣營。“我們不確定我們是否能夠就數(shù)據(jù)達成共識，但我們做到了，”巴雷特說。他們花了兩年時間來檢查數(shù)據(jù)，審查了1000多項不同的研究。

他們的發(fā)現(xiàn)很詳細 - 可以在這里完整閱讀- 但基本的總結(jié)是，情緒以多種方式表達，這使得很難可靠地從一組簡單的面部動作中推斷出某人的感受。

“人們平均而言，數(shù)據(jù)顯示，當他們生氣時，不到30%的時間都會皺起眉頭，”巴雷特說。“所以愁眉苦臉不是憤怒的表現(xiàn); 他們是憤怒的表達 - 許多人之一。這意味著超過70%的時間，人們生氣時不會皺眉。最重要的是，當他們不 生氣時，他們會經(jīng)常皺眉。“

“你真的希望在此基礎上確定結(jié)果嗎?”

反過來，這意味著使用人工智能以這種方式評估人們情緒的公司會誤導消費者。“你真的希望在此基礎上確定結(jié)果嗎?”巴雷特說。“你想在法庭，雇用情況，醫(yī)療診斷，還是在機場......那里算法準確率只有30%的時間?”

當然，評論并不否認可能存在普通或“原型”的面部表情，也不否認我們對面部表情的交際能力的信念在社會中起著巨大的作用。(不要忘記，當我們親眼看到人們時，我們有更多關于情緒背景的信息，而不是簡單的面部分析。)

該評論認識到情緒研究領域存在著各種各樣的信念。具體而言，它反駁的是通過表達可靠地“指紋識別”情緒的想法，這種理論源于20世紀60年代心理學家保羅·?？寺?以及?？寺阅菚r起開發(fā)的)的工作。

研究表明，某些面部表情與情緒之間存在強烈相關性的研究往往在方法上存在缺陷。例如，他們使用演員拉著夸張的面孔作為情感“看起來”的起點。當要求測試對象標記這些表達時，他們經(jīng)常被要求從有限的情緒選擇中進行選擇，從而推動他們達成某種共識。

巴雷特說，人們直觀地理解情緒比這更復雜。“當我對人們說，'有時你會憤怒地喊，有時候你會憤怒地哭，有時候你會笑，有時你會靜靜地坐著，計劃你的敵人的死亡，'這說服了他們，”她說。“我說，'聽著，當他們生氣的時候，有人因為皺眉而贏得奧斯卡獎?沒有人認為這是偉大的表演。“

然而，這些微妙之處很少被出售情感分析工具的公司所承認。在市場對微軟的算法，例如，該公司表示，在人工智能的進步使得其軟件“認八大核心情緒狀態(tài)......根據(jù)反映這些感受，普遍的面部表情”，這是確切的要求，這次審查駁斥。

當然，這不是一個新的批評。巴雷特和其他人一直警告多年來，我們的情感識別的模型過于簡單。作為回應，銷售這些工具的公司經(jīng)常說他們的分析是基于更多的信號，而不僅僅是面部表情。困難在于知道這些信號如何平衡，如果有的話。

這個價值200億美元的情感識別市場中的領先公司之一Affectiva 表示，它正在嘗試收集更多指標。例如，去年，它推出了一種工具，通過結(jié)合面部和語音分析來衡量駕駛員的情緒。其他研究人員正在研究步態(tài)分析和眼動追蹤等指標。

在一份聲明中，Affectiva首席執(zhí)行官兼聯(lián)合創(chuàng)始人Rana el Kaliouby表示，這次審查與該公司的工作“非常一致”。“就像本文的作者一樣，我們不喜歡這個行業(yè)的天真，它注重于6種基本情緒和面部表情與情緒狀態(tài)的原型一對一映射，”el Kaliouby說。“表達與情感的關系非常細微，復雜而不是原型。”

Barrett相信，通過更復雜的指標，我們將能夠更準確地衡量未來的情緒。“我絕對相信這是可能的，”她說。但這并不一定會阻止目前??有限的技術擴散。

AI非常適合在數(shù)據(jù)中查找虛假連接

特別是在機器學習的情況下，我們經(jīng)常會看到用于制定決策的指標 - 不是因為它們可靠，而是因為它們可以被衡量。這是一種擅長尋找聯(lián)系的技術，這可能會導致各種虛假的分析：從掃描保姆的社交媒體帖子到檢測他們的“態(tài)度”，分析公司財報記錄，試圖預測股票價格。通常，人工智能的提及給人一種不值得信任的外表。

如果情緒識別變得普遍，那么我們就會接受它并改變我們的行為以適應其失敗。就像人們現(xiàn)在的行為知識一樣，他們在網(wǎng)上做的事情會被各種算法解釋(例如，選擇不喜歡Instagram上的某些圖片，因為它會影響你的廣告)，我們最終可能會因為我們的夸張面部表情知道它們將如何被機器解釋。這與向其他人發(fā)出信號的情況并無太大差別。

巴雷特說，或許從評論中最重要的一點是，我們需要以更復雜的方式思考情緒。情緒的表達是多種多樣的，復雜的和情境的。她將所需的思維變化與查爾斯達爾文關于物種性質(zhì)的研究以及他的研究如何推翻了對動物王國的簡單化觀點進行了比較。

“達爾文認識到物種的生物類別沒有本質(zhì)，它是一類高度可變的個體，”巴雷特說。“情緒類別完全相同。”