在人與機(jī)器之間建立更好的信任

隨著機(jī)器變得更加智能化，它們會(huì)嵌入生活的無(wú)數(shù)方面。在某些方面，他們幾乎可以扮演人機(jī)團(tuán)隊(duì)中的正式成員。在這種情況下，與任何團(tuán)隊(duì)一樣，信任是良好績(jī)效的必要因素。

但人與機(jī)器之間的信任動(dòng)態(tài)尚未得到充分了解。通過(guò)SUTD-MIT博士后研究員項(xiàng)目資助的兩年項(xiàng)目，麻省理工學(xué)院與新加坡科技與設(shè)計(jì)大學(xué)(SUTD)，博士后Xi Jessie Yang，麻省理工學(xué)院航空航天系助理教授Julie Shah和SUTD合作工程產(chǎn)品開(kāi)發(fā)KatjaHölttä-Otto教授旨在發(fā)展該領(lǐng)域的更多知識(shí)。在她的團(tuán)契期間，楊在SUTD擔(dān)任了一年的博士后，現(xiàn)在正在麻省理工學(xué)院的第二年完成她的研究。她和她的導(dǎo)師希望他們的努力將有助于更好的用戶界面設(shè)計(jì)和更好的人機(jī)團(tuán)隊(duì)績(jī)效。

有些任務(wù)可以通過(guò)機(jī)器或機(jī)器的輔助而不僅僅是人類來(lái)更有效地完成。但機(jī)器可能會(huì)出錯(cuò)，特別是在不確定性和模糊性的情況下。因此，正確校準(zhǔn)對(duì)機(jī)器的信任是良好的人機(jī)團(tuán)隊(duì)績(jī)效的先決條件。

各種因素交叉在一起，以確定人類信任機(jī)器的程度，以及它們對(duì)給定任務(wù)的執(zhí)行程度。這些因素包括機(jī)器的可靠性，人類的自信程度以及并發(fā)工作量(即人類負(fù)責(zé)同時(shí)執(zhí)行的任務(wù)數(shù)量)。梳理任何一個(gè)因素的影響可能具有挑戰(zhàn)性，但通過(guò)復(fù)雜的實(shí)驗(yàn)設(shè)計(jì)，Yang，Shah和Hölttä-Otto已經(jīng)能夠以更現(xiàn)實(shí)的方式處理該主題，處理機(jī)器的不完善并隔離各種因素。人機(jī)信任關(guān)系研究其影響。

在SUTD，Yang和Hölttä-Otto設(shè)計(jì)了一個(gè)實(shí)驗(yàn)，涉及一個(gè)人類參與者在自動(dòng)決策輔助的幫助下執(zhí)行記憶和識(shí)別任務(wù)。在實(shí)驗(yàn)中，參與者記住了一系列圖像，然后在類似圖像池中識(shí)別它們。決策輔助工具為圖像選擇提供了建議，對(duì)某些人來(lái)說(shuō)非?？煽浚瑢?duì)其他人則不那么可靠。結(jié)果顯示，參與者傾向于使用高度可靠的輔助工具并推翻高度不可靠的輔助工具。隨著人們使用決策輔助獲得更多經(jīng)驗(yàn)，信任可靠性校準(zhǔn)也得到了改善。

在麻省理工學(xué)院，Yang和Shah探討了界面設(shè)計(jì)如何促進(jìn)信任可靠性校準(zhǔn)。Yang和Shah特別感興趣的是可能性警報(bào)顯示的潛在好處。與僅指示“威脅”或“無(wú)威脅”的傳統(tǒng)二進(jìn)制警報(bào)相反，可能性警報(bào)提供關(guān)于警報(bào)事件的置信水平和緊急性的附加信息。Yang和Shah認(rèn)為，可能性警報(bào)將有助于減輕“哭狼”效應(yīng)，這種現(xiàn)象在高風(fēng)險(xiǎn)行業(yè)中常見(jiàn)。在這些行業(yè)中，觸發(fā)警報(bào)的閾值通常設(shè)置得非常低，以便捕獲每個(gè)關(guān)鍵事件。然而，低閾值不可避免地導(dǎo)致錯(cuò)誤警報(bào)，這導(dǎo)致人類用戶失去對(duì)警報(bào)系統(tǒng)的信任并最終損害任務(wù)性能。

在目前正在進(jìn)行的另一項(xiàng)實(shí)驗(yàn)中，Yang和Shah模擬了一個(gè)多任務(wù)場(chǎng)景，其中參與者充當(dāng)士兵來(lái)執(zhí)行搜索和檢測(cè)任務(wù)。他們必須保持四架無(wú)人駕駛飛行器(UAV)的水平飛行，同時(shí)檢測(cè)從無(wú)人機(jī)發(fā)回的照片流中的潛在威脅。二進(jìn)制警報(bào)或可能性警報(bào)可幫助參與者完成其任務(wù)。后者可能會(huì)減輕“哭狼”效應(yīng)，并提高參與者的注意力分配，并提高人機(jī)團(tuán)隊(duì)的表現(xiàn)。

最終，這項(xiàng)研究可以幫助實(shí)現(xiàn)跨越許多領(lǐng)域的機(jī)器人和人工智能開(kāi)發(fā)，從應(yīng)用，如實(shí)驗(yàn)?zāi)M，醫(yī)療診斷到機(jī)場(chǎng)安全。

“缺乏信任往往被認(rèn)為是更廣泛使用AI和自治系統(tǒng)的關(guān)鍵障礙之一，”Shah說(shuō)。“這些研究表明，增加用戶對(duì)系統(tǒng)的信任并不是正確的目標(biāo)。相反，我們需要新的方法來(lái)幫助人們適當(dāng)?shù)匦?zhǔn)他們對(duì)系統(tǒng)的信任，特別是考慮到這些系統(tǒng)總是不完美的。”

楊將于今年7月在第7屆應(yīng)用人因和人體工程學(xué)國(guó)際會(huì)議上展示她的研究成果，以及9月份人類因素和人體工程學(xué)學(xué)會(huì)第60屆年會(huì)。

SUTD-MIT博士后研究員計(jì)劃只是麻省理工學(xué)院和SUTD合作的一個(gè)方面。