微軟的Lili Cheng談到情感智能機(jī)器

對(duì)于真正智能的機(jī)器，一些人工智能(AI)研究人員認(rèn)為計(jì)算機(jī)必須識(shí)別，理解和響應(yīng)人類(lèi)的情感。簡(jiǎn)而言之，機(jī)器必須具備情商：能夠表達(dá)和識(shí)別一個(gè)人的情緒，并與他人進(jìn)行同心的互動(dòng)。

微軟AI研究人員Daniel McDuff和Ashish Kapoor在最近的一篇論文中寫(xiě)道，這種明確的人類(lèi)品質(zhì)“是解鎖機(jī)器出現(xiàn)的關(guān)鍵，這些機(jī)器不僅更通用，更強(qiáng)大，更高效，而且與人類(lèi)的價(jià)值觀(guān)相一致”。

McDuff和Kapoor寫(xiě)道，掌握情商將使計(jì)算機(jī)能夠更好地支持人類(lèi)的身心健康，以及學(xué)習(xí)新技能。

西雅圖時(shí)報(bào)采訪(fǎng)了AI和研究微軟的企業(yè)副總裁，麗麗成，約在機(jī)器的情感發(fā)展智力，這意味著什么人類(lèi)。(對(duì)話(huà)的編輯長(zhǎng)度和清晰度。)

問(wèn)：機(jī)器情商背后的技術(shù)是什么?

答：人類(lèi)大腦的工作方式是，隨著時(shí)間的推移你會(huì)學(xué)到一些東西，但是你會(huì)非常直觀(guān)地做其他事情。在你發(fā)生事故之前，你的身體可能會(huì)緊張，你可能不會(huì)想到(你將如何)對(duì)某些事情作出反應(yīng) - (在其他各種情況下)適用于許多不同的情緒，如快樂(lè)和快樂(lè)。

(McDuff和Kapoor的論文)著眼于人類(lèi)如何應(yīng)對(duì)恐懼。我們可以幫助自動(dòng)化系統(tǒng)學(xué)習(xí)一些相同的技術(shù)嗎?

他們模擬了某人駕駛，他們測(cè)量了這個(gè)人的脈搏，看看他們是如何回應(yīng)的，如果你試圖避免碰撞或擊中某些東西。

然后他們構(gòu)建了該模型，并將其應(yīng)用于通過(guò)相同模擬的自動(dòng)駕駛汽車(chē)。他們發(fā)現(xiàn)應(yīng)用一個(gè)人(體驗(yàn))的戰(zhàn)斗或逃跑(反應(yīng))，圍繞該算法構(gòu)建算法，并將其應(yīng)用于自動(dòng)駕駛汽車(chē)，有助于它在某些情況下迅速作出反應(yīng)。

他們不僅僅是在使用恐懼。他們將這與其他更合理的技術(shù)相結(jié)合，就像一個(gè)人會(huì)做的那樣，因?yàn)槟悴⒉豢偸侵皇腔貞?yīng)恐懼。

他們可以模擬虛擬環(huán)境中的某些東西，并且仍然可以進(jìn)行這些測(cè)試而無(wú)需實(shí)際裝備真正的汽車(chē)。在現(xiàn)實(shí)世界中進(jìn)行這些類(lèi)型的測(cè)試將非常困難。

問(wèn)：機(jī)器情商的其他一些實(shí)際應(yīng)用是什么?

答：真正的夢(mèng)想是(情商)可以在對(duì)你更有意義的情況下更好地幫助你 - (例如)，你正處于一個(gè)緊張的會(huì)議中，或者你想要遇到一個(gè)新的人。幫助人們更好地管理他們的情緒并在這種情況下做得更好真的很棒......(不僅僅是)“打開(kāi)我的郵件。幫助我完成任務(wù)。幫助我更快地設(shè)置會(huì)議。”

問(wèn)：這些機(jī)器如何幫助人們管理自己的情緒?

Xiaoice是非常受歡迎的聊天機(jī)器人。它最初是一個(gè)研究項(xiàng)目。該項(xiàng)目的目標(biāo)非常吸引人，因?yàn)榕c許多幫助您完成工作的幫助不同，Xiaoice的目標(biāo)只是為了獲得引人入勝的體驗(yàn)。我們?nèi)绾螏椭到y(tǒng)鼓勵(lì)人們(彼此)交談并鼓勵(lì)他們將這個(gè)聊天機(jī)器人包含在對(duì)話(huà)中?

(Xiaoice)在談話(huà)中所做的事情之一就是理解，“哦，這是一個(gè)問(wèn)題，或者這是你想和我交談的時(shí)候，你真的不希望我得到回應(yīng)。” 所以(聊天機(jī)器人)試圖以不同的方式打破對(duì)話(huà)，一個(gè)人可能會(huì)考慮溝通。也許機(jī)器人只是聽(tīng)一點(diǎn)。

他們的談話(huà)時(shí)間長(zhǎng)達(dá)數(shù)小時(shí)，人們基本上只需要同理心，與某人交談，做更多有趣的社交活動(dòng)。這是一個(gè)系統(tǒng)的例子，旨在研究更多的情感 - 社交互動(dòng)，而不僅僅是富有成效。

問(wèn)：這就像一個(gè)治療機(jī)器人?

它可能是(可能)。如果您遇到關(guān)系問(wèn)題，其中一項(xiàng)技能可能是幫助您。但它也做非常實(shí)用的事情，比如教你英語(yǔ)，或者幫助你翻譯，所以它更好地理解你的目標(biāo)是什么，然后表現(xiàn)出你想要的技能。

問(wèn)：如果有人傷心或提出問(wèn)題，機(jī)器人如何理解?

答：這是很多不同的事情 - 可能是你的聲音的語(yǔ)調(diào)或你說(shuō)的實(shí)際的話(huà)，以及你所擁有的互動(dòng)類(lèi)型，你的歷史以及你所做的一些事情。在過(guò)去完成。

問(wèn)：情商可以幫助對(duì)抗人工智能算法中的偏差嗎?

答：這是我們的夢(mèng)想 - 我們還有很長(zhǎng)的路要走，因?yàn)槿斯ぶ悄茉谟衅?jiàn)的時(shí)候會(huì)自我意識(shí)到什么時(shí)候不是。我們?nèi)匀挥龅饺藗兊膯?wèn)題，所以這可能是我們需要長(zhǎng)期努力的事情。但是，如果我們不開(kāi)始考慮并在我們創(chuàng)建的系統(tǒng)的根源上開(kāi)展工作，那么我們肯定會(huì)創(chuàng)建復(fù)制我們?cè)谏鐣?huì)中看到的許多問(wèn)題的系統(tǒng)。

我們與一個(gè)名為OpenAI的小組合作，確保這些工具可用，這樣您就不必?fù)碛腥斯ぶ悄懿┦繉W(xué)位。培養(yǎng)人們能夠構(gòu)建他們想要體驗(yàn)的各種事物對(duì)于整個(gè)社會(huì)來(lái)說(shuō)是至關(guān)重要的。

而且(就數(shù)據(jù)集而言)，我們希望確保男性和女性，年長(zhǎng)者和年輕人以及生活在不同地方的人都在我們用于訓(xùn)練(AI)模型的數(shù)據(jù)中。如果它只是一個(gè)非常有限的社會(huì)方面，那么從商業(yè)的角度來(lái)看，你不會(huì)達(dá)到......很多客戶(hù)，我們希望這些工具能夠解決很多問(wèn)題。

問(wèn)：您認(rèn)為開(kāi)發(fā)人員將情緒智能融入每臺(tái)AI機(jī)器的距離有多遠(yuǎn)?

這取決于你如何定義情商。我喜歡談?wù)揂I的是，從一個(gè)非?；镜膶用鎭?lái)看，如果你在系統(tǒng)中沒(méi)有一些人的品質(zhì)，他們就會(huì)感到沮喪。如果你不知道怎么回事，或者不了解你的歷史，他們就不會(huì)覺(jué)得很聰明。

在我們看到的很多會(huì)話(huà)系統(tǒng)中，人們?cè)谠缙?在開(kāi)發(fā)中)就會(huì)思考(情商)。設(shè)計(jì)系統(tǒng)的人很多時(shí)候不是工程師 - 他們是作家，或者他們是設(shè)計(jì)師，他們考慮過(guò)如果使用產(chǎn)品可能會(huì)有的情感類(lèi)型。我們距離使(流程)自動(dòng)化還有很長(zhǎng)的路要走。但我覺(jué)得很高興看到人們?cè)谝婚_(kāi)始就考慮(情商)。

問(wèn)：您是否預(yù)見(jiàn)到具有情商的機(jī)器會(huì)有任何潛在的危險(xiǎn)?

答：與所有事物一樣，事情看起來(lái)越自然，我們需要確保人們了解事物何時(shí)是真實(shí)的。對(duì)于我們所做的一切，我們有一個(gè)道德委員會(huì)來(lái)查看微軟的產(chǎn)品，我們有一套設(shè)計(jì)指南。

我們將隱私法應(yīng)用于我們所做的一切......確保我們對(duì)自己的數(shù)據(jù)沒(méi)有偏見(jiàn)對(duì)我們擁有的每一件產(chǎn)品都非常重要。我們嘗試與使用我們工具的任何人分享這些指南，以創(chuàng)建自己的體驗(yàn)。