信任可解釋的人工智能和迫在眉睫的利潤機會

人工智能(AI)正在成為一項重要的業(yè)務，具有各種迷人的機會。增長非同尋常：2015年全球人工智能收入為1260億美元，去年收入為4820億美元。對2024年的預測是收入將達到3.061萬億美元。

人工智能的進步使得計算機可以承擔人類正式完成的更多任務。雖然這種趨勢正在提高效率，但它也增加了人們認為他們正在談論隔離墻的程度。只需考慮與手機上的現(xiàn)場人員交談與導航一系列菜單選項之間的區(qū)別，順便說一下最近已經改變了，所以請仔細聆聽。

人工智能在金融服務中的作用很大。2017年，大約85%的在線支付和信用卡交易依賴于AI技術。隨著金融科技的發(fā)展，有時候“人工智能”中的“情報”看起來就像是用詞不當，導致人們在說“走向數(shù)字”時感到有道理。這是因為一些人工智能就像一個“黑匣子”，意味著人工智能過程是不透明的，很難讓每個人都理解，包括AI開發(fā)人員。隨著“黑匣子”和“走向數(shù)字”的到來令人沮喪。

沮喪是一種情緒反應，情緒正在推動對可解釋人工智能的需求。我最近觀看了一個關于可解釋AI的優(yōu)秀在線教程，名為“行業(yè)中的可解釋AI”。該教程由最近在人工智能和數(shù)據(jù)的KDD會議上由兩個小組提出。一個展示小組來自Fiddler Labs，一家專門研究可解釋AI的公司，另一個來自LinkedIn的Fair Machine Learning團隊。

在線教程中的一個特定幻燈片引起了我的注意，關于新機器學習模型的用戶問自己：“我什么時候可以信任你?”以“你”為模型。作為一家令人興奮的硅谷創(chuàng)業(yè)公司，F(xiàn)iddler Labs了解到他們是一家技術公司，其產品可以提供信任。

情感，如信任，是我們心理學的一部分。從廣義上講，信任是現(xiàn)代經濟中交換的重要組成部分。大多數(shù)人沒有足夠的知識來猜測我們認為是專家的人。人們依賴于醫(yī)生，會計師，牙醫(yī)，機械師和承包商的建議。他們往往信任他們收到的建議。這種信任往往源于過去的經驗。然而，在缺乏經驗的情況下，信任通常源于轉介，而轉介又是基于我們從我們信任的其他人那里聽到的內容。

如果他們認為AI是敵人而不是朋友，人們就會不信任AI。如果AI認為其結構違反道德規(guī)范，那么人們就會不信任AI。如果他們覺得算法缺乏能力，人們會不信任AI。最后，如果人們發(fā)現(xiàn)AI的結果不可預測，他們就會不信任AI。

對人工智能對我們生活的影響的擔憂變得如此之大，以至于國會兩黨通過監(jiān)管來解決這個問題。今年6月26日，眾議院金融服務委員會的人工智能工作組舉行了一次題為“人工智能的視角：我們在哪里以及金融服務的下一個前沿” 的聽證會。

金融服務委員會多數(shù)工作人員撰寫的一份備忘錄提出了“可解釋的人工智能”這一問題，表達了“對金融服務應用的潛在關注”，涉及“系統(tǒng)的不透明性和可解釋性”。通過可解釋性，他們意味著能夠“解釋”對人類用戶的決定和行動。“

心理學家保羅·斯洛維奇(Paul Slovic)說，人們對風險的看法傾向于由兩個特征驅動。首先是恐懼，人們害怕危險情況的潛在結果的程度。第二個是基于熟悉程度的知識，人們認為他們理解風險的程度。

人們將缺乏對他們認為有風險的活動的信任，因為他們意識到他們不了解相關的風險并且害怕潛在的后果。

舉一個非金融的例子，A??I是自動駕駛汽車的基礎，意味著自動駕駛汽車。人們對行人被自動駕駛車輛殺死的事件的恐懼做出反應。不理解為什么車輛的傳感器無法識別汽車路徑中的行人會增加風險感。

當然，金融服務委員會的重點是金融部門，而不是汽車部門。這就是為什么委員會邀請Jesse McWaters的證詞，他在世界經濟論壇上就金融創(chuàng)新相關問題工作。McWaters的重點是“探索包括人工智能在內的新技術在金融體系的快速轉型中發(fā)揮的作用。”他證實了信任，并指出了“必須具備知情信任所必需的背景，透明度和控制”的重要性。在一個特定用例的模型中。“薩里大學的學者Bonnie Buchanan也提到了對她的證詞的信任，并將其與治理問題聯(lián)系起來。

與AI相關的金融風險很大。信任是這些賭注的一部分。信任比獲得更容易丟失。因此，出于財務和道德原因，讓AI可解釋的原因非常重要。