Microsoft如何建立對(duì)人工智能的信任

Azure機(jī)器學(xué)習(xí)自動(dòng)跟蹤數(shù)據(jù)集的沿襲，因此客戶可以在注冊(cè)表中維護(hù)其機(jī)器學(xué)習(xí)資產(chǎn)的審核跟蹤，包括歷史記錄，培訓(xùn)和模型說(shuō)明。這為數(shù)據(jù)科學(xué)家，機(jī)器學(xué)習(xí)工程師和開(kāi)發(fā)人員提供了工作流程中更高的可見(jiàn)性和可審核性。

在會(huì)議期間，Microsoft提供了有關(guān)如何使用Azure機(jī)器學(xué)習(xí)中的自定義標(biāo)簽來(lái)實(shí)現(xiàn)機(jī)器學(xué)習(xí)模型的數(shù)據(jù)表的指南，從而使客戶能夠改善其數(shù)據(jù)集的文檔和元數(shù)據(jù)。自定義標(biāo)簽基于Microsoft與AI合作伙伴關(guān)系及其對(duì)機(jī)器學(xué)習(xí)生命周期的理解和透明度的注釋和基準(zhǔn)(About ML)項(xiàng)目，該項(xiàng)目旨在提高機(jī)器學(xué)習(xí)系統(tǒng)文檔的透明度和問(wèn)責(zé)制。

Microsoft的另一個(gè)重點(diǎn)領(lǐng)域是可以更好地理解機(jī)器學(xué)習(xí)模型并評(píng)估和減輕數(shù)據(jù)不公平性的工具。在過(guò)去的幾個(gè)月中，它一直在大力投資用于模型不公平和可解釋性的工具。這些領(lǐng)域?qū)τ谀壳暗臋C(jī)器學(xué)習(xí)從業(yè)者來(lái)說(shuō)尤其重要。

在2019年，微軟發(fā)布了Fairlearn，這是一個(gè)開(kāi)放源代碼工具包，用于評(píng)估機(jī)器學(xué)習(xí)模型的公平性。在今年的Build上，Microsoft宣布它將在6月將工具包本地集成到Azure機(jī)器學(xué)習(xí)中。

Fairlearn工具包提供了多達(dá)15個(gè)“公平性指標(biāo)”，可用于評(píng)估和重新訓(xùn)練模型。它還提供了可視化的儀表板，以向從業(yè)者展示該模型在針對(duì)客戶選擇的某些群體(例如年齡，性別或種族)方面的表現(xiàn)。Microsoft計(jì)劃隨著該領(lǐng)域的研究進(jìn)展而增加這些功能。

它還正在使用稱為InterpretML的工具解決可解釋的人工智能(AI)，該工具提供了一組交互式儀表板，這些儀表板使用各種技術(shù)來(lái)提供模型可解釋性。對(duì)于不同類型的模型，InterpretML可幫助從業(yè)人員更好地理解確定模型輸出的最重要功能，執(zhí)行“假設(shè)分析”并探索數(shù)據(jù)趨勢(shì)。

微軟還宣布，它將為工具集添加一個(gè)新的用戶界面，該界面配備了一組可視化功能以實(shí)現(xiàn)可解釋性，對(duì)基于文本的分類的支持以及反事實(shí)示例分析。

可視化客戶的可解釋性

這些關(guān)鍵領(lǐng)域在AI中的新興性質(zhì)使一些早期企業(yè)難以理解技術(shù)在實(shí)踐中的工作方式，尤其是對(duì)他們的客戶而言。

Microsoft在這方面做了很多視覺(jué)上的改進(jìn)，特別是對(duì)于數(shù)據(jù)科學(xué)家和機(jī)器學(xué)習(xí)工程師。在InterpretML的演示中，微軟展示了零售商如何在行動(dòng)中運(yùn)用可解釋性，例如在其網(wǎng)站上支持其針對(duì)消費(fèi)者的AI驅(qū)動(dòng)產(chǎn)品推薦。建立客戶之間對(duì)AI的透明度和信任度是目前該技術(shù)面臨的最大障礙之一。

實(shí)際上，對(duì)技術(shù)的信任(或缺乏信任)已成為企業(yè)采用機(jī)器學(xué)習(xí)的最大障礙。在2019年的CCS Insight調(diào)查中，有39%的IT決策者將信任視為采用組織的最大障礙。