微軟開放源代碼解釋黑盒AI

微軟研究公司(Micros of t Research)今天開放了一個(gè)軟件工具包，旨在解決AI的“黑匣子”問題。 解釋ML是為了幫助開發(fā)人員嘗試介紹人工智能系統(tǒng)輸出的解釋的方法。 解釋ML目前在alpha中，可在GitHub上使用。

解釋人工智能系統(tǒng)所作預(yù)測(cè)的能力日益受到關(guān)注，因?yàn)槿斯ぶ悄芨嗟貞?yīng)用于法律和保健等部門。

“如果醫(yī)生、法官和其他決策者信任支撐智能系統(tǒng)的模型，他們就能做出更好的決策。 更廣泛地說，隨著對(duì)模型的更充分理解，最終用戶可能更容易接受人工智能驅(qū)動(dòng)的產(chǎn)品和解決方案，而日益增長(zhǎng)的監(jiān)管需求可能更容易得到滿足，“微軟數(shù)據(jù)科學(xué)家和工程師今天在一篇博客中說。

微軟的研究人員還認(rèn)為，可解釋性可以幫助開發(fā)人員決定最佳的方法來訓(xùn)練人工智能模型或衡量方法之間的一致性。

此舉之際，微軟結(jié)束了在西雅圖舉行的年度Build Developer Conference，該公司在這里推出了用于在網(wǎng)絡(luò)上創(chuàng)建文檔的Fluid框架、Azure Kubernetesnetes服務(wù)，以及第一批人工智能和機(jī)器人工具包。

在構(gòu)建之前，上周微軟宣布了它的開放神經(jīng)網(wǎng)絡(luò)交換(ONN X)現(xiàn)在支持Nvidia的Tensor Intel的nGraphfor在Nvidia和Intel硬件上的高速推理。

微軟是AI合作伙伴關(guān)系的成員，這是一個(gè)由80多家科技公司和非營(yíng)利組織組成的集團(tuán)，最近宣布算法不適合自動(dòng)化審前保釋程序，部分原因是缺乏對(duì)原告如何被標(biāo)記為高風(fēng)險(xiǎn)或低風(fēng)險(xiǎn)的明確解釋。

AzureCloud和AI負(fù)責(zé)人Scott Guthrie上周斷言，微軟參與開源項(xiàng)目的意愿遠(yuǎn)遠(yuǎn)超過亞馬遜或谷歌。

“我想你看到的是一個(gè)微軟，它既深深地?fù)肀Я碎_放，既是消費(fèi)者，也是貢獻(xiàn)者，我認(rèn)為這是獨(dú)一無二的。 如果你看看，比如說AWS對(duì)開源的貢獻(xiàn)，就不會(huì)有很多。 有很多消費(fèi)，但沒有太多的貢獻(xiàn)回來，我認(rèn)為，即使你是看看谷歌相對(duì)于我們?cè)贏zure上所做的貢獻(xiàn)，我認(rèn)為人們通常會(huì)驚喜地把它加起來。”

Venture Beat要求提供更多關(guān)于微軟內(nèi)部如何使用該工具的細(xì)節(jié)。 如果我們聽到回音，這個(gè)故事會(huì)更新的。