新的框架將使AI決策變得更加模糊

2022-08-20 00:09:41 編輯：杜影婷來源：

導(dǎo)讀一個新的框架將允許用戶了解人工智能決策背后的原理?？紤]到推動擺脫黑匣子人工智能系統(tǒng)的推動，這項工作意義重大，尤其是在和執(zhí)法部門等需...

一個新的框架將允許用戶了解人工智能決策背后的原理?？紤]到推動擺脫“黑匣子”人工智能系統(tǒng)的推動，這項工作意義重大，尤其是在和執(zhí)法部門等需要證明決策依據(jù)的部門。

該論文的第一作者，北卡羅來納州立大學(xué)計算機工程學(xué)助理教授吳天福說：“使我們的框架與眾不同的是，我們將這些可解釋性要素納入了AI培訓(xùn)過程。”

“例如，在我們的框架下，當(dāng)一個AI程序?qū)W習(xí)如何識別圖像中的對象時，它也在學(xué)習(xí)定位圖像中的目標(biāo)對象，并解析滿足目標(biāo)對象標(biāo)準(zhǔn)的局部性。然后將這些信息與結(jié)果一起顯示。”

在概念驗證實驗中，研究人員將該框架整合到了廣泛使用的R-CNN人工智能對象識別系統(tǒng)中。然后，他們在兩個完善的基準(zhǔn)數(shù)據(jù)集上運行該系統(tǒng)。

研究人員發(fā)現(xiàn)，將可解釋性框架整合到AI系統(tǒng)中，無論從時間還是準(zhǔn)確性上都不會損害系統(tǒng)的性能。

Wu說：“我們認為這是實現(xiàn)完全透明的AI的重要一步。”“但是，還有一些懸而未決的問題要解決。

“例如，該框架目前已通過AI向我們顯示了對象的位置，這些圖像被認為是目標(biāo)對象的不同特征。那是定性的。我們正在努力使這種定量化，并將置信度得分納入流程。”

標(biāo)簽：

免責(zé)聲明：本文由用戶上傳，如有侵權(quán)請聯(lián)系刪除！

本站除標(biāo)明“本站原創(chuàng)”外所有信息均轉(zhuǎn)載自互聯(lián)網(wǎng) 版權(quán)歸原作者所有。