新算法可以幫助解決AI的黑匣子挑戰(zhàn)

2022-08-31 12:38:51 編輯：黃超純來源：

導(dǎo)讀根據(jù)健康影像公司的一份報(bào)告，來自波士頓麻省總醫(yī)院(MGH)的研究人員設(shè)計(jì)了一種深度學(xué)習(xí)算法，提供了其決策背后的理由，這可以幫助解決與AI...

根據(jù)健康影像公司的一份報(bào)告，來自波士頓麻省總醫(yī)院(MGH)的研究人員設(shè)計(jì)了一種深度學(xué)習(xí)算法，提供了其決策背后的理由，這可以幫助解決與AI相關(guān)的透明性問題。

根據(jù)這項(xiàng)研究(最初在線發(fā)表在《自然生物醫(yī)學(xué)工程》上)，深度學(xué)習(xí)算法通過“注意力圖”揭示了其推理，該注意力圖突出了用于預(yù)測的圖像上的重要區(qū)域。該功能還消除了放射科醫(yī)生對(duì)用于訓(xùn)練大多數(shù)深度學(xué)習(xí)模型的大型高質(zhì)量數(shù)據(jù)集進(jìn)行注釋的需求。

人工智能中的“黑匣子”挑戰(zhàn)是指基于人工智能的系統(tǒng)無法解釋其如何做出特定決策。醫(yī)學(xué)專家廣泛討論了AI和機(jī)器學(xué)習(xí)中的透明度問題。在最近的一篇文章中，專家們列舉了在AI時(shí)代改善臨床決策支持系統(tǒng)(CDSS)的幾種方法，并將透明度納入系統(tǒng)是最優(yōu)先考慮的事情。

總體而言，使用不到1000張圖像對(duì)深度學(xué)習(xí)算法進(jìn)行了訓(xùn)練，以檢測顱內(nèi)出血(ICH)并在未增強(qiáng)的頭部CT掃描中對(duì)五種亞型進(jìn)行分類。研究人員發(fā)現(xiàn)，與經(jīng)過培訓(xùn)的放射科醫(yī)生相比，該模型具有相當(dāng)?shù)臏?zhǔn)確性，但靈敏度更高。

標(biāo)簽：

免責(zé)聲明：本文由用戶上傳，如有侵權(quán)請(qǐng)聯(lián)系刪除！