AI模型的可解釋性與準(zhǔn)確性

使AI驅(qū)動(dòng)的模型透明化是一個(gè)挑戰(zhàn)。它們是一個(gè)黑匣子，可能會(huì)導(dǎo)致嚴(yán)重的問(wèn)題。玻璃箱的目的是為模型的運(yùn)行方式以及輸出達(dá)到的方式提供更大的透明度。

當(dāng)今問(wèn)題的復(fù)雜性意味著現(xiàn)代企業(yè)越來(lái)越依賴人工智能。數(shù)據(jù)科學(xué)家正在從到醫(yī)療保健的所有領(lǐng)域中使用AI驅(qū)動(dòng)的模型來(lái)解決現(xiàn)實(shí)世界中的問(wèn)題。但是，由于構(gòu)建模型的復(fù)雜性可以在一分鐘內(nèi)測(cè)試數(shù)百萬(wàn)個(gè)假設(shè)，因此使這些模型透明是一個(gè)挑戰(zhàn)。他們是一個(gè)黑匣子。

結(jié)果，當(dāng)非數(shù)據(jù)科學(xué)家訪問(wèn)這些模型時(shí)，他們對(duì)如何達(dá)到輸出的了解非常有限，這可能導(dǎo)致將其視為福音。由于各種實(shí)詞原因，輸出實(shí)際上可能更糟糕。由于個(gè)人無(wú)法解釋此類模型的意外偏見和不準(zhǔn)確之處，因此產(chǎn)生了嚴(yán)重后果。

而且，由于數(shù)據(jù)科學(xué)主要是技術(shù)領(lǐng)域，即使是受過(guò)廣泛培訓(xùn)的人員也沒(méi)有能力考慮道德或道德問(wèn)題，如何使用黑匣子的輸出。這就是“玻璃箱”的出現(xiàn)位置。

玻璃箱的目的是為模型的運(yùn)行方式以及輸出達(dá)到的方式提供更大的透明度。如果我們看最簡(jiǎn)單的模型(例如線性回歸)，則可以完全了解變量，并且輸出應(yīng)該是顯而易見的。這是玻璃箱。

但是，隨著模型復(fù)雜性的增加，保持這種可見性變得更加困難。如果我們看一個(gè)更復(fù)雜的示例(例如深度神經(jīng)網(wǎng)絡(luò))，則幾乎不可能拆開數(shù)據(jù)。

簡(jiǎn)單來(lái)說(shuō)，模型中的變量越少，說(shuō)明就越容易。但是，這是有代價(jià)的。更簡(jiǎn)單的模型無(wú)法滿足更復(fù)雜模型的準(zhǔn)確性;這可能導(dǎo)致有用的輸出減少。雖然這聽起來(lái)像是二進(jìn)制文件，但實(shí)際上它實(shí)際上是一個(gè)滑動(dòng)比例。數(shù)據(jù)科學(xué)家將需要決定在Glassbox和Blackbox之間劃界的地方，并確定哪種更適合他們的個(gè)人用例。