防止人工智能做出不道德決定的新數(shù)學(xué)公式

2022-06-23 14:34:51 編輯：榮明素來源：

導(dǎo)讀英國和瑞士的研究人員發(fā)現(xiàn)了一種數(shù)學(xué)方法，可以幫助監(jiān)管機(jī)構(gòu)和企業(yè)監(jiān)管人工智能系統(tǒng)做出不道德的、可能非常昂貴且具有破壞性的選擇。來

英國和瑞士的研究人員發(fā)現(xiàn)了一種數(shù)學(xué)方法，可以幫助監(jiān)管機(jī)構(gòu)和企業(yè)監(jiān)管人工智能系統(tǒng)做出不道德的、可能非常昂貴且具有破壞性的選擇。

來自華威大學(xué)、倫敦帝國理工學(xué)院和洛桑EPFL的合作者以及戰(zhàn)略公司Sciteb Ltd認(rèn)為，在一個決策越來越?jīng)]有人為干預(yù)的環(huán)境中，有一個非常強(qiáng)烈的動機(jī)，知道在什么情況下人工智能系統(tǒng)可能會采取一個不道德的戰(zhàn)略，并發(fā)現(xiàn)和減少這種風(fēng)險，或完全消除，如果可能的話。

人工智能(AI)越來越多地應(yīng)用于商業(yè)環(huán)境中。例如，考慮使用人工智能來設(shè)定要銷售給特定客戶的保險產(chǎn)品的價格。為不同的人設(shè)定不同的價格是有正當(dāng)理由的，但做出某些最終損害公司利益的決定可能會更有利可圖。

人工智能有大量的潛在策略可供選擇，但有些策略是不道德的，如果監(jiān)管機(jī)構(gòu)征收巨額罰款或客戶抵制你，或兩者兼而有之，它們不僅會招致道德成本，還會招致巨大的潛在懲罰。

這就是為什么這些數(shù)學(xué)家和統(tǒng)計學(xué)家走到一起：通過創(chuàng)造一個新的“不道德的優(yōu)化原則”來幫助企業(yè)和監(jiān)管者，這將提供一個簡單的公式來估計人工智能決策的影響。

標(biāo)簽：

免責(zé)聲明：本文由用戶上傳，如有侵權(quán)請聯(lián)系刪除！