建立負責任的AI系統(tǒng)并非始于技術團隊

2022-06-23 19:34:30 編輯：朱辰靈來源：

導讀馬爾科姆·格拉德威爾(Malcolm Gladwell)在他的《與陌生人交談》一書中，討論了一項人工智能實驗，該實驗研究了紐約市法官進行的554,6

馬爾科姆·格拉德威爾(Malcolm Gladwell)在他的《與陌生人交談》一書中，討論了一項人工智能實驗，該實驗研究了紐約市法官進行的554,689次保釋聽證。正如一個在線出版物所指出的那樣：“在釋放的40萬人中，有40%以上的人未能在隨后的審判中露面，或因另一行而被捕。”但是，機器學習算法建議的拘留或釋放對象的決定將導致減少25%。這是一個人工智能系統(tǒng)比人類更少偏見的示例。但是，并非總是如此。

人工智能系統(tǒng)越來越多地用于決策中。例子包括刑事司法，信貸/貸款，招聘，教育和臨床診斷。在AI出現(xiàn)之前，聯(lián)邦，州和地方法律主導著這些決定，因此它們是公正，透明和公平的。由于AI算法是從大量數(shù)據(jù)中學習的，因此AI構建的機器學習模型可以放大數(shù)據(jù)中存在的某些固有偏差。這就引出了道德上合理的人工智能系統(tǒng)的問題，該系統(tǒng)的輸出不會遮蓋人類的判斷力。

教科文組織將“道德的AI”一詞定義為“尊重人權和基本自由應被視為基本價值之一，因為必須根據(jù)國際人權標準發(fā)展，部署和采用AI技術。”提到的其他原則還包括關于歧視和偏見以及維護社會和文化多樣性，不同價值體系，不同年齡段，殘疾人，婦女和女童以及處境不利，邊緣化和脆弱人群的特殊需求等問題的包容性AI。

人工智能和機器學習的飛速發(fā)展不僅提供了創(chuàng)新的解決方案，而且還帶來了挑戰(zhàn)，以理解和確定系統(tǒng)的道德含義。

標簽：

免責聲明：本文由用戶上傳，如有侵權請聯(lián)系刪除！