公平使用人工智能標準的關(guān)鍵有哪些

人工智能有潛力幫助應(yīng)對全球健康挑戰(zhàn)，但是利益相關(guān)者必須促進快速和公平的數(shù)據(jù)訪問并建立道德標準，以便適當?shù)厥褂迷摷夹g(shù)。

這項審查由哥倫比亞大學(xué)梅爾曼公共衛(wèi)生學(xué)院海爾布倫人口與家庭衛(wèi)生系兼職教授MPH的Nina Schwalbe和約翰霍普金斯大學(xué)彭博社國際衛(wèi)生系助理科學(xué)家Brian Wahl博士進行公共衛(wèi)生學(xué)院，收錄了2010年至2019年發(fā)表的研究論文。

該團隊發(fā)現(xiàn)，盡管人工智能可以在資源有限的環(huán)境中幫助支持人口健康，但是在全球衛(wèi)生領(lǐng)域，由人工智能驅(qū)動的許多干預(yù)研究并未描述廣泛使用所需的倫理或法規(guī)考量。

“特別是在緊急情況期間，我們不能忽視我們對以人為中心的設(shè)計和算法的性別偏見的重要性的認識，”施瓦爾貝(Schwarbe)說道，他也是聯(lián)合國大學(xué)國際衛(wèi)生研究院首席訪問學(xué)者。

“思考如何在將AI干預(yù)部署到的衛(wèi)生系統(tǒng)中進行適應(yīng)性調(diào)整是每項研究的一部分。”

作者指出，數(shù)據(jù)訪問將在確保AI在倫理上和適當使用全球健康方面發(fā)揮關(guān)鍵作用。對于開發(fā)用于健康干預(yù)的機器學(xué)習(xí)工具的研究人員而言，開放訪問各種數(shù)據(jù)集將特別重要。

“跨境訪問將需要新型的數(shù)據(jù)共享協(xié)議和互操作性和數(shù)據(jù)標簽標準。國際合作可以促進這一全球運動，以便迅速，公平地獲得數(shù)據(jù)，以開發(fā)和測試AI驅(qū)動的健康干預(yù)措施，” Schwalbe和Wahl說。

除了數(shù)據(jù)訪問之外，該團隊還強調(diào)了對AI驅(qū)動的健康干預(yù)措施進行規(guī)范的健康技術(shù)評估的必要性。這些結(jié)構(gòu)化的評估將確保醫(yī)療保健組織了解AI工具的潛在風險和收益。

“迫切需要標準化的評估方法，包括這些干預(yù)措施在多大程度上增加了當前護理標準的價值。這些方法應(yīng)顯示出AI工具在研究環(huán)境之外的工作效果，并強調(diào)相關(guān)的衛(wèi)生系統(tǒng)成本，包括意想不到的臨床，心理和社會后果。”