五角大樓將采用使用人工智能的詳細(xì)原則

建議草案強(qiáng)調(diào)了人工智能系統(tǒng)的人為控制。它寫(xiě)道：“人類(lèi)應(yīng)該行使適當(dāng)?shù)呐袛嗔?，并?duì)國(guó)防部AI系統(tǒng)的開(kāi)發(fā)，部署，使用和成果負(fù)責(zé)。”

該DIB指引和陪同實(shí)現(xiàn)文檔，遠(yuǎn)遠(yuǎn)超出了簡(jiǎn)單的和較大面積的愿景陳述對(duì)AI頒發(fā)的科技巨頭，如谷歌，F(xiàn)acebook和微軟。例如，這些建議描述了商業(yè)參與者才剛剛開(kāi)始努力應(yīng)對(duì)的AI發(fā)展中的主要危險(xiǎn)和陷阱，例如數(shù)據(jù)集中的偏差。

該DIB還建議國(guó)防部依靠是透明的工具，這意味著，不像某些類(lèi)型的所謂的“黑盒子”神經(jīng)網(wǎng)絡(luò)，技術(shù)專(zhuān)家(許可)可以說(shuō)明，通過(guò)該軟件達(dá)到特定的決策或行動(dòng)的過(guò)程。

董事會(huì)還建議僅在“明確的明確使用范圍”內(nèi)使用此類(lèi)工具，該法令旨在防止為非戰(zhàn)斗活動(dòng)開(kāi)發(fā)的軟件無(wú)法進(jìn)入致命行動(dòng)。

賓夕法尼亞大學(xué)政治科學(xué)教授Michael C. Horowitz表示：“最終影響將不僅取決于原則如何真正影響國(guó)防部對(duì)AI的投資，而且還取決于更廣泛的AI社區(qū)如何看待DoD行動(dòng)。” 但是，他說(shuō)：“ 認(rèn)真對(duì)待AI道德規(guī)范可能會(huì)增加更廣泛的AI社區(qū)中的一些懷疑論者愿意與DoD合作的機(jī)會(huì)，同時(shí)還可能提高算法在上使用的可靠性和有效性。”