Regina Dugan使用人工智能的公司應(yīng)該考慮最壞的情況

Face book和Google Regina Dugan的前DARPA董事兼秘密臭鼬部門負(fù)責(zé)人說，公司需要考慮如何使用人工智能技術(shù)會(huì)出錯(cuò)，以試圖了解他們工作的倫理、社會(huì)和法律影響。

更具體地說，她建議從事應(yīng)急技術(shù)的技術(shù)人員和工程師練習(xí)紅色團(tuán)隊(duì)和藍(lán)色團(tuán)隊(duì)來想象最好和最壞的情況。 這樣做可以讓你考慮如何減輕負(fù)面后果。 這些術(shù)語的思考應(yīng)該在最初的階段進(jìn)行，以便變化產(chǎn)生長期影響。

杜根在接受三星電子(Samsung Electronics)總裁兼首席戰(zhàn)略官楊素恩(Young Sohn)的采訪時(shí)表示：“我認(rèn)為在任何時(shí)候都不可能知道所有意想不到的后果。 “可能發(fā)生的壞事是什么? 然后，我們從總體上看待這些事情，并就如何前進(jìn)作出決定，即使在某些情況下，我們有責(zé)任削減一些最積極的結(jié)果，以消除最消極的結(jié)果。 這就是平衡行動(dòng)。

Dugan和Sohn上周在舊金山舉行的三星首席執(zhí)行官峰會(huì)上發(fā)表了講話，這次峰會(huì)為期一天，字幕為“擁有人工智能的更美好世界”。發(fā)言者還包括前谷歌和百度高管AndrewNg，以及像Insitro這樣發(fā)現(xiàn)的Insitro和使用神經(jīng)網(wǎng)絡(luò)進(jìn)行網(wǎng)絡(luò)安全的Deep Instinct等公司。

她比較了人工智能將拯救我們的樂觀情緒，并擔(dān)心它將導(dǎo)致90年代人類基因組計(jì)劃的出現(xiàn)。 當(dāng)時(shí)，國立衛(wèi)生研究院(National Institutes of Heal th)采取了措施，鼓勵(lì)從廣泛的學(xué)科中進(jìn)行持續(xù)的對話和反饋，今天人工智能也應(yīng)該如此。

她說，同樣重要的是，人們認(rèn)為自己是正在發(fā)生的事情的積極參與者，而不是旁觀者。

她說：“我認(rèn)為，有一種傾向是，當(dāng)我們進(jìn)入這樣的趨勢線時(shí)，未來將會(huì)展開，我們將會(huì)成為在我們面前展開的未來的被動(dòng)觀察者，但我從未真正經(jīng)歷過這種情況。 “我們是塑造未來的積極工程師和建筑師，這意味著我們既有責(zé)任，也有作用，來弄清楚我們是否在提出正確的問題，以及我們是否在構(gòu)建這些問題，以便這項(xiàng)技術(shù)能夠在我們想要生活的這種世界中傳播。