科技行業(yè)必須避免意外后果

Telstra集團技術(shù)，創(chuàng)新和戰(zhàn)略部門負責人斯蒂芬·埃洛普表示，破壞之路是由意外后果造成的，科技行業(yè)需要確保機器學(xué)習(xí)和人工智能(AI)應(yīng)用程序免受無意識偏見和安全與信任的破壞。

埃洛普周四在墨爾本舉行的年度Telstra Vantage會議上表示，在自動化和人工智能的興起中，唯一能夠應(yīng)對關(guān)懷，創(chuàng)造和監(jiān)督的角色。

根據(jù)埃洛普的說法，他在去年加入Telstra團隊之前擔任諾基亞首席執(zhí)行官，此前電信公司創(chuàng)建了新的創(chuàng)新角色，負責領(lǐng)導(dǎo)其首席技術(shù)官，首席科學(xué)家，軟件集團和企業(yè)戰(zhàn)略 - 而AI機器學(xué)習(xí)從數(shù)據(jù)輸入到他們的系統(tǒng)，這些數(shù)據(jù)受到無意識偏見的人的污染。

“人工智能的核心是大數(shù)據(jù)，可以從高級數(shù)據(jù)分析中獲得的見解......我們?nèi)绾问褂脭?shù)據(jù)，以及我們選擇的數(shù)據(jù)來訓(xùn)練我們的機器可以對我們的分析產(chǎn)生深遠的影響，”埃洛普說過。

因此，人類開發(fā)人員精心挑選的數(shù)據(jù) - 例如，最近發(fā)現(xiàn)女性不太可能向高薪工作展示Google廣告，某些面部識別軟件難以跟蹤較暗的膚色，以及正被建議在低社會經(jīng)濟社區(qū)尋找 - 因此，人們通過人工智能繼續(xù)存在歧視。

“即使我們依賴所謂的大數(shù)據(jù)和現(xiàn)代技術(shù)，歧視的社會歷史也可以在我們的數(shù)字平臺中依賴于系統(tǒng)所學(xué)習(xí)的數(shù)據(jù)和已經(jīng)設(shè)計的算法，”他解釋。

埃洛普還指出了一個案例，其中一個人工智能機器人被互聯(lián)網(wǎng)上的用戶有意識地轉(zhuǎn)移：微軟在Twitter上的Tay聊天機器人，從故意的推文中了解種族主義行為。

因此，人工智能和物聯(lián)網(wǎng)(IoT)的興起必須同時處理他所謂的“推特巨魔”和無意識的開發(fā)者偏見，如果社會的數(shù)字化將避免不僅加劇歧視，而且還會破壞無意識的后果Elop說，所有用戶的隱私和信任。

“隨著Telstra推出可能是該國最大的連續(xù)物聯(lián)網(wǎng)網(wǎng)絡(luò)，承諾從更好的能源管理到安全保障，到現(xiàn)場效率，到礦山，到自動駕駛，所有這些都與大數(shù)據(jù)，毫無疑問，物聯(lián)網(wǎng)將對我們向客戶提供的結(jié)果產(chǎn)生深遠的影響，“他說。

“隱私泄露很快就會成為所有這些基于云的數(shù)據(jù)的意外后果。”

他說，收集如此大量的數(shù)據(jù)，用于機器學(xué)習(xí)和為和智能城市設(shè)計的人工智能設(shè)備，有可能被不良行為者濫用，特別是如果來自多個來源的數(shù)據(jù)合并在一起。

“大量數(shù)據(jù)的收集會導(dǎo)致隱私領(lǐng)域出現(xiàn)各種意外后果，而這些隱私風險會隨著大數(shù)據(jù)的增加而增加 - 不僅是主要數(shù)據(jù)本身，還有可以通過組合收集的新推論來自不同來源的大數(shù)據(jù)，“他解釋道。

“例如，將來自越來越受歡迎的牌照讀者的數(shù)據(jù)與城市中的模式進行混搭 - 可以從中收集各種有趣的信息。”

其中一個例子是亞馬遜的Alexa，它可以保存所有人類互動，以便學(xué)習(xí)并成為其所有者更聰明，更有用的AI助手 - 但無意間的后果可能是這些數(shù)據(jù)被濫用，他建議。

埃羅普說：“這臺設(shè)備在云中記錄并存儲了我所說過的所有內(nèi)容，并實際記錄了我的聲音，錄音開始前幾秒鐘，我甚至要求它開始收聽。”

“這些錄音用于非預(yù)期目的只是時間問題。”

最重要的是，埃洛普說，當開發(fā)人員無法確保系統(tǒng)免受違反信任的意外后果時。

埃洛普指出最近發(fā)生的Equifax違規(guī)行為表示，違反此類高度個人信息以及公司對此事件的回應(yīng)都是對他的隱私和信任的“根本違反”，并且事后不能簡單地修復(fù)。

他補充說，人們也開始質(zhì)疑他們可以相信哪些信息，這是由于技術(shù)的進步，社會信任崩潰的另一個跡象。

“你能相信什么?你相信你在互聯(lián)網(wǎng)上讀到的東西嗎?你是否相信你在互聯(lián)網(wǎng)上看到的東西，如果它與你的觀點一致?你是否相信你在互聯(lián)網(wǎng)上讀到的東西，如果它被世界發(fā)推文領(lǐng)導(dǎo)者?如果設(shè)備有預(yù)編程的后門，您是否相信設(shè)備?您是否相信您客廳中的相機可能是650Gbps拒絕服務(wù)攻擊的一部分，或者有人可能會秘密使用它監(jiān)視你?“ 他問。

“當安全性破裂，或委托施加安全措施的人員失去其職責，或者普通公民不能再從虛構(gòu)中說出真相時，我們就會產(chǎn)生信任問題。

“未能保護我們的世界的意外后果是對社會信任的破壞 - 信任是社會本身的基礎(chǔ)。”

根據(jù)埃洛普的說法，企業(yè)可以防范違反信任和歧視的意外后果的唯一方法是展示他提到的三種角色的主要特征：人工智能：關(guān)懷，創(chuàng)造力和領(lǐng)導(dǎo)能力。

最重要的是，開發(fā)和部署數(shù)據(jù)收集機器和服務(wù)的人必須采用意向性。

“我們不能接受我們的努力給我們的客戶和我們的底線所帶來的諸多好處，而不會對所產(chǎn)生的全部后果負責，”他說。

“只有通過有意識的努力才能克服無意識的偏見。而且，正如我們在Telstra學(xué)到的那樣，隱私相關(guān)的風險無法通過抽象的政策聲明和白皮書或?qū)嶒瀬硗耆鉀Q。每一個新的產(chǎn)品和服務(wù)都是必須在隱私和意外后果方面仔細評估您的數(shù)據(jù)使用情況。“