悉尼大學(xué)已與IAG和CSIRO的Data61合作 創(chuàng)建了具有道德意識(shí)的AI

悉尼大學(xué)已與IAG和CSIRO的Data61合作創(chuàng)建了Gradient Institute，這是一個(gè)非營(yíng)利性組織，將促進(jìn)在私營(yíng)和公共部門中創(chuàng)建道德人工智能。

除了IAG和CSIRO的Data61外，悉尼大學(xué)今天還宣布創(chuàng)建Gradient Institute。該研究所將是一個(gè)獨(dú)立的非營(yíng)利組織，旨在研究人工智能(AI)的倫理學(xué)并開發(fā)基于倫理學(xué)的基于AI的系統(tǒng)，從而為個(gè)人和整個(gè)社會(huì)提供更好的成果。

該研究所的重點(diǎn)將是創(chuàng)建一個(gè)“所有系統(tǒng)都遵守道德規(guī)范的世界”。這不僅可以通過(guò)研究來(lái)實(shí)現(xiàn)，還可以通過(guò)實(shí)踐，政策倡導(dǎo)，公眾意識(shí)以及對(duì)人們進(jìn)行道德發(fā)展和使用AI的培訓(xùn)來(lái)實(shí)現(xiàn)。

該研究所將利用研究結(jié)果來(lái)創(chuàng)建可以由商業(yè)和政府采用和改編的開源道德AI工具。

以解決方案為中心的道德人工智能方法

從CSIRO Data61的工程和設(shè)計(jì)總監(jiān)接任后，由比爾·辛普森-楊(Bill Simpson-Young)領(lǐng)導(dǎo)該研究所擔(dān)任首席執(zhí)行官。他將與IAG的全資子公司Ambiata的聯(lián)合創(chuàng)始人兼首席科學(xué)家Tiberio Caetano博士合作，他將以首席科學(xué)家的身份指導(dǎo)研究所對(duì)倫理AI的研究。

Simpson-Young先生表示，如今的人工智能既是挑戰(zhàn)，也是發(fā)現(xiàn)人工智能的哪些設(shè)計(jì)選擇將為人類和社會(huì)帶來(lái)積極成果的機(jī)遇。

“人工智能從數(shù)據(jù)中學(xué)習(xí)，數(shù)據(jù)反映了過(guò)去–在梯度研究所，我們希望未來(lái)比過(guò)去更好。通過(guò)將道德觀念嵌入AI中，我們相信我們將能夠通過(guò)通過(guò)具有道德意識(shí)的機(jī)器學(xué)習(xí)創(chuàng)造更好的結(jié)果來(lái)選擇避免過(guò)去的錯(cuò)誤的方法。

“例如，在招聘中，當(dāng)自動(dòng)化系統(tǒng)使用歷史數(shù)據(jù)指導(dǎo)決策時(shí)，它們可能會(huì)偏向于某些職業(yè)中歷來(lái)代表性不足的子群體。

Simpson-Young先生說(shuō)：“通過(guò)將道德規(guī)范嵌入到AI的創(chuàng)建中，我們可以減輕這些偏見(jiàn)，這些偏見(jiàn)在當(dāng)今零售，電信和金融服務(wù)等行業(yè)中很明顯。”

政府，工業(yè)界和學(xué)術(shù)界作為創(chuàng)始伙伴合作

澳大利亞最大的通用保險(xiǎn)公司IAG的首席客戶官Julie Batch說(shuō)，作為Gradient Institute的主要合作伙伴，反映了IAG致力于創(chuàng)新以創(chuàng)造更好的客戶體驗(yàn)的重點(diǎn)。

面對(duì)AI的挑戰(zhàn)和機(jī)遇，需要考慮公平和平等的思想。沒(méi)有政府或企業(yè)可以獨(dú)自做到這一點(diǎn)。我們需要跨部門合作，我們必須緊迫地做到這一點(diǎn)，這就是為什么我們?yōu)槟芘c澳大利亞兩個(gè)最強(qiáng)大的科學(xué)和學(xué)術(shù)領(lǐng)袖(Data61和悉尼大學(xué))建立合作伙伴而感到自豪。

“道德的AI將提高人們對(duì)自動(dòng)化機(jī)器決策方式的信任。IAG希望能早日采用該研究所開發(fā)的技術(shù)和工具，以便我們可以為客戶提供更好的體驗(yàn)。” Batch女士說(shuō)。

“將Gradient Institute建立為獨(dú)立的非營(yíng)利組織對(duì)于實(shí)現(xiàn)其宗旨至關(guān)重要，我們希望其他組織也能加入我們，為這項(xiàng)研究做出貢獻(xiàn)。”

CSIRO Data61的首席執(zhí)行官Adrian Turner是澳大利亞科學(xué)機(jī)構(gòu)的數(shù)字創(chuàng)新部門，他說(shuō)Gradient Institute是重要的一步，因?yàn)锳I和機(jī)器學(xué)習(xí)將影響社會(huì)以及澳大利亞經(jīng)濟(jì)的各個(gè)領(lǐng)域。

“隨著AI越來(lái)越廣泛地被采用，確保在開發(fā)技術(shù)時(shí)要考慮到道德考量是至關(guān)重要的。作為一個(gè)，我們需要正確對(duì)待這一點(diǎn)，以便從生產(chǎn)率的提高中獲得AI的好處，從而獲得新的世界價(jià)值。

“我們很高興成為Gradient Institute的創(chuàng)始合伙人，該研究所結(jié)合了該國(guó)一些最偉大的AI人才。這是Data61網(wǎng)絡(luò)模型的一個(gè)很好的例子，它在組織邊界松散的情況下運(yùn)作，有助于為與數(shù)據(jù)相關(guān)的研究挑戰(zhàn)帶來(lái)連貫一致的，加速的，全國(guó)范圍的成果，從而為澳大利亞造福。” Turner先生說(shuō)。

悉尼大學(xué)副校長(zhǎng)Duncan Ivison教授表示，有必要建立一種人工智能的道德框架，該框架應(yīng)結(jié)合對(duì)技術(shù)的可能性和人工智能的局限性的深刻了解，同時(shí)還要確保它主要由人類的需求和利益所決定。

“像悉尼大學(xué)這樣的研究密集型大學(xué)能夠利用其在科學(xué)，工程，人文和社會(huì)科學(xué)領(lǐng)域的豐富知識(shí)資源，非常適合與政府，行業(yè)和社區(qū)團(tuán)體合作以實(shí)現(xiàn)這種方法。

伊維森教授說(shuō)：“我們需要合作，相互批評(píng)，并使社區(qū)參與以應(yīng)對(duì)正在出現(xiàn)的新挑戰(zhàn)，這是我們時(shí)代面臨的重大道德挑戰(zhàn)之一。”