一項(xiàng)新的人工智能培訓(xùn)計(jì)劃可以幫助機(jī)器人擺脫他們的無知

檀香山- 一項(xiàng)新的培訓(xùn)計(jì)劃可以提醒人工智能計(jì)劃，他們并不知道所有人。

運(yùn)行機(jī)器人，自動駕駛汽車和其他自動機(jī)器的人工智能程序通常在模擬環(huán)境中進(jìn)行實(shí)際首次亮相之前(SN：12/8/18，第14頁)。但是人工智能在虛擬現(xiàn)實(shí)中沒有遇到的情況可能會成為現(xiàn)實(shí)決策中的盲點(diǎn)。例如，在沒有緊急車輛的虛擬城市景觀中訓(xùn)練的交付機(jī)器人可能不知道如果它聽到警報(bào)器，它應(yīng)該在進(jìn)入人行橫道之前暫停。

麻省理工學(xué)院的計(jì)算機(jī)科學(xué)家Ramya Ramakrishnan及其同事開發(fā)了一個(gè)模擬后培訓(xùn)計(jì)劃，其中人類示范者幫助人工智能識別其教育中的差距，從而創(chuàng)造出謹(jǐn)慎對待的機(jī)器。“這使[AI]能夠安全地在現(xiàn)實(shí)世界中行動，”Ramakrishnan說，他的工作將于1月31日在AAAI人工智能會議上發(fā)表。工程師還可以使用AI盲點(diǎn)信息來設(shè)計(jì)未來更好的模擬。

在試用期間，人工智能會注意到影響人類行為的環(huán)境因素，而這些因素并未從模擬中識別出來。當(dāng)人類做了人工智能沒有想到的事情 - 就像在路權(quán)時(shí)猶豫進(jìn)入人行橫道一樣 - 人工智能會掃描周圍環(huán)境以尋找以前未知的元素，例如警報(bào)器。如果AI檢測到這些功能中的任何一個(gè)，它會假定人類正在遵循它在虛擬世界中沒有學(xué)到的一些安全協(xié)議，并且在這些類型的情況下它應(yīng)該遵循人類的判斷。

Ramakrishnan及其同事通過首先在簡單模擬中訓(xùn)練AI程序，然后讓他們在更現(xiàn)實(shí)但仍然是虛擬的世界中從人類角色中學(xué)習(xí)盲點(diǎn)來測試這種設(shè)置。研究人員現(xiàn)在需要在現(xiàn)實(shí)世界中測試該系統(tǒng)。