人工大腦可能也需要睡眠

美國(guó)洛斯阿拉莫斯國(guó)家實(shí)驗(yàn)室(Los Alamos National Laboratory)的一項(xiàng)新研究表明，沒(méi)有人能確定機(jī)器人是否會(huì)夢(mèng)見(jiàn)電子羊，但它們幾乎肯定需要一段時(shí)間的休息，而這種休息所帶來(lái)的好處與睡眠對(duì)活的大腦所帶來(lái)的好處類(lèi)似。

美國(guó)洛斯阿拉莫斯國(guó)家實(shí)驗(yàn)室的計(jì)算機(jī)科學(xué)家伊京·沃特金斯說(shuō):“我們研究的是脈沖神經(jīng)網(wǎng)絡(luò)，這是一種能像活的大腦一樣學(xué)習(xí)的系統(tǒng)。”“我們被這樣一種前景所吸引，即通過(guò)類(lèi)似于人類(lèi)和其他生物系統(tǒng)在童年時(shí)期從環(huán)境中學(xué)習(xí)的方式來(lái)訓(xùn)練神經(jīng)形態(tài)處理器。”

沃特金斯和她的研究小組發(fā)現(xiàn)，連續(xù)一段時(shí)間的無(wú)監(jiān)督學(xué)習(xí)后，網(wǎng)絡(luò)模擬變得不穩(wěn)定。當(dāng)他們將網(wǎng)絡(luò)暴露在類(lèi)似于人類(lèi)大腦在睡眠時(shí)所經(jīng)歷的電波狀態(tài)時(shí)，穩(wěn)定性就恢復(fù)了。沃特金斯說(shuō):“這就好像我們給了神經(jīng)網(wǎng)絡(luò)一個(gè)相當(dāng)于晚上好好休息的機(jī)會(huì)。”

這一發(fā)現(xiàn)是研究小組在開(kāi)發(fā)神經(jīng)網(wǎng)絡(luò)時(shí)發(fā)現(xiàn)的，該神經(jīng)網(wǎng)絡(luò)與人類(lèi)和其他生物系統(tǒng)學(xué)習(xí)視覺(jué)的方式非常接近。一開(kāi)始，研究小組在進(jìn)行無(wú)監(jiān)督字典訓(xùn)練時(shí)，很難穩(wěn)定模擬神經(jīng)網(wǎng)絡(luò)，這種訓(xùn)練包括在沒(méi)有事先例子來(lái)比較的情況下對(duì)對(duì)象進(jìn)行分類(lèi)。

“如何避免學(xué)習(xí)系統(tǒng)變得不穩(wěn)定的問(wèn)題，只有在嘗試使用生物真實(shí)的，神經(jīng)形態(tài)的處理器，或者嘗試?yán)斫馍飳W(xué)本身的時(shí)候才會(huì)出現(xiàn)，”洛斯阿拉莫斯的計(jì)算機(jī)科學(xué)家和研究合著者Garrett Kenyon說(shuō)。“絕大多數(shù)機(jī)器學(xué)習(xí)、深度學(xué)習(xí)和人工智能研究人員從來(lái)沒(méi)有遇到過(guò)這個(gè)問(wèn)題，因?yàn)樵谒麄冄芯康娜斯は到y(tǒng)中，他們有機(jī)會(huì)執(zhí)行全局?jǐn)?shù)學(xué)運(yùn)算，從而調(diào)節(jié)系統(tǒng)的整體動(dòng)態(tài)增益?！?/p>

研究人員認(rèn)為，將網(wǎng)絡(luò)暴露在模擬睡眠狀態(tài)下的決定，幾乎是穩(wěn)定網(wǎng)絡(luò)的最后一搏。他們對(duì)各種各樣的噪音進(jìn)行了實(shí)驗(yàn)，這些噪音大致相當(dāng)于你在調(diào)諧收音機(jī)時(shí)可能遇到的電臺(tái)間的靜電。當(dāng)他們使用所謂的高斯噪聲波時(shí)，得到了最好的結(jié)果，高斯噪聲包含了廣泛的頻率和振幅范圍。他們假設(shè)噪音是模仿生物神經(jīng)元在慢波睡眠時(shí)接收到的輸入。結(jié)果表明，慢波睡眠在一定程度上可以確保皮層神經(jīng)元保持穩(wěn)定，不會(huì)產(chǎn)生幻覺(jué)。

研究小組的下一個(gè)目標(biāo)是在英特爾的Loihi神經(jīng)形態(tài)芯片上實(shí)現(xiàn)他們的算法。他們希望讓Loihi時(shí)不時(shí)地睡覺(jué)能讓它穩(wěn)定地實(shí)時(shí)處理來(lái)自硅視網(wǎng)膜攝像頭的信息。如果這些發(fā)現(xiàn)證實(shí)了人工大腦需要睡眠，我們或許可以期待未來(lái)機(jī)器人和其他智能機(jī)器也會(huì)有同樣的情況。

沃特金斯將于6月14日在西雅圖的女性計(jì)算機(jī)視覺(jué)研討會(huì)上介紹這項(xiàng)研究。