人工智能如何啟用Edge Computing

人工智能已成為采用邊緣計(jì)算市場(chǎng)的主要參與者。邊緣計(jì)算層最初僅用于為物聯(lián)網(wǎng)部署提供更低的計(jì)算，存儲(chǔ)和處理能力。此外，無(wú)法發(fā)送到云進(jìn)行分析和處理的敏感數(shù)據(jù)也在邊緣處理。此方法的另一個(gè)額外好處是減少了從往返到云的延遲。更快的響應(yīng)時(shí)間允許在邊緣積極過(guò)濾數(shù)據(jù)，并且還可以顯著節(jié)省云存儲(chǔ)和帶寬的任何額外成本。

邊緣計(jì)算已經(jīng)能夠提供三個(gè)基本功能，即更快的決策制定，過(guò)濾數(shù)據(jù)傳輸和本地?cái)?shù)據(jù)處理。由于大多數(shù)決策最近都在利用人工智能，因此優(yōu)勢(shì)正在成為部署云培訓(xùn)機(jī)器學(xué)習(xí)模型的理想目的地。

所采用的方法依賴于利用GPU來(lái)加速培訓(xùn)。AWS，Azure和IBM等云提供商正在為其服務(wù)提供GPU。這與Tensorflow和PyTorch等現(xiàn)代深度學(xué)習(xí)框架相結(jié)合，可以在培訓(xùn)過(guò)程中實(shí)現(xiàn)大規(guī)模加速。

與公共云基礎(chǔ)架構(gòu)相比，邊緣計(jì)算由于資源和計(jì)算能力有限而缺乏自身能力。在邊緣部署的深度學(xué)習(xí)模型不能獲得與公共云相同的馬力。然而，為了彌合數(shù)據(jù)中心和邊緣之間的差距，芯片制造商正在構(gòu)建專用的加速器。雖然GPU仍然無(wú)法比擬，但這些芯片確實(shí)加速了推理過(guò)程。

目前市場(chǎng)上出現(xiàn)的三款A(yù)I加速器是NVIDIA Jetson，Intel Movidius和Myriad Chips，最后是Google Edge Tensor Processing Units。這三種產(chǎn)品都針對(duì)邊緣管道工作流程進(jìn)行了高度優(yōu)化，未來(lái)幾年的使用量將會(huì)增加。隨著AI繼續(xù)成為優(yōu)勢(shì)的關(guān)鍵驅(qū)動(dòng)因素，硬件加速器和軟件平臺(tái)的組合對(duì)于運(yùn)行推理模型變得越來(lái)越重要。通過(guò)加速AI推理，邊緣將成為一個(gè)更有價(jià)值的工具，并改變我們所知道的ML管道。