英偉達和ARM希望將深度學習引入物聯(lián)網(wǎng)項目

NVIDIA宣布與物聯(lián)網(wǎng)芯片設(shè)計師ARM建立合作關(guān)系，旨在通過使物聯(lián)網(wǎng)芯片公司將人工智能(AI)集成到他們的設(shè)計中變得簡單，從而推動推理加速。

在周二在圣何塞的NVIDIAGTC的主旨演講中，公司首席執(zhí)行官和創(chuàng)始人黃延森解釋說，合作伙伴將看到開源NVIDIA深度學習加速器(NVDLA)體系結(jié)構(gòu)集成到ARM的項目Trillium中，用于機器學習。

NVDLA基于NVIDIA Xavier，被GPU巨頭吹捧為“芯片上強大的自主機器系統(tǒng)”。 據(jù)黃說，這將提供一個自由，開放的架構(gòu)，以促進一種標準的方式設(shè)計深度學習推斷..

NVIDIA自動機器副總裁兼總經(jīng)理Deepu Talla在一次新聞發(fā)布會上說：“未來，Inference將成為每個物聯(lián)網(wǎng)設(shè)備的核心能力?！?/p>

SEE：IT領(lǐng)導者深度學習指南（技術(shù)專業(yè)研究）

塔拉補充道：“我們與ARM的合作將使數(shù)百家芯片公司很容易融入深度學習技術(shù)，從而推動這一潮流的采用?！?/p>

日本企業(yè)集團軟銀(Softbank)于2016年以243億￡的價格收購了ARM，它的愿景是連接一萬億個物聯(lián)網(wǎng)設(shè)備，預計到2035年將有這么多設(shè)備存在。

與上一代相比，GTC周二還宣布，該公司最新的深度學習計算平臺將提高8倍的性能。

這些進步已經(jīng)被主要的云廠商采用，包括對NVIDIA特斯拉V100數(shù)據(jù)中心GPU的雙重內(nèi)存提升；一種新的GPU互連結(jié)構(gòu)NVIDIANVS witch，它使多達16個特斯拉V100GPU以每秒2.4TB的速度同時通信；以及一個更新的軟件堆棧。

特斯拉V100產(chǎn)品現(xiàn)在將擁有32GB的內(nèi)存，立即生效，Cray、HPE、IBM、聯(lián)想、Supermicro和Tyan宣布第二季度推出V10032GB，OracleCloud基礎(chǔ)設(shè)施預計將在2018年下半年在云中提供V10032GB。

黃說：“我們都在進行深度學習，這就是結(jié)果。我們只是在增加動力?！?/p>

黃還詳細介紹了深度學習計算的突破，與NVIDIA DGX-2。

一個單一的服務(wù)器，DGX-2能夠提供2個Petaflops的計算能力，并擁有300臺服務(wù)器的深度學習處理能力。 它還獲得了32GB的升級。

他說：“深度學習的非凡進步只是暗示了未來的發(fā)展?！?“許多這些進步都站在NVIDIA的深度學習平臺上，該平臺已迅速成為世界標準?！?/p>

這位首席執(zhí)行官說，他的公司正在以超越摩爾定律的速度提升其深度學習平臺的性能，使“突破將有助于革命性的醫(yī)療、交通、科學探索和無數(shù)其他領(lǐng)域”。

隨著黃指出GPU加速深度學習推理正在獲得牽引力，NVIDIA還推出了一系列新技術(shù)和合作伙伴關(guān)系，以擴大其超尺度數(shù)據(jù)中心的推理能力，為語音識別、自然語言處理、推薦系統(tǒng)和圖像識別等能力提供支持。

該公告包括將TensorR T（一種高性能的深度學習推理優(yōu)化器和運行時，為深度學習應(yīng)用程序提供低延遲、高通量推理）集成到谷歌的TensorFlow1.7框架中。

這大大改善了在TensorFlow中的引用，就像以前的TensorFlow1.6一樣，單個V100每秒可以處理大約300幅圖像；移動到1.7將允許每秒處理超過2，600幅圖像。

據(jù)傳，最新一代黃光裕周二公布的TensorRT4與CPU相比，提供了多達190X更快的深度學習推理，用于計算機視覺、神經(jīng)機器翻譯、自動語音識別和語音合成等常見應(yīng)用。

NVIDIA還宣布，其Kaldi語音識別框架已為GPU優(yōu)化，允許為消費者提供“更有用”的虛擬助理，并降低數(shù)據(jù)中心運營商的部署成本。