機(jī)器學(xué)習(xí)芯片又贏得了谷歌思維帽的一根羽毛

谷歌表示，TPU擊敗了英偉達(dá)和英特爾。讓我們解釋說。要解釋的事情太多了。TPU代表張量處理單元。一位谷歌工程師將其描述為“一種全新的定制機(jī)器學(xué)習(xí)加速器”。

好的，但是TPU到底是什么呢?IEEE Spectrum:“谷歌的張量處理單元是一個(gè)打印電路卡，它插入現(xiàn)有的服務(wù)器，充當(dāng)一個(gè)協(xié)同處理器，一個(gè)為神經(jīng)網(wǎng)絡(luò)計(jì)算量身定制的處理器?！?/p>

它在機(jī)器學(xué)習(xí)測(cè)試中擊敗了Xeon (Intel)和Nvidia的GPU，不僅如此，據(jù)報(bào)道，它還以一個(gè)數(shù)量級(jí)的速度擊敗了這兩家公司。

InfoWorld表示，同樣重要的是，谷歌透露了有關(guān)其自定義TTPU如何加速機(jī)器學(xué)習(xí)的細(xì)節(jié)。

InfoWorld的資深作家Serdar Yegulalp說，該公司“正在提供TPU究竟能為機(jī)器學(xué)習(xí)提供多少能量的細(xì)節(jié)，這得益于一篇深入研究技術(shù)方面的論文。”

《EE Times》的Rick Merritt表示，這篇論文“深入研究了TPU和基準(zhǔn)測(cè)試，結(jié)果顯示，它的速度至少比商用芯片快15倍，性能/瓦特高出30倍。”

硬件工程師諾姆朱皮(Norm Jouppi)周三寫了一篇關(guān)于這種芯片的博客，“量化了我們的第一個(gè)機(jī)器學(xué)習(xí)芯片——TPU的性能?！?/p>

他說:“今天(星期三)，在硅谷計(jì)算機(jī)歷史博物館舉行的工程學(xué)院會(huì)議上，我們將發(fā)布一份研究報(bào)告，與大家分享這些定制芯片的新細(xì)節(jié)。”

這個(gè)博客非常有用，因?yàn)槌嘶鶞?zhǔn)測(cè)試之外，Jouppi還能夠提供一個(gè)TPUs可以發(fā)揮作用的場(chǎng)景。

“對(duì)TPUs的需求在六年前就出現(xiàn)了，當(dāng)時(shí)我們開始在我們的產(chǎn)品中越來越多的地方使用計(jì)算上昂貴的深度學(xué)習(xí)模型。使用這些模型的計(jì)算費(fèi)用讓我們擔(dān)心。如果我們考慮這樣一種情況，即人們每天只使用谷歌語音搜索三分鐘，而我們?cè)谑褂玫奶幚韱卧线\(yùn)行我們的語音識(shí)別系統(tǒng)的深層神經(jīng)網(wǎng)絡(luò)，那么我們將不得不將谷歌數(shù)據(jù)中心的數(shù)量增加一倍!”

TPU面臨著這樣的挑戰(zhàn)?！癟PUs讓我們能夠非?？焖俚刈龀鲱A(yù)測(cè)，并使產(chǎn)品能夠在不到一秒的時(shí)間內(nèi)做出反應(yīng)。每個(gè)查詢背后都有TPUs;它們?yōu)榫_的視覺模型提供了強(qiáng)大的支持，這些模型是谷歌圖像搜索、谷歌照片和谷歌云視覺API等產(chǎn)品的基礎(chǔ)……”

高級(jí)編輯David Schneider, IEEE Spectrum:“TPU是為進(jìn)行推理而設(shè)計(jì)的，它的硬件操作是8位整數(shù)，而不是更高精度的浮點(diǎn)數(shù)。”

這是托馬斯·克拉本在《登記簿》中對(duì)其推論作用的看法:

這位互聯(lián)網(wǎng)之王組建了一個(gè)團(tuán)隊(duì)，生產(chǎn)了一種定制芯片，能夠處理其神經(jīng)網(wǎng)絡(luò)工作流程的一部分，即所謂的推理。在推理過程中，軟件根據(jù)耗時(shí)且計(jì)算密集的訓(xùn)練階段得出的數(shù)據(jù)進(jìn)行預(yù)測(cè)。處理器位于PCIe總線上，接受來自主機(jī)CPU的命令:它類似于以前的離散FPU或數(shù)學(xué)協(xié)處理器，但顯然升級(jí)到了今天的標(biāo)準(zhǔn)。

自2015年初以來，谷歌已經(jīng)在其數(shù)據(jù)中心部署了TPU。施耐德說，用來得出這些結(jié)論的基準(zhǔn)測(cè)試是基于“人們?cè)诠雀钄?shù)據(jù)中心運(yùn)行的六種實(shí)際類型的神經(jīng)網(wǎng)絡(luò)程序”。

梅里特說，一個(gè)由70多名工程師組成的團(tuán)隊(duì)為TPU做出了貢獻(xiàn)。(Jouppi說:“設(shè)計(jì)、驗(yàn)證、實(shí)現(xiàn)和部署這樣一個(gè)系統(tǒng)的硬件和軟件確實(shí)需要一個(gè)村莊?！?

論文題目為“張量處理單元的數(shù)據(jù)中心性能分析”。

為什么重要:“谷歌的方法將影響由定制硅驅(qū)動(dòng)的機(jī)器學(xué)習(xí)的未來發(fā)展，”InfoWorld說。

“現(xiàn)在應(yīng)該很清楚，機(jī)器學(xué)習(xí)的定制硅將推動(dòng)等式兩邊的硬件和軟件的發(fā)展。很明顯，谷歌和其他公司幾乎還沒有開始探索什么是可能的?！?/p>