機器學(xué)習(xí)芯片又贏得了谷歌思維帽的一根羽毛

谷歌表示，TPU擊敗了英偉達和英特爾。讓我們解釋說。要解釋的事情太多了。TPU代表張量處理單元。一位谷歌工程師將其描述為“一種全新的定制機器學(xué)習(xí)加速器”。

好的，但是TPU到底是什么呢?IEEE Spectrum:“谷歌的張量處理單元是一個打印電路卡，它插入現(xiàn)有的服務(wù)器，充當(dāng)一個協(xié)同處理器，一個為神經(jīng)網(wǎng)絡(luò)計算量身定制的處理器?！?/p>

它在機器學(xué)習(xí)測試中擊敗了Xeon (Intel)和Nvidia的GPU，不僅如此，據(jù)報道，它還以一個數(shù)量級的速度擊敗了這兩家公司。

InfoWorld表示，同樣重要的是，谷歌透露了有關(guān)其自定義TTPU如何加速機器學(xué)習(xí)的細節(jié)。

InfoWorld的資深作家Serdar Yegulalp說，該公司“正在提供TPU究竟能為機器學(xué)習(xí)提供多少能量的細節(jié)，這得益于一篇深入研究技術(shù)方面的論文?！?/p>

《EE Times》的Rick Merritt表示，這篇論文“深入研究了TPU和基準(zhǔn)測試，結(jié)果顯示，它的速度至少比商用芯片快15倍，性能/瓦特高出30倍?！?/p>

硬件工程師諾姆朱皮(Norm Jouppi)周三寫了一篇關(guān)于這種芯片的博客，“量化了我們的第一個機器學(xué)習(xí)芯片——TPU的性能?！?/p>

他說:“今天(星期三)，在硅谷計算機歷史博物館舉行的工程學(xué)院會議上，我們將發(fā)布一份研究報告，與大家分享這些定制芯片的新細節(jié)?！?/p>

這個博客非常有用，因為除了基準(zhǔn)測試之外，Jouppi還能夠提供一個TPUs可以發(fā)揮作用的場景。

“對TPUs的需求在六年前就出現(xiàn)了，當(dāng)時我們開始在我們的產(chǎn)品中越來越多的地方使用計算上昂貴的深度學(xué)習(xí)模型。使用這些模型的計算費用讓我們擔(dān)心。如果我們考慮這樣一種情況，即人們每天只使用谷歌語音搜索三分鐘，而我們在使用的處理單元上運行我們的語音識別系統(tǒng)的深層神經(jīng)網(wǎng)絡(luò)，那么我們將不得不將谷歌數(shù)據(jù)中心的數(shù)量增加一倍!”

TPU面臨著這樣的挑戰(zhàn)?！癟PUs讓我們能夠非?？焖俚刈龀鲱A(yù)測，并使產(chǎn)品能夠在不到一秒的時間內(nèi)做出反應(yīng)。每個查詢背后都有TPUs;它們?yōu)榫_的視覺模型提供了強大的支持，這些模型是谷歌圖像搜索、谷歌照片和谷歌云視覺API等產(chǎn)品的基礎(chǔ)……”

高級編輯David Schneider, IEEE Spectrum:“TPU是為進行推理而設(shè)計的，它的硬件操作是8位整數(shù)，而不是更高精度的浮點數(shù)?！?/p>

這是托馬斯·克拉本在《登記簿》中對其推論作用的看法:

這位互聯(lián)網(wǎng)之王組建了一個團隊，生產(chǎn)了一種定制芯片，能夠處理其神經(jīng)網(wǎng)絡(luò)工作流程的一部分，即所謂的推理。在推理過程中，軟件根據(jù)耗時且計算密集的訓(xùn)練階段得出的數(shù)據(jù)進行預(yù)測。處理器位于PCIe總線上，接受來自主機CPU的命令:它類似于以前的離散FPU或數(shù)學(xué)協(xié)處理器，但顯然升級到了今天的標(biāo)準(zhǔn)。

自2015年初以來，谷歌已經(jīng)在其數(shù)據(jù)中心部署了TPU。施耐德說，用來得出這些結(jié)論的基準(zhǔn)測試是基于“人們在谷歌數(shù)據(jù)中心運行的六種實際類型的神經(jīng)網(wǎng)絡(luò)程序”。

梅里特說，一個由70多名工程師組成的團隊為TPU做出了貢獻。(Jouppi說:“設(shè)計、驗證、實現(xiàn)和部署這樣一個系統(tǒng)的硬件和軟件確實需要一個村莊?！?

論文題目為“張量處理單元的數(shù)據(jù)中心性能分析”。

為什么重要:“谷歌的方法將影響由定制硅驅(qū)動的機器學(xué)習(xí)的未來發(fā)展，”InfoWorld說。

“現(xiàn)在應(yīng)該很清楚，機器學(xué)習(xí)的定制硅將推動等式兩邊的硬件和軟件的發(fā)展。很明顯，谷歌和其他公司幾乎還沒有開始探索什么是可能的?！?/p>