谷歌的人工智能TPU芯片現(xiàn)在可以在其公共云上使用

谷歌有限責(zé)任公司（GoogleLLC）今天通過(guò)增加Tensor ProcessingUnities來(lái)支持其公共云平臺(tái)，Tensor ProcessingUnities是一個(gè)內(nèi)部設(shè)計(jì)的芯片系列，專門為人工智能工作量提供動(dòng)力。

一個(gè)TPU（圖）由四個(gè)特定于應(yīng)用程序的集成電路組成，并配有64G的“超高帶寬”存儲(chǔ)器。該組合單元可以提供多達(dá)180個(gè)觸發(fā)器，或每秒萬(wàn)億個(gè)浮點(diǎn)運(yùn)算，一個(gè)標(biāo)準(zhǔn)的計(jì)算機(jī)性能單元。今年晚些時(shí)候，谷歌計(jì)劃添加一個(gè)聚類選項(xiàng)，該選項(xiàng)將允許云客戶將多個(gè)TPU組合成一個(gè)“豆莢”，其速度在pe taflop范圍內(nèi)，或?yàn)閠eraflop的1000倍。

在今天的公告中，該公司沒(méi)有分享更多的業(yè)績(jī)細(xì)節(jié)。然而，去年谷歌兩位頂級(jí)工程師撰寫的一篇博客文章顯示，當(dāng)時(shí)內(nèi)部使用的豆莢包括64個(gè)TPU，其總輸出為11.5個(gè)觸發(fā)器。相比之下，世界上最強(qiáng)大的超級(jí)計(jì)算機(jī)只有93臺(tái)，盡管值得注意的是，這家搜索巨頭很可能沒(méi)有使用相同的基準(zhǔn)方法來(lái)測(cè)量TPU的速度。

無(wú)論哪種方式，芯片代表了谷歌云平臺(tái)的一個(gè)主要補(bǔ)充。當(dāng)谷歌去年4月首次讓世界看到TPU的規(guī)格時(shí)，它透露芯片至少可以運(yùn)行某些機(jī)器學(xué)習(xí)工作量，比現(xiàn)成的硅快15到30倍。這包括圖形處理單元，它們特別適合機(jī)器學(xué)習(xí)模型。主要由英偉達(dá)（NvidiaCorp.）以及先進(jìn)微型設(shè)備公司（Advanced Micro Device Inc.）制造，它們?nèi)匀皇钱?dāng)今大多數(shù)項(xiàng)目的首選。

因此，谷歌的云客戶應(yīng)該獲得更快地訓(xùn)練和運(yùn)行其AI軟件的能力。谷歌機(jī)器學(xué)習(xí)研究和開發(fā)背后的谷歌大腦團(tuán)隊(duì)領(lǐng)導(dǎo)人杰夫·迪恩（Jeff Dean）在推特（Twitter）上說(shuō)，一個(gè)單一的云T PU可以用來(lái)實(shí)現(xiàn)流行的ResNet-50圖像分類模型，在24小時(shí)內(nèi)達(dá)到75%的準(zhǔn)確率，總成本不到200美元。

谷歌已經(jīng)創(chuàng)建了幾個(gè)預(yù)先優(yōu)化的神經(jīng)網(wǎng)絡(luò)包，客戶可以在TPU上運(yùn)行。陣容包括一個(gè)版本的ResNet-50，以及機(jī)器翻譯的模型，語(yǔ)言建模和識(shí)別圖像中的對(duì)象。公司還可以使用谷歌的開源TensorFlow機(jī)器學(xué)習(xí)引擎創(chuàng)建自己的AI工作負(fù)載。

喜歡在AI項(xiàng)目中使用傳統(tǒng)圖形卡的客戶今天也收到了一個(gè)新的功能。谷歌在其Kubernetes引擎服務(wù)中增加了GPU支持，以允許將機(jī)器學(xué)習(xí)模型打包到軟件容器中。后一種技術(shù)提供了一個(gè)輕量級(jí)的抽象層，使開發(fā)人員能夠更容易地展開更新和跨環(huán)境移動(dòng)應(yīng)用程序。

新的TPU每小時(shí)6.50美元，而通過(guò)Kubernetes引擎租用的GPU將以谷歌現(xiàn)有的費(fèi)率為每個(gè)支持的芯片模型收費(fèi)。

芯片對(duì)各種各樣的人工智能任務(wù)有多準(zhǔn)備，特別是對(duì)于嚴(yán)重的計(jì)算機(jī)工作量，仍然不確定。Moor Insights&；Strategy總裁兼首席分析師帕特里克？”GPU是最好的培訓(xùn)方式。鎖定TPU意味著鎖定GCP和TensorFlow。

更有甚者，摩爾黑德的同事卡爾·弗倫德（Karl Freund）在《福布斯》（Forbes）上寫道，谷歌的成本和速度索賠并不真正成立?！翱紤]到顯而易見的事實(shí)，人們確實(shí)不得不對(duì)谷歌的營(yíng)銷大膽感到有點(diǎn)驚嘆：谷歌的4芯片獸，充滿了64GB昂貴的高帶寬內(nèi)存，每個(gè)性能單位的成本大約比英偉達(dá)的單芯片（1年前的特斯拉V100GPU加速器）高出33%，”他加起來(lái)比這要快3倍。

谷歌也不是唯一一個(gè)追求自己AI芯片的公司。芯片巨頭英特爾公司（Intel Corp.）一直在宣傳其最新的人工智能工作負(fù)載處理單元，以及被稱為現(xiàn)場(chǎng)可編程門陣列的定制芯片。今天，TheInfor mation報(bào)道說(shuō)，Amazon.com公司正在開發(fā)自己的AI芯片，以幫助其Echo智能揚(yáng)聲器和其他使用Alexa數(shù)字助理的硬件在設(shè)備上進(jìn)行更多的處理，這樣它就可以比向云呼叫更快地響應(yīng)。