英偉達(dá)和ARM希望將深度學(xué)習(xí)引入物聯(lián)網(wǎng)項(xiàng)目

NVIDIA宣布與物聯(lián)網(wǎng)芯片設(shè)計(jì)師ARM建立合作關(guān)系，旨在通過使物聯(lián)網(wǎng)芯片公司將人工智能(AI)集成到他們的設(shè)計(jì)中變得簡單，從而推動(dòng)推理加速。

在周二在圣何塞的NVIDIAGTC的主旨演講中，公司首席執(zhí)行官和創(chuàng)始人黃延森解釋說，合作伙伴將看到開源NVIDIA深度學(xué)習(xí)加速器(NVDLA)體系結(jié)構(gòu)集成到ARM的項(xiàng)目Trillium中，用于機(jī)器學(xué)習(xí)。

NVDLA基于NVIDIA Xavier，被GPU巨頭吹捧為“芯片上強(qiáng)大的自主機(jī)器系統(tǒng)”。 據(jù)黃說，這將提供一個(gè)自由，開放的架構(gòu)，以促進(jìn)一種標(biāo)準(zhǔn)的方式設(shè)計(jì)深度學(xué)習(xí)推斷..

NVIDIA自動(dòng)機(jī)器副總裁兼總經(jīng)理Deepu Talla在一次新聞發(fā)布會(huì)上說：“未來，Inference將成為每個(gè)物聯(lián)網(wǎng)設(shè)備的核心能力?！?/p>

SEE：IT領(lǐng)導(dǎo)者深度學(xué)習(xí)指南（技術(shù)專業(yè)研究）

塔拉補(bǔ)充道：“我們與ARM的合作將使數(shù)百家芯片公司很容易融入深度學(xué)習(xí)技術(shù)，從而推動(dòng)這一潮流的采用?！?/p>

日本企業(yè)集團(tuán)軟銀(Softbank)于2016年以243億￡的價(jià)格收購了ARM，它的愿景是連接一萬億個(gè)物聯(lián)網(wǎng)設(shè)備，預(yù)計(jì)到2035年將有這么多設(shè)備存在。

與上一代相比，GTC周二還宣布，該公司最新的深度學(xué)習(xí)計(jì)算平臺(tái)將提高8倍的性能。

這些進(jìn)步已經(jīng)被主要的云廠商采用，包括對(duì)NVIDIA特斯拉V100數(shù)據(jù)中心GPU的雙重內(nèi)存提升；一種新的GPU互連結(jié)構(gòu)NVIDIANVS witch，它使多達(dá)16個(gè)特斯拉V100GPU以每秒2.4TB的速度同時(shí)通信；以及一個(gè)更新的軟件堆棧。

特斯拉V100產(chǎn)品現(xiàn)在將擁有32GB的內(nèi)存，立即生效，Cray、HPE、IBM、聯(lián)想、Supermicro和Tyan宣布第二季度推出V10032GB，OracleCloud基礎(chǔ)設(shè)施預(yù)計(jì)將在2018年下半年在云中提供V10032GB。

黃說：“我們都在進(jìn)行深度學(xué)習(xí)，這就是結(jié)果。我們只是在增加動(dòng)力?！?/p>

黃還詳細(xì)介紹了深度學(xué)習(xí)計(jì)算的突破，與NVIDIA DGX-2。

一個(gè)單一的服務(wù)器，DGX-2能夠提供2個(gè)Petaflops的計(jì)算能力，并擁有300臺(tái)服務(wù)器的深度學(xué)習(xí)處理能力。 它還獲得了32GB的升級(jí)。

他說：“深度學(xué)習(xí)的非凡進(jìn)步只是暗示了未來的發(fā)展?！?“許多這些進(jìn)步都站在NVIDIA的深度學(xué)習(xí)平臺(tái)上，該平臺(tái)已迅速成為世界標(biāo)準(zhǔn)?！?/p>

這位首席執(zhí)行官說，他的公司正在以超越摩爾定律的速度提升其深度學(xué)習(xí)平臺(tái)的性能，使“突破將有助于革命性的醫(yī)療、交通、科學(xué)探索和無數(shù)其他領(lǐng)域”。

隨著黃指出GPU加速深度學(xué)習(xí)推理正在獲得牽引力，NVIDIA還推出了一系列新技術(shù)和合作伙伴關(guān)系，以擴(kuò)大其超尺度數(shù)據(jù)中心的推理能力，為語音識(shí)別、自然語言處理、推薦系統(tǒng)和圖像識(shí)別等能力提供支持。

該公告包括將TensorR T（一種高性能的深度學(xué)習(xí)推理優(yōu)化器和運(yùn)行時(shí)，為深度學(xué)習(xí)應(yīng)用程序提供低延遲、高通量推理）集成到谷歌的TensorFlow1.7框架中。

這大大改善了在TensorFlow中的引用，就像以前的TensorFlow1.6一樣，單個(gè)V100每秒可以處理大約300幅圖像；移動(dòng)到1.7將允許每秒處理超過2，600幅圖像。

據(jù)傳，最新一代黃光裕周二公布的TensorRT4與CPU相比，提供了多達(dá)190X更快的深度學(xué)習(xí)推理，用于計(jì)算機(jī)視覺、神經(jīng)機(jī)器翻譯、自動(dòng)語音識(shí)別和語音合成等常見應(yīng)用。

NVIDIA還宣布，其Kaldi語音識(shí)別框架已為GPU優(yōu)化，允許為消費(fèi)者提供“更有用”的虛擬助理，并降低數(shù)據(jù)中心運(yùn)營商的部署成本。