Hot Chips活動(dòng)詳細(xì)介紹了AI強(qiáng)度處理器

本周，技術(shù)觀察人員在英特爾獲得了令人印象深刻的AI加速器工作，即Hot Chips 2019活動(dòng)的啟示，其中英特爾展示了其Nervana神經(jīng)網(wǎng)絡(luò)處理器的細(xì)節(jié)，(1)用于培訓(xùn)的NNP-T和(2)NNP-I推斷。

讓我們首先重新審視推斷(Spring Hill)的工作，以及NNP-1，它是在以色列海法的工廠開發(fā)的。NNP-1代表用于推理的神經(jīng)網(wǎng)絡(luò)處理器。

路透社的Steven Scheer說，它的構(gòu)造將允許它“ 使用最少的能量來應(yīng)對(duì)高工作負(fù)荷 ”。

TNW的 Ravie Lakshmananin描述了它的功能，稱其“專門針對(duì)人工智能的推理方面推斷出新的見解。通過使用專用的AI推理計(jì)算引擎，NNP-I以更低的功率提供更高的性能。”

Nervana這個(gè)名字來自哪里?Nervana Systems是它在2016年收購的公司。當(dāng)時(shí)，分析師Karl Freund告訴EE Times，英特爾這樣做很有意義。收購Nervana是進(jìn)入深度學(xué)習(xí)市場(chǎng)的一種方式。

本周，為什么這個(gè)問題變成了原因 - 不是英特爾發(fā)言人。

“為了實(shí)現(xiàn)'AI無處不在'的未來情況，我們必須處理大量的數(shù)據(jù)生成，并確保組織具備了有效利用數(shù)據(jù)所需的資源，并在收集數(shù)據(jù)時(shí)對(duì)其進(jìn)行處理，” 在路透社的一份報(bào)告中，Nervana的創(chuàng)始人，現(xiàn)任英特爾人工智能產(chǎn)品集團(tuán)總經(jīng)理Naveen Rao 說。“這些計(jì)算機(jī)需要加速復(fù)雜的AI應(yīng)用程序。”

包括SiliconANGLE在內(nèi)的技術(shù)觀察人士表示，NNP-1適用于運(yùn)行AI工作負(fù)載的大型數(shù)據(jù)中心。Fossbytes表示，一套全面的RAS功能可確保它可以輕松部署到現(xiàn)有數(shù)據(jù)中心。

喬爾Hruska的在ExtremeTech來：“英特爾聲稱NNP，我可以提供的每3600個(gè)推論ResNet50性能第二在10W TDP運(yùn)行時(shí)工程以4.8 TOPS /瓦，符合英特爾的整體效率目標(biāo)(該公司聲稱，NNP-。我在低瓦數(shù)時(shí)效率最高。)“

2019年Hot Chips會(huì)議的另一個(gè)感興趣的項(xiàng)目是NNP-T，它代表英特爾Nervana神經(jīng)網(wǎng)絡(luò)訓(xùn)練處理器。英特爾將NNP-T(代號(hào)為Spring Crest)描述為專用(1)，以大規(guī)模訓(xùn)練復(fù)雜的深度學(xué)習(xí)模型，(2)通過開箱即用的橫向擴(kuò)展支持簡(jiǎn)化分布式培訓(xùn)。

湯姆硬件公司的 Paul Alcorn 寫道，“NNP-T的設(shè)計(jì)是如何從機(jī)箱到機(jī)箱無縫擴(kuò)展，甚至機(jī)架到機(jī)架，無需交換機(jī)。” 他說，網(wǎng)絡(luò)是專為高帶寬和低延遲而設(shè)計(jì)的; 反過來，該架構(gòu)將處理“大規(guī)模模型，可擴(kuò)展到5或80億個(gè)或更多參數(shù)。”

Naveen Rao評(píng)論道：“英特爾Nervana NNP-T推動(dòng)了深度學(xué)習(xí)培訓(xùn)的界限。它旨在優(yōu)先考慮兩個(gè)關(guān)鍵的現(xiàn)實(shí)考慮：如何盡快培訓(xùn)網(wǎng)絡(luò)以及如何在給定的功率預(yù)算內(nèi)完成。” 該體系結(jié)構(gòu)是從頭開始構(gòu)建的，沒有遺留的工作負(fù)載可供支持。

從更大的角度來看，“以色列時(shí)報(bào)”稱“英特爾，Nvidia，高通，谷歌等公司以及全球各地的創(chuàng)業(yè)公司都在尋找這一領(lǐng)域的新技術(shù)，其中包括創(chuàng)造硬件以實(shí)現(xiàn)巨大的處理能力。信息量。“

Shoshanna Solomon寫道：處理硬件有兩個(gè)目的：(1)訓(xùn)練計(jì)算機(jī)完成新任務(wù);(2)教他們推斷并從而獲得見解。

總而言之，英特爾正在努力使數(shù)據(jù)科學(xué)家能夠在處理非結(jié)構(gòu)化和復(fù)雜數(shù)據(jù)時(shí)做到這兩點(diǎn)。