mlperf發(fā)布了第三批用于培訓(xùn)AI網(wǎng)絡(luò)的意見書

今天，行業(yè)標(biāo)準(zhǔn)AI基準(zhǔn)測(cè)試小組mlperf發(fā)布了第三批用于培訓(xùn)AI網(wǎng)絡(luò)的意見書，就像前兩個(gè)版本一樣，NVIDIA在商用硬件和軟件領(lǐng)域占據(jù)了稀疏的競(jìng)爭(zhēng)領(lǐng)域。Mlperf由全球80多家公司和大學(xué)組成，創(chuàng)建了基準(zhǔn)，為培訓(xùn)和推理處理提供了從蘋果到蘋果的比較。但是，由于潛在的AI競(jìng)爭(zhēng)者仍未露面，競(jìng)爭(zhēng)蘋果仍然很少。在“研究”類別中，有一些提交物看起來很有希望，無論何時(shí)以及何時(shí)上市。讓我們看一下基準(zhǔn)，并探索英特爾，谷歌和Graphcore等競(jìng)爭(zhēng)對(duì)手的發(fā)展方向。與過去一樣，請(qǐng)?jiān)廚VIDIA圖像的廣泛使用;

NVIDIA贏得所有16個(gè)基準(zhǔn)測(cè)試

自創(chuàng)建市場(chǎng)以來，NVIDIA一直主導(dǎo)著AI加速器業(yè)務(wù)，并將其發(fā)展到明年NVIDIA AI收入可能超過游戲領(lǐng)域的地步。在技??術(shù)上很少有一家公司擁有數(shù)十億美元的市場(chǎng)空間而又不吸引競(jìng)爭(zhēng)的，并且現(xiàn)在有數(shù)十家初創(chuàng)公司以及像英特爾和高通這樣的成熟公司正在開發(fā)具有競(jìng)爭(zhēng)力的產(chǎn)品。但是經(jīng)過3年在Powerpoint中具有挑戰(zhàn)性的承諾以及一些顯著的失敗之后，NVIDIA仍然獨(dú)立存在于一個(gè)市場(chǎng)中，一個(gè)項(xiàng)目在10年內(nèi)每年將超過$ 28B。

為了刷新您的記憶，mlperf提供了跨多個(gè)AI基準(zhǔn)的三類基準(zhǔn)系統(tǒng)(可用，預(yù)覽和研究)。這些基準(zhǔn)測(cè)試可衡量最大規(guī)模系統(tǒng)(例如NVIDIA Selene，這是世界上第七快的超級(jí)計(jì)算機(jī))和單個(gè)服務(wù)器(例如8GPU DGX A100)的培訓(xùn)時(shí)間。新的V0.7結(jié)果僅用于培訓(xùn);新的推理基準(zhǔn)可能會(huì)在未來幾個(gè)月內(nèi)發(fā)布。結(jié)果?在商用類別中，NVIDIA以可觀的優(yōu)勢(shì)贏得了所有16個(gè)基準(zhǔn)測(cè)試。未公布的Google TPU V4看起來很有希望，但在八分之三的基準(zhǔn)測(cè)試中，目前僅略勝于NVIDIA A100。

有趣的是，在商用服務(wù)器上提交結(jié)果的唯一競(jìng)爭(zhēng)者是Google和華為，甚至這些公司也只提交了用于圖像分類(Resnet-50)和自然語言處理(BERT)的結(jié)果。盡管NVIDIA的“大規(guī)模”成果令人難以置信，顯示了其在系統(tǒng)設(shè)計(jì)，Mellanox網(wǎng)絡(luò)和AI軟件方面的卓越能力，但我傾向于更多地關(guān)注按系統(tǒng)劃分的結(jié)果和按芯片進(jìn)行歸一化的分析。畢竟，很少有公司能負(fù)擔(dān)得起大規(guī)模運(yùn)行基準(zhǔn)測(cè)試所需的超級(jí)計(jì)算機(jī)和工程工作。

對(duì)于商用系統(tǒng)，NVIDIA輕松擊敗華為超過2倍，并擊敗了Google TPU V3 25-75%。但是，為什么華為和谷歌沒有運(yùn)行其他6或7個(gè)基準(zhǔn)測(cè)試呢?嗯，谷歌可能做到了，但是意識(shí)到新的A100會(huì)粉碎其使用了3年的芯片。相反，它明智地將精力集中在即將推出的V4芯片上，該芯片已在研究類別中提交。