利用Nvidia Tesla V100 GPU進(jìn)行AI和HPC工作負(fù)載

微軟正在為其云數(shù)據(jù)中心配備來(lái)自Nvidia的新型高性能GPU，使客戶對(duì)其人工智能和高性能計(jì)算計(jì)劃抱有更大的野心。

GPU希望滿足使用機(jī)器學(xué)習(xí)和其他技術(shù)為其智能應(yīng)用程序和服務(wù)提供動(dòng)力的企業(yè)的AI工作負(fù)載，在云計(jì)算公司中風(fēng)靡一時(shí)。Amazon Web Services，Google和IBM都提供基于GPU的云實(shí)例。

微軟也提供了一系列GPU云計(jì)算選擇，每種選擇都有自己的價(jià)格，性能和成本特征。微軟Azure計(jì)算主管Corey Sanders表示，很快，客戶將可以選擇一種更高的高性能選項(xiàng)。

在接下來(lái)的幾周內(nèi)，該公司將啟動(dòng)NCv3的Beta版，NCv3是基于GPU制造商N(yùn)vidia的Tesla V100硬件的Azure虛擬機(jī)(VM)系列。

NCv3系列虛擬機(jī)將使用Nvidia的Tesla V100 GPU，這是Nvidia的最新GPU。像我們以前的GPU尺寸一樣，Azure是唯一具有專用InfiniBand互連的云，以實(shí)現(xiàn)難以置信的快速多VM計(jì)算。”一個(gè)11月13日公布。“我們的GPU尺寸還提供PCIe配置，并直接支持Azure高級(jí)存儲(chǔ)。”

Nvidia的數(shù)據(jù)中心級(jí)Tesla V100 GPU在5月的GPU技術(shù)大會(huì)上首次亮相，該公司基于該公司的Volta GPU架構(gòu)。第七代GPU芯片架構(gòu)包含210億個(gè)晶體管，經(jīng)過(guò)深度學(xué)習(xí)工作負(fù)載培訓(xùn)后，可以提供100個(gè)傳統(tǒng)CPU的等效性能。

對(duì)NCv3系列實(shí)例的預(yù)覽訪問(wèn)將首先在弗吉尼亞州的東部Azure地區(qū)提供。微軟在這里接受注冊(cè)。

當(dāng)然，微軟并不是唯一基于Nvidia Tesla V100的云實(shí)例的提供商。10月25日，亞馬遜推出了新的EC2實(shí)例，該實(shí)例具有多達(dá)8個(gè)GPU，128GB GPU內(nèi)存，64個(gè)虛擬CPU和488GB主內(nèi)存。

Nvidia Volta GPU在公共云和服務(wù)器市場(chǎng)上都在不斷發(fā)展。

阿里巴巴，亞馬遜網(wǎng)絡(luò)服務(wù)，百度，甲骨文，騰訊以及微軟當(dāng)然都宣布了基于Volta的云產(chǎn)品。在服務(wù)器制造商中，戴爾EMC，惠普企業(yè)(HPE)，華為，IBM和聯(lián)想都采用了該技術(shù)。

同時(shí)，桑德斯說(shuō)，另外兩個(gè)基于GPU的Azure虛擬機(jī)系列將很快退出其預(yù)覽狀態(tài)并接受生產(chǎn)工作負(fù)載。12月1日，Azure NCv2和ND系列虛擬機(jī)將在，歐洲和亞洲全面上市。

NCv2虛擬機(jī)最多使用四個(gè)Nvidia Tesla P100 GPU和低延遲網(wǎng)絡(luò)技術(shù)InfiniBand來(lái)加速高性能計(jì)算(HPC)工作負(fù)載。ND系列最多使用四個(gè)Nvidia Tesla P40 GPU和24GB GPU內(nèi)存來(lái)訓(xùn)練AI模型并執(zhí)行深度學(xué)習(xí)。

桑德斯確信，微軟預(yù)先配置的數(shù)據(jù)科學(xué)虛擬機(jī)(基于云的大數(shù)據(jù)分析產(chǎn)品)的用戶將不會(huì)落伍。該公司正在更新服務(wù)的圖像，以便用戶可以利用新GPU提供的改進(jìn)性能。