支持1PetaFlop的Graphcore IPU機(jī)器M2000 1U刀片

總部位于布里斯托爾的Graphcore剛剛推出了其第二代IPU(智能處理單元)系統(tǒng)，該系統(tǒng)的目標(biāo)用戶是希望大規(guī)模進(jìn)行AI處理的組織。在這些IPU機(jī)器M2000 1U刀片系統(tǒng)內(nèi)部，有四個(gè)由臺(tái)積電(TSMC)按照其最先進(jìn)的7納米工藝制造的新型Colossus MK2 GC200 IPU，每個(gè)封裝1,472個(gè)內(nèi)核，并且能夠“進(jìn)行一次機(jī)器智能計(jì)算的PetaFlop”。如果IPU機(jī)器M2000聽(tīng)起來(lái)像您想擴(kuò)展的東西，則Graphcore推出了IPU-POD，它可以促進(jìn)多達(dá)64,000個(gè)IPU的數(shù)據(jù)中心規(guī)模的系統(tǒng)，提供多達(dá)16個(gè)ExaFlops of Machine Intelligence計(jì)算。

讓我們從更緊密地看一下今天所有發(fā)布的核心處理器Graphcore Colossus Mk2 GC200 IPU開(kāi)始?？梢栽谥鲌D中看到該處理器的關(guān)鍵規(guī)格和功能，為了更清楚起見(jiàn)，我在下面列出了它們的項(xiàng)目符號(hào)。

每個(gè)IPU 594億個(gè)晶體管，

臺(tái)積電N7芯片的尺寸為823mm²，

1,472個(gè)IPU內(nèi)核，每個(gè)都具有IPU內(nèi)核和處理器內(nèi)存，

8,832個(gè)獨(dú)立的并行計(jì)算線程，

每個(gè)IPU 900MB SRAM，

每個(gè)IPU 47.5TB / s的內(nèi)存帶寬。

Graphcore表示，其第二代IPU是完全使用Poplar SDK構(gòu)建的，以加快機(jī)器智能。新的IPU在實(shí)際測(cè)試中將其第一代芯片(2018)的性能提高了8倍。

Graphcore IPU-Machine M2000 1U刀片服務(wù)器在一個(gè)披薩盒大小的系統(tǒng)中使用四個(gè)GC200 IPU，以交付1個(gè)PetaFlop AI計(jì)算。該系統(tǒng)可為您提供5888個(gè)處理器內(nèi)核和35328個(gè)獨(dú)立線程，以及多達(dá)450GB的處理器外流交換內(nèi)存。

升級(jí)到超級(jí)計(jì)算機(jī)規(guī)模的機(jī)器學(xué)習(xí)處理，Graphcore表示也涵蓋了這一點(diǎn)。它的IPU POD64構(gòu)建塊可幫助您為大型AI / ML問(wèn)題或多個(gè)并發(fā)工作負(fù)載部署數(shù)千臺(tái)機(jī)器。Graphcore表示，它擁有自己的IPU-Fabric技術(shù)，可實(shí)現(xiàn)超高帶寬，低延遲通信。

以上在學(xué)術(shù)上可能很有趣，但我敢打賭，您想知道包裝7nm Graphcore Colossus Mk2 GC200 IPU的系統(tǒng)如何與Nvidia DGX A100系統(tǒng)相提并論?Graphcore分享了一張比較幻燈片，其中比較了EfficientNet-B4圖像分類。對(duì)于相同的性能，它聲稱您只需要在Graphcore系統(tǒng)上投資25.9萬(wàn)美元，而不是在Nvidia DGX-A100服務(wù)器上投資300萬(wàn)美元。

可用性

IPU-Machine M2000和IPU-POD64系統(tǒng)可立即預(yù)訂，從2020年第四季度開(kāi)始全面量產(chǎn)。早期訪問(wèn)用戶將能夠通過(guò)Graphcore合作伙伴Cirrascale評(píng)估IPU-POD系統(tǒng)。