谷歌的新云TPU豆莢提供了一個隨需應變的人工智能超級計算機

谷歌LLC今天發(fā)布了云TPU Pods，擴展了其云平臺，這是一個新的基礎設施選項，針對需要大量計算能力的大型人工智能項目。

云TPU Pod本質(zhì)上是一組服務器機架，運行在這家搜索巨頭的數(shù)據(jù)中心之一。每個機架都裝載著谷歌的張量處理器單元(如圖所示)，這是為人工智能應用而從頭開始定制的芯片。該公司使用它們來支持廣泛的內(nèi)部服務，包括其搜索引擎和谷歌翻譯。

在谷歌云上，TPUs目前只能單獨出租。與公司通常用于人工智能項目的顯卡相比，它們具有許多優(yōu)勢，包括潛在的更高速度。去年12月發(fā)布的一項基準測試顯示，在執(zhí)行某些類型的任務時，TPUs的性能比Nvidia公司的同類硬件要高出19%。

單個云TPU Pod根據(jù)配置包含256或1024個芯片。256芯片版本使用的是谷歌在2017年首次亮相的第二代TPUs，最高速度為11.5千萬億次。1024芯片的配置，反過來，提供了一個強大的107.5千萬億次浮點運算的高端性能，因為它使用了谷歌的最新的第三代TPUs。

這些數(shù)字使該產(chǎn)品進入了超級計算機領域。每秒一次千萬億次運算相當于每秒千萬億次運算，而世界上最強大的超級計算機頂峰運算速度可達每秒200千萬億次。

誠然，在處理不像Summit等系統(tǒng)那樣復雜的數(shù)據(jù)時，云TPU豆莢只能達到最高速度，但它們?nèi)匀缓軓姶?。谷歌通過應用程序編程接口提供硬件，允許AI團隊像處理單個邏輯單元一樣處理TPUs。或者，開發(fā)人員可以將Pod的計算能力分散到多個應用程序中。

谷歌負責云計算的高級產(chǎn)品經(jīng)理Zak Stone在一篇博客文章中寫道:“也可以使用被稱為‘切片’的更小的云計算TPU豆莢?！薄拔覀兘?jīng)常看到ML團隊在單個云TPU設備(通?？捎?上開發(fā)他們的初始模型，然后通過數(shù)據(jù)并行性和模型并行性逐步擴展到更大的云TPU Pod片。”

云TPU豆莢目前處于測試階段。它的早期客戶包括eBay Inc.和總部位于猶他州的生物技術(shù)公司Recursion Pharmaceutical Inc.。Recursion Pharmaceutical利用這款產(chǎn)品對具有潛在醫(yī)學價值的分子進行測試。