高通公司的最新芯片希望成為基于云的人工智能最強(qiáng)大的芯片

高通公司的Cloud AI 100是一款專門用于云中人工智能推理的芯片，該公司表示其性能優(yōu)于Nvidia和其他競爭對手的同類產(chǎn)品。高通公司正在將其芯片制造專業(yè)知識應(yīng)用于云中的人工智能。該公司最新的芯片Cloud AI 100專門用于加速從云端到邊緣的AI推理。此外，另外還發(fā)布了單獨發(fā)布的Snapdragon 6和7系列新版本，旨在將人工智能處理技術(shù)應(yīng)用到中級智能手機(jī)，這表明高通公司希望成為云計算與邊緣人工智能辯論雙方的主要參與者。

在云端，高通公司表示，Cloud AI 100在性能每瓦特方面可以提供超越其他基于CPU，GPU和FPGA的解決方案的性能。“我們?nèi)碌腝ualcomm Cloud AI 100加速器將顯著提高AI推理處理的門檻，相對于當(dāng)今數(shù)據(jù)中心使用的CPU，GPU和/或FPGA的任何組合，”Qualcomm產(chǎn)品管理高級副總裁Keith Kressin科技在一份新聞聲明中說。“此外，高通公司現(xiàn)已準(zhǔn)備好支持所有與高速和低延遲5G連接相關(guān)的完整云端到邊緣AI解決方案。”根據(jù)公司規(guī)格，Cloud AI 100可提供高達(dá)10倍的性能每瓦當(dāng)前，最先進(jìn)的AI推理解決方案。

與此同時，高通公司新推出的Snapdragon 730,730G和665移動平臺正在宣傳高通公司專有的AI引擎的最新版本。730和730G采用第四代AI引擎，該公司稱其專為視頻，語音，安全和游戲的直觀設(shè)備交互而設(shè)計。665支持第三代引擎版本，旨在為AI提供更快的設(shè)備性能。

自動化技術(shù)東部是東海岸領(lǐng)先的自動化/機(jī)器人貿(mào)易展，提供微軟，IBM洛克希德馬丁等數(shù)百種最新的組件，控制器和取放器。

一個推論的問題

如果您經(jīng)歷過手機(jī)或其他設(shè)備試圖猜測您要輸入或說出的字詞，或者您的電子郵件建議自動回復(fù)，那么您已經(jīng)體驗過AI推理的示例。推理被用作從神經(jīng)網(wǎng)絡(luò)獲得接近準(zhǔn)確結(jié)果的手段，而不會消耗系統(tǒng)資源。讓神經(jīng)網(wǎng)絡(luò)得出一個確切的結(jié)論或答案，基于其給定的數(shù)據(jù)在計算方面可能非?？量?。例如，在語音識別中，神經(jīng)網(wǎng)絡(luò)必須梳理其所有數(shù)據(jù)以找到已經(jīng)說出的確切正確的單詞。

通過允許神經(jīng)網(wǎng)絡(luò)“推斷”其答案，推理顯著降低了計算需求。神經(jīng)網(wǎng)絡(luò)不是必須每次都進(jìn)行精確命中，而是使用所有可用數(shù)據(jù)來進(jìn)行最佳猜測。而不是必須決定你是否打算直接鍵入世界“貓”，它可以猜測你可能一直試圖鍵入“可以”，“購物車”，“捕獲”或類似的世界。專家們一致認(rèn)為，在大多數(shù)應(yīng)用程序中，推理幾乎可以提供良好的結(jié)果，但也可以采用針對運(yùn)行時性能進(jìn)行優(yōu)化的方式。

正如技術(shù)咨詢公司ABI Research的首席分析師Lian Jye Su指出的那樣，通常云計算的AI芯片市場一直由Nvidia主導(dǎo)。但隨著這一最新消息，高通公司加入了該領(lǐng)域的一些新挑戰(zhàn)者。

“其他幾家公司，包括像英特爾和Xilinx這樣的老牌供應(yīng)商，以及像Graphcore這樣的小型廠商已經(jīng)推出了與高通公司的Cloud AI 100相似的產(chǎn)品，針對完全相同的受眾和用例，”Su在電子郵件中告訴Design News。“根據(jù)ABI的研究，到2023年，人工智能推理將達(dá)到75億美元的收入。到目前為止，這個市場主要由Nvidia GPU和英特爾的CPU主導(dǎo)，但這些平臺并沒有完全針對推理進(jìn)行優(yōu)化。預(yù)計這一領(lǐng)域的競爭將在未來幾年內(nèi)升溫，主要是隨著高通公司宣布的更加專業(yè)化的硬件的出現(xiàn)。

雖然高通顯然希望通過其性能將Cloud AI 100與競爭對手區(qū)分開來，但Su表示還有其他因素需要加以考慮。其中的關(guān)鍵是支持開發(fā)人員社區(qū)，并允許實施Cloud AI 100芯片的客戶在某種程度上對其進(jìn)行定制，以支持特定的垂直和用例，而不會抬高價格或犧牲可擴(kuò)展性。

“玩家能夠圍繞他們的芯片組建立一個強(qiáng)大的生態(tài)系統(tǒng)和開發(fā)者社區(qū)，以便在多個用例和應(yīng)用程序中促進(jìn)技術(shù)和業(yè)務(wù)模式創(chuàng)新，這對包括高通在內(nèi)的所有云AI加速器供應(yīng)商來說都是一個非常具有挑戰(zhàn)性的目標(biāo)，”蘇說。“這項技術(shù)仍處于發(fā)展的初期階段，供應(yīng)商需要時間來收集一個能夠與現(xiàn)有AI推理平臺(特別是Nvidia)的規(guī)模相匹配的強(qiáng)大生態(tài)系統(tǒng)。”

Qualcomm表示，Cloud AI 100可以支持目前大多數(shù)流行的AI軟件庫，包括TensorFlow，PyTorch，Glow，Keras和ONNX，但Su表示公司還需要為開發(fā)人員提供合適的工具來處理芯片。同樣。“Qualcomm需要確保AI 100與最新的AI開源推理軟件完全兼容。高通公司還需要開發(fā)量化工具，以便開發(fā)人員在AI 100上部署時可以合成其神經(jīng)網(wǎng)絡(luò)的大小，而不會影響模型的準(zhǔn)確性，“蘇說。

Su說，高通公司的邊緣AI設(shè)備也存在同樣的生態(tài)系統(tǒng)挑戰(zhàn)。“高通在這里不是獨一無二的，因為其他競爭對手，包括采用其Kirin 970芯片組的海思半導(dǎo)體，以及擁有Helio P90芯片組的聯(lián)發(fā)科，已經(jīng)使中端智能手機(jī)的用戶能夠享受以前只有那些可以使用的AI功能的人工智能功能。買得起旗艦智能手機(jī)，“他說。“由于海思半導(dǎo)體是一家專屬供應(yīng)商(意味著其芯片組僅適用于華為智能手機(jī))，而且聯(lián)通科技Helio P90顯示出迄今為止非常弱的人工智能生態(tài)系統(tǒng)，高通公司已準(zhǔn)備好領(lǐng)導(dǎo)智能手機(jī)的AI民主化，成為眾多關(guān)鍵的戰(zhàn)略芯片組供應(yīng)商原始設(shè)備制造商(主要是中國供應(yīng)商)希望將人工智能支持的高端功能帶入中端和低端智能手機(jī)。

“高通公司已經(jīng)圍繞其智能手機(jī)的AI引擎構(gòu)建了一個不錯的生態(tài)系統(tǒng)?，F(xiàn)在，公司需要保持相關(guān)的生態(tài)系統(tǒng)受眾，基本上是應(yīng)用程序開發(fā)人員，如果他們希望將AI引擎的成功擴(kuò)展到智能手機(jī)市場的低層，就可以參與并投資于該平臺。“

高通公司預(yù)計將在2019年下半年向客戶提供Cloud AI 100樣品?；赟napdragon 730,730G和665平臺的手機(jī)預(yù)計也將在今年晚些時候發(fā)布。