2016-2022 All Rights Reserved.平安財(cái)經(jīng)網(wǎng).復(fù)制必究 聯(lián)系QQ 備案號(hào):
本站除標(biāo)明“本站原創(chuàng)”外所有信息均轉(zhuǎn)載自互聯(lián)網(wǎng) 版權(quán)歸原作者所有。
郵箱:toplearningteam#gmail.com (請(qǐng)將#換成@)
算力需求旺盛的當(dāng)下,有些黃牛手中的芯片甚至開出一張155萬(wàn)的高價(jià)。在上個(gè)月阿里云峰會(huì)時(shí),會(huì)場(chǎng)里阿里云熱火朝天將通義千問(wèn)發(fā)布,而會(huì)場(chǎng)外中年大哥則舉著二維碼,讓眾人掃聲稱在掃描過(guò)后可以直接和ChatGPT連接。
大模型如今確實(shí)火熱,但是在騰訊阿里這些早就進(jìn)入到云服務(wù)這一行業(yè)當(dāng)中的大廠,已經(jīng)將大模型是否存在這一個(gè)問(wèn)題作出了解決,而一些進(jìn)入到這個(gè)行業(yè)當(dāng)中的玩家,只能夠先做算法,再對(duì)于自身硬件底座做出考慮,
硬件底座的基石芯片是非常難去買到的,AIGC時(shí)代不僅是比拼算法同時(shí)在算力時(shí)間也是要比拼的,在數(shù)據(jù)方面顯示英偉達(dá)A100顯卡在處理能力方面來(lái)看,GPT-3.5的大模型一共需要2萬(wàn)塊的CPU對(duì)訓(xùn)練數(shù)據(jù)作出處理。
根據(jù)官方公布的原因, A100芯片已經(jīng)無(wú)法在官方渠道購(gòu)買了,英偉達(dá)專門針對(duì)中國(guó)客戶推出了H800的芯片,在綜合使用,效率方面只達(dá)到因?yàn)檫_(dá)A100芯片的60%,在價(jià)格上比較貴,同時(shí)購(gòu)買時(shí)還需要排隊(duì),大廠資金較為充裕的情況下,一般會(huì)以量大占據(jù)優(yōu)勢(shì),處于創(chuàng)業(yè)時(shí)期的公司就需要在較長(zhǎng)的名單當(dāng)中等待芯片。
大廠對(duì)于H800以及A100的芯片是不缺乏的,阿里云的AI專家也提到,在阿里云中A100芯片就達(dá)到了上萬(wàn)塊,整體的芯片一共可以達(dá)到10萬(wàn)片,集團(tuán)整個(gè)體量也是阿里云芯片數(shù)量的5倍,騰訊利用H800加速卡所打造出來(lái)的大模型算力群體集體的規(guī)模甚至達(dá)到了數(shù)千臺(tái)服務(wù)器,巨頭們還在繼續(xù)對(duì)芯片作出采購(gòu)。
大模型之間還沒有真正開展戰(zhàn)斗,已經(jīng)成為了互聯(lián)網(wǎng)科技巨頭之間互相的游戲,而巨頭之外的創(chuàng)業(yè)者,也面臨著想要去做大模型但卻沒有算力。
2016-2022 All Rights Reserved.平安財(cái)經(jīng)網(wǎng).復(fù)制必究 聯(lián)系QQ 備案號(hào):
本站除標(biāo)明“本站原創(chuàng)”外所有信息均轉(zhuǎn)載自互聯(lián)網(wǎng) 版權(quán)歸原作者所有。
郵箱:toplearningteam#gmail.com (請(qǐng)將#換成@)