打造一個AI大模型 到底需要多少算力？

AI已經(jīng)在全球引發(fā)一股熱潮，讓人們不可忽視的潛在最大的阻力就是算力不足，算力屬于AI發(fā)展過程當(dāng)中最基本的設(shè)施，打造一個AI大模型，是需要對數(shù)據(jù)集中重復(fù)的處理，也就意味著算力的大小直接代表數(shù)據(jù)能力強(qiáng)與弱。從2012年開始，全球AI訓(xùn)練所需要的指數(shù)處于增長趨勢，3~4個月都會平均分成一倍，到現(xiàn)在已經(jīng)擴(kuò)大30萬倍，隨著華為、360、百度等大型公司加入到AI領(lǐng)域之后，國內(nèi)對于算力的需求也與日俱增，結(jié)合OpenAI研發(fā)的相關(guān)經(jīng)驗(yàn)加上我國企業(yè)大型規(guī)模研發(fā)的進(jìn)度來分析，現(xiàn)在我國對AI大型訓(xùn)練以及推理階段的算力需求都進(jìn)行相關(guān)成本的測算。

算力需求

目前根據(jù)商湯招股說明書的數(shù)據(jù)明確的顯示像GPT-3大模型需要大概訓(xùn)練355個GPU，由于現(xiàn)在各家公司都在進(jìn)行AI大型模型的發(fā)展，會認(rèn)為科技公司訓(xùn)練的AI大型模型，時間大概為一個月，訓(xùn)練AI大型模型當(dāng)中的AI加速卡數(shù)量會高達(dá)4260個，目前各大科技企業(yè)競爭，關(guān)鍵就是AI模型，因此在國內(nèi)，會有部分人意愿的來開發(fā)出AI模型相關(guān)的公司， AI大型模型的訓(xùn)練在急劇的上升當(dāng)中，AI的加速卡需求量也非常的大。英偉達(dá)官方數(shù)據(jù)的顯示 A100對于AI模型可以實(shí)現(xiàn)每秒推理高達(dá)1757次，假設(shè)單片A100在AI模型每秒中可以產(chǎn)生1757個單詞。

樂觀假設(shè)

2023年數(shù)字安全與發(fā)展高峰論壇在3月29日開啟的時候，會議上明確的演示了360大型語言在瀏覽器上的應(yīng)用，部分的分析師認(rèn)為，像內(nèi)容生產(chǎn)類型的應(yīng)用，已經(jīng)在各個科技開發(fā)商當(dāng)中對AI模型有著積極探索的方向，針對不同的情況，分析師給予不一樣的假設(shè)，因此在樂觀的情況下，現(xiàn)在我國AI大型模型的訓(xùn)練和推理階段有可能產(chǎn)生1.1萬臺或者是3.8萬臺的高端AI服務(wù)器的算力需求。