“百模大戰(zhàn)”導(dǎo)致算力租賃猛增超算架構(gòu)為大模型提速

2023-07-11 18:35:03 編輯：來源：

導(dǎo)讀 2023世界人工智能大會(huì)期間，北京超級云計(jì)算中心CTO甄亞楠表示：目前主流的大模型訓(xùn)練是超算使用模式，超算相比云計(jì)算更加貼和大模型訓(xùn)練場...

2023世界人工智能大會(huì)期間，北京超級云計(jì)算中心CTO甄亞楠表示：“目前主流的大模型訓(xùn)練是超算使用模式，超算相比云計(jì)算更加貼和大模型訓(xùn)練場景，服務(wù)器之間的計(jì)算帶寬配比更大，是目前主流云計(jì)算環(huán)境中的計(jì)算網(wǎng)絡(luò)帶寬的數(shù)10倍，數(shù)據(jù)傳輸效率要求更高。”

北京超級云計(jì)算中心計(jì)劃在2023年下半年陸續(xù)上線3萬余張能夠滿足大模型訓(xùn)練場景使用的GPU卡，搭建超算盤古大模型算力矩陣，并且會(huì)組建一支7×24小時(shí)的技術(shù)服務(wù)團(tuán)隊(duì)。在算力快速增長的市場上，只有合理的利用資源，抓住時(shí)刻，才有可能會(huì)在市場上占據(jù)更多的位置。北京超算力會(huì)，通過算力預(yù)測判斷用戶真正需要的算力資源，基于算力選型，可以保證用戶擁有可用的算力資源。