“百模大戰(zhàn)”導(dǎo)致算力租賃猛增超算架構(gòu)為大模型提速

2023-07-11 18:35:03 編輯：來(lái)源：

導(dǎo)讀 2023世界人工智能大會(huì)期間，北京超級(jí)云計(jì)算中心CTO甄亞楠表示：目前主流的大模型訓(xùn)練是超算使用模式，超算相比云計(jì)算更加貼和大模型訓(xùn)練場(chǎng)...

2023世界人工智能大會(huì)期間，北京超級(jí)云計(jì)算中心CTO甄亞楠表示：“目前主流的大模型訓(xùn)練是超算使用模式，超算相比云計(jì)算更加貼和大模型訓(xùn)練場(chǎng)景，服務(wù)器之間的計(jì)算帶寬配比更大，是目前主流云計(jì)算環(huán)境中的計(jì)算網(wǎng)絡(luò)帶寬的數(shù)10倍，數(shù)據(jù)傳輸效率要求更高。”

北京超級(jí)云計(jì)算中心計(jì)劃在2023年下半年陸續(xù)上線3萬(wàn)余張能夠滿足大模型訓(xùn)練場(chǎng)景使用的GPU卡，搭建超算盤(pán)古大模型算力矩陣，并且會(huì)組建一支7×24小時(shí)的技術(shù)服務(wù)團(tuán)隊(duì)。在算力快速增長(zhǎng)的市場(chǎng)上，只有合理的利用資源，抓住時(shí)刻，才有可能會(huì)在市場(chǎng)上占據(jù)更多的位置。北京超算力會(huì)，通過(guò)算力預(yù)測(cè)判斷用戶真正需要的算力資源，基于算力選型，可以保證用戶擁有可用的算力資源。