中國電信傅志仁:智算中心建設(shè)需提高利用率、周轉(zhuǎn)率

C114訊 4月11日消息(趙婷婷)在近日召開的“2024年云網(wǎng)智聯(lián)大會”上,中國電信研究院副院長傅志仁應(yīng)邀作了題為《基于云網(wǎng)融合的智算網(wǎng)絡(luò)發(fā)展的實(shí)踐及思考》的主題報(bào)告。他指出,從2022年開始,智算算力在新增算力中的占比已經(jīng)超過50%,并逐漸成為算力主體。

傅志仁援引國家信息中心發(fā)布的《智能計(jì)算中心創(chuàng)新發(fā)展指南》數(shù)據(jù)指出,“十四五”期間,在智算中心實(shí)現(xiàn)80%應(yīng)用水平的情況下,對智算中心的投資可帶動人工智能核心產(chǎn)業(yè)增長約2.9-3.4倍、帶動相關(guān)產(chǎn)業(yè)增長約36-42倍,智能算力成為支撐經(jīng)濟(jì)發(fā)展的新引擎。

從智算算力應(yīng)用場景看,極端場景大模型訓(xùn)練是需求也是要求最高的。“我們整個(gè)算力需求發(fā)展非常高,每年4倍甚至10倍的發(fā)展,根據(jù)英偉達(dá)預(yù)測,未來十年每年算力會增長4倍,十年以后累計(jì)會增長100萬倍。”他說道。

從網(wǎng)絡(luò)層面看,如何支持AI大模型和訓(xùn)練,傅志仁總結(jié)為“四個(gè)超”:首先是超大規(guī)模,“提到現(xiàn)在都是萬卡,中國電信在北上廣建立萬卡集群,對能源的需求會非常高。”二是超低時(shí)延,動態(tài)的時(shí)延由10微秒到1毫秒時(shí),GPU有效計(jì)算時(shí)間將降低10%;三是超大帶寬,相對于100G的組網(wǎng),1.6Tbps超帶寬網(wǎng)絡(luò)使得單次迭代訓(xùn)練耗時(shí)減少32%;四是超強(qiáng)可靠,對丟包率有更高要求,特別對一些關(guān)鍵的千份之一的丟包導(dǎo)致算力損失。

從產(chǎn)業(yè)挑戰(zhàn)看,當(dāng)前的資源建設(shè)和供給無法滿足快速增長的需求,這受限于多種因素。一是產(chǎn)業(yè)及能源,短期內(nèi)無法建設(shè)超大規(guī)模集約型數(shù)據(jù)中心;二是持續(xù)運(yùn)營,將智算中心作為拉動GDP非常重要的舉措,期望值高,“但整個(gè)大模型訓(xùn)練周期較長,如何保證客戶能用起來,提高利用率、周轉(zhuǎn)率、產(chǎn)業(yè)鏈和生態(tài)薄弱,相比國外的英偉達(dá)比較成熟的CUDA體系,我們國內(nèi)現(xiàn)在還有很多需要做。”


微信掃描分享本文到朋友圈
掃碼關(guān)注5G通信官方公眾號,免費(fèi)領(lǐng)取以下5G精品資料
  • 1、回復(fù)“YD5GAI”免費(fèi)領(lǐng)取《中國移動:5G網(wǎng)絡(luò)AI應(yīng)用典型場景技術(shù)解決方案白皮書
  • 2、回復(fù)“5G6G”免費(fèi)領(lǐng)取《5G_6G毫米波測試技術(shù)白皮書-2022_03-21
  • 3、回復(fù)“YD6G”免費(fèi)領(lǐng)取《中國移動:6G至簡無線接入網(wǎng)白皮書
  • 4、回復(fù)“LTBPS”免費(fèi)領(lǐng)取《《中國聯(lián)通5G終端白皮書》
  • 5、回復(fù)“ZGDX”免費(fèi)領(lǐng)取《中國電信5GNTN技術(shù)白皮書
  • 6、回復(fù)“TXSB”免費(fèi)領(lǐng)取《通信設(shè)備安裝工程施工工藝圖解
  • 7、回復(fù)“YDSL”免費(fèi)領(lǐng)取《中國移動算力并網(wǎng)白皮書
  • 8、回復(fù)“5GX3”免費(fèi)領(lǐng)取《R1623501-g605G的系統(tǒng)架構(gòu)1
  • 本周熱點(diǎn)本月熱點(diǎn)

     

      最熱通信招聘

      最新招聘信息