全球首個商用智算N騰超節(jié)點在大灣區(qū)上線

全球首個商用智算 N 騰超節(jié)點正式發(fā)布

4 月 26 日下午,全球首個商用智算 N 騰超節(jié)點在中國電信粵港澳大灣區(qū)(韶關(guān))算力集群正式發(fā)布,現(xiàn)已商用上線。這一事件標志著新一代智能算力注入粵港澳大灣區(qū)國家級算力樞紐節(jié)點,也意味著中國電信在 AI 算力基礎(chǔ)設施領(lǐng)域取得了重大進展,為人工智能產(chǎn)業(yè)的高質(zhì)量發(fā)展注入了新動能。

廣東省委常委、副省長張國智,中國電信董事長柯瑞文,韶關(guān)市委書記陳少榮,華為公司董事陶景文等出席了發(fā)布儀式并致辭。

隨著大模型的 Scaling Law 仍然生效,國內(nèi)外主流基礎(chǔ)大模型參數(shù)量持續(xù)增加,算力需求也在不斷增長。同時,大模型正在從稠密架構(gòu)向混合專家模型(MoE)稀疏架構(gòu)演進。基于這些特點,業(yè)界主流智算服務器在提升單卡算力的同時,也正在從單節(jié)點向超節(jié)點架構(gòu)演進。

智算 N 騰超節(jié)點采用了新型高速總線架構(gòu),天然適配混合專家模型(MoE)架構(gòu),使得大模型訓練效率和推理性能大幅提升。中國電信此前在京津冀、長三角建成的國內(nèi)首批全液冷萬卡池,保障了智能算力的供給量。此次在粵港澳大灣區(qū)樞紐節(jié)點建設首個超節(jié)點形態(tài)集群,標志著中國電信智能算力供給實現(xiàn)了質(zhì)與量的雙重跨越。

智算 N 騰超節(jié)點具有四大核心優(yōu)勢,引領(lǐng)了智算的新潮流。首先,通過架構(gòu)升級和軟件優(yōu)化,大幅提升了訓練和推理性能。相比 910B,NPU(神經(jīng)網(wǎng)絡處理器)間高速互聯(lián)帶寬提升了 14 倍,模型切分并行域提升了 48 倍,訓練場景效率提升了 2.7 倍,推理場景單卡吞吐提升了 20 倍以上(疊加大規(guī)模專家并行和 PD 分離技術(shù))。其次,云網(wǎng)融合帶來了運力優(yōu)勢。中國電信提供了超低時延、超高安全、超快傳輸?shù)倪\力保障,通過全光 400G 運力網(wǎng)絡打造了華南地區(qū) 10 毫秒、廣東地區(qū) 5 毫秒、大灣區(qū) 3 毫秒的超低時延運力底座,實現(xiàn)了智能算力的高速互聯(lián)。此外,通過量子技術(shù),保障了數(shù)據(jù)安全傳輸。同時,利用超算快線打造了高達百 G 的敏捷彈性、任務式服務的算力傳輸能力。最后,依托“息壤”一體化智算服務平臺的能力優(yōu)勢,中國電信將智算 N 騰超節(jié)點納入全國算力體系,為全國提供服務。同時,結(jié)合大灣區(qū)通算、智算、超算層次化布局,面向用戶提供訓推一體、云智一體、超智一體能力,服務于千行百業(yè)。

此外,作為粵港澳大灣區(qū)首個大規(guī)模全液冷智能算力數(shù)據(jù)中心,中國電信全面應用了綠色低碳技術(shù),100%使用綠電,PUE 小于 1.15。同時,采用了數(shù)字孿生、AI 等先進技術(shù),打造了全程數(shù)字化智慧運營管理能力,

微信掃描分享本文到朋友圈
掃碼關(guān)注5G通信官方公眾號,免費領(lǐng)取以下5G精品資料
  • 1、回復“YD5GAI”免費領(lǐng)取《中國移動:5G網(wǎng)絡AI應用典型場景技術(shù)解決方案白皮書
  • 2、回復“5G6G”免費領(lǐng)取《5G_6G毫米波測試技術(shù)白皮書-2022_03-21
  • 3、回復“YD6G”免費領(lǐng)取《中國移動:6G至簡無線接入網(wǎng)白皮書
  • 4、回復“LTBPS”免費領(lǐng)取《《中國聯(lián)通5G終端白皮書》
  • 5、回復“ZGDX”免費領(lǐng)取《中國電信5GNTN技術(shù)白皮書
  • 6、回復“TXSB”免費領(lǐng)取《通信設備安裝工程施工工藝圖解
  • 7、回復“YDSL”免費領(lǐng)取《中國移動算力并網(wǎng)白皮書
  • 8、回復“5GX3”免費領(lǐng)取《R1623501-g605G的系統(tǒng)架構(gòu)1
  • 本周熱點本月熱點

     

      最熱通信招聘

    業(yè)界最新資訊


      最新招聘信息