通信網(wǎng)banner.jpg)
2024年5月16日，中興通訊產(chǎn)品規(guī)劃首席科學(xué)家王衛(wèi)斌在浙江寧波舉辦的2024世界電信和信息社會日大會智算融合創(chuàng)新發(fā)展論壇上發(fā)表了題為《構(gòu)建開放解耦的電信級智算基礎(chǔ)設(shè)施》的演講，闡述了中興通訊在電信級智算基礎(chǔ)設(shè)施領(lǐng)域的創(chuàng)新成果和戰(zhàn)略布局。
中興通訊產(chǎn)品規(guī)劃首席科學(xué)家王衛(wèi)斌發(fā)言
王衛(wèi)斌強(qiáng)調(diào)，智算基礎(chǔ)設(shè)施是“Al+”時(shí)代的動(dòng)力引擎，對于推動(dòng)全行業(yè)智能化轉(zhuǎn)型至關(guān)重要。面對大模型參數(shù)規(guī)模的快速增長，構(gòu)建千卡乃至超萬卡級別的xLSC(Large Scale Cluster)智算集群成為智算基礎(chǔ)設(shè)施發(fā)展的必然選擇。
中興通訊提出Al Booster電信級智算基礎(chǔ)設(shè)施解決方案，旨在應(yīng)對xLSC千卡萬卡智算集群在高效、開放、高穩(wěn)、易維等方面的挑戰(zhàn)，以支撐大模型發(fā)展和GenAI廣泛應(yīng)用。
在“高效”方面，王衛(wèi)斌表示，提升單機(jī)算力密度是構(gòu)建LSC (Large Scale Cluster) /vLSC (Very Large ScaleCluster）大規(guī)模算力集群的基石。中興通訊采用了交換架構(gòu)互聯(lián)和大TP（>8）技術(shù)，有效構(gòu)建千卡/萬卡規(guī)模智算基礎(chǔ)設(shè)施。同時(shí)，異構(gòu)并行調(diào)度技術(shù)是uLSC（Ultra Large ScaleCluster）超大規(guī)模算力集群的，通過CoHC（Cluster of Heterogeneous Compute） 異構(gòu)算力集群和CoDC（Cluster of Data Center）跨DC集群混池訓(xùn)練實(shí)現(xiàn)向十萬卡智算基礎(chǔ)設(shè)施的演進(jìn)。
在“開放”方面，王衛(wèi)斌強(qiáng)調(diào)，開放的技術(shù)生態(tài)才能構(gòu)建共贏的商業(yè)生態(tài)，端到端開放解耦智算方案是產(chǎn)業(yè)良性發(fā)展的關(guān)鍵。為此，中興通訊提出了“三解耦一協(xié)同”的主張，即軟硬解耦、訓(xùn)推解耦、模型應(yīng)用解耦和算網(wǎng)協(xié)同。AI Booster的eMIG跨平臺模型遷移套件，提供包括精度對齊、算子對齊、代碼遷移和性能優(yōu)化等工具，可大大減少模型遷移時(shí)間。
在“高穩(wěn)”方面，AI Booster引入多級故障檢測、冗余Bypass、實(shí)時(shí)分布式緩存等技術(shù)，通過WLET（WorkLoad Elastic Training）彈性訓(xùn)練支持千卡無感自動(dòng)斷點(diǎn)續(xù)訓(xùn)，實(shí)現(xiàn)了超大規(guī)模集群的周級長穩(wěn)訓(xùn)練，大大減少了訓(xùn)練回滾時(shí)間。
在“易維“方面，Al Booste用Al管理AI，實(shí)現(xiàn)了智算基礎(chǔ)設(shè)施的高效運(yùn)維。通過全局可視化和管控動(dòng)化，Al Booster大大提高了運(yùn)維效率�？鐚佣说蕉嗽O(shè)計(jì)、腳本自動(dòng)生成、跨層拓?fù)鋵?shí)時(shí)還原等功能，使得運(yùn)維工作更加簡化和高效。
王衛(wèi)斌表示，中興通訊致力于構(gòu)建高效、開放、高穩(wěn)、易維的電信級智算基礎(chǔ)設(shè)施，以促進(jìn)大模型和GenAI的普及與發(fā)展。中興通訊將通過持續(xù)創(chuàng)新和開放合作，繁榮智算產(chǎn)業(yè)生態(tài)，筑路數(shù)字經(jīng)濟(jì)，推動(dòng)AI+新質(zhì)生產(chǎn)力的發(fā)展。
