中國移動研究院創(chuàng)新提出基于光傳送網（Optical Transport Network，OTN）的智算分布式協(xié)同架構，攜手業(yè)界合作伙伴構建了基于OTN互聯(lián)的智算分布式協(xié)同原型系統(tǒng)并完成理論仿真和實驗研究，相關成果近期被全球光通信領域頂級學術會議European Conference on Optical Communications（ECOC）2024錄用，是揭示OTN傳輸和組網技術承載智算拉遠可行性的首篇學術成果。
隨著ChatGPT、Sora、Gemini等基礎大模型應用涌現(xiàn)，以智算為代表的新型基礎設施已成為新質生產力發(fā)展的重要引擎。伴隨智算中心規(guī)模向超萬卡演進，機房空間及供電需求迅猛增加，單節(jié)點集中部署面臨巨大挑戰(zhàn)，分布式協(xié)同部署是潛在解決方案。而如何將分布式部署的智算機房進行協(xié)同調度，充分發(fā)揮算力資源的最大效能，是業(yè)界亟需研究的關鍵問題。
中國移動面向智算分布式協(xié)同場景，開展基于OTN的智算分布式協(xié)同架構技術創(chuàng)新，并首次完成2-100公里不同距離多場景下OTN承載分布式智算技術試驗。在試驗中基于400G OTN互聯(lián)的兩個智算集群上運行百億級參數(shù)的大型基礎語言模型，詳細論證研究了互聯(lián)距離、帶寬變化、光纖閃斷、鏈路誤碼等因素對計算效率的影響。首次揭示了訓練效率劣化與拉遠距離基本呈線性關系，并通過充分發(fā)揮OTN大帶寬、穩(wěn)定低時延、高可靠等傳輸和組網技術特點，在100km的拉遠距離下實現(xiàn)了訓練效率僅劣化3.75%的高效協(xié)同訓練，為分布式智算技術演進提供了全新理論依據(jù)和詳實試驗數(shù)據(jù)。
基于OTN互聯(lián)的智算分布式協(xié)同創(chuàng)新是實現(xiàn)跨智算集群協(xié)同訓練的潛在技術方案，本次高水平論文成果的發(fā)表，是首次以試驗方式定量揭示了基于OTN的智算拉遠技術性能和變化規(guī)律，后續(xù)需進一步推進產學研在跨智算集群協(xié)同技術方面的深度協(xié)同，構建分布式智算中心新模式。
