国产万卡集群效率 60–70%,差距在互联与软件栈
单卡参数之外,系统能力才是分水岭。公开对比显示,国产万卡集群的线性扩展效率约 60–70%,而英伟达 H200 集群可达 85–90%;要达到同等端到端训练效果,国产方案往往需要两倍以上的卡数。
三个原因:一是显存带宽与高速互联,昇腾 910B 带宽 1.6TB/s,H200 为 4.8TB/s;二是软件生态,CUDA 积累十五年,国产栈仍在补算子与通信库;三是制程代差。
迁移成本同样可观:大规模 MoE 训练从 CUDA 迁到国产平台,需重写分布式通信与融合算子,完整迁移通常三个月以上,人力成本增加 50% 以上。