暴论求打脸：在10年时间尺度上，中国大模型能力将反超美国公司。
读了字节万卡集群的report，后知后觉地意识到大模型训练的核心技术是通信和分布式系统设计（对应MFU和stability）而不是单张显卡的能力。换句话说，从极限角度看，对于大规模训练集群，半导体制程工艺上带来的单卡算力劣势，是可以被卡数+通信和分布式系统工程能力弥补的（e.g. 理论上20万张910B是和1万张H100不相上下的）。如果这个核心假设成立，那中国拥有：
1. 世界上最大的分布式系统试验田与人才积累
2. 遥遥领先的通信技术
3. 世界唯一的国家级基建能力与地理资源去突破大集群的能源壁垒
因此，在10年时间尺度上看，是能在集群compute(=intelligence)上追上甚至领先美国的？