科技日报记者 龙跃梅 通讯员 侯海霞
4月26日,全球首个商用智算昇腾超节点在中国电信粤港澳大湾区(韶关)算力集群正式发布并商用上线,标志着新一代智能算力注入粤港澳大湾区国家级算力枢纽节点。
“昇腾超节点采用新型高速总线架构,天然适配混合专家模型(MOE)架构,使得大模型训练效率和推理性能大幅提升,标志着中国电信智能算力供给实现质与量的双重跨越。”中国电信集团有限公司党组书记、董事长柯瑞文在致辞时介绍道。
华为公司董事、质量流程IT总裁陶景文介绍,该超节点采用了全新一代昇腾AI基础软硬件,结合高速主线互联,打造了具备大规模、高性能、高可用的特点。超节点的架构突破了计算机的多项瓶颈,使用TB级全互联带宽、内存统一编址、统一通信协议等前沿技术,使训练效率提升了2.7倍;同时,运用了大规模专家并行系统并行推理集群解决方案,通过多专家负载均衡和极致通信优化,实现了高吞吐和低时延,大幅度地提升了推理效率,能够满足未来千亿乃至万亿级的MoE大模型的训练可推理需求。
据悉,智算昇腾超节点具有通过架构升级和软件优化大幅提升训练和推理性能、云网融合所带来的运力优势、依托“息壤”一体化智算服务平台能力优势以及弹性、绿色、智慧的AIDC等四大核心优势。作为全国一体化算力网络在华南地区唯一的枢纽节点,韶关集群依托昇腾超节点的标杆效应,正加速形成“技术—产品—产业”协同联动的创新生态。
当前,韶关正举全市之力推进数据中心集群建设,一大批头部企业项目纷纷落地动工建设投产,数据中心集群产业生态日益完善。四大运营商、腾讯、万国数据、中联数据、中电鹰硕、华韶等行业头部企业均已入驻,韶关算力集群总投资规模超600亿元,千亿级电子信息和大数据产业集群已初现雏形。目前,韶关已建成6.74万标准机架、具备5.06万P智算承载能力,规模为华南之最。