科技日报记者 崔爽
4月26日,全球首个商用智算昇腾超节点在中国电信粤港澳大湾区(韶关)算力集群正式发布,现已商用上线,标志着新一代智能算力注入粤港澳大湾区国家级算力枢纽节点。
目前,大模型的Scaling Law(规模定律)仍然生效,国内外主流基础大模型参数量持续增加,算力需求不断增加;大模型从稠密架构向混合专家模型(MoE)稀疏架构演进。基于以上特点,业界主流智算服务器在提升单卡算力的同时,正在从单节点向超节点架构演进。智算昇腾超节点采用新型高速总线架构,天然适配混合专家模型(MoE)架构,使得大模型训练效率和推理性能大幅提升。
据了解,智算昇腾超节点有四大核心优势:通过架构升级和软件优化,大幅提升训练和推理性能;云网融合带来运力优势;实现智能算力高速互联;依托“息壤”一体化智算服务平台能力优势,服务千行百业;利用低碳技术、数字孪生等打造弹性、绿色、智慧的AI数据中心。