海光信息携成果亮相中国计算机大会  以系统级优化提升有效Token产出

科技日报记者 刘侠 实习生 陈彦轩

10月22日，在成都举行的2026中国计算机大会（CNCC 2026）上，海光信息技术股份有限公司（以下简称海光信息）携全系芯片及解决方案亮相，并围绕“数聚驱动，智算未来”大会主题，分享面向Agent（智能体）高通量推理的系统级优化思路。

据了解，芯片峰值算力并不等于实际产出。计算等待、通信延迟等问题，都可能制约算力资源的利用。如何突破系统瓶颈，让更多算力转化为有效Token（词元），成为提升智能计算效率的关键。四川轻化工大学HPCC主任陈超指出：“衡量AI算力的应用价值，不能只看AI卡的数量，更要关注算力资源与实际任务的匹配效率。通过合理配置和高效调度，将算力精准投入教学、科研等实际需求，才能提高资源利用率，实现更有效的Token产出。”

上海基流科技股份有限公司产研副总裁顾茹雅接受记者采访时表示：“大模型推理性能不能仅看单一算力指标，还需要综合考量服务时延、请求吞吐、端到端吞吐以及长上下文处理能力，并结合服务稳定性、请求成功率和运营成本，建立更贴近实际业务需求的评价体系。”

同时，海光信息智算量化设计专家孙建鹏提出，Token高效吞吐需要统筹“算、传、存、调”全链路优化。在服务时延与成本约束下，通过计算、通信、存储和调度协同，减少资源空转与无效数据搬运，提升系统整体计算效率，让峰值算力更充分地转化为实际业务产出。“Token吞吐是系统整体效能的最终体现。随着大模型规模持续增长，单一芯片的性能优化已难以满足需求，需要从计算、通信、访存及软硬件调度等多个层面协同发力，推动芯片性能优势转化为实际业务产出。”孙建鹏表示。

面对高通量推理需求，CPU与智能计算芯片的协同价值愈发凸显。海光信息总裁助理兼智能计算产品部总经理杜夏威指出，Agent应用涉及复杂的任务编排、数据处理和资源调度，CPU在智能计算系统中的作用日益增强。同时，大模型训练与推理仍需要高密度并行计算支撑。两类计算需求相互交织，推动异构计算架构向深度协同演进。

此外，四川省自然资源数字科技有限责任公司首席技术官樊启武谈道：“国产算力的竞争力不在于单卡峰值性能，而在于工程适配、分级部署、系统稳定性与生态标准的协同。通过统一异构算力调度，坚持‘训练上移、推理下沉’，并加强软硬件适配，才能真正提升有效Token吞吐和实际应用效能。”

当前，依托CPU与智能计算芯片双芯协同，海光信息积极推动计算资源、数据传输、存储访问及任务调度的系统级优化，贯通应用、框架等多个层级，减少计算等待和资源闲置，提升复杂负载下的整体计算效率。

记者了解到，面向Agent时代，未来海光信息将持续深化双芯协同与软硬件系统级优化，推动国产算力从芯片性能提升向系统效能提升迈进，以高效、安全、可靠的计算能力，助力智能应用规模化落地。