科技日报记者 马爱平
7月17日，2026世界人工智能大会（WAIC 2026）在上海开幕。是石科技正式发布“国产Token优化工厂——拓元（Vectron）”。
是石科技创始人兼董事长闫博文表示，“拓元”的定位是把每一份算力变成稳定、高效的Token（词元）——同等算力投入下产出更多有效Token，同等大模型部署下实现更快的推理响应，同等显存硬件下超长上下文运行更稳。“拓元”的核心逻辑是“一套系统完成AI推理全链路优化”。在任务自适应层面，依托请求画像匹配最优计算链路，算力按需分配，减少资源浪费；在算子库层面，通过硬件专属算子融合编译，充分释放极限算力；在模型与推理框架层面，兼容主流国产硬件与大模型，异构深度调优，提升业务并发量；在异构集群调度层面，破除跨地域、多硬件算力孤岛，统一纳管调度，盘活闲置算力。
目前AI基础设施面临的效率难题主要包括，异构算力难以统一调度、大模型推理缺乏深度优化、长上下文导致显存与成本压力骤增、国产硬件生态适配成本高昂等。闫博文表示，针对这些痛点，“拓元”在结果感知驱动的KV Cache压缩、全模态推理的Token压缩、长上下文后训练优化、深度推理优化，以及智能体长程任务记忆机制五个方面带来了实质性突破。
截至目前，“拓元”已兼容10余款国产算力硬件，可适配20余个主流模型，每日Token吞吐量达到千亿级，服务客户涵盖互联网企业和头部大模型厂商，以及高端制造、航空航天、生物制药、新能源等行业，应用场景包括编程应用、文生视频、OPC社区（一人社区）、企业智能体等。
（受访者供图）
网友评论
