科技日报记者 崔爽
作为连接算力、模型与应用的重要载体，Token（词元）正深度渗透全球产业应用。然而，目前行业存在Token种类多、计量计费规则不统一等问题，致使AI资源投入逐步演变为看不见、管不住的“价值黑洞”。
在此背景下，近日，由中国信通院人工智能研究所联合行业企业共同编制，联通数智核心参编的《人工智能词元（Token）运营管理能力要求》正式发布，旨在建立统一Token运营管理平台能力规范，为企业Token运营管理提供标准化依据。
据介绍，本规范聚焦Token运营管理平台，围绕资源纳管、服务管理、费用管理、运营分析和合规审计五大核心方向，形成Token运营管理平台的行业规范。
其中，资源纳管主要对算力资源、模型资源的统一管理提出要求；服务管理围绕异构模型服务的统一接入、协议适配与智能调度作出规定；费用管理为对Token全链路计量计费与账户资金管理提出相关要求；运营分析重点对资源等多维度数据的可视化监测与深度分析予以规范；合规审计主要包括用户权限管理、审计管理和安全管理，对Token使用行为的可信性、可追溯性提出规范化要求。
Token运营管理能力是保障AI服务透明规范、产业健康有序发展的关键支撑。据介绍，联通元景已建成一站式Token运营服务平台，依托多模共生多元选择、高效推理硬核实力、集约运营优质体验，打造Token全生命周期管理运营服务。其中，平台自研“算网模融合-模算融合-模型优化-多模融合”四维一体的高效Token推理框架，大幅提升模型推理算效比，可提供高性价比token运营服务。
平台还打造专业化、多元化的集约运营服务体系，提供模型上架、统一下单、计量监控等功能，全方位满足不同用户群体的使用需求。目前，平台已具备成熟完善的服务能力。
据了解，联通元景将构建覆盖Token全生命周期的标准化运营管理体系与评价准则，助力企业建立规范化、透明化、安全化的Token运营机制，进一步赋能AI应用落地普及与产业生态发展。
网友评论
