科技日报记者 吴纯新 通讯员 邹子聪
9月20日,在湖北省算力产业生态大会上,湖北大数据集团词元交易中心正式发布。这是面向企业级用户的大模型服务统一管理平台,企业一次接入,即可调用平台已上架的200余款模型服务。综合测算,可为企业节约15%至30%的用模成本。

“企业使用AI普遍遇到模型获取难、使用成本高、分级管控难、安全保障难等一系列经营问题。”业内专家指出,当前企业缺的不只是一个模型,而是一套把模型用起来、管起来、算明白的服务体系。
针对这些痛点,湖北词元交易中心给出了“聚合-网关-调度-看板”四道解法。
该中心将200余款模型服务集中到一个入口,企业一次接入,即可按模型类型、服务商、能力等条件筛选、试用和调用。其通过统一协议与单点登录,实现密钥托管、内容过滤、全链路审计等安全保障,把分散在不同服务商之间的安全管理能力集中起来。
同时,智能路由为每一次调用择优选型,语义缓存让每一个词元物尽其用,故障转移保障业务连续不断线,综合测算可节约企业15%至30%的用模成本。词元消耗量和费用可按组织、部门、项目、个人等多维度查看,并提供预算、配额、异常检测和报表管理。企业不必等到月底面对一张“AI总账单”,随时可以拆开来看:谁在用?用了什么?花了多少?一目了然。
此外,依托湖北大数据集团建设运营的湖北算力互联互通平台、湖北省人工智能公共服务平台、中部数据流通服务中心等省级平台能力,湖北词元交易中心把算力调度、数据流通、模型服务和交易撮合连接起来,打通模型供给、词元计量、统一结算、供需对接等环节,让AI能力像商品一样可选、可购、可计量、可流通。
湖北大数据集团数据开发公司相关负责人介绍,今后,企业在平台买词元就像充话费一样,可以根据自己的需求去选择。
目前,该中心已上架200余款模型服务,汇聚326家生态伙伴,将算力、数据、模型和应用放到同一条链路上:算力提供“生产能力”,数据提供“生产资料”,模型负责把资源转化为实际的AI能力。以国家算力互联互通区域节点为底座,湖北词元交易中心可将分散的AI需求汇聚到同一条链路上。
未来,该中心还将持续丰富模型供给、优化智能调度能力、强化安全防护,并深化与算力互联互通平台、模型厂商和行业伙伴的合作。
(受访单位供图)

网友评论