科技日报记者 都芃
日前，浙江星流计算科技有限公司（以下简称星流计算）发布SerpForge AI模型训推平台，贯通数据处理、模型训练、效果评测、推理部署与应用反馈，支持用户基于自身数据和业务需求构建专属AI能力。
通用模型进入企业业务流程，往往还需适配专业术语、输出规范和具体任务。SerpForge将模型调优与业务反馈连接起来，为制造、金融、能源、医疗等领域的专业问答、文档生成、语音处理和智能体应用提供支撑，推动模型能力融入实际工作流程。
训练前，平台可检查数据重复、格式标准不一、隐私泄露、覆盖度与适配性等问题；评测环节，用户可围绕业务任务设置评测数据与达标门槛，未达标的模型将被拦截部署；模型上线后，业务人员的修改与评价经审核整理，进入下一轮训练，形成持续改进机制。技术团队可据此追踪实验过程，业务团队则结合场景评测与使用反馈判断模型表现，减少模型开发和应用验收之间的脱节。
平台采用LoRA插件化适配方式，在共享基座上训练不同任务插件，支持独立训练、评测和版本管理，由推理服务按请求调用，有助于减少重复部署完整模型的资源消耗。借助标准接口，模型服务可接入企业已有系统，配合智能体完成资料检索、内容生成等任务，再由业务人员审核确认。
面向智能体多轮交互与持续上下文处理需求，星流计算提出智能体原生计算架构，基于KV Cache语义的三级内存调度，使计算资源配置更贴合智能体任务的运行需求，为多轮交互与连续执行提供支撑。相关架构已与飞腾ARM服务器平台、国产加速卡、麒麟操作系统及自研软件协同，支撑全国产化部署与信创环境建设。
网友评论
