科技日报记者 操秀英
10月12日，记者从绿盟科技2026年秋季大模型安全创新成果发布会上了解到，随着AI从“只会回答问题”迈向“零编排、目标驱动”的类Claw智能体时代，企业的AI治理重心已从“管住模型说什么”转向“约束智能体做什么”，AI安全的战场也随之从内容合规转入行为和系统控制层面。
在近日全国网络安全标准化技术委员会秘书处发布的《网络安全标准实践指南——智能体部署使用安全指引》中，首次为智能体从评估、部署到停用的全流程划出安全红线。作为该指南的起草单位之一，绿盟科技认为，该文件将成为企业采购、安全检查与责任认定的重要参照，智能体资产清点、权限最小化、高风险操作阻断、行为审计与长期记忆治理，正在从可选项变为必答题。
绿盟科技能力中心产品经理郭光正告诉记者，结合真实环境的实测结果，当前类Claw智能体主要存在三类风险：跨形态共有安全风险、Skills安全风险、沙箱逃逸风险。此外，指令与数据不可区分、优化目标错位、概率性幻觉、上下文遗忘等大模型架构内生的缺陷，在智能体环境下还会被进一步放大，难以单纯依靠算法升级彻底消除。同时，当AI从“只会聊天”的工具变成替员工干活的“数字员工”的时候，企业可能面临数据悄悄流出去、数字员工行为悄悄越界的处境。当数字员工自己拆任务、发邮件、查资料的时候，效率上去了，新的麻烦也来了。
绿盟科技AI安全产品总监李斌分析，要想让AI更安全地赋能自己的业务，智能体行为需要全链路审计，也就是说智能体从接到任务到每一步操作，全程记录、实时审计，出了问题能查清是哪个智能体、谁的授权、干了什么。“尤其是针对办公助理类智能体数据安全，我们需要让智能体读取和外发的文件先过‘安检’，敏感数据自动拦截或脱敏放行，员工下载的AI插件安装前先做安全检查，让员工放心用AI。”他说，还要统一管住企业调用大模型的入口和智能体访问内部系统的权限，让每个部门、每个智能体的用量和花费一目了然，超额自动“踩刹车”。
基于此，绿盟科技发布天元智衡AI红队智能体和清风卫AI-DR智能体安全产品和方案。前者构建“攻击方法库×风险插件库”正交矩阵，覆盖测评、风险挖掘、Skill白盒审计等全攻击面，量化攻击成功率并形成“测评—整改—复测”闭环，以攻促防，让每一次AI上线都经过红队检验。后者则让每一位AI数字员工有身份、有边界、有记录，让AI赋能业务安全落地。
郭光正告诉记者，在智能体高效赋能业务的同时，安全评估已从“可选项”变为大模型与智能体上线的“前置门槛”，而AI红队正是这一评估中借助工程化、确定性的对抗测试主动发现风险的关键环节。
网友评论
