科技日报记者 操秀英
2026年国家网络安全宣传周人工智能安全治理论坛近日在山东济南举办。腾讯集团副总裁、总编辑朱殿君出席论坛并分享AI安全治理实践。他表示，当前人工智能能力高速迭代，新型网络攻击已从大模型自身安全延伸至感知、记忆、决策执行等场景，传统网络安全边界被打破，AI推理链路成为新的安全边界。面对复杂的攻防博弈形势，腾讯已构建覆盖模型、数据、权限与应用的多维内生安全体系，从模型安全、智能体安全到安全赋能三层发力，为用户提供安全可靠的人工智能服务。
大模型是AI能力的源头，也是安全的基础防线。朱殿君介绍，腾讯混元大模型已深度融入WorkBuddy、元宝等核心业务，近期发布并开源的新一代大语言模型HY 4 preview，在代码与复杂工程处理、智能体长链任务处理能力上显著提升，已在编程、办公、科研等场景落地应用。
朱殿君认为，模型能力越强，安全责任越重。腾讯围绕训练、推理、应用三个阶段，搭建起全生命周期、分层治理的安全架构：训练阶段通过安全隔离区实现计算资源物理隔离，确保训练、推理、清洗各环节数据互不干扰，避免训练数据与模型文件泄露；推理阶段基于可信硬件构建可信执行环境，通过主机安全防护、运维操作审计等技术手段，叠加红蓝对抗演练与外部安全众测，保障推理过程中信息不被窃取、篡改和破坏；应用阶段以自研大模型应用防火墙为底座，对输入输出数据开展全量检查，构建覆盖提示词注入、算力滥用、接口越权、流量攻击等威胁的多维度防护，同时通过自主安全风控平台，从违法违规、虚假谣言、科技伦理等维度过滤内容风险。
在智能体应用层面，腾讯已建成覆盖个人与企业、端侧到云端的智能体产品矩阵，并依托自身安全积累打造了技术防御、管理管控、合规审计三层纵深防御体系。面向企业端，WorkBuddy办公智能体、CodeBuddy编程助手、马维斯（Marvis）等产品深度融入客户生产研发流程，近期上线的WorkBuddy开放平台已引入超100家生态合作伙伴，覆盖金融、法律、医疗、教育等20余个领域；面向个人端，元宝、微信小微等产品让AI能力触达日常沟通协作场景。
在安全防护上，第一道技术防线为智能体构筑“安全沙箱”，清晰划定系统资源访问边界，实时拦截异常操作；第二道管理防线实行敏感操作逐项授权机制，所有操作全程留痕可追溯，数据不经第三方中转；第三道合规防线聚焦第三方技能供应链安全，严格执行“预检—分析—跟踪—处置—审计”五步闭环，对高安全等级客户提供物理级隔离专享环境，实现代码与数据“零泄露”。
针对AI时代全行业的安全痛点，腾讯还输出了覆盖全链路的AI安全工具箱，构建端云协同、开放共享的安全产品体系。朱殿君介绍，腾讯以“可视、可控、可信、可溯”为核心原则，打造了以iOA零信任安全管理系统、AIAgent安全中心、大模型应用防火墙、AIAgent安全网关和NDR流量安全检测为核心的安全组件体系，系统化解决智能体在推理防护、运行管控等环节的安全风险。近期推出的CodeBuddySecurity安全产品，已在多个知名开源项目中挖掘出0day漏洞，可为企业提供代码级深层次安全保障。
“置身AI浪潮之中，腾讯始终坚持以安全促创新、以治理赢信任、以开放谋共赢。”朱殿君表示，腾讯将持续通过体系化的安全防护、严格的数据保护和负责任的AI治理，不断夯实自身安全能力，与产业各界携手共建安全健康的行业生态，以科技向善的初心守护人工智能变革行稳致远，为建设网络强国、数字中国贡献腾讯力量。
（受访者供图）
网友评论
