科技日报记者 崔爽
11月8日，2025年世界互联网大会乌镇峰会人工智能技术创新与治理论坛在浙江乌镇举行。
奇安信集团总裁吴云坤在题为“守住安全底线 保障AI创新发展”的主题分享中表示，安全是AI的底线和红线，也是AI发展的基础和前提，AI创新必须管住“框、数、人、链”四个关键环节，核心方法是系统性、体系化地构建AI全生命周期的安全体系。
首先对AI应用进行场景化防护，管好“框”和“人”。围绕AI应用及其场景部署大模型卫士，构建“管控-检测-溯源”三位一体的防护体系，实现对大模型系统内外部用户访问与交互的全流程管控，达成“管得住、看得清、防得稳”的防护目标。
其次是对AI核心数据资产重点防护，管好“数”。围绕保护核心数据资产，构建“大模型安全护栏”，从“强基础、控权限、审数据、拦攻击”等多个维度构建纵深防御与监测能力，对大模型系统进行防护，控制数据安全风险。
据了解，奇安信投入资源成本训练安全模型，积累关键和核心数据资产，通过构建“大模型安全护栏”，对SFT（有监督微调）数据、标注数据、模型文件、评估集等核心数据资产进行强化防护，守护住模型训练成果。
最后是强化AI全生命周期的安全评估，管好“链”。秉持“安全左移”理念，将安全评估与风险管控贯穿大模型研发、部署、运维全生命周期。在开发阶段，通过代码审计、代码修复确保模型安全；在上线前，通过实战攻防演练检验应用安全；在运行中，持续监测模型的输出异常、数据泄露风险确保业务安全。
据悉，本次论坛由中央网信办网络管理技术局发起，中国科学院、中关村实验室主办，中国科学院计算技术研究所、中国网络空间安全协会、百度公司协办。来自中央和国家机关、中央新闻网站、国内外专家学者及互联网企业等各界代表参会，共商AI技术创新与治理之道，为行业健康发展注入新动能。
（主办方供图）
网友评论
