科技日报记者 朱虹 实习生 索瑞霞
当AI大模型可以自主完成极为复杂的攻击过程，网络防御还能单纯依靠堆大模型参数来守住防线吗？
9月16日，正值2026年国家网络安全宣传周电信日，一场以“从网安超级模型到网安超级智能”为主题的技术报告会在哈尔滨工业大学先进技术研究院举行。
当前，大模型技术高速演进，人工智能正在深度改写网络空间的攻防逻辑。何为真正可用的网安防御智能、如何走出适配国内场景的网安超级智能建设路径，成为本次研讨的核心议题。
攻防博弈格局发生深刻变化
“新技术正在整体改写网络空间对抗范式。”安天科技集团董事长、首席技术架构师肖新光认为，“网安超级智能并非单一超大模型。”
技术实践已经揭示出AI自主攻击能力不再是科幻，而成为现实。AI赋能的攻击能力不只是批量化的漏洞挖掘，而是可完全自主完成目标选择、攻击代码编写、初始侦察、投放利用、持续控制、横向移动等完整攻击杀伤链，攻击自动化程度大幅提升，留给防御端的响应窗口被持续压缩。
站在国家安全视角，肖新光归纳出四类典型风险：外方推动人工智能武器化用于网络作战；黑产组织借助AI实施犯罪活动；产业依赖境外模型带来信息泄露综合隐患；模型和智能体重大失误，甚至越狱、失控。
安天科技集团高级副总裁、首席技术官关墨辰提到一起真实生产安全事故，直观体现出智能体带来的新型风险。代码智能体曾发生误操作，短短数秒删除生产环境数据库，造成业务长时间瘫痪。“智能体的风险后果比针对模型的数据投毒、提示词注入等更为直接，由于智能体具有真实环境权限、能够调用工具、访问真实业务，仅依靠提示词这类软约束，无法杜绝越狱行为。”关墨辰表示，必须配套工程层面的硬性管控手段，来强化“模型+智能体”在严格受控下完成任务的能力。
构建自主先进可控网安智能体系
“网安智能能力可以看作一套相乘关系的综合体系，最终能力水平由模型、智能体挽具、上下文工程、工具集、目标场景资源和治理工作流共同决定”肖新光提出，模型能力仅仅是整套能力的底座和起点，既要能对抗无底线的攻击，自身又要有极强的安全约束。想要实现真正的网安超级智能，还需要完善观测接入、状态建模、策略求解、处置执行、效果验证和安全控制的一整套机制。
要搭建起完整的安全智能体系，首先就要破解仿真交互训练、高质量安全数据集不足的现实瓶颈。在本次研讨中，中国人民大学赵鑫教授的研究也指出，大规模可验证的安全训练素材稀缺，已经成为制约安全智能体迭代的一大障碍，业界也在探索借助世界模型，降低重型仿真环境带来的高昂资源开销。
与此同时，大模型与生俱来的幻觉问题，会直接干扰安全研判结果的可靠性。想要让智能体研判有据可依，离不开外部知识体系的约束。南京大学夏睿教授团队的研究，便尝试利用知识图谱对齐推理路径，以此改善大模型推理的可解释性。
“面向防御场景发展网安超级智能，必须守住三条核心底线：目标受限、权限受控、全程可审计。”肖新光强调，“不能一味追逐模型参数指标，发展网安智能的核心目标是切实改善网络安全状态，不能幻想有了通用大模型就能解决全部防御难题。”他说。
与会专家达成共识，发展网安超级智能，必须跳出“模型唯大论”，要发展网安垂域模型与防御场景深入结合。网络安全是强对抗领域，不能寄希望依靠通用大模型解决全部防御问题，要立足防御场景构建智能体系，要坚守目标受限、权限受控、全程可审计的底线。安全能力无法靠外包获取，必须掌握在自己的手中，要把高校的基础算法创新，同产业一线对抗实战经验深度结合，面向国家重大安全需求持续迭代打磨体系化防御能力。
网友评论
