破解AI“后门”困局 专家呼吁构建自主可信防护体系

2025-09-23 22:47:54 来源: 科技日报 点击数:

科技日报记者 薛岩

9月21日至23日,第九届(2025)国家信息安全与自主可控战略高层论坛在京举行。本届论坛聚焦“芯片数据后门”“系统隐蔽操控”等关键网络安全议题。中国工程院院士沈昌祥在会上指出,信息技术领域的安全隐患已成为智能时代网络安全防护的重点攻坚方向。

论坛上,芯片与系统“后门”的潜在风险成为专家们关注的焦点。中国长城互联网中心总工程师贾利滨表示,芯片“后门”对人工智能正构成严重威胁。若不加以解决,将极大制约人工智能在装备制造、情报分析等领域的落地应用。

更值得警惕的是,这些“后门”具备高度隐蔽的“远程加载与执行”能力,可在用户无感知状态下解码并执行加密程序,甚至能依据系统地理位置代码启动差异化监控。

中国工程院院士沈昌祥强调,“后门”本质上是突破安全边界的隐蔽通道,其危害具有层级性与传导性。芯片与系统作为信息基础设施的根基,一旦存在后门,人工智能的算力、算法、数据三大核心要素都可能被操控,轻则导致系统功能异常,重则会引发数据泄露甚至系统瘫痪等重大安全事故。

贾利滨强调,传统安全防护体系难以有效应对此类隐患。“当前数据定密主要基于人类可理解的‘密点’,但芯片与系统后门可以通过向量、参数等隐性形式传输敏感信息,现有技术手段难以精准识别与管控。”他表示,这种技术特性使得后门危害更具隐蔽性,对国防等高危领域的安全构成严峻挑战。

中国科学院信息安全国家重点实验室主任吕述望从系统层面分析认为,计算机信息系统的“人机属性”决定了安全责任不可或缺。芯片与系统后门的存在,本质上是技术主导权与安全控制权的失衡,必须从根源上建立有效防护机制。

面对后门隐患,如何应对并维护网络安全?专家们一致认为,构建自主可信技术体系是破解难题的关键。沈昌祥介绍,我国自主研发的可信计算3.0体系已形成完整产业生态,通过构建主动免疫防护机制,可在不修改应用程序的前提下实现动态安全防护。目前,该体系已应用于国家电网调度系统,有效抵御了包括后门攻击在内的各类安全威胁。

贾利滨呼吁,应加快成立跨领域联合实验室,集中产学研用力量攻关隐性数据定密、后门检测等技术,“尤其要针对人工智能时代的技术特性,建立覆盖芯片、系统、模型的全链条安全标准”。

论坛展示的信息安全成果显示,目前已有多个自主可控的芯片与系统产品在落地应用,通过内置可信根技术从硬件层面阻断后门通道。业内人士表示,随着等级保护2.0标准中可信计算要求全面落地,我国正逐步构建起“技术自主、标准引领、防护主动”的安全屏障,为智能时代的软硬件安全提供保障。

责任编辑:陈可轩
网友评论
最热评论
没有更多评论了

抱歉,您使用的浏览器版本过低或开启了浏览器兼容模式,这会影响您正常浏览本网页

您可以进行以下操作:

1.将浏览器切换回极速模式

2.点击下面图标升级或更换您的浏览器

3.暂不升级,继续浏览

继续浏览