胡定坤
日前，澳大利亚总理安东尼·阿尔巴尼斯证实，今年6月，该国公共卫生服务部门网站曾遭著名人工智能（AI）企业OpenAI的一款智能体入侵，OpenAI直到8月才发现问题，9月10日才就此通知澳政府。澳方称，这是全球已知首个政府网站遭智能体入侵的案例。
事实上，今年以来，全球已有20多起AI失控后攻击第三方系统的事件见诸报道，涉及OpenAI、Anthropic、谷歌、Meta等多家知名AI企业。不过，这些事件的“受害者”大多是一些企业网站。比如，今年7月，OpenAI的某个先进大模型在内部评估中“越狱”，攻击了开源模型托管平台“抱抱脸（Hugging Face）”；随后，Anthropic也发现其大模型在网络安全测试期间失控，入侵了多家企业的网络系统。此次本应拥有更高网络防御水平的澳政府网站也被AI入侵，且“神不知鬼不觉”，两个月后才被发现，这进一步加剧了全球对于AI失控并危害网络安全的担忧。
应对AI带来的网络安全挑战，既要筑牢规则的“防火墙”，也要锻造技术的“杀手锏”。一方面，为了防止AI成为“加害者”，从规则入手，为AI的发展立规矩、划红线，已是当务之急。企业层面，此次事件暴露出OpenAI阻挡AI失控的围栏不够高、发现失控情况不够及时、事件通报较为滞后等问题。各国头部AI企业需强化对AI失控的预防、监控、处理、通报等工作，并积极总结有价值的经验教训。国家层面，主要AI研发国家也是时候着手研究防范AI失控的治理规则与技术标准，结合本国发展实际，制定适合自身的监管政策。国际层面，各国有必要围绕AI监管与治理积极开展对话与合作，探索制定防范AI失控的国际规则，以及相关网络安全事件的跨国通报、共享、调查机制等。
另一方面，为了避免成为AI失控的“受害者”，加强技术防范，特别是利用AI技术加强网络防御，已迫在眉睫。AI驱动的网络攻击能够以远超人力的速度发现并利用系统漏洞，传统防御措施难以应对，只有以“AI之盾”才能有效抵御“AI之矛”。例如，“抱抱脸”正是通过使用中国GLM-5.2大模型，才实现了“与攻击者匹配”的防御速度。今年以来，美国、欧盟、英国、日本等均已提出将AI技术用于网络防御的计划。
目前，全球AI发展日新月异，大模型能力突飞猛进，防范AI带来的网络安全风险刻不容缓。科技企业要担起社会责任，守住AI研发的安全底线。主要AI研发国家则应坚持“安全与发展并重”的原则，加快完善治理体系，积极开展相关国际合作，并通过技术开源等方式为全球提供网络防御工具。通过规则与技术双轮驱动，国际社会同向发力，人类定能在享受AI红利的同时，维护网络空间的安全与稳定。
网友评论
