科技日报记者 薛岩
企业如何保证系统内部运行的人工智能技术是经过认证的，大模型是否稳定可靠且没有受到安全攻击，人工智能决策会不会被他人劫持……在近日举行的思科2025科技创新人工智能峰会上，与会专家们围绕上述议题展开讨论。
思科大中华区资深副总裁兼首席技术官侯胜利认为，近年来，随着各大企业加速部署人工智能应用，大模型、技术架构、相关应用、基础设施正在面临新的安全攻击。要想让人工智能应用真正落地，除了需要考虑算力因素外，还应注意到安全隐患。
对此，侯胜利提出了构建“连接”和“守护”两大能力体系的人工智能安全防护战略。他介绍，以网络连接为例，思科推出了三级架构解决方案，包括搭建智算中心网络、分布式人工智能网络以及云原生网络平台，通过多维度技术解决方案和管理体系提升全链路安全防护能力。
在数字化时代，人工智能安全是企业发展的重要基石，是保障企业数据资产安全的重要手段。思科全球副总裁兼大中华区首席执行官黄志明表示，为了维护企业的人工智能安全，思科将从基础设施、数据、产品、服务等方面提供安全保护。
“例如，围绕基础设施建设，我们将通过人工智能原生高密度交换设备、智能网络管理、高性能光模块等，为企业打造更快、更灵活、更安全的人工智能基础网络，并重塑数据中心运营，提升与人工智能负载的协同效率；围绕数据建设，我们将与机器数据引擎平台深度融合，助力客户全面洞察网络、安全、业务数据。”黄志明说。
近两年来网络安全最大的变化之一，就是生成式人工智能的普及。“技术革新也催生出了新的网络攻击形式，包括智能钓鱼、自适应恶意软件等。”思科大中华区副总裁兼安全事业部总经理卜宪录说。
在他看来，企业难以应对人工智能安全的难点在于，人工智能应用系统往往分散部署在多个业务部门之间，涉及的数据链条复杂，使得统一管理难度加大。
针对企业如何系统性加强人工智能安全防护，卜宪录给出了一个“三步走”的路线图。第一步是“发现”，明确公司内部网络中存在的人工智能应用种类，包括员工是否使用了未经授权的人工智能工具；第二步是“检测”，识别这些人工智能系统可能存在的漏洞、风险点；第三步是“防护”，构建系统的安全机制，重点应对人工智能技术带来的新型攻击手法，比如提示词攻击、幻觉内容生成、敏感数据在对话中被无意泄露等。
