科技日报记者 崔爽
4月29日，第八届数字中国建设峰会数字经济分论坛在福建福州举行。全国工商联副主席、奇安信集团董事长齐向东在主题演讲中表示，新技术是把双刃剑，大模型应用一端连着机遇，一端连着挑战，面对大模型应用的三重挑战，需抓住“接入放心用”“权限强管控”“严把内容关”“杜绝新隐患”“运营可闭环”五个关键，筑牢人工智能的安全底线。
当前，人工智能大模型应用迎来大爆发，从直接部署的基本应用、特定场景的增强应用、垂直领域的专业应用，再到特定领域的深度应用，政企机构正在大模型的驱动下，焕发出澎湃生产力。然而，新技术犹如一把双刃剑，在带来机遇的同时，也面临着诸多挑战。在齐向东看来，大模型应用面对的安全挑战有三重。
第一重挑战是“小数据”一失万无，“小数据安全”成为数字经济时代的核心关切。过去，人们谈及数据多是大数据，规模庞大但质量参差不齐，价值挖掘困难。如今，借助人工智能大模型，企业通过对设计、生产等数据进行加工处理，形成精华“小数据”，这些“小数据”成为企业核心竞争力所在。但一旦“小数据”被窃取、泄露或篡改，企业多年积累的优势将瞬间崩塌。
第二重挑战是大模型融通百业，“裸奔”上线极有可能引发业务停摆的链式危机。当大模型深度融入智慧城市、工控系统、智慧政务等关键领域时，会将风险串联成网。
第三重挑战是对AI过度依赖，善恶真伪难辨别，一旦大模型决策失准会引发“蝴蝶效应”。从外部攻击视角看，黑客可以通过漏洞利用、数据投毒等方式，干扰大模型决策；从内部运营视角看，如果内部员工在更新知识库时引入错误信息，会污染模型学习环境，使其输出错误结论。
为此，齐向东提出筑牢AI安全的“五个关键”。
首先是接入放心用，构建大模型安全“红域”形成多维度边界隔离。奇安信提出安全“红域”概念，将大模型应用涉及的数据、算力、平台、应用以及域内管理的终端及人员划归到专属安全空间中进行防护，为大模型应用落地清风险。
其次是权限强管控，以用户身份为新边界开展网络和数据安全防护。通过堡垒机、“零信任”等技术措施，对开发、训练等相关特殊人员和终端进行增强式安全管控。
三是严把内容关，构建贯穿大模型全生命周期的内容安全治理机制。通过强化监测审计，实现对大模型的核心数据管控。
四是杜绝新隐患，以实战为导向加强大模型应用安全评估。通过实战化评估方法，对大模型安全、大模型内容安全、智能体安全、大模型组件安全以及大模型运行环境安全等方向进行全面检测评估，验证安全策略有效性。
五是运营可闭环，做到对安全威胁的实时监测和应急处置。把AI能力嵌入研判、调查、响应、报告、狩猎、策略创建等安全运营工作，实现大运营与AI的有机结合。
齐向东表示，奇安信将深挖优势，“以AI驱动安全”，助力构建数字经济安全新生态。
