科技日报记者 崔爽
近日，阿里巴巴集团与清华大学签订协议，启动智能体与多模态安全产学研深度融合专项合作。此次合作为期5年，双方将聚焦中国AI用户在真实应用场景中面临的核心安全挑战，首批启动6个课题。
中国科学院院士张钹表示，清华大学与阿里巴巴集团启动重大研究专项，旨在通过“从0到1”的基础理论与“从1到N”的产业场景深度融合，协同攻克多模态安全核心难题，筑牢下一代人工智能发展的安全基石。
中国工程院院士戴琼海表示，双方携手攻关“智能体与多模态安全”，将合力贯通“创新策源”与“产业转化”，是AI领域产学研深度融合的关键之举。
据介绍，双方将围绕两大方向展开系统性研究：一是大模型自身的安全问题，包括价值观对齐等基础安全能力；二是以大模型为核心驱动的智能体应用安全，涵盖AI智能体在人机交互、自主决策、多模态环境中的行为可信性、隐私保护与风险防控。项目将研发“AI智能体安全中枢”“高阶大模型内生安全架构”等关键技术，构建从底层模型到上层应用的全栈安全体系。
阿里巴巴集团副总裁钱磊表示，清华大学拥有国际领先的AI科研能力，阿里巴巴具备丰富的AI应用场景和实践经验，此次产学研合作实现优势叠加。双方将围绕“负责任科技”理念开展前瞻性研发，并通过开源开放生态惠及全行业。
据了解，阿里巴巴集团与清华大学在安全领域的产学研合作由来已久，自2021年以来，双方联合研究累计完成近20个科研课题，在多个国际学术会议发表近20篇高水平论文，多项技术从实验室创新转化为产业级应用；其间，通过联合培养博士后、设立研究型实习岗位、共建学术交流平台等方式，向行业输送高素质复合型人才。
（主办方供图）
网友评论
