科技日报记者 付丽丽
日前，香港大学与全球网络安全联盟（GCSA）宣布联合成立“人工智能与网络安全研究所”（Centre for AI and Cybersecurity Research）。研究所将整合双方在人工智能与网络安全领域的科研与专业资源，推动前沿研究，促进科研成果与真实安全场景深度融合，并探索AI与网络安全领域的新技术、新方法及治理框架。
研究所由港大计算与数据科学学院网络安全讲座教授陈浩担任署理主任。陈浩长期从事AI安全与软件安全研究，并曾担任腾讯安全实验室主任，兼具学界与产业界背景。研究所将汇聚来自港大、全球网络安全联盟及国际合作机构的研究人员，并邀请人工智能、网络安全及科技治理领域的专家参与研究和咨询，推动跨学科、跨机构合作。全球网络安全联盟作为聚焦AI与Web3新型威胁的国际组织，将为研究所提供产业场景与国际网络支撑。
研究所确立四大研究方向：模型原生安全与可信AI，着力提升大模型与生成式AI的安全性、可解释性及稳健性；AI驱动的自动化威胁防御，应用AI增强对复杂网络攻击的感知与自动化防御能力；前沿技术安全评估，针对具身智能、机器人及物联网等新一代技术的潜在风险开展评估；全球AI安全标准与治理，研究AI安全评估标准与治理机制，推动相关国际交流与合作。
陈浩表示，人工智能的快速发展带来了新的安全风险与治理挑战。研究所将连接学术研究、安全测试与产业实践，通过跨学科和国际合作，推动人工智能安全研究成果的转化与应用。研究所还计划逐步发布AI与网络安全研究成果、安全基准及开源工具，促进学术研究与产业实践相结合。
网友评论
