科技日报记者 华凌
近日，第五届人工智能安全国际对话（IDAIS）会议在英国皇家学会举办。图灵奖得主、清华大学人工智能学院院长姚期智，联合图灵奖得主Yoshua Bengio、清华大学智能产业研究院院长张亚勤、加州大学伯克利分校教授Stuart Russell等全球顶尖AI专家参会，并共同签署《IDAIS伦敦宣言》，聚焦防范AI赋能的网络攻击与生物滥用风险，呼吁全球协同治理AI安全问题。
本次会议由Safe AI Forum与牛津大学马丁人工智能治理研究院联合主办。IDAIS由四位顶尖科学家于2023年10月发起，历经牛津、北京、威尼斯、上海四场国际会议，伦敦会议为系列第五场重磅活动，持续搭建全球AI安全交流协作平台。
宣言发出重磅风险预警，明确当前AI技术快速迭代，大幅降低恶意技术使用门槛。按照现有发展趋势，一年内非国家行为体或将掌握国家级网络攻击能力，可肆意攻击电网、医院、金融、空管等关键基础设施，对国家安全造成重大威胁。同时，AI生物滥用风险持续攀升，前沿AI系统能力已超越行业专家，可辅助非专业人员设计、改造病原体，潜藏大规模公共卫生危机。
针对两大核心风险，宣言明确全球治理重点工作。在网络安全领域，提出强化关键基础设施防护、建立AI攻击能力评测机制、落实模型发布前测试、严控高危模型访问权限、搭建全球信息共享机制、筑牢数字基础设施长效韧性等具体举措。在生物安全领域，要求完善模型防护体系、分类管控开源与闭源模型、建立生物安全分级监督机制、推进核酸合成筛查国际协同，系统性抵御AI生物滥用危害。
（清华大学供图）
网友评论
