美科学家联名反对政府用AI“把守国门”计划

美科学家联名反对政府用AI“把守国门”计划

称人工智能审查移民既不合适也不可行

科技日报华盛顿11月16日电(记者刘海英)从事机器学习、数据挖掘以及其他自动化决策技术研究的54位科学家16日致信美国国土安全部,敦促该部门放弃“极端审查计划”,称利用人工智能对申请进入美国的人员进行审查评估,“既不合适也不可行”。

“极端审查计划”是美国土安全部下属机构移民和海关执法局在今年6月份提出的一项计划,希望以自动化程序代替目前的人力审查手段,利用人工智能技术预测申请进入美国人员的犯罪风险,对其是否会对美国社会做出积极贡献进行评估,以更好地执行特朗普的移民政策。用先进技术解决现实难题,应该是科学家们最愿意看到之事,但此次,移民和海关执法局的计划却遭到科学家们的强烈反对。

54位科学家在信中指出,“极端审查计划”寻求通过自动化技术判定一个人是否会对社会做出积极贡献、为国家利益做出贡献,这是不可能的。目前无论是联邦政府还是任何个人,都没有对一个人是否会对社会做出贡献、为国家利益做出贡献进行定义和量化,这种情况下,不可能有任何计算方法能对此提供可靠或客观的评估,移民和海关执法局拟议的系统将是不准确的、存在偏见的,很容易对某个移民群体贴上标签。

信中还指出,移民和海关执法局希望能利用数据挖掘技术评估申请人进入美国之后实施犯罪或恐怖行为的可能性,而大量文献表明,即使是最好的自主决策模型,在预测罕见事件时也会出现许多错误。移民中犯罪或进行恐怖袭击者毕竟属于少数,所以即使使用最精确的模型,也会出现大量谬断,让许多无辜的人蒙冤。

科学家们称,数据挖掘是一个强大的工具,适当地利用这一工具会有很大的好处,造福社会。他们理解政府需要执行移民法律,维护国家安全,但移民和海关执法局拟议的方法“既不合适也不可行”,因此强烈要求国土安全部放弃这一计划。

加载更多>>
责任编辑:左瑾
专题 更多>>