人工智能可能自行产生偏见 趋势演变很难扭转

2018-09-10 09:12:05 来源: 参考消息网 作者:

美媒称,新研究表明,对他人表现出偏见并不需要很高的认知能力,人工智能机器很容易就能表现出来。

据美国每日科学网站9月6日报道,英国加的夫大学和美国麻省理工学院的计算机科学和心理学专家已经证明,几组自动机器仅仅通过相互之间识别、模仿和学习偏见就能表现出这种行为。

报道称,偏见似乎是人类特有的一种现象,需要以人类的认知能力去对某个人或群体形成某种看法或成见。

尽管某些类型的计算机算法根据从公共记录和人类产生的其他数据中学到的知识已经表现出了偏见,例如种族偏见和性别歧视,但这项新研究表明,人工智能有可能自行演化为心怀偏见的群体。

报道称,这些新发现发表在英国《科学报告》杂志上,其依据是,计算机模拟了拥有类似偏见的个体或虚拟代理人如何形成一个群体并彼此互动。

在一个平等交换游戏中,每个个体根据别人的名声以及自己的捐赠策略(包括对外来者的偏见程度),来决定是捐给自己所在群体中的某个人还是另一个群体中的某个人。

随着游戏展开,一台超级计算机进行了数千次模拟,每个个体开始通过效仿自己所在群体或整个群体中的其他个体来学习新的策略。

研究报告的作者之一、加的夫大学犯罪与安全研究所和计算机科学与信息学学院的罗杰·惠特克教授说:“通过成千上万次模拟,我们开始了解偏见是如何形成的,以及助长或阻碍偏见的条件是什么。我们的模拟显示,偏见是一种强大的自然力,通过演变,偏见很容易在虚拟人群中受到激励,不利于与他人构建更广泛的联系。来自偏见群体的保护会无意中导致个体进一步组成偏见群体,使得群体四分五裂。这种普遍的偏见很难扭转。”

这一研究结果表明,个体会通过优先效仿短期收益更高的对象来更新自己的偏见程度,这意味着作出此种决定未必需要具备高级认知能力。

惠特克教授还说:“能够识别歧视和模仿他人的自动机器今后很容易受到我们在人类中看到的偏见现象的影响,这是有可能的。”

加载更多>>
责任编辑: 夏青
专题 更多>>
国内 更多>>

让智能机器人解围世界性...

2018年世界机器人大会8月15日在北京盛大召开,“机器人公共安全行业应用”专题论坛是本届大会开幕式当天在大...

探寻能源转型的“诗和远...

风电、光伏等可再生能源因其随机性、间歇性而对大电网带来扰动和冲击,能否通过新兴的虚拟电厂技术模式加以...

2018年全国森林旅游游客...

)“‘十二五’时期,全国森林旅游游客量累计46亿人次,平均年游客量超过9亿人次,年均增长率达到15.5%。20...

我国装配式超低能耗建筑...

记者从正在召开的“2018雄安新区超低能耗建筑国际论坛”获悉,我国装配式超低能耗建筑正开启产业化路径,论...

东海全面开渔 电商创新冷...

9月20日是东海全面开渔的第四天,电商本来生活万人团购的海鲜也已陆续抵达全国各地仓库,最快不到24小时就能...

科报集萃 更多>>

“迈向2035”——科技馆...

2018年9月20日,在中国科技馆迎来开馆30周年之际,为凝练我国科技馆发展的成就与经验,为我国科技馆事业接力...

AI助力教学全环节——在...

)“盒子鱼不是要把技术做得多酷炫,而是能够让人工智能和老师的智慧结合在一起。”9月20日,K-12在线教育公...

疯米发布W1/AI无线耳机 ...

互联网耳机品牌疯米科技(Funcl)正式发布疯米W1无线蓝牙耳机和疯米AI无线智慧耳机,疯米W1售价99元,疯米A...

低碳设计 创享未来

9月21日,北京国际设计周-北京低碳雕塑园分会场正式拉开帷幕。来自环保界、建筑界、艺术界、材料界、新闻界...