科技日报记者 刘霞
在新一期《科学》杂志刊发的一篇社论中，美国微软公司首席科学官埃里克·霍维茨与瑞士洛桑联邦理工学院计算机与通信科学学院研究员罗伯特·韦斯特强调，人工智能（AI）系统正加速渗透日常生活，对人类行为的洞察日益加深，其快速发展已开始超越人们对它们的理解。
作者剖析了AI变得难以理解的三大趋势。首先，AI自主设计日渐盛行。AI越来越多地参与设计和优化其他AI系统，这种循环发生在“反直觉的高维空间”中，已超出人类理解范畴。AI系统的性能虽有提升，其背后的原理和过程却如“黑匣子”般让人难以捉摸。其次，AI系统之间的交互与日俱增。它们正结成大规模多主体生态系统，内部交流可能偏离人类的语言习惯和推理方式。随着新型AI交互日趋复杂，人类解读它们的能力正被步步蚕食。最后，自适应AI智能体正快速汲取关于人类行为的知识，由此出现了一种新的失衡：AI对人类的理解，反而超过了人类对它们的理解。借助分析人机交互中产生的大量数据，以及揭示人际互动方式的信息，AI开始比人类更了解自身，当然也更懂人类。通过持续不断的互动，AI系统能构建出愈发精细的人类行为与心理模型，不仅捕捉到人类的偏好，还能洞悉恐惧、不确定性、对社交归属的渴求等深层驱动力。
作者警告，随着AI对人类的理解日益深刻，一个隐忧随之浮现：AI的输出可能越来越迎合人类的期待，而非反映现实。与此同时，人类对AI那份宝贵的好奇、怀疑和审视，也可能日渐消磨。作者认为，鉴于AI如今已在几乎不受限制地渗透进人类生活的方方面面，这些担忧恐怕并非杞人忧天。不过，让AI始终处于可理解范畴，仍有希望。
作者强调，守护人类的主观能动性和质疑AI决策的能力至关重要。仅仅监控AI系统的行为远远不够，人类还必须洞察它们如何重塑人们的目标和判断，并始终保有质疑、审核和引导它们的意愿与能力。在追求提升AI能力的同时，必须将人类的理解置于首位。
网友评论
