科技日报记者 代小佩
10月23日，在2024年世界科技与发展论坛主题会议“人工智能治理创新为培育科技治理生态构建国际信任基础”上，世界机器人合作组织理事长、中国科学院院士乔红发布了《2024年人工智能十大前沿技术趋势展望》。
这十大前沿技术涉及人工智能共性技术、大规模预训练模型、具身智能、生成式人工智能等四方面，具体包括小数据与优质数据、人机对齐、AI使用边界和伦理监督模型、可解释性模型、规模定律下的预训练模型革新、全模态大模型、AI驱动科学研究、具身小脑模型、实体人工智能系统、世界模拟器10项技术。
记者注意到，人机对齐和AI使用边界和伦理监督模型等技术都涉及人工智能伦理治理问题。
关于人机对齐，乔红表示，仅依靠数据和算法并不足以实现人机对齐，需要将人类的价值观和伦理道德转化为强化学习奖励函数。“这意味着在设计奖励机制时，不仅要考虑任务的效率、效益和效果，还需要考虑行为是否符合人类的伦理标准。”
会上，中国工程院院士、北京邮电大学教授张平建议，构建通用人工智能理论框架，奠定AI技术安全可控发展的科学技术。同时，研发超级对齐技术，从内生机制上确保人工智能输出观点决策与人类对齐。此外，构建可解释、自动化的AI评估方法，确保AI向善。
构建AI使用边界和伦理监督模型也体现了业界对AI伦理治理的思考。乔红表示，当前AI系统的合规性、安全性和伦理问题愈发突出，建立AI监督模型框架尤为必要，其作用类似于AI宪法。“主要目的是通过制定明确的标准和规范，确保所有AI系统在开发和使用过程中遵循既定的原则，从而减少AI被过度使用所带来的风险。”乔红说。
中国工程院外籍院士、德国国家工程院院士、德国汉堡大学教授张建伟在会上表示，在训练具身大模型时，一个重要的工作是教其伦理道德，就像教孩子遵守道德一样。“虽然这工作做得还不够，但我相信，人类既然能创造AI，就一定有能力抑制这项技术的滥用。”
