李亚丽 科技日报记者 王春
当人工智能加速从展示性场景走向真实业务，“能不能用”之后，“可不可信”正成为更关键的追问。10月30日，在2026世界顶尖科学家论坛人工智能平行论坛上，全球科学家和产业界代表直面一系列现实问题：算法偏见、数据安全、生成内容幻觉、技术滥用，以及不断拉大的智能鸿沟。现实证明，AI不能等系统上线后再补安全课；可信不是“附加项”，而是“起跑线”。
中国科学院院士、华东师范大学终身教授何积丰早在2017年就提出了“可信人工智能”理念，他表示，人工智能永远不应成为“黑箱”；可信不能停留在原则宣示上，而应嵌入AI研发全流程。系统应具备可解释性、可验证性和可追溯性。应通过形式化方法和对齐技术，在知识理解和风险缓解环节前置安全机制，为技术可信奠定基础。
当前AI应用正从展示性场景走向真实业务，但“为建而建”的形式主义并不少见，数据质量、业务融合和价值量化等瓶颈突出。技术能力快速提升而治理能力相对滞后，这种张力正成为AI落地“最后一公里”的关键约束。可信AI不是一次性合规动作，而是贯穿研发、部署、运行全生命周期的治理能力建设。
当前主流大语言模型从海量互联网数据中提取统计规律，并据此预测下一个词元。而基于统计原理的AI系统，准确率不可能达到100%，智能体也始终可能产生不可预测的行为。若要让AI承担社会功能，未来可能需要引入物理规律和逻辑规律作为新的技术基础。2024沃尔夫数学奖获得者、普林斯顿大学教授诺加·阿隆表示，AI在数学解题上已表现出很强的能力，但“基本上是在使用现有方法，并未真正发明新方法”。换言之，AI能在既定问题空间内高效搜索；一旦问题空间本身需要被重新定义，它的“可靠性”就失去了参照。对齐也不是一次性写入规则，而是伴随模型能力演化的持续治理过程。
以教育领域为例，教育界和学术界承受着AI最直接的冲击，更需要新的治理标准。AI传递知识的效率已展现出课堂难以匹敌的优势，教师的核心任务正从“传授知识”转向“培养提问能力和创造力”。有学者坦言，带回家完成的考试在生成式AI面前已难以为继，课堂考试因此重新受到重视；更隐蔽的问题是评估公平——当学生借助AI完成的作业质量取决于模型版本和付费水平时，考核衡量的就不只是知识掌握程度，还包括“付费能力”。大语言模型并不擅长判断“学术品位”，而判断哪些方向值得做、哪些问题是伪问题，是导师不可替代的价值所在。
2015年图灵奖得主、斯坦福大学荣休教授马丁·赫尔曼直言，AI风险、核战争威胁与气候变化“归根结底同源”：技术让人类拥有近乎“神明般”的改造世界的能力，而人类的行为方式却仍像“不负责任的青少年”。他因此提出“过程性思维”：不能指望一次建成理想秩序，但必须开始从对抗转向合作。对AI全球治理而言，这意味着治理是持续校准、逐步嵌入护栏的过程，而不是“要么放任、要么封禁”的二选一。
下一个十年，AI竞争不会只是模型参数和算力规模的竞争，更是可信能力与治理智慧的竞争。从“事后处置”转向“事前预防”，把可信从“工具附加项”转向“系统重构”，从追问“能做什么”转向追问“在哪些约束下能可靠地做成什么”——这或许是AI更深融入社会之前最需要补上的一课。
网友评论
