科技日报记者 何亮
春节前后，AI（人工智能）视频生成模型Seedance2.0火爆全球，智能机器人刷屏网络……人工智能技术以前所未有的速度融入生产生活，也深刻变革着科研范式。与此同时，人工智能也带来了科研造假更隐蔽、边界更模糊等新挑战。
“十五五”规划建议提出，加强科技法治、伦理、诚信、安全建设。如何在智能时代筑牢安全防线、坚守科研诚信，成为全国两会期间会场内外热议的话题。
“在回答你的这个问题前，我还真用人工智能对答复做了优化。”3月6日，全国政协委员、中国铁道科学研究院集团有限公司首席科学家赵红卫告诉记者，诸如DeepSeek、豆包等智能工具“很好用”，尤其对提高工作效率、增强个人能力大有裨益。赵红卫直言，科研人员应以积极开放的心态拥抱人工智能技术。
“但是，我们在拥抱的同时，还要理性使用、守住底线。”赵红卫表示，不能让人工智能直接输出控制指令，其中必须有人的参与和决策。
赵红卫告诉记者，铁路行业正在积极建设行业大模型。在她看来，大模型必须实现可解释、可追溯、可验证，不能是个“黑箱”。“交通行业安全为先，涉及行车安全的关键决策，必须由人主导、由人负责。”赵红卫说。
从行业大模型到通用智能体，AI成为科研工作的重要助手。与此同时，科研诚信的挑战也随之增大。譬如，学术不端行为更加隐蔽、方法的可靠性也存在风险，这需要主管部门、科研单位与科研人员协同发力、系统解决。
让人欣喜的是，国内科研机构与高校在制度规范层面已经“出手”。如中国科学院发布《关于规范使用人工智能技术的诚信提醒》，明确全流程AI使用红线；清华大学发布《清华大学人工智能教育应用指导原则》，系统性地对校园中的人工智能应用提出全局性、分层级的引导与规范。
“这些制度规范，秉持‘积极而审慎’的立场，倡导科研人员辩证认识人工智能技术，培养个人核心素养。”清华大学生物医学工程学院副教授戴小川说。
人工智能赋能千行百业，AI技术在监管领域也能大显身手。戴小川表示，用“魔法”打败“魔法”不失为一种保证科研诚信的管理策略。如今，第三方评估机构已开始应用AI检测模型、论文可追溯技术来识别学术造假行为，科研用AI可解释模型也在加快研发。
面向“十五五”，戴小川建议，坚持技术与制度双轮驱动，以“强制披露+可追溯技术”重建科研过程透明度，加快构建人工智能时代的科研诚信新生态。他还呼吁，加快推动国际统一的AI科研诚信标准建设，共同防范跨区域学术不端，让人工智能在诚信、规范的轨道上更好赋能科技创新。
网友评论
