科技日报记者 刘垠
8月27日，科技部官网发布了国家科技伦理委员会医学伦理分委员会研究编制的《人工智能医学影像研究伦理指引》（以下简称《指引》），旨在规范人工智能医学影像相关的基础算法研究、技术研发、临床验证和转化，防范科技伦理风险，推动人工智能医学影像研究的负责任创新与健康有序发展。
“这份文件的出台，标志着我国人工智能医学影像研究领域的伦理治理，从‘原则性倡导’向‘精细化指导’迈出关键一步。”复旦大学附属华东医院放射科主任张军表示。
当前，人工智能医学影像研究持续深化，在疾病早筛早诊、诊疗流程优化、医疗资源均衡配置等方面展现巨大潜力。国家科技伦理委员会医学伦理分委员会委员王国豫教授同时提醒，医学影像数据高度敏感，事关个人隐私、健康权益、医疗安全和公共利益，在数据采集、存储、流通共享等环节，要防范隐私泄露、算法偏见、技术滥用、权责不清等风险。
统筹平衡创新发展与伦理安全，是国家科技伦理委员会医学伦理分委员会研究制定《指引》的基本遵循。文件明确了人工智能医学影像研究的基本伦理原则：增进人类福祉、促进公平公正、尊重人的主体性、保护隐私和数据安全、确保安全可控、强化透明可信。
“将增进人类福祉置于首位，意味着人工智能医学影像相关研究必须将患者利益摆在优先位置，审慎研判技术研发应用可能对人体健康与生命安全产生的影响。”王国豫强调，坚持促进公平公正，需防范算法歧视与群体偏差，特别要考虑儿童、老年人、罕见病患者等脆弱群体的需求。
围绕保护隐私和数据安全，《指引》要求建立数据授权、授权撤回配套机制，严防隐私泄露与未经授权使用。
“将‘确保安全可控’与‘强化透明可信’提升到伦理原则高度，就是针对人工智能医学影像特点，建立全生命周期风险治理机制，完善事前预防、事中管控、事后处置的闭环管理，保障技术逻辑、影像判读决策机制可阐释、可核验。”上海人工智能实验室青年科学家瞿晶晶解释说，《指引》倡导研发人员秉持审慎和负责任态度，确保人工智能医学影像技术的研发安全可靠，彰显我国医学人工智能伦理治理的坚定立场。
人工智能医学影像研究技术具有高度复杂性与场景多样性，为此，《指引》进一步聚焦风险，分层划定一般要求、特殊要求和伦理审查重点，形成有针对性、可操作的规范指引。
面向研究全流程，《指引》就合法合规、知情同意、责任机制、利益冲突管理提出基本要求，其中，合法合规是一切研究的底线，知情同意是伦理审查的核心环节；同时明晰了知情同意豁免情形，提出搭建协同责任体系，厘清科研人员、医疗机构、科技企业、监管部门的权责，实现研究全过程可追溯、可问责。
数据是人工智能医学影像研究的根基，也是风险集中区域。《指引》针对数据全生命周期提出四项要求：建立覆盖研究实验、临床试验到转化应用的数据安全管理体系，实现数据使用全程可追溯、可验证；严格把控数据质量，选用来源清晰、科学性充分的数据集；规范数据脱敏，确保处理后的信息无法重新识别自然人且不能复原；审慎使用合成数据训练人工智能模型。
针对备受关注的“算法黑箱”问题，《指引》围绕算法全生命周期完善治理规则，要求算法灵敏性、特异性等核心指标达到适宜标准；算法应经过可重复性测试，开展跨设备、跨医院、跨人群的复现性验证，防范人工智能医疗影像在临床应用的偏移风险。同时，在数据采集、标注、训练、评估等阶段识别并修正算法偏见。
“《指引》落地见效还需多方协同发力，进而推动伦理规范转化为实操准则。”在王国豫看来，医疗机构需将伦理要求纳入临床研究与技术应用全生命期管理，完善伦理审查、数据安全、风险防控配套机制；研发机构需承担主体责任，落实数据合规、算法验证、持续监测等工作；科研人员要筑牢伦理底线，做到数据依法采集、合规使用、规范共享；伦理审查委员会要秉持专业、审慎审查标准，提升动态风险处置能力。
网友评论
