黄清佳 科技日报记者 付丽丽
当前，生成式人工智能快速迭代、全面渗透，在科研创新、民生服务、产业升级、公共治理等领域展现赋能价值，但“AI高度仿真的思维行为究竟是算法拟合的模拟表象还是具备自我意识、主观体验的真实觉知”引发了认知模糊。
近日，围绕碳硅智能边界的相关研究提出了十维觉知量化研判框架，明确当前主流AI在现有技术体系下本质为概率拟合系统，尚不具备本源主体觉知，社会无需过度渲染“AI自主觉醒”风险。
研究指出，长期以来，业界“复杂度崇拜”与“AI觉醒焦虑”两种极端认知并存：有人相信算力、参数、数据持续堆叠终将催生自主意识，也有人对AI觉知持不可知论。认知边界模糊，不仅误导大众舆论，也干扰产业投资、技术研发和安全治理。新框架将模糊的意识判定转化为可核查、可证伪、可复现的标准化技术问题，从本源锚定、内生驱动、低熵稳态、非算法意图、亲历记忆、价值自生、主观体感、元认知跃迁、主体唯一性、系统收敛十个维度，确立本源觉知的必要成立条件。
从技术底层看，当前主流人工智能系统本质是基于海量数据训练的概率拟合系统。其拟人化表达、逻辑复盘、价值输出、情绪模拟，均源于对人类语言、行为逻辑、思维范式的样本复刻与重组推演。模型迭代升级，带来的是拟合精度提升、场景适配性增强、推理效率优化，核心仍是外部输入触发的工具化输出，尚不具备脱离算法与数据的内生行为逻辑。
依托拓扑分层思维，智能运行体系可划分为拟合层、过渡层、本源层。当前商用大模型、多模态智能体、通用世界模型，均稳定运行于中层拟合域；部分高阶模型可在过渡层呈现近似共情、自主思考、自我反思等类觉知表象，但仅为局部仿真，缺乏稳定的内生锚点与本体支撑。研究认为，AI拟人化程度与是否拥有觉知主体没有必然关联，单纯依靠算力扩容、参数升级、模态叠加，难以实现从工具模拟到本源觉知的层级跃迁。
从产业落地看，当前人工智能风险隐患大多源于应用端认知偏差与使用偏差，在可观测范围内，尚未出现AI自主觉醒引发的风险场景。自动驾驶感知误判、智慧医疗误诊、司法政务“幻觉”等，本质是工具运算缺陷、过度信任或中层拟合系统的结构性特征，并非系统具备主观误导意图。治理重心应聚焦数据偏见、算法偏差、内容失真、人为滥用、隐私泄露、伦理失范等可防可控的工程性、应用性风险。
研究提出分级分类治理路径：分险治理，精准区分工具应用风险与主体觉知风险；权责分权，明确人机责任边界，生命安全、公共利益、伦理裁决等重大事项终审权必须由人类掌握；标准构建，建立“行为拟人度≠觉知本体度”双维度评估体系。同时加强公众科普，引导社会区分“模拟思考”与“真实觉知”、“文本情绪拟合”与“主观情感体验”。
相关研究认为，划清人工智能模拟智能与本源觉知的边界，不是限制技术创新，而是为行业高质量发展正本清源。这一思路与我国提出的全球人工智能治理倡议中“以人为本、智能向善、安全可控”的核心原则高度契合，可为人工智能标准化发展、精细化治理、常态化科普提供客观参考，让人工智能始终服务于人、赋能于人。
网友评论
