随着人工智能技术的进步，一些不法分子开始利用AI技术融合他人面孔和声音，制造非常逼真的合成图像来实施新型网络诈骗，这类骗局常常会在短时间内给被害人造成较大损失。那么，我们应该如何识别和防范新型诈骗？
有人偷了你的脸！当AI诈骗遇上虚拟数字人“天妤”。视频来源：最高人民检察院公号
警惕“AI换脸”新型诈骗
记者调查发现，最近多地出现的AI换脸诈骗案件，均具备定制性、迷惑性等特征。
其中，香港警方近期披露一起涉案金额高达2亿港元的多人AI换脸诈骗案尤为典型。据媒体报道，某公司职员受邀参加公司“多人视频会议”时，先后将2亿港元分别转账到5个本地银行账户内。据警方调查，这场视频会议中除了受害者外，其余均为AI换脸后的诈骗人员。
不少业内专家表示，随着文生视频大模型Sora等多模态人工智能的探索和出现，人们可能陷入“眼见也不一定为实”的困局。“一直以来，银行等部门将实时视频用做检验身份的手段之一，如今其可靠性将面临巨大挑战。”中国行政法学研究会常务理事、华东政法大学教授沈福俊说，“随着人工智能技术的迭代升级，这类违法行为还可能演变出更多形态。”
沈福俊坦言，对此类AI换脸和AI拟声的恶性诈骗案件，若只依靠传统监管手段已不能防堵，监管部门在提升自我科技能力储备的同时，有必要引入新兴技术，探索用AI技术监管AI的可能。
Sora可根据文本内容生成逼真视频。图片来源：Sora/OpenAI
“AI换脸”的技术原理是什么
中国网络空间安全协会人工智能安全治理专委会专家薛智慧介绍，“AI换脸”过程主要包括人脸识别追踪、面部特征提取、人脸变换融合、背景环境渲染、图像与音频合成等几个关键步骤。
首先通过视频的采集，追踪定位图片里人的面部；第二步，做一个面部特征点的采集和提取，主要包括嘴、鼻子跟眼睛的特征；第三步就是把这张原始的照片，做一个变换跟融合。
其背后最核心的包括为三个部分，首先，利用深度学习算法精准地识别视频中的人脸图像，并提取出如眼睛、鼻子、嘴巴等关键面部特征。其次，将这些特征与目标人脸图像进行匹配、替换、融合。最后，通过背景环境渲染并添加合成后的声音，生成逼真度较高的虚假“换脸”视频。
如何识别和防范新型诈骗
遇到这种类型的诈骗，普通人该怎么识别和防范呢？四川网警的网络安全专家张警官在线支招：一提高反诈意识；二是涉及资金往来应多途径核对，在视频过程中可以要求对方做掐脸、捏鼻子等特定的动作，观察视频有没有穿模或异常变形，以此来识别是否为AI伪造的视频；三是通过电话、微信等多渠道多方式确认；四是在转账时，可以将到账时间设定为2小时到账或者24小时到账，以预留处理时间。
掐脸、捏鼻子这一招引起了大家的热议。“超级头脑”创始人张泽伟说：“随着技术的发展，它的这些漏洞都会被修复掉。对AI的训练日趋成熟后，可能掐脸、捏鼻子AI也会做了，建议变成捏成“猪鼻子”等一些AI不易做到的动作。或者制定一些只有属于家人才知道的暗号，这是最保险的。”
张警官尤其谈到，要注意个人信息和隐私数据的保护。AI换脸或者声音合成技术，前提是要搜集受害人的声音和图片视频资料。日常生活中要保护好个人隐私安全，使用正规软件，防止自己的聊天信息、身份信息泄露，同时我们要尽可能减少社交媒体上自己的照片和声音曝光。张警官还向大家再次推荐：一定要下载国家反诈中心app，那里面有非常多的案例供大家借鉴。
（来源：中国科技网综合自央视新闻客户端、新华每日电讯、闪电新闻、封面新闻、科技日报）
