近日，全国多地警方发布了多个“AI诈骗”的典型案例，引发大众对于使用人工智能技术进行诈骗的案件频发进行探讨。扬子晚报/紫牛新闻记者注意到，这些被骗典型案例中不乏有被骗上百万的受害者，并且诈骗手段也从以往的图片、电话声音造假，逐渐发展成视频造假。网络安全从业人员告诉紫牛新闻记者，当下AI技术的发展使得技术运用门槛降低，容易被不法分子利用，而相应防范手段却显得滞后，普通大众更需要提高自身防范意识。
(资料图)
AI诈骗话题登上热搜
AI换脸技术被引入诈骗
记者实际体验发现“质量高，速度快”
网络安全从业人员小郑告诉紫牛新闻记者，随着人工智能技术的发展，不少例如AI换脸、AI语音合成的技术门槛已越来越低。小郑介绍，早些年犯罪分子们就会通过使用PS等图片合成软件，在有经验和技术能力的人员操作下，合成不少以假乱真的图片用以实施诈骗。而如今，AI替代了合成技术人员，能够在犯罪分子使用简单指令和操作下，自动完成细致到毛发、光影都真实的合成图片。并且AI的工作效率能短时间生成大量图片合成视频，这样也就实现在视频中以假乱真换脸。而音频合成诈骗电话早些年就已出现，甚至有犯罪分子通过骚扰电话的形式来录取受害者声音特征，最终合成音频实施诈骗。
艺术工作者用AI进行创作（图源小红书用户）
在专业人员指导下，紫牛新闻记者体验了多款AI换脸合成工具。其中一款国外软件被称为效果最好最自由的工具，本意是为了帮助艺术创作者提高工作效率，最后却因功能强大和免费开放下载，成为当前AI换脸违法行为的主要工具。记者在电脑上安装好软件后，使用网络下载的明星脸部模型，加上网络分享的指令，最快5秒就能生成一张该明星极为真实的照片，而通过指令的改变可以随意切换场景、人物动作、表情等细节。
记者同时还使用了自己平时20张左右的生活照提供给AI，尝试对其进行换脸训练，AI用几小时时间就掌握了记者的面部特征，并生成一个带有记者脸部信息的模型文件。运用该模型，记者尝试了正面、侧面等多角度人物照片生成，结果几秒内导出的照片就已非常近似记者本人照片。小郑告诉记者，AI的学习能力很强，如果能有30张以上的人物露脸照片，就能生成很真实的图片。
不少视频app中带有换脸功能
紫牛新闻记者在手机软件下载程序中搜索“AI换脸”，可以搜索到数十种各类换脸软件，其中不少的介绍都包含“一键视频换脸”“一键换装换发型”等宣传。而一些主流的短视频软件中，也出现了植入的换脸特效。记者使用发现，只要上传自己的一张照片，再配合软件给出的一些影视片段、网络视频，就可以自动生成惟妙惟肖的换脸视频。
视频中除了脸型变化不大，人物的五官基本都被替换，而且色调、光线等方面均没有什么违和感，只是在侧脸时会露出一些“破绽”，以及脸部有时会出现一些特殊的抖动，这些软件制作的换脸视频以娱乐为主，细看还是很难乱真。不过据小郑介绍，目前所有的软件都还需要一定时间的计算和生成，想做到实时的“换脸”对硬件要求很高。
各类软件的层出不穷，也带来不少法律问题。近期，上海一家网络公司就因换脸手机APP新增多份肖像权纠纷裁判文书。据悉，该公司未经原告许可擅自使用其影像作品，并制作融脸视频模板，提供给付费会员使用。多位网红起诉该公司，法院认为，涉案软件生成视频除脸部特征以外，动作、背景、视频角度与原告发布的视频均高度雷同一致，部分视频存在明显的“换脸”痕迹，系利用信息技术手段伪造等方式侵害原告的肖像权。
如何识别和预防AI换脸
提高防范意识减少信息暴露是关键
紫牛新闻记者注意到，在AI换脸图片、视频层出不穷后，如何鉴定相关内容真假成为了不少网友讨论的热点。一名现常使用AI进行写真创作的设计师告诉记者，AI制作的真人照片与视频如今还存在一些没有完善的地方，例如AI生成的人眼神会比较奇怪，常出现瞳孔不自然，呆滞无神的情况。此外，一些人物身体细节也是容易出错的区域，例如手部手指的不自然、人体比例的不协调等。但该设计师表示，这些情况可能在随着AI技术快速进步而逐渐得以解决。
网友分享经验：AI生成图手部与眼睛容易存在问题
与此同时，也有不少平台开始尝试利用技术手段识别AI生成图片。记者在抖音、哔哩哔哩、小红书等平台看到，一些看似真实的照片被识别判定为AI生成内容，使用眼神、手部等细节观察法，确实也能发现照片为假。不过类似平台的技术手段依然存在不准确的问题，不少作者明确注明AI创作的情况下，判定系统未能识别成功。
平台通过技术手段来提醒AI生成内容
除了平台可以加大对AI生成内容的管控提醒下，个人也需提高警惕性，例如在碰到涉及转账、支付等情况时，通过特殊的问题提问，指定行为不同角度的视频要求等形式来确定对方身份，同时要求对方用手指在脸前比划看是否有穿帮。
多位AI图像技术使用者告诉记者，大众在使用社交软件时，一定要尽可能少发布个人正面照片或视频，不提及年龄、工作、所在地等内容，减少个人信息的暴露。同时对于网上信息，一定要留有疑心，多方求证，不轻易相信任何一个涉及个人财产的恐吓信息，及时通过报警等合法有效渠道保障自身权益。
扬子晚报/紫牛新闻记者 刘浏 见习记者 陈燃
校对 陶善工
