随着人工智能技术（AI）的突飞猛进，AI在赋能各行各业的同时也带来了前所未有的安全挑战。AI虽既能辅助我们进行各类信息处理，提高工作效率，但网络攻击、数据泄露等安全风险也在日益凸显，而过度采集、歧视性算法、滥用深度伪造等问题更可能给社会经济的运行带来极大风险。在最近一段时间里，一些不法分子已经开始利用AI技术融合他人面孔和声音，制造非常逼真的合成图像来实施新型网络诈骗，当AI成为实施诈骗的工具时，这类高科技含量的骗局常常令人防不胜防，会在短时间内给被害人造成较大损失。

“AI换脸”被滥用，科技切莫成犯罪者的帮凶

AI打开“潘多拉的魔盒”

最近两年，以ChatGPT、“文心一言”、Sora等为代表的生成式人工智能产品火得一塌糊涂，其基于复杂算法、模型和规则，从大规模数据集中学习，以创造新的原创内容的技术特性完全颠覆了人类对于科技的想象。

随着AI技术的不断进步，其在信息处理和交互方面的优势日益凸显，生成式内容的真实感和高效性越来越强，“以假乱真”的现象愈发普遍。但是由于缺乏有效的监管和约束，其被滥用甚至用于诈骗的风险已不是空穴来风。犯罪集团甚至已经开始利用生成式人工智能聊天机器人进行网络诈骗，为非法活动披上了“科技外衣”。AI技术已经被人悄悄打开了“潘多拉的魔盒”。

不久前，在四川绵阳，市民王先生突然接到主管单位领导视频电话，称其朋友想借王先生公司账户过账40余万元，基于对领导的信任，加上已经视频聊天核实了身份，王先生立即就把钱40余万转至指定账户上，随后发现上当受骗。这其实是骗子利用智能AI换脸和拟声技术，佯装领导对他实施了诈骗。

而在今年2月，香港警方披露了一起AI“多人换脸”诈骗案，涉案金额高达2亿港元。在这起案件中，一家跨国公司香港分部的职员，受邀参加总部首席财务官发起的多人的视频会议。并按照要求，前后转账多次，将2亿港元转账到5个本地银行账户内，其后向总部查询方知受骗。警方调查得知，这起案件中，所谓的视频会议中，只有受害者一人为“真人”，其余所谓参会人员，全部是经过AI换脸后的诈骗人员。

在“AI换脸”技术下，每个人都可能成为受害者

技术难度不大

AI技术的普及使得虚拟与现实的界限变得模糊，真假信息更加难以辨别。种种案件的发生，已经昭示着AI诈骗离我们不再遥远。不法分子通常会换脸成亲人、朋友、同事等，向受害人索取钱财，视频的方式看似可信度高，让受害人放松了警惕。在这种环境下，不仅普通民众容易受到欺骗，就连专业机构也难以幸免。

事实上，AI换脸背后的技术逻辑并不复杂。过程主要包括人脸识别追踪、面部特征提取、人脸变换融合、背景环境渲染、图像与音频合成等几个关键步骤。

越详细的信息录入，数字化形象则越精准。其背后最核心的包括为三个部分：首先，利用深度学习算法精准地识别视频中的人脸图像，并提取出如眼睛、鼻子、嘴巴等关键面部特征；其次，将这些特征与目标人脸图像进行匹配、替换、融合；最后，通过背景环境渲染并添加合成后的声音，生成逼真度较高的虚假“换脸”视频。

通过网络搜索，可以搜到不少所谓的“换脸软件公司”，打着娱乐的招牌，声称可以提供全天候服务。据了解，目前制作一套“露脸且说话”视频成本低至数十元，只需提供正面照就能生成视频，不仅眼睛、嘴巴、头会动，如果提供文字口型也能对上，一个晚上就能完工。有商家称用照片生成一段1分钟时长的视频仅需30元左右。如果视频时间短、质量要求不高的甚至几块钱一段都可以。

人工智能技术的双刃剑特性，引发了社会各界对网络安全的深刻反思

我们该怎么办？

这种局面彰显了人工智能技术的双刃剑特性，也引发了社会各界对网络安全和AI监管的深刻反思。面对新的技术进步，我们必须建立与之相适应的新监管体系。

在这个“眼见不一定为实”的时代，如何在充分享受人工智能技术带来生活便利的同时有效防范安全风险，是人类拥抱未来技术的关键，也是相关法律不断完善的方向与动力。

防不胜防的人工智能欺诈陷阱将成为执法打击的重点，如何精准识别、有效预防和全面打击相关违法犯罪行为，需要立法、执法和司法的系统配合和创新完善。为此，政府应制定和完善相关法律法规，明确AI技术的使用范围和限制，以及违法行为的法律责任。去年，我国出台了《生成式人工智能服务管理暂行办法》，明确个人信息保护义务，这是一个好的开始。

除了法律层面的考虑，公众教育和意识提升也至关重要。面对利用AI技术的新型骗局，广大公众需提高警惕，加强防范，做好个人信息安全的第一责任人。

加强个人信息保护意识，防止信息泄露，要做到不轻易提供人脸、指纹等个人生物信息给他人；不要轻易透露自己的身份证、银行卡、验证码等信息；不要贪图方便把身份证、银行卡照片等直接共同存放于手机内；陌生链接不要点，不明二维码不要随意扫描；管理好自己的朋友圈，也不要轻易向陌生人开启手机屏幕共享；对于不常用的APP，建议卸载前注销个人帐号。

在AI时代，文字、声音、图像和视频都有可能是深度合成的。在转账汇款、资金往来这样的典型场景，不要仅凭单一沟通渠道未经核实就直接转账汇款，在这个科技高度发达的时代，我们还是给出了一种最没有科技含量的建议——通过回拨对方手机号等额外的通信方式再核实确认一遍。

来源: 我是科学人