一、小白剧场

大东：小白，你在玩什么呢？

小白：短视频网站发布了AI换脸的功能，感觉挺有趣的，之前用美颜功能我都认不出自己了，现在AI换脸再加上AI合成的语言更没人知道我是谁了，简直是社恐的福音。

大东：是的，AI换脸和AI换声技术的确提高了生产力。在电影和电视剧中，可以利用AI换脸技术实现对角色面部的替换，从而使演员能够展现出不同的面部表情和特征，适应不同的场景要求。这为电影制作和娱乐产业带来了更大的创作自由度和表现力。

AI换脸（图片来自网络）

小白：感觉AI换脸视频的主要功能还是应用在娱乐上，大众对新奇好玩的事物都有一定的好奇心，企业抓住这一点为用户提供新奇、有趣、值得分享的内容，从而宣传企业的品牌。

大东：这个技术会对影视行业、广告行业及其他娱乐行业（如直播等）产生很大影响。配合5G网络前景让人期待。当然新技术带来好处的同时，也会有一些不法分子想要钻空子为自己牟利。

小白：这个我还真遇到过，之前偶然刷到一个直播间正在带货，主播的面容还感觉在哪里见过，好像是那个当红明星，后来发现不是的。之后又刷到一些，长得居然一模一样，定睛一看原来只是使用了AI实时换脸技术的普通主播。这样应该算是侵犯肖像权了吧？

大东：未经明星允许或未经经纪公司授权，擅自使用艺人肖像进行商业活动，侵犯了明星的肖像权。就曾有明星状告公司侵犯肖像权，最后法院判公司公开赔礼道歉，并向原告赔偿经济损失。

电商AI换脸（图片来自网络）

小白：确实要打击一下他们的气焰。

大东：无独有偶。“某歌手”翻唱各类歌曲的作品从4月起爆发式增长，至今已有超过1000首，数量远超其出道20多年的作品总和。但这些歌曲却不是歌手本人亲自翻唱，而是“AI歌手”。

小白：怪不得有网民开玩笑说：“如果你还不出来开演唱会，发新专辑，你就要被AI取代了！”

大东：是的，因此AI换脸新技术引发的安全问题可不容小觑。一旦被黑产盯上，那后果可是不堪设想啊。

小白：大东又要讲知识了吗，搬小凳凳，小本本记好。

二、话说事件

大东：最近包头警方公布了一起典型的利用人工智能进行电信诈骗的案例，福州市的郭先生在短短的10分钟内被骗走了430万元。这个事件一经爆出马上上了热搜，网友们表示很担心自己的资产安全。

小白：岂有此理！骗子是怎么做到的？

大东：据包头警方的描述，是郭先生接到了一位好友的某即时通信服务商的视频通话。在短暂的聊天之后，该好友告诉郭先生，他的朋友在外地参与投标，需要430万元的保证金，并要求将款项通过公司的对公账户进行转账。好友声称这是为了完成投标过程。

小白：等会儿！！福州的郭先生被骗，为什么是包头警方发现的？

大东：这就体现了我们国家的地区协同反诈机制的优越性啊，由于诈骗赃款转入到了包头市的银行，所以包头市警方迅速响应并予以处置。

小白：那通过即时通信视频存在问题吗？

大东：没有问题。但是你想啊，模仿好友视频聊天，又通过对公账户进行转账，伪装度确实极高。而且后来“好友”向郭先生要了银行卡号，并声称已经把钱打到他的账户上面了，还把银行转账底单的截图通过某即时通信服务商发给了郭先生。

小白：实锤被骗了。

大东：而且还说遇到了“高端”骗局，犯罪分子通过智能AI换脸技术，佯装成好友对他实施了诈骗。

小白：眼见都不一定为实了。犯罪分子行动太快了，一看就是经过精心设计的。

大东：新技术都是双刃剑，它可以成为娱乐、生产的工具，也可以成为侵权违法的工具。关键是看新技术掌握在谁手里。

小白：我觉得在这个事件中，诈骗的手段升级是建立在信任机制升级的基础上的。

大东：太对了小白。其实以前电信诈骗难道不存在吗？当然存在。只不过以前都是以发短信和打电话为主的短信诈骗、语音诈骗为主。随着时间的推移，普罗大众的反诈意识不断增强，于是骗子们“另辟蹊径”，打起了AI换脸的主意来。

小白：是啊，谁能想到眼见也能不为实。

大东：其实类似的事件还有很多。最近流行的一种“枪毙”诈骗，你了解过吗？

小白：巧了东哥，我刚收到一条枪毙短信！

大东：哈哈，还有非洲王子诈骗：在邮件中，大体故事情节是非洲几位高官要把巨额资金以“国家秘密”的形式转移到国外，需要使用你的名义和银行账户，转移成功之后你将获得上千万美元中的 10% 作为酬劳。

小白：哇哦~

大东：如果答应和这些“高官”合作，过一段时间骗子就会以事情进展不顺利为由，让你先垫付一点“微不足道”的手续费和打点官员的小费，付过几次钱之后，对方就变得无影无踪。

小白：这也太扯了吧！

大东：是啊，虽然很多人都觉得这样的短信很离谱、很搞笑，但这些短信恰恰是瞄准了目标人群，依然有人会上当受骗。说到底，这类诈骗的核心目标都是钓鱼，即筛选掉不会受骗的人，但是按照概率总有人上当，上当的人，就是骗子眼中的“肥鱼”无疑了。

小白：这样说来，我想起大东话安全以前也探讨过很多类似的诈骗事件比如：《警惕！钓鱼WI-FI可能让手机变“砖头”》《木马APP“钓鱼缉毒”，收网众多毒贩团体》《警惕全能陷阱》《“变脸”软件成黑产帮凶》

三、大话始末

小白：东哥，那难道说普通人就只能坐等被骗，毫无防范手段了吗？

大东：当然不是。就对现在的技术来说，识别AI换脸还是可以实现的。共青团北京市委员会官方微博分享了一个简单的办法：在视频聊天时，如果担心有对方有AI换脸诈骗的可能，你可以要求对方，将一根手指或者其他物体放在脸前来回移动。也可以要求对方左转或者右转，然后观察他的侧脸。

AI换脸检测（图片来自网络）

小白：这样确实是一种识别方法，AI换脸技术现在还有一定的缺陷，受到干扰之后，很容易露馅。

大东：此外，我们国家有强大的警力协同机制，也有健全的反诈法律法规体系保护，能够最大限度地保障人民群众的生命财产安全。针对类似的电信诈骗，公安机关、网络平台均已建立相对完整的防控拦截机制，这些机制仍将继续发挥着保护层的作用。比如，在包头的案例中，在受骗者及时报警后，警方10分钟便追回了300多万元的资金。

小白：尽管如此，我听说最近利用AI技术进行诈骗的方式越来越多样化了，其中不仅包括“AI换脸”，还包括声音合成、转发某即时通信服务商语音和利用AI筛选受骗人群等。这对我们普通老百姓来说简直是一种“降维打击”。我们应该如何预防这些AI诈骗呢？

大东：是的，现在的诈骗手段确实变得越来越高科技了。针对声音合成方面的诈骗，我们可以注意一些细节，比如语速、语调、背景声音等，如果有怀疑，可以通过其他方式核实对方身份，比如直接拨打相关机构的官方电话。

小白：嗯，确实要保持警惕，这些高级攻击手段融合到一起，除非专业人士，否则很难不被骗了。

大东：同时，声音合成技术已经相当成熟，可以伪造出非常逼真的声音。

小白：对于AI换脸方面的诈骗，我们是否可以要求对方在视频聊天时做一些特殊动作，比如拿物体晃动或转动脸部，以便观察对方的面部特征是否一致？

大东：没错，小白，这是一种简单而有效的识别方法。AI换脸技术虽然有一定的缺陷，但在受到干扰后很容易露馅。此外，转发某即时通信服务商语音的诈骗也需要我们保持警惕，尤其是在收到涉及财务、个人信息的某即时通信服务商语音时，要通过其他方式验证信息的真实性。

小白：多方验证总是没有坏处的。不能偷懒。

大东：那你提提，该如何多方验证呢？

小白：比如包头这个案件，在视频通话确认身份以后，可以辅助性地再打电话问问，也可以对质细节，比如上周开会的地方在哪里？如果是北京开会，对方回答上海，很显然就是骗子；再比如，说你家小儿子怎样了，但根本就没有小儿子，这也可以确认是骗子。

大东：是的，总之就是要多种路径交叉验证，绝对不能碍于情面直接建立信任。而利用AI筛选受骗人群的诈骗更具挑战性，诈骗者可能通过AI技术筛选出潜在目标，如经常关注投资信息的人群。对于这种情况，我们要保持个人信息的安全，避免过多暴露个人隐私。

小白：确实，毕竟数字化时代，个人隐私几乎与全部家当画等号啦。

大东：是的。不过有个好消息是：AI换脸技术被用来诈骗同时也可以用于反诈骗，国内部分科研团队、科技企业已经在研发专门针对虚假信息的检测技术，不断提升对于语音、面部合成信息的检测成功率。可以预测的是，用AI防御AI将成为主要趋势。

小白：这样在不久的将来，所谓的高级骗子，也将无所遁形啦~

四、小白内心说

小白：郭先生遇到的诈骗，在十年前就已经出现过了，只是那时是面对面街头诈骗。如今应用了AI换脸和模拟声音，改在网络上进行而已。在数字化、信息化时代，我们更要保护好个人隐私！如何获得保护隐私的知识呢？那当然是多看大东话安全专栏啦！

来源: 中科院之声