一、你换脸了么？

“ZAO”换脸视频截图（图片来自网络）

小白：大东东～快看我拍的“电影”～

大东：小白可以啊，紧跟技术的潮流，还能复现AI换脸技术。

小白：诶？什么潮流？我只是下了个“ZAO”传了张照片而已。

大东：我还以为你用deepfakes源码自己训练了模型生成的呢。

小白：嘿嘿，没那么厉害，还是这个“ZAO”牛皮！

大东：我看看，嗯，确实逼真，不过你使用之前仔细阅读过app的用户协议条款了么？

小白：啥？我……我没看过。

大东：那你知道app拿到你的照片之后，除了做这个视频，还干嘛去了？

小白：我……不知道啊！啊！万一把我脸换在别人歹徒身上诈骗去就……

大东：这个“ZAO”我们今天可以好好说说。

二、大话始末

小白：这个“ZAO”只用了我一张照片就能把我精准地换到另一个人身上，这是什么神奇的技术啊！

大东：“ZAO”为用户换脸所使用的技术名为 Deepfakes，这个技术由来已久。事情还要从2017年说起，其实早在那时AI换脸就火爆全球了。

小白：还真挺久远的。

大东：2017年12月，国外某ID名为“deepfakes”的Reddit论坛用户首次将自己制作的AI换脸视频发布在了网上。它能够把照片和视频中的人脸替换成任何想要替换的人脸，效果十分逼真，甚至肉眼难辨真假，和你手上的“ZAO”一样。

小白：哇，那时候就做到这个水平了。

deepfakes替换效果（图片来自网络）

大东：不久之后，由于受到大量受害者的投诉，Reddit论坛迫于压力封禁了“deepfakes”的账号，不过这却让“deepfakes”直接开源了其AI换脸技术的代码。

小白：技术是挡不住的。

大东：此后，人们可以随意在网上下载到由这些代码衍生出的各类AI换脸工具软件，比如下面的DeepFaceLab，使用这些软件并不需要多高的技术，只要具备基本的电脑操作常识就可以在短时间内制作出换脸视频。而人们为了纪念“deepfakes”的贡献，就采用它的ID命名了AI换脸技术，称之为“deepfakes”。

小白：deepfakes真厉害！

大东：今年年初大火的由B站UP主“换脸哥”制作的一段94版《射雕英雄传》换脸视频就是用的这个技术。

AI换脸用杨幂替换朱茵（图片来自网络）

小白：哇！你不告诉我是换脸，我还真看不出来！毫无违和感啊！

大东：虽然ZAO并没有公开表示其换脸技术源自开源的“deepfakes”代码，但二者技术有着高度的相似性。

小白：嗯，看出来了。

大东：DeepFakes程序的核心部分是一个自动编码器，它是一个深度神经网络，能够学习如何获取输入、将输入压缩成很小的表示，或称之为编码，然后从编码中恢复最初的输入信息。

deepfakes原理示意图（图片来自网络*）*

小白：emm……待会儿我就去研读研读！

大东：AI换脸不同于一般意义上的p图，程序找到两个面部之间的共同点，通过搭建神经网络来学习人脸，使替换以后的脸可以生动地模仿原来的表情，以假乱真。如果源素材的质量足够高，面部的转换几乎是天衣无缝的。

小白：只要你有一个强大的 GPU 和足够的训练数据，啥脸都能换出来……

三、换出去的脸难收

小白：我听说，最近工信部也盯上了“ZAO”呢。

大东：是的。工信部约谈“换脸视频”应用“ZAO”的实际控制人北京陌陌科技有限公司，原因是“ZAO”的实际功能设计和用户协议条款。

小白：什么情况？

大东：从功能上来说，用户无法直接删除自己此前上传的图片，只能以新上传的照片来替代，同时无法自行操作注销ID。这就违反了《个人信息安全规范》中的主体参与原则，即必须向“个人信息主体提供能够访问、更正、删除其个人信息，以及撤回同意、注销账户等方法”。

小白：这可不靠谱，用户还没有这点权力了。

大东：从用户协议来看，“ZAO”此前在其授权协议中表示，用户上传发布内容后，意味着同意授予“ZAO”及其关联公司以及“ZAO”用户在“全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”，“包括但不限于可以对用户内容全部或部分修改与编辑”等。这同样不符合《个人信息安全规范》中关于个人信息原则上不得共享、转让，确需共享、转让时应单独明示并征得用户授权同意的要求。

小白：过分了啊！这太过分了！

大东：可见，对于人脸这样的核心个人敏感信息，“ZAO”此前的态度就是“你的就是我的”，“一旦拥有，天长地久”。那么，“ZAO”要这么多数据来做什么？

9月3日，工信部就“ZAO”App网络数据安全问题开展问询约谈。**（微博截图）

四、人工智能vs安全

小白：我等小用户在AI浪潮下瑟瑟发抖啊！

大东：人工智能时代已经来临。从小处看，这些用户上传的数据可以成为“ZAO”培育人工智能的资源，通过使用这些用户数据，优化算法，同时，用户的面部信息，透露出其性别、年龄等情况，如果结合地理定位等其他维度的信息，就可以得到相对精确的“用户画像”，从而进行精准推送，广告营销等商业活动，甚至可以转卖这些数据。

小白：数据就是金钱啊！

大东：实际上，对于用户数据虎视眈眈的公司并非只有“ZAO”一家。从朋友圈反复出现的“上传照片匹配名画”，到种种要求输入个人信息的个性分析、星座运势乃至红包优惠，如果认真查看其用户协议，多半禁不起推敲。

小白：是啊，它们既不说明用户的哪些个人信息已被收集，也不写清日后数据使用规则，用户只为好玩就稀里糊涂的把自己给卖了，还转发！

大东：面对这种攫取用户个人信息的行业乱象，一方面需要呼吁行业自律，网络服务提供商收集、使用公民个人信息，必须遵循合法、正当、必要的原则，明示收集、使用信息的目的、方式和范围，并经被收集者同意，不得违反法律、法规的规定和双方的约定收集、使用信息。

小白：企业需要自律！

大东：另一方面，需要监管部门加大监管力度，提高处罚标准，建立严格的赔付补偿机制，敦促企业真正重视个人隐私数据保护，同时加强打击网络黑灰产业，从源头上解决窃取用户个人隐私数据的利益驱动。

大东：一次次伤害用户，一次次又出来道歉，企业的这种行为实际上正在损伤消费者拥抱新技术、尝试新应用的信心。无论是个人、企业，还是国家，保护个人隐私数据，必须将眼光放得更长远，如果只顾圈钱，不提保护，虽有一时利益，但也会给AI产业持续健康发展蒙上阴影。

小白：是啊，技术无罪，有罪的是使用技术的人。希望大家都行动起来！

大东：美国国防部高级研究计划局今年推出了“媒体法医”项目，开发用于鉴别和定位伪造图片和视频的技术。“反伪造”技术的研究，也能一定程度上实现监督。

小白：除了鉴定技术，区块链的机制也能对信息的可信进行追踪吧！

大东：小白你说的没错。区块链可在去中心化、分散的分布式记账，能够保证提供稳定、不可篡改的数据信息。

小白：伪造技术在不断发展，反伪造技术也必须跟上！

来源: 中科院之声