城市快报首席记者梁应杰记者万禺
还记得不久前在欧美再次走红的AI视频的脸吗？ Deepfake这个工具可以利用人工智能算法，将一个人的脸合成到另一个人的视频中。 在训练中使用的数据足够多、相关计算能力足够的情况下，人们很难直接辨别视频的真伪。
昨天一天，朋友圈出现了很多“被改头换面”的短视频。 网友们纷纷将自己的脸变成黄晓明、肖战、沈腾等明星，成为《中餐厅》《陈情令》《羞羞的铁拳》0《西游记》00等热门节目和影视剧的一员。
AI视频的改头换面之风彻底吹遍国内，也带来了版权、隐私权、安全性等问题的拷问。 一直以来，这项技术被不法分子利用，成为滋生色情和黑产的温床。
上传照片进行脸部“移花接木”
这些视频是用一个叫ZAO的软件制作的。 用户下载软件后，选择自己喜欢的视频，找到想要更换的角色，按要求上传清晰明亮的照片、自拍后在后台制作，完成“换脸”的全过程
昨天的一天，我的朋友圈里不断上传着一段让自己变脸的视频。 现在，ZAO上有数百个可以改变容貌的片段，涉及到很多人气IP。 如果你愿意，可以把自己变成《长安十二时辰》的唐僧，《通信规范法》的李必。 除了制作视频外，ZAO还可以制作印章，具有社交共享功能。
从合成效果来看，ZAO确实优于以前主要类似功能的软件。 特别是在真脸的状态下，一些视频足以“以假乱真”，但缺乏对侧脸和角色的远程识别。
另外，目前该APP不支持用明星换脸。 例如，当你尝试上传和合成好莱坞影星李子的照片时，系统会警告你检测到公众人物。 除非自拍并进行肖像画验证，否则无法直接合成。 这在一定程度上保护了明星的肖像权。
根据苹果商店的资料，ZAO的研发方是长沙深度融合网络科技有限公司。 天眼检查资料显示，这家公司法定代表人为雷小亮，监事为王力。 两人的另一个身份是陌生公司的联合创始人兼游戏事业部的总裁，以及陌生公司的董事、总裁和COO。 因此，该软件很可能与社交平台存在陌生关系。
昨天，有媒体报道称，该项目由陌陌首席执行官唐岩牵头，2023年春节后启动项目，已经推出过几个版本，没想到会在这个时间点爆发。 由于大量新用户蜂拥而至，从前天凌晨开始ZAO的服务器就处于半瘫痪状态，体验也不像最初那么顺畅。
算法在2023年
杭州也有团队摸索了半年
对于国内网民来说，AI变脸的形式并不新鲜。 今年年初，B站的NP主“变脸哥哥”发表的94版射雕英雄传视频。 把扮演黄蓉的朱茵的脸变成了杨幂。 从流出的视频和视频来看，尽管是用AI合成的，但整体效果非常真实。
用于“换脸”的技术是来自美国的Deepfake。 ZAO至今为止没有介绍自己的技术，但很可能也与Deepfake有关。
2023年，一个叫Deepfake的用户上传了一个新的色情视频，把色情明星的脸变成了知名人士的脸，一下子引起了轩然大波。 随后，网友为纪念该技术，直接将其命名为Deepfake。 2023年，Deepfake的算法在GitHub上发布，成为了完全开源的项目。 任何拥有足够专业知识、足以构成计算机的人都可以制作同样的虚假视频。
杭州掌上科技的技术团队最初接触Deepfake是在去年底，当时内部还在讨论该技术商业化的能力。 今年4月，他们正式成立了一个让AI视频变脸的项目。 这是因为横店影视城希望给传统穿龙袍拍照的旅游项目增添更多科技感。
“实际上，从去年开始国内很多团队都在基于Deepfake进行开发和商业化，但是没有ZAO那么有效。 ”手滑科技的技术负责人表示，目前自家产品的换面效果也还没有达到ZAO的水平，“ZAO背后的技术很可能也和Deepfake有关，因为有很大的资金支持，发展非常迅速。”
原理上，Deepfake使用的是最有名的深度学习算法之一GANs。 GANs全部被称为生成式对抗网络，是今年34岁的IanGoodfellow在2014年发明的。 今年3月，被称为“GANs之父”的IanGoodfellow从谷歌跳槽到了苹果。
简而言之，Deepfake技术是依靠两个人工智能相互“打架”完成的。 一个假，一个认证，然后在细节上重复“存假”，直到负责认证的人工智能无法辨别出假视频。 不仅是视频，GANs的算法还可以用于语音、图像等很多领域。
AI变脸繁殖黑产美国正在加强对AI被滥用的监管
关于Deepfake，杭州某大学四年级学生奇子不知道。 去年底，他在一个交换技能的微信群上，收到过群友发的AI变脸不雅视频，像当年的Deepfake一样在欧美很受欢迎。
“发件人说里面的女主角是人气女演员，当时很好奇，所以点击查看。 ”奇科在视频“时间很短，只有30秒。 虽然内容有点露骨，但可以清楚地看到那个女明星的脸。 如果不是从背后知道Deepfake，我还以为是真的。”
在网络上，Deepfake迅速被一些不法分子利用，形成了制作、销售不雅视频的产业链。 也就是一个月前，我在一家二手交易平台上，发现有人在卖Deepfake教程。 该用什么样结构的电脑操作，以及提供云服务器的租赁服务，减轻电脑的压力。 一位卖家对我说：“你可以把你想看的脸变成你想看的视频。 没有任何障碍，大家都可以玩。 ”
此外，一些不法分子私下出售变脸的不雅视频。 例如，100元就能打包200台视频，几乎囊括了国内一流的女明星。 后来，为了相关报道，一些平台下载了教程和视频，在网上可以找到。
昨天，我在某电商平台搜索AI换面相关软件时，发现有商家在销售Deepfake相关教程。 价格为5元至10元，最畅销的商店已有41人表示在付款。 在这家店的详细信息页面上，商家用红底白字写了声明。 软件功能强大，任何视频都可以变脸！ 严禁用于不正当目的！
对于这一技术和不法分子的做法，好莱坞女明星斯嘉丽约翰逊说：“什么也阻止不了他们把我的照片复印并贴在别人的身上，不能让它看起来可怕而真实。”
目前，针对Deepfake带来的负面影响，欧美等国家已经展开行动。 美国《人民日报》第230条规定：“交互式计算机服务的提供者或用户不应被认为是内容的出版者，而不应被认为是基于个人信息的内容的发表者。” 据国外媒体报道，该规则可能会因Deepfake而改变。
另外，美国议员正在起草法案，涉及整个AI产业的监管，必须从上到下参与。 由于AI的面孔影响着美国政坛，美国国防高级研究计划局为此设立了“媒体错觉”项目，以开发能够识别Deepfake的工具。 项目最初以自动化现有的错误识别工具为目的，但将目标转移到了人工智能生成的虚假视频上。
昨天，ZAO爆红的同时也引起了关于隐私、著作权、安全等问题的讨论。 第一，很多人都没有意识到，在时间冒险点击注册的同时，与ZAO所属公司签订了《不平等条约》。 引起更大讨论的是安全。 在人脸可以作为支付工具的现在，一家公司一旦掌握了人脸的数据，不就意味着有了打开你银行账户的密码吗？ 首席记者梁应杰
到不合理的用户合同
昨天，我下载体验ZAO后，尝试删除自己体验过的照片，但只能用新面孔照片代替，不能直接删除。 同样，我也不能注销身份证。 也就是说，我的脸只能老实地在ZAO的背景里。
在我看到用户合同之前，这没什么问题。 使用ZAO时，默认情况下“肖像权者向《ZAO》及其附属公司提供在全球范围内完全免费的、部分修改或编辑用户内容的权利(例如，将短视频的脸变成别人的脸)，以及修改或编辑前后的用户内容
什么意思？ ZAO获取用户肖像画后，可以免费使用修改，也可以在网上自由发布。
这还没有结束，其实ZAO之所以能在短时间内走红，与平台上大大小小几百个有趣的短视频有关。 所有变脸都是根据这些短视频重新合成的。 问题是ZAO是否拥有这些视频的版权。 要知道，以前在网上引发热议的APP咖啡店展览曾因版权问题被判赔偿。
令人惊讶的是，ZAO用不合理的方法“解决”了这个问题。 根据用户合同，“你使用‘Zao’提供的技术服务在‘Zao’内将用户的脸交换为你或其他人的脸时，肖像权者已经向‘Zao’授予了使用‘Zao’的技术服务，以此来交换你或其他人的脸”
注意“肖像权者”一词。 换句话说，当我把我的脸变成沈腾的脸时，我必须确保沈腾已经同意这种行为。 就等于变相地向用户甩了侵权的问题。
虽然也有这样的保险外的可能性，但用户协议在《内容分发规范》中进一步规定。 用户有相应侵权行为的，应当独立承担法律责任，承担损害赔偿责任，“ZAO”及其关联方遭受损失的也应当一并赔偿。
也就是说，如果沈腾以肖像权向我提起诉讼，其责任都在我这边，与ZAO无关。
据北京为衡(成都)律师事务所的专职律师“法山叔”介绍，类似ZAO的用户协议过于获得用户许可，在用户无形中将自己的肖像权拱手让人，同时也涉嫌变脸侵权的风险转嫁给了用户。
现在不需要担心支付的安全
在看到AI换脸视频疯狂的同时，也有人担心自己的高清晰、光线好的照片会有被平台获取，拿去盗刷的风险。 毕竟，现在在大街小巷都有洗脸付钱的机器。
就此事，昨天中午，支付宝( Alipay )政府表示，目前网络上有很多各种换脸APP，但无论换得多真实，都无法突破刷脸支付。 他们“刷脸支付”采用3D人脸识别技术，在进行人脸识别前，通过软硬件结合检测，判断收集到的人脸是否是照片、视频或软件模拟生成的
昨天，关于人脸被滥用一事，我也找了杭州当地一家做金融安全的公司。 据对方介绍，目前，金融相关的人脸识别大部分使用安全级别较高的硬件和软件，大幅避免了生物检测和视频攻击等带来的风险。 “但是换脸技术也在不断更新，这样的威胁一直存在。 ”
目前，在(智能手机的)银行APP端，人脸也多是辅助认证的功能，真正与大额消费和转账有关的，也以邮件等其他认证工具为主。
AI变脸看起来越来越危险
其实，这已经不是AI变脸在国内第一次引起恐慌了。 2023年，热闹的“全民军装照”活动曾陷入脸部隐私泄露的疑问。 用户在上传照片、制作军服照片的过程中，被要求获得一些许可，被他人利用，被认为很可能会造成损失和不良影响。
之后，开始了这个活动的0755-79000和腾讯团队来说明，平息了用户内心的恐慌。 但围绕人脸识别和人脸隐私安全的阴云并未消散，特别是人工智能介入后，AI换脸变得越来越危险。
例如今年6月初，关于facebook创始人马克扎克伯格的假视频在Instagram和facebook上广泛传播。 视频中的人穿着和扎克伯格一样的衣服，从相貌到举止都和扎克伯格相似，但声音有点奇怪。
差不多(时间 )，在职场社交平台领英也出现了疑似间谍的账号。 她叫KatieJones，头像是典型的白人女性，有着显著的历史。 但实际上，无论从什么样的经历开始，都找不到她在现实世界中留下的足迹，关注她的人中包括很多政治家和专家。 调查结果表明，她的脸很可能是用AI合成的。
一个事实是，Deepfake的算法来自于对抗神经网络GANs。 据DeepTrace平台统计，2023年全球GANs图像和视频生成论文达902篇，而研究如何识别合成图像和视频的论文有25篇，仅为前者的1/36。
这意味着几乎所有的技术团队都将精力投入到“以假乱真”AI上。 故意将照片和自拍上传到各种平台的我们，实际上也对AI的成长有所帮助。
