AI (人工智能)变脸的飓风正在挑战网络安全。
新京报记者近日调查发现，随着AI技术人气和门槛的降低，销售改变明星面貌的淫秽视频成为地下商业。 百度贴吧部分标榜“变脸女明星的名字”的帖子，销售用AI变脸技术合成的视频，价格4元一部，158元可以打包购买700部视频。 很多著名的女明星都被提到了。
另外，新京报记者注意到，闲鱼有卖家提供“定制交换”服务。 只要买家提供明星、私密照片，卖家就可以“种花种树”淫秽视频的主角。 定制变脸视频每分钟20元-50元。
对此，联合国网络安全&； 网络犯罪问题高级顾问吴沈括对新京报记者表示，销售AI换脸淫秽视频本身已经是传播淫秽物品牟利罪，也侵犯了肖像权。 购买者在购买后传播利润或传播利润可能是违法的。
销售
女演员频率“变脸”，35个视频包69元
记者搜索发现，“换脸”、“Deepfake”、“FakeApp”的论坛等处都有销售AI换脸淫秽视频的帖子。 投稿者大多是没有头像的简单字母名称的用户，用包括“国内外81部，诚信第一”在内的模糊语言投稿。
记者联系上一位叫阿长(化名)的卖家，随后发来了“80条明星合成视频列表”的压缩包。 包括多个淫秽视频列表的截图，文件名中显示了多个众所周知的女明星。
“(购买)不足15份的是4元一份，15份以上的是3元一份，80份一共是68元。 ”阿长说，视频文件通过QQ文件发送，对应微信、支付宝( Alipay )、QQ红包等支付方式。 记者花了4元钱随机购买了一段名为知名女明星的视频。 视频中女主角的脸都换成了这个明星，虽然换脸效果粗糙，但一眼就能识别出来。
随后，阿长附上了相关视频的剪辑版本，包含了多部淫秽视频的部分内容，其中女主角的脸全部被这位女演员代替。
另一位发帖的卖家林祥(化名)向记者发出了一个网盘链接，内容除了视频目录、截图、试镜视频等文件外，还包括单独知名的女明星目录。
“打包价158元，买700条视频，打包发截图。 ”根据林祥提供的压缩文件，很多女明星成为主角的频率最高。
“有半小时、四十分钟的人，也有五分钟的人。 有些人相似，有些人不相似。 所以，只买价格也不会一样。 ”林祥表示，一个视频是根据时间和制作效果定价的。
上述著名女明星的目录文件包括35部视频，售价69元，每部售价约5-10元。 10分钟以上的视频每瓶20-28元。
记者问阿长，销售相关视频的其他卖家是否也是他，他马上否定了更新目录并拿出来。 “他一定没有这个。 我会更新”。 他告诉记者，这些视频不是自己制作的，而是来自国内某互联网平台，充值会员可以下载并分销。
但记者在搜索中并未发现这样的国内网络平台。
定制
通过提供照片和视频，“照片越多越像”
除了百度贴吧，二手闲置平台闲鱼也有销售信息。 记者用闲鱼搜索“AI换脸”观看。 “AI变脸明星是最好的精品”、“AI变脸，集合，一切都明白！ ”据报道，实际上是在销售将女明星的脸“嫁接”的淫秽视频。
记者分别与4位卖家进行了沟通，一般价格为提供有女明星名字的目录截图，以100份套餐的形式出售，价格为10元-38元。 塞拉的儿子(化名)告诉记者，包装上销售的淫秽视频中，知名女明星被恶意“嫁接”的最多。
记者搜索闲鱼发现，部分卖家还提供“定制换脸”服务，买家提供明星、私密照。 卖家可以将照片的脸“嫁接”在包括淫秽视频在内的任何视频上，制作周期为1-2天，报价为每分钟20元-50元。
根据高尔(化名)，视频素材和照片必须由购买者提供。 “照片需要更多，在侧面等各种角度，至少提供20张以上。 照片越多越像。 没有照片也可以发送视频”。
另一位销售者要求，如果是“变脸”的淫秽视频，可以在3分钟内制作。 该卖家的定制价格为1分钟50元、2分钟95元、3分钟135元，也就是说买家至少可以花135元定制淫秽视频。
近日，在闲鱼平台搜索“AI换脸”时，发现有包括“换脸APP”、“定制换脸”、“换脸教育”在内的9种商品在内，部分卖家在商品信息中写道：“本店只负责服务配置环境和教授基础知识请自觉遵守当地的法律。 否则，后果自负”。
在调查过程中，闲鱼平台注意到删除了部分淫秽视频销售链接。
另外，记者在淘宝上搜索“AI换脸”，20多家店铺有相关销售信息。 记者随机询问了7家店铺，其中4家店铺提供定制服务，但有卖家明确表示“不做黄、证”。 卖方还默许了曾被记者要求制造和销售伪证。
教学
卖家398元包教堂，学生打7折
记者看到上述视频时，注意到部分视频中有“合成联盟”的文字及其QQ号的水印。 通过这个QQ号联系上了昵称为“明星合成器教育视频代工”的卖家，他表示，除了销售明星换脸视频和定制换脸服务，还提供教育服务。
“买一套教学视频发给你。 600多台。 ”该卖家表示，他提供AI改头换面视频制作教育服务，售价398元，包裹教堂附送淫秽视频600余条。 “我们使用的云计算机的效果是Deepfake的几十倍。 ”卖家告诉记者，“买云电脑发送FakeApp和DeepNude”。
根据卖家提供的教学内容，用户根据指示完成“链接云硬盘，提取人脸数据，训练模型，变脸视频输出”4个步骤后，即可实现AI变脸视频的制作。
“感谢你们的信任。 (学生)昨天下午刚学，不到三个小时就开了全会。 想学的话我会竭尽全力教你的。 ”根据该卖家的微信朋友圈，已经有很多学生在学习相关的AI脸部交换技术。
记者翻阅卖家朋友圈发现，“AI智能暑假期间，所有学生凭学生证一律7折，学起来不费劲”。 卖家提供的截图显示现有学生提供了学生证信息，并购买了该教育服务。
根据《纽约时报》，Deepfake是指用人工智能软件制作的虚假视频，由FakeApp程序制作，FakeApp可以改变AI的面貌。 DeepNude可以用人工智能“一键脱衣”照片上穿着衣服的人物。
“随着科学技术的发展，大众必然会遇到这样的问题，DeepNude生成的照片不是本人，而是PS后效应。 ”网络安全专家张百川在接受新京报记者采访时表示，目前网上已经有一些人开始研究类似的算法。
此外，对于网络安全，吴沈括表示，《网络安全法》确立了网络产品和服务的安全控制原则，将他人的肖像画用于制作淫秽视频、利用网络技术“作恶”是对他人合法权益的
争议
有很多改头换面的视频网络，个人很难防止中招
实际上，AI变脸技术已经在各个领域传承了很久。 使用最广泛的领域是电影。 据新京报报道，中国科学院计算技术研究所的张杰解释说：“通过学习，这个技术可以简单理解为一个神经网络将李四扭曲的脸恢复成真正的脸。” 该神经网络具备学习后，将任意人脸恢复成“李四”人脸的能力。
今年年初，一段通过AI技术在《射雕英雄传》中用杨幂替换小俊脸的视频在网络上引发热议。 记者搜索发现，视频网站哔哩哔哩(B站)中存在大量AI改头换面的视频，人气很高。 其中，用原网络游戏主播吕本伟替换蔡徐坤头像的视频，播放量达到253.1万。 很多网友在相关视频评论区评论说“没有违和感”、“很搞笑”。
乐(化名)表示，出于猎奇和娱乐的心情，自己喜欢在哔哩哔哩上看AI变脸的视频。 “把外国人的脸变成旧衣服的人物是很少见的。 ”但也有网友在相关评论区表示：“AI变脸，敲诈捏造色情作品，在技术上无罪，还是人之常情。”
律师、星星娱乐法创始人李振武对新京报记者表示，视频制作人未经朱茵和杨幂许可擅自使用肖像画，抗辩没有营利行为，但在网络语境下，流量变化和粉丝倍增难以解释为非营利行为，涉嫌侵犯肖像权
有观点认为AI换脸技术的门槛正在下降。 对此，张百川表示：“以前技术上非常困难，如果已经有人开始研究这个算法，而且算法公开了，这种趋势很难抗拒。”
张百川表示，普通人可能不容易掌握AI换脸技术，但可能有人会利用该技术制作出具有类似功能的软件。 普通人把照片上传到APP就可以了。 对于个人如何防范，张百川表示：“很难。 他说：“如果照片在互联网上，就有(被利用)的风险。”
记者注意到，Deepfake和DeepNude在海外成为了热门话题。 据《纽约时报》报道，随着越来越多的人使用FakeApp制作名人色情视频，FakeApp引起了恐慌。 《卫报》将此类软件称为“对未来的可怕一瞥”，表达了对人工智能未来可能引发的伦理问题的担忧。
当地时间7月2日，美国弗吉尼亚州通过了关于色情禁令的法律修正案，成为美国第一个禁止用电脑发布色情信息的地区之一。 修正案规定，未经许可传播或销售以任何方式创作的人处于裸体或脱衣状态的视频或静止图像是违法的，包括虚假创作的视频或静止图像。
在我国，依照《刑法》第三百六十三条的规定，以牟利为目的制作、复制、出版、销售、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金。 情节严重的，处三年以上十年以下有期徒刑，并处罚金； 情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
联合国网络安全&； 网络犯罪问题高级顾问吴沈括表示，就中国法律而言，销售AI换脸淫秽视频，本身就已经是传播淫秽物品牟利罪。 另外，在民事侵权领域，未经许可将他人肖像画用于谋利也侵犯了肖像权。
针对改头换面购买淫秽视频的人，吴沈括告诉记者，目前对购买淫秽物品没有设置法律责任，主要集中在传播淫秽物品和传播淫秽物品牟利两种违法形式上。 购买者改变AI的面貌购买淫秽视频后，将其传播或传播利润，可能会构成违法或犯罪。
张百川认为，技术本身没有问题，有人利用技术作恶，所以大侠在日常生活中必须重视隐私保护。 “比如即时通讯软件，有人用它工作，也有人欺诈。 ”
新京报见习记者程子姬记者陈维城编辑王进雨校对薛京宁
