本报北京12月14日电(记者黄昂金)“AI变脸”对于很多网民来说并不陌生。只需上传照片，你就可以在网上体验百变的穿衣打扮、性别变化，甚至预测伴侣未来孩子的长相。分享这种“变脸”的图片或视频，就成了亲朋好友之间的一种网络社交娱乐。
然而，记者发现，除了娱乐之外，“AI变脸”领域也存在诸多乱象。很多用户反映，有些“AI变脸”app需要收费才能使用，价格很高；也有消费者在投诉平台上表示，自己在某App交了年费会员，但是一键换的模板没有了。
此外，“AI变脸”App开发者因使用视频模板侵犯他人肖像权被罚款。
业内人士表示，所谓的“AI变脸”，其实是一种深度合成技术。目前已经从工业场景转移到消费领域，应用场景更加复杂，问题也更加复杂。需要注意的是，如果这种技术使用不当，可能会侵害社会交往的基本信任，损害公众的名誉权和荣誉权，进而影响交往秩序和社会秩序。
用户抱怨价格太高，
开发者：AI算法和团队贵，免费，不现实。
近日，记者搜索发现，基于深度合成技术的“AI变脸”广泛应用于应用软件、短视频平台、社交媒体平台。
“基本上，一切都是为了娱乐。”来自广州的用户小轩告诉Yangguang.com记者，她曾经在某短视频平台刷过一个预测未来宝宝长相的特效，偶尔会分享给好朋友，“预测”朋友未来宝宝的长相。“平台官方特效是免费的，那个段子时间很受欢迎，所以经常刷，我也试着玩了一下。”
对于基于深度合成算法处理的“AI变脸”技术，近日发布的《互联网信息服务深度合成管理规定》给出了定义：深度合成技术是指利用深度学习、虚拟现实等合成算法，使文本、图像、音频、视频、虚拟场景等网络信息，包括生成或编辑图像和视频内容中的生物特征的人脸生成、人脸替换、角色属性编辑、人脸操纵、姿态操纵等技术，生成或编辑图像和视频内容中的非生物特征的图像生成、图像增强和图像恢复技术，以及生成或编辑数字角色和虚拟场景的三维重建和数字仿真技术。
(图片来自CFP)
在记者的应用商店和社交媒体平台，了解到多种提供“AI换脸”服务的App，应用评论区鱼龙混杂。
比如记者随机搜索的一款名为“脸猫”的App，已经安装了300多万次，综合评分2.6分。有用户评价“很棒的软件，体验了不同风格的我”“有很多漂亮的模板”；也有不少用户“吐槽”:“你要成为会员，不仅是会员，最少30，最多200以上。我建议你还是别弄了。”“你需要钱，这不是免费的，也不是真的。一看就是一批(图片)，糊弄孩子……”
另一款名为“优颜”的App表示，其“AI变脸视频”功能“可以用AI技术替换各种流行的面孔”。该应用在华为应用商店的评分为1.8，安装了20万次。
“每个(模板)都要花钱，所以没有(免费)体验。不建议下载！”“价格很高，不会再来了。”“钱都要，没有好的限制。之前三段视频，有点抢钱的意思。”在油研App的评论区，也有大量对其收费和定价不满的评论。
对此，游燕App的开发者在评论区回复道：“游燕有很多免费视频，可以免费玩变脸游戏。但让整个应用免费是不现实的，因为AI算法非常昂贵，工程团队也是如此。”
值得注意的是，除了对收费行为表示不满之外，有用户在有眼App评论区表示：“所有视频均非原创视频，均为改头换面后的盗播视频。”
中国模特视频成为“AI变脸”App模板，
应用程序开发者因侵犯他人肖像而被罚款
颜App使用的视频模板是否被盗不得而知，但“AI变脸”App侵权案已有先例。
近日，杭州互联网法院审理了一起“AI换脸”App利用深度合成算法侵犯他人肖像权的案件，最终判决App开发者赔礼道歉并赔偿损失共计5000元。
据杭州互联网法院微信公众号显示，原告楼某某是中国汉服模特。今年3月，其在某短视频平台发布短视频。视频中，楼某某面部古色古香，一身汉服半身出镜。该视频包括几段建模图像。被告上海某公司(以下简称“A公司”)是某“ai变脸”App的运营主体，该App宣称“只需一张照片，立即成为视频主角”。用户缴纳68元至198元不等的会员费，即可使用所有“变脸”视频模板。
原告楼某某发现被告A公司运营的“AI变脸”App上有楼某某拍摄的古风视频模板。用户可以通过上传个人照片，将视频模板中的人脸替换为用户上传的人脸。除了五官有实质性变化外，其余内容与原视频一致。软件生成变脸后的古风视频，用户可以保存保存到其他平台。楼某某认为A公司的行为侵犯了其肖像权，请求法院判令A公司停止侵权、赔礼道歉并赔偿损失。
杭州互联网法院指出，民法典明确规定“禁止利用信息技术伪造或者以其他方式侵犯他人肖像权”是侵犯肖像权的典型形式。“利用信息技术手段伪造”是指利用信息技术手段编造或者伪造他人肖像，以假乱真，从而达到利用不存在的事物谋取非法利益的目的。
杭州互联网法院经审理认为，本案中，楼某某有权在涉案元素的模板视频和被替换的视频中，对具有相应图像的人物进行肖像化处理。对于变脸前的视频，楼某某以古装和汉服出现，但从其面部形象和体貌特征来看，普通人还是很容易辨认出其主要身份的。视频上传到App作为模板供他人使用时，视频内容没有被篡改，不存在主图无法识别的问题。对于变脸后的视频，楼某某只保留了身体图像，但与原始视频素材相比，普通人仍然可以通过未修改的对应场景和细节，辨认出楼某某是身体图像的对应主体。
A公司在未经楼同意的情况下，通过技术手段提取了涉案古代人像视频，并上传至其变脸App供用户选择。这种行为本身已经侵犯了楼的肖像权。同时，涉案视频模板已被用户多次使用和收藏。可以认定，A公司利用深度合成技术，将其他用户提供的人脸替换为涉案视频中的人体图像，生成图像生动、画面流畅的假人像视频，供用户下载、保存、发布、分享使用。
综上，被告A公司未经楼某同意，使用其深度合成技术制作的肖像制作虚假视频，依法应认定为侵犯楼某肖像权。
此外，中国法制工作委员会互联网协会副秘书长胡刚在接受Yangguang.com记者采访时指出，以上述案件为例，化妆、服装、动作，包括背景设计等原告发布的视频中均可构成视听艺术作品，受《著作权法》保护。被告A公司未经原告许可，将原告发布的视频作为App的模板发布，仍可能侵犯原告的著作权。
三是部门出台了深度综合管理规定、
专家：强调深度合成技术应用的鉴定。
近日，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》(以下简称《规定》)，将c
例如，《规定》指出，深度合成服务提供者、技术支持者提供人脸、声音等生物特征信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其个人同意。
055-79000还强调，如果深度合成服务提供商提供人脸生成、人脸替换、人脸操纵、姿势操纵、视频生成或显著改变个人身份特征的编辑服务等人的图像，可能导致公众产生混淆或者误解的，应当明确标注所生成或者编辑的信息内容的合理位置和区域，提醒公众注意深度合成的情况。
针对《规定》中的logo要求，胡刚告诉记者：“举个简单的例子，假设一个相貌平平的用户通过‘AI变脸’App得到一张他的长相、体态、着装甚至背景的照片。如果用户只是自己保存，不会对社会和他人造成影响，但如果用户选择发布，可能会造成混乱或误解。在这种情况下，要求服务商进行深度合成并做标记，说明这张照片是深度合成技术编辑的。”
胡刚指出，其实这个规定是从后端到前端的监管，主要是强调用户在发布和传播过程中要有相应的标识，防止用户误认或者混淆，避免破坏传播秩序。“可以理解为透明监管原则，对于平台或者开发者来说是透明合规的，也是保护消费者知情权的。”
“换句话说，如果深度合成服务商没有按照要求进行标注，我们认为这是服务商没有尽到向消费者提供真实、全面的商品信息或者服务信息的义务，侵犯了消费者的知情权。隐瞒真相是消费欺诈的重要表现。”胡刚告诉记者，《规定》的出台实际上是鼓励新技术、新业态的发展，也要求规范发展。
国家网信办相关负责人表示，深度合成服务在满足用户需求、提升用户体验的同时，也被一些不法之徒利用，制作、复制、发布、传播违法信息，诽谤、贬损他人名誉、荣誉，假冒他人身份实施诈骗等违法行为。《规定》发布，可以划定深度合成服务的“底线”和“红线”，维护网络空间的良好生态。同时，落实《规定》 《规定》 《网络安全法》 《数据安全法》等法律、行政法规，制定应用深度融合技术提供互联网信息服务的系统化、专业化规定，可以明确各主体的信息安全义务，为促进深度融合服务发展提供有力的法律保障。
