更多科技热点解读,关注“差评”!
上周末中午差评君一觉醒来,发现手机里的朋友圈和讨论群都被一件事刷屏了。
热闹的票圈截图
可能有一些穷朋友还不知道怎么回事,所以差评君就简单介绍一下,带大家去凑热闹~
在这个名为ZAO的软件中,你只需要上传一张照片,就可以把电影片段中周星驰、陈冠希、吴彦祖等人的脸换成自己的。
效果真的很棒。
君特意找有意愿的朋友借一张照片给你看看。
陈冠希的原始片段
变脸段
你对这种效果有什么感受?
ZAO改变用户面部的技术叫做Deepfake,已经存在很久了。
去年年初,差评君也尝试过用这种技术将石原聪美的脸合成成短片。
在换脸之前,哥哥把杨幂的脸换成了朱茵,也是用的这种技术。
原始电影图片
变脸后
但是和以前需要学习技术和培训资料不同。有了ZAO,你只需要上传一张照片就能创造出非常吸引人的效果。
傻瓜式的操作,好玩的效果,牢牢抓住了用户爱表现自我的心理。
聚集了众多成功因素的ZAO,在朋友圈成功刷屏,让大家享受科技带来的乐趣和新鲜感,快乐起来~
然而,当大家睡了一大觉醒来后,风向完全变了。
首先,有网友从隐私层面提出了质疑。
上传一张清晰的正面照片到ZAO安全吗?
听说可以用来色情。
因为AI变脸技术之前也被用于情色视频的黑色产业链,所以完全有可能被用于制作小视频。
事实上,目前ZAO的功能仍然非常有限。用户无法通过它提供的技术自己制作小视频,只能使用它给出的模板,在模板的基础上改变自己的脸型。
ZAO没有给你提供制作小电影的技术。只要它的信息不被泄露,那么这个锅应该不是它背的。
其实Deepfake技术是一个由来已久的算法模型。如果有人真的想用它给你拍a片,只要训练一个Deepfake,从你的社交平台上抓取一张照片就行了。
除此之外,也有极少数人担心自己的脸在认证时被记录下来。我的支付宝和银行卡明天会开通吗?
要解释清楚这个问题,那么就不得不说说“生物识别技术”。
简单来说,生物识别技术就是一个计算器通过结合光学、声学等各种传感器和人固有的生理特征来识别人的身份的技术。
人脸识别、虹膜识别、指纹识别都是生物识别技术。具体类型还挺多的~
对于普通用户来说,AI变脸后的视频就跟自己的视频一样,足以通过安全鉴定。
但是,对于生物识别技术来说,图像伪装成照片或视频与活体识别是有区别的。
比如你用照片和视频的时候会有反光,有时候会有边框。这些因素的存在会让它怀疑你是不是活着~
从而阻止你通过鉴定。
粗略的示意图
更强大的活体检测还可以通过皮肤纹理等更精细的因素来判断物体是活体还是视频。
如果你选择一个可靠的机构来保管你的钱,你可以放心。他们对生物识别技术的研究并没有弱到被一个视频骗了。
其实,应该被骂的是ZAO的“霸王协议”。
在这个软件的用户协议中,有一些条款很难理解,也不是很合法。
先看原文。
你什么意思?
当您同意使用本应用程序时,您意味着您同意其永久、不可撤销、免费使用您的肖像权,并有权修改两次。
不仅要给它,还要给它的附属机构。
再来一杯。
如果这些电影片段中的主角,比如陈冠希,指责ZAO侵犯了他的肖像权,那么ZAO可以直接把锅扔给你,说你侵犯了。
即使是错的,而且被判定赔钱,它也可以再次要求你赔偿。
简而言之,这是用户的责任,反正它不会花ZAO一分钱。
差评可以理解为你需要用户一定程度的版权授权,这样才不会合理规避你的法律风险。
事实上,很多app的用户协议中都隐藏着这样的条款。
然而,在ZAO的用户协议中,明确责任或主张权利是太多了。如果本意是为了逃避责任,那么条款就应该写得非常具体,不应该写得那么全面。
这样一个完全不受约束的条款,再加上它使用的技术,本身就非常敏感。这引起了很大的轰动。
但是他们已经悄悄地修改了用户协议。
在用户协议的开头,增加了根据规则可以“撤回”和“删除”的提示。
以及刚才差评君提到的几点,也都进行了微调。
不过差评君还是提醒一下,偷偷修改条款是不合适的。你要在修改用户协议后给出弹出提示,再次征求用户同意,让用户对你放心。
事实上,ZAO的这个产品本身就是一个好主意,它确实用技术给用户带来了欢乐。
类似Deepfake的换脸技术本身就很敏感,在国内外一直有争议。ZAO的用户协议应该是谨慎的,但现在他在写用户协议时如此懒惰,以至于一个实际上具有良好创意的产品成为了众矢之的。
希望国内引进类似产品时,可以借鉴这一点。
在尊重用户的同时,也可能给你带来便利和更好的口碑。
“千里之堤溃于蚁穴。”
暂无讨论,说说你的看法吧