与恶共生的宿命,换脸软件ZAO却大喊“来呀,造作呀”

电科技邸天宇09-03 11:22

如同互联网历史出现的无数次迅速窜红的前辈,兼具社交与自拍属性的视频换脸软件ZAO火了。

图片4.png 

9月1日,#ZAO AI 换脸#冲入微博话题榜前十,随后ZAO在App Store视频类的排名也迅速超过了爱奇艺、腾讯视频等视频软件常青树,进入榜单前二。9月2日,ZAO又摘得免费App排行榜桂冠,一时风头无两。

图片5.png

Zao最大的亮点就是只需要使用者提供一张自己的照片,即可通过特定的算法,将我们的脸替换到影视明星身上。

虽然粗看上去Zao这款产品的功能十分新颖,但是追根溯源到底层技术,Zao并无创新之处,其不过将2017年出现的“deepfakes”技术产品化。而Zao首次将该技术搬到台面上来,似乎也打开了一个十分危险的潘多拉魔盒。

换脸早已不是新鲜事

早在2017年末,一个名为“deepfakes”的用户将自己制作的AI换脸视频发布到了Reddit论坛中,随后,广大宅男看到了该技术的“应用前景”。

图片6.png

deepfakes响应这种需求,将女明星通过该技术被融合进了成人电影中——一时间,斯嘉丽·约翰逊、盖尔·加朵、泰勒·斯威夫特等明星均成了成人电影中的“主角”。 而随着这些影片流入互联网,法律与隐私等压力扑面而来,Reddit开始禁止此类技术的分享交流,并且封禁掉了“deepfakes”的账号,这直接导致了deepfakes将AI换脸技术的代码开源。

就像王欣所说的“技术本身并不可耻”,deepfakes技术就像一把双刃剑,如果我们用它做电影特技或许会事半功倍,但是一旦其开源,注定将沦为欲望的玩具。

随着普罗大众广泛使用deepfakes技术,越来越多的电影明星沦为成人电影中的“主角”,为了逃避伦理、法律等风险,以P站为代表的互联网平台纷纷封禁deepfakes技术产生的成人电影。

图片7.png

当然,目前来看,deepfakes技术的应用仅仅是在“sex”方面有所收敛。在B站依然有许多UP主,通过deepfakes技术将不同人更换到传统的影视剧主人公身上,以博取关注。

虽然ZAO并没有解释其技术来源,但是从技术规律的角度来看,ZAO很有可能和deepfakes师出一脉。

ZAO有侵害用户肖像权的危险

虽然靠着“AI换脸”,ZAO成为目前中文互联网最炙手可热的社交软件,但是光环之外,Zao也遇到了极大的争议——在世界上最大的谎言“我已阅读”下,ZAO严重侵害的用户的隐私、肖像等权利。

图片8.png

根据知乎用户民商事律师@法山叔从法律的角度分析,ZAO主要有两方面的问题。首先,如果用户选择使用ZAO,那么用户的肖像权将会拱手让给ZAO,未来用户的脸可以随意供人使用;此外,Zao并没有获得明显的肖像权,如果用户使用ZAO造成侵权,全部责任归用户承担。

如果第二个问题只是ZAO在逃避风险,那么结合ZAO的盈利模式,第一个问题就值得深思了。

图片9.png 

就目前来看,ZAO并没有任何付费功能,随着软件的火爆,ZAO的服务器甚至一度瘫痪,ZAO官方微博也表示,“AI服务器很贵很贵……这个月花700万租的服务器,今晚已经消耗了三分之一了。”

参考共享单车私自挪用用户押金的先例,ZAO山穷水尽之下,为了生存,很有可能将“愿意用隐私换取便利”的用户的肖像倒卖——毕竟,用户已经签了“卖身契”,卖不卖全看平台的良心。

当然,除了肖像权的风险外,ZAO的出现还为我们打开了一个潘多拉魔盒。

潘多拉魔盒已经打开,与恶共生是它的宿命

事实上,从AI换脸技术诞生的第一天起,“恶”就伴随着它一起成长,与恶共生似乎成了它的宿命。

图片10.png

早在2016年,牛津大学就发布了一个奥巴马演讲的视频,从视频来看,奥巴马穿着标志性的西服,面对镜头夸夸而谈,在口型以外,奥巴马的眼神和面部微表情细致入微,不少人以为这就是奥巴马。然而,这个视频很快遭到否定。

图片11.png

2019年6月,一段Facebook CEO马克·扎克伯格的“换脸”视频被发布到网上,在合成视频中,马克·扎克伯格以贬义的姿态评价Facebook:“一个人,手握偷窃来的数十亿人的隐私信息,他们的所有秘密、生活和未来等等……我将其归功于幽灵(Spectre),幽灵告诉我,谁掌握了数据,谁就掌控着未来。”

对于“肯德基的原料鸡长6个翅膀”劣质PS照片都相信的人来说,AI换脸无疑会助长造谣的气焰。

试想一下,如果网络上突然出现某一个新闻主播被AI合成的照片,播报某一地方猪肉价格将上涨,会不会引发猪肉抢购热潮呢?

图片12.png

而随着技术的成熟,实时AI合成有一天终将问世,到那时,“乔碧萝殿下”是不是就可以将屏幕前的遮挡欣然放下,换上“AI面具”,毫无顾忌的进行诈骗式的网络直播。

更重要的是,结合时代来看,随着5G网络的到来,用户的肖像或许会取代文字、语音成为最重要的沟通方式,再结合ZAO掌握了这些资源,这将是对未来沟通安全极大的挑战。

村上春树在《地下》一书中提到过一个“与恶共生”的观点——我们每个人,每个事物,都不是尽善尽美的,多多少少都含有恶的一面,关键是我们怎么对待恶的这一面。因此我们要“与恶共生”,在前行的途中,给恶安排恰当的环境。

回到AI换脸技术,虽然目前来看,该技术十分危险,但是正如前文所诉,技术本身无罪,如果应用到正途,相信AI换脸将会散发不一样的光辉,因此,还是希望法律与社会的道德约束能限制AI换脸恶的一面。

电科技专注于TMT领域报道,青云计划、百+计划获得者。荣获2013搜狐最佳行业自媒体人称号、2015中国新媒体创业大赛总决赛季军、2018百度动态年度实力红人等诸多大奖。

投稿请登录:http://www.diankeji.com/member
商务合作请洽:marketing#diankeji.com

声明:本站原创文章文字版权归电科技所有,转载务必注明作者和出处;本站转载文章仅仅代表原作者观点,不代表电科技立场,图文版权归原作者所有。如有侵权,请联系我们删除。

猜你喜欢