疯狂刷屏的“ZAO” App能够帮你一键换脸,但开心过后也要注意个人隐私

2019-10-09 投稿人 : www.entechchina.cn 围观 : 1766 次

2019

150个赞

636收藏

129条评论

本文经Ray技术许可转载,原始标题为《刷屏的ZAO App 问题一箩筐,还能火多久?》,作者:weight Kerry,未经许可,请勿转载。

两天,一个叫ZAO的变脸应用突然突然尖叫。在朋友的社交圈,微博和了解上,都有使用此AI换脸应用程序制作的视频和表情符号。

简而言之,用户可以下载并安装ZAO,然后登录,上传照片并替换平台提供的各种短片中的星星。这些明星有很多人,例如周润发,小李子和陈冠希。但是,由于使用服务器的人数过多,服务器曾被破坏。

就效果而言,这确实是非常现实的。可以说它是对是错。如果您不仔细看,就很难发现缺陷。在AI技术的感召下,我们可以立即理解ZAO为何整夜都是红色。

有人可能会好奇,ZAO如何实现一键式变脸,而AI变脸技术的出现和普及是福还是祸。

ZAO的瞬间红色爆炸,所有这些都引起了所有人对AI换脸技术的关注。实际上,这是一项刚刚发布的新技术,几年前已经出现在海外。这种AI面部变化称为“ Deepfakes”,它是“深度学习”和“伪造”的混合,是指通过AI技术实现人体图像合成。

Deepfakes技术源自Google Great创建的AI模型,并且此后逐渐得到发展。自去年初以来,该项目已宣布开源。通过此工具,普通人还可以通过简单的操作制作AI变脸视频。

Deepfakes的基本原理是将某个人的多张照片输入到模型中,然后AI将进行深度学习以掌握识别该人的能力。人工智能还学习并识别视频中的原始肖像,并最终实现完全替换。

(来源:KDnuggets)

实际上,在AI技术出现之前,电影业已经有了一种变脸技术。但是,那时,有必要一次依靠后期人员的辛苦工作,而实现的场景相对简单。

在1994年的电影《阿甘正传》中,主角A-阿甘被强行植入各种现实生活中的历史照片或视频中,在观看过程中没有任何不服从的感觉。为此,影片还获得了1995年奥斯卡最佳视觉效果奖。

目前,ZAO尚未透露是否已采用Deepfakes的开源模型。从使用该应用程序的角度来看,AI人脸变化的数据计算处理是在云服务器中进行的,整个过程需要很短的时间。 ZAO可能会使用自己的AI模型和技术的优化版本。

顺便说一下,ZAO的开发商是海南喵卡网络技术的全资子公司,而两家控股股东是Momo的共同创始人。因此,不用说ZAO产品背后有一个陌生人。 ZAO使用的AI换脸技术可能是Momo开发的。

就目前而言,ZAO可以满足许多人实现星梦的愿望。 AI改变面子的功能,这是观众的用户可以让自己成功“玩”的,这种新颖性在过去是不可想象的。

但是,如果您只是使用AI来改变自己的脸蛋,作为在朋友圈中烘干小视频的工具,那么它的规模实在太小了。如果我们从长远角度出发,我们会发现AI变脸技术具有广阔的前景。

首先,人工智能可以扩展到电影行业。明星和受欢迎的演员可以“播放”越来越多的影视作品。过去,即使日程安排满了,星星也有上限。甚至像刘德华这样的超级巨星也已经亮相了30多年,并拍摄了一百多部电影。

但是,如果AI面孔在影视制作中很受欢迎,影视演员可以出售其肖像权,并且授权的影视公司可以在没有真人的情况下进行一系列相关项目。作品,星星的IP值可以最大化。

即使正确使用AI换脸技术,去世的影视明星也可以在影视作品中复活。在2010年至2011年湖南卫视跨年晚会上,节目团队使用3D全息投影技术重现了已故的邓立军。如果您使用AI来换脸,那么这个场景估计会更加令人震惊。

第二,游戏体验和广告将变得更加个性化。例如,在游戏中,您可以通过AI换脸技术将游戏角色更改为玩家自己的脸,这自然会涉及更多。无论是Internet上的视频广告还是平台上的广告牌,都可以组合内容并让观众“播放”,这更具替代感。

当许多人沉迷于ZAO的神奇效果时,许多人开始质疑并担心AI面孔更改的隐私和安全性问题。

深造假品很快在海外公众中广为人知,其中很大一部分被不道德的人滥用。 AI换脸技术的普及催生了很多假AI色情视频。这些小电影中的主角已被好莱坞着名女演员所取代。斯嘉丽,艾玛和其他人被招募为“神奇女侠”。

尽管受到舆论的压力,Reddit,Facebook等网站和社交平台已阻止了包含明星和发行人ID的AI变脸视频,但一旦打开Pandora's Box,就很难关闭再来一次。甚至Fakeapp的傻瓜式操作软件,只要一台Windows计算机加上NVIDIA高端显卡,都可以实现AI换脸功能。

实际上,由于技术门槛的降低,与色情AI变脸和虚假AI视频相关的灰黑色产品正在悄然发展。根据情报报告,该国已经有企业使用AI变脸技术制作女演员变脸色情影片,并提供定制服务。当我们在某些电子商务平台上进行搜索时,确实发现了这种黑货服务。

当然,ZAO没有这些问题。作为面向公众的应用程序,它已经做了很多改进和预防措施。

首先,ZAO上进行AI换脸的视频是平台已经准备好的,并不能自定义,从源头上就切断了虚假AI不雅视频产生的可能性。

其次,用户上传用于换脸的照片,系统会进行检测,目前不支持公众人物图像。用户本人之外的照片,也只能用10次。这项措施减大大少了AI换脸可能带来的不必要的麻烦。

现在很多人对ZAO的质疑主要还是集中在用户协议中的部分条款,用户在ZAO中发布的换脸视频不能撤销、并且官方有权永久免费使用。不过,截止到这篇文章发布前,我们发现,ZAO的用户协议中已经删去了不能撤销的说法,用户可以自行删除已经上传或发布的视频。

至于ZAO上存在的隐私和安全问题,不会比其他产品更加严重。在AI和大数据时代,网站、智能音箱、智能助理等各类软硬件产品,都在时刻收集大量声音、头像等用户信息。只要这些数据不被滥用,并且能真正用在改善用户体验上,就不算是大问题。这方面,ZAO并没有带来新的问题。

可以预见的是,在ZAO的推波助澜下,会有更加多的国内厂商投入到对AI换脸技术的研发中,可能还会推出类似的产品。国内科技行业中,只要有一定规模的厂商,基本都有布局AI,而AI换脸正是当前展示AI魔力的最好武器。

现在已经有消息称,大批ZAO的复制品已经在准备发布,App Store中已经能看到类似的山寨产品。

几乎所有的技术都具有两面性,每项新技术的出现,也都难免被质疑。AI换脸自然也是一把双刃剑,利用得好,它可以成为影视、媒体、广告、游戏等各个行业的福音,还能给用户带来更好、更新鲜的体验;如果误入歧途,则可能会出现肖像权被侵犯、虚假视频泛滥等问题。

但不管怎么说,从科技发展史来看,技术前进的脚步是不会停止的,AI换脸技术必将取代以往的低效抠图换脸。至于它存在或可能带来的问题,随着法律法规的完善,会在用户、厂商、市场之间的相互博弈中,逐渐被解决。对AI换脸,不妨乐观点看待。

未经授权,不得转载

http://feedback.sdhxy.cn

日期归档