一夜之间,一个名叫“ZAO”的主打视频换脸功能的App火遍社交网络。人们兴奋地把自己的脸换在影视片段的主角头上,并将这些“改头换面”过的视频片段,上传倒微信朋友圈等社交平台。

上线不到24小时,在苹果应用商店App Store,“ZAO”跃居免费App第二名,服务器一度不堪重负而瘫痪。App届,确实已经很久没有这样的爆款产生了。

几秒钟就当上“明星”的感觉让初秋的周末平添美好,但是,也迅速引发了媒体、公众对其涉及的伦理考验、隐私泄露、侵权风险等方方面面的高度关注。
被认为严重侵犯隐私权和打色情擦边球的“AI换脸软件”,逢脸造戏能“ZAO”多久?-1.jpg

据《钛媒体》报道,早在2017年12月,国外一个ID名为“deepfakes”(译:深度造假)的Reddit论坛用户首次将自己制作的AI换脸视频发布在了网络上,它能够把照片和视频中的人脸替换成任何想要替换的人脸。

由于效果逼真,“deepfakes”技术被人应用在了一些成人视频中。多名好莱坞女星因为AI换脸技术“出演”了多部色情电影。面临法律和公关等多重压力,Reddit等网站先后撤下所有AI换脸视频,并宣布此后禁止类似视频上传。

多家外媒曾报道“deepfakes”在国外引起的热议。据《RUC新闻坊》(注:中国人民大学新闻系教学与实践平台)梳理,《赫芬顿邮报》采访到六名“deepfakes”的女性受害者,她们的照片未经同意就被置入色情视频。《华盛顿邮报》注意到,涉及男性的“deepfakes”视频几乎都是搞笑风格,而涉及女性的主要是色情视频,这暴露出对女性的性物体化在人工智能技术下变得更加严重。
被认为严重侵犯隐私权和打色情擦边球的“AI换脸软件”,逢脸造戏能“ZAO”多久?-2.jpg

虽然“ZAO”并没有表示其换脸技术源自开源的“deepfakes”代码,但二者的技术确实存在强烈的相似性。

极棒实验室安全研究员宋宇昊向《澎湃新闻》记者表示,从起初的采集上千张照片、运行代码进行换脸,到现在仅需在手机APP上传一张照片就能换脸,换脸变得越来越便利。

宋宇昊提示到,值得关注的是人脸识别已经成为实名认证的辅助,但现在,换脸这项技术让这套逻辑失效了。因为手机前的人也许是盗用了别人的照片对自己进行了换脸。

中国政法大学传播法研究中心副主任朱巍在接受《中国之声》采访时称,换脸技术,包括在搜集过程中左脸右脸转动、眨眼,本质是搜集了你的面部的识别信息,这是一个用户最核心的个人信息。个人信息一旦被比对之后,如果落到坏人的手里面,有可能涉及到财产安全和人身安全的问题。

对于这样巨大的潜在风险,“ZAO”在用户协议中的相关描述是,“保护您的用户信息与个人信息是ZAO及其关联公司的一项基本原则,您同意,ZAO及其关联公司将按照本协议及《隐私政策》的规定收集、使用、存储、管理和保护您的用户信息与个人信息;若您不同意或无法接受《隐私政策》全部或者部分条款或者有疑问的,请立即停止使用ZAO提供的服务,您继续使用ZAO提供的服务将被视为接受”。
被认为严重侵犯隐私权和打色情擦边球的“AI换脸软件”,逢脸造戏能“ZAO”多久?-3.jpg

上述协议内容将意味着,“ZAO”将在用户同意的情况下,按照相关规定,收集、使用、存储、管理和保护用户信息与个人信息。

中国政法大学知识产权中心特约研究员赵占领在接受《新京报》采访时表示,“ZAO”作为提供格式条款的一方,对于免除或者限制自己责任的格式条款,应采取足以引起对方注意的方式提醒用户注意。但是,目前“ZAO”授权条款淹没在用户协议的众多内容之中,绝大多数用户根本注意不到。

一夜刷屏的“ZAO”,能“ZAO”多久,除了监管方对其可能涉及的隐私和伦理方面带来的挑战进行评估外,其自身还面临着巨大的版权风险。

《虎嗅App》注意到,“ZAO”首屏上传了大量国内外影视综艺片段,而且能在信息流中无限加载量。在上线的短短3个月内,“ZAO”是否取得了这些天量视频的著作权使用许可?如果没有,那就面临极高的版权风险。知乎上已经开始讨论“ZAO”如果被版权方告侵权,会被要求赔偿多少钱?”的话题。

应用商店的App信息显示,“ZAO”由长沙深度融合网络科技有限公司开发。天眼查资料显示,该公司在2019年7月19日完成股东变更,由北京陌陌科技有限公司变更为海南喵咖网络科技有限公司,100%控股。而无论“ZAO”的执行董事雷小亮和监事王力,同时也是海南喵咖网络科技有限公司的两大股东(各持股50%)。
被认为严重侵犯隐私权和打色情擦边球的“AI换脸软件”,逢脸造戏能“ZAO”多久?-4.jpg

多家媒体截屏显示,今天7时38分,投资人朱啸虎发了一条朋友圈称,“转:咱们互联网发达的意思是:刷屏仅仅一夜之间,但,最重要的是大清早已经有10多个VC约团队见面了……”

网络爆款产生,风投圈儿兴奋,媒体、公众担忧,我能不能做这样的揣测:前两者是所属公司所“求”,而后者,所属公司也早有预判。因为,既然24小时内,媒体对其风险隐患做出全方位无死角分析,幕后团队在长时间研发过程中,难道从未料到这些?或许,他们料到了,他们不怕成为“众矢之的”,他们愿冒这样的“风险”——如果公众、监管层都不接纳,大不了对App“一关了之”,而我要的爆款和关注度已经产生了。

这是什么样的商业逻辑?如果任凭这样的商业逻辑横行,我们又该如何抵御和防范新科技带来的负面影响?是不是每次都要打个“措手不及”?制造爆款的底线,到底该在哪里?

文章首发于任侠,系作者个人观点不代表本头条号立场

头条传媒获授权转载


上一篇:有了这几道菜,你的餐饮店一定能赚钱
下一篇:在家工作的6个办法,让你提高效率
温馨提示:
下载好向圈客户端可以随时随地交流学习经验,也可以和圈友发起聊天成为好友
好向圈www.kuaixunai.com是各行业经验分享的社区平台,请提供优质的经验内容分享,拒绝任何广告内容出现,低质量广告内容硬广包含手机号码,微信,QQ或者二维码等形式存在可能会审核不通过 要想被各大搜索引擎尽快收录请做好内容伪原创工作,才会有更好的推广效果,伪原创工具请百度搜索奶盘伪原创或者5118伪原创
厂房创业

写了 59 篇文章,拥有财富 557,被 0 人关注

分享分享 分享淘帖
回复

使用道具

您需要登录后才可以回帖 登录 | 立即注册
B Color Link Quote Code Smilies
01489597 好向圈新晋 | 发表于 2019-12-18 15:00:27
朕已阅,未转发
回复

使用道具

DoreenOvj2 好向圈新晋 | 发表于 2019-12-18 15:00:49
看过赵丽颖的
回复

使用道具

wpx 好向圈新晋 | 发表于 2019-12-18 15:01:21
绝大部分软件都有收集隐私的条款,不止这一个。
回复

使用道具

lsg328 好向圈活跃者 | 发表于 2019-12-18 15:02:16
我们还落后,还在看脸外在的年代,做呗,当大家厌恶了表面化,就进步了。
回复

使用道具

偏门生意 金牌创友 | 发表于 2019-12-18 15:03:13
可以把明星得脸换到小电影上。是这个意思么,我不懂
回复

使用道具

CalebFinne 好向圈新晋 | 发表于 2019-12-18 15:04:06
看过迪丽热巴 李小璐的
回复

使用道具

gooobooo 好向圈活跃者 | 发表于 2019-12-18 15:04:40
还是dp做出来效果好
回复

使用道具

卫生纸他姐姐 好向圈活跃者 | 发表于 2019-12-18 15:05:31
看过赵丽颖,杨幂的[捂脸]
回复

使用道具

BlancheSke 好向圈新晋 | 发表于 2019-12-18 15:06:16
科技,,怎么可以阻挡呢,,
回复

使用道具

小本投资 金牌创友 | 发表于 2019-12-18 15:07:11
这么好的APP,不用可惜了
回复

使用道具

601692008 好向圈高级会员 | 发表于 2019-12-18 15:07:24
刘亦菲和杨幂的好像~
回复

使用道具

争口气努力 管理员 | 发表于 2019-12-18 15:07:29
张馨予,古力娜扎,迪丽热巴[笑哭]我只能说这么多了,后面的自己脑补
回复

使用道具

在校大学生创业 金牌创友 | 发表于 2019-12-18 15:07:43
zao 目的性很强
回复

使用道具

mxptmrh 好向圈活跃者 | 发表于 2019-12-18 15:08:16
果断下载[灵光一闪]
回复

使用道具

andjiang 好向圈活跃者 | 发表于 2019-12-18 15:09:04
打广告?
回复

使用道具

农民工返乡创业 金牌创友 | 发表于 2019-12-18 15:09:57
宅男宅女们的福音!
回复

使用道具

返回顶部