安博电竞百度百科

当前位置: 主页 > 安博电竞百度百科 >
 

AI“换脸”APP一夜爆红!用户隐私和安全或遭遇重

点击数: 次  20190908

近日,一款名为“ZAO”的换脸APP在社交网络走红,不少网友的朋友圈纷纷被这款能够利用AI技术“无缝换脸”的APP给刷屏。但是在走红也同时,关于这款APP的应用也引发了不小的争议。

记者下载ZAO后发现,ZAO的口号为“仅需一张照片,出演天下好戏”。根据官方的介绍,利用AI技术,用户可以在ZAO软件上使用自己的照片替换影视剧或者小视频中的人物,从而生成以自己为主角的视频,完成一键换脸。

不过,需要注意的是,对于公众人物,需要确认肖像权有效后才可以正常使用。根据ZAO官方介绍,ZAO的精髓在于加好友玩,由此可见社交才是其产品定位,换脸只是为了吸引用户和互动的方式。

根据公开信息显示,ZAO在三个月前就已经发布,8月30日上线了正式版本,在引发了众多用户甚至明星的关注后,也吸引了众多用户的尝鲜。

一夜之间走红也让ZAO的服务器受到了考验。ZAO官方助手在30日夜间发布微博称“这个月花700万租的服务器,今晚已经消耗1/3了。明天如果继续火爆,我们只能做严格一些的限制。而在今天凌晨,ZAO又发布微博称,服务器现在还是满负荷。”

据记者从天眼查的公开信息了解到,ZAO所属公司由海南猫咖网络科技有限公司100%控股,法定代表人为陌陌联合创始人雷小亮。其中,海南猫咖网络科技有限公司则由雷小亮和陌陌COO王力各持股50%。

资料显示,早在2017年,国外就首次出现用户将制作的AI换脸视频发布在网络上,但是由于该技术的特性,后期被大量应用于明星和色情行业,也备受外界争议。

发布的一段94版射雕英雄传视频。在这段流传广泛的视频中,原本饰演黄蓉的演员朱茵的脸被替换成了杨幂的脸,从这段视频可见,利用AI实现的换脸效果已经几乎以假乱真。

对于AI换脸技术的逐渐受到大众应用,业内人士也普遍表达了担忧:当任何人都能轻易使用这项技术并生成视频进行传播的话,对于版权和隐私将会造成极大的威胁。

ZAO产品上存在的短视频和表情等素材,除了特别声明是ZAO跟合作方进行版权合作的之外,均来源于ZAO用户自发的上传,ZAO不享有素材的商业版权。

此外在隐私保护方面,ZAO在用户使用前需要用户进行活体验证,且软件也向用户声明了详细的隐私保护协议,并对可能造成的隐私风险进行了说明,但从目前用户发布的“作品”看来,似乎也并不能阻止用户盗用他人照片进行视频的制作。

不仅如此,在ZAO的版权声明中“如果您把用户内容中的人脸换成您或其他人的脸,您同意或确保肖像权利人同意授予“ZAO”及其关联公司全球范围内完全免费、永久、可转授权和可再许可的权利”的条款也惹来了众多用户吐槽。不少网友表示,该条款“不仅离谱”,而且会为用户的信息安全带来重大风险,“如果被犯罪分子的利用怎么办?”

这种担忧并非空穴来风?腾讯研究院高级研究员曹建峰此前在接受记者采访时就曾表示,AI换脸会带来所谓的深度造假,结合语音合成等技术,可以生成虚假的视频对政治、舆论等造成影响,使假新闻更难识别。

此外,就AI换脸技术自身而言,可能给个人的隐私、私生活安宁造成损害,因为恶意使用者可能用这项技术来诽谤、攻击他人。甚至用于从事诈骗。当然,也有可能触犯刑法,即如果用换脸技术来制作、传播淫秽色情。他建议,为AI技术制定伦理底线,鼓励正向利用,避免恶意滥用。

,这将是人类有史以来最大规模的针对人的身份的欺诈行为。”中国社科院哲学研究所研究员段伟文告诉记者,这项技术如何应用,应该分清楚真实和虚拟的界限,例如在影视、游戏等领域可能会得到应用,而其它领域则应该被限制使用。利用AI技术对身份造假,越发表明隐私和数据的重要性,例如脸部信息、录像等信息,应禁止一般企业将其拿来造假。

15晚会直播的“换脸术”,主持人仅凭一张观众自拍照就上演了现实版“换脸术”,成功攻破人脸认证。据阿里安全图灵实验室高级算法专家觉奥介绍,黑灰产也在利用AI换脸,是目前常见的一种攻击手段,“在人脸识别系统中,识别换脸的技术叫活体检测技术,这是一个攻防对抗技术,即用AI的手段来解决AI的攻击”。

“这几年,由于深度学习的迅猛发展,攻、防的技术都在不断进步,这是一个持续、动态对抗的过程。当前无人驾驶、智慧城市、智能家居等各类场景中都在运用AI,包括人脸识别系统,但一旦后端控制系统被攻击,出现规模化、连锁式的崩盘,AI失控的后果不堪设想。

据记者了解,此前《民法典人格权编》二审稿提交十三届全国人大常委会第十次会议审议。其中拟规定:不得以丑化、污损,或者利用信息技术

本文仅代表作者本人观点,与和讯网无关。和讯网站对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。

违法和不良信息举报电话: 传真: 邮箱:

相关新闻