天府评论 >> 娱乐体育 >> 正文
谨防“AI换脸”技术被肆意滥用
http://www.scol.com.cn(2019-3-1 9:50:10)  四川在线-天府评论    编辑:盛飞
作者:江德斌   投稿邮箱:scolpl@163.com
  25日,一段通过AI技术把朱茵扮演角色的脸替换成杨幂的视频在网络热传,有网友表示毫无违和感,也有网友提出可能侵犯肖像权,该技术还可能被用来制作明星黄色视频。27日凌晨,引发这场热议的制作者回应已将相关视频下架,并表示:“对所有人来说是一个警示,大家应尊重版权与肖像权,专注于技术本身。”喧嚣中亦须保持冷静,新技术驱动文化创意更新迭代之时,切忌滥用,更不能突破底线挑战公序良俗。(2月28日环球网)

  传统变脸绝活是通过面具完成,“AI换脸”则是利用计算机技术实现的,将一个人的面貌特征,替换成另一个人做出的视频,毫无违和感,简直就是移花接木一般完美,令人大开眼界。犹如图片能够PS一样,“AI换脸”就是视频PS,从科技的发展趋势看,“AI换脸”是一定会出现的。然而,“AI换脸”技术乃是“大杀器”,潜藏着很大的风险,一旦遭到滥用的话,将带来难以估量的伤害和损失。

  从网络传播的杨幂替换朱茵的“AI换脸”视频内容看,技术效果非常好,近乎完美,如果不是专业人士的话,很难通过肉眼识别其是伪造的。也就是说,假如有人利用“AI换脸”技术伪造一段视频内容,很容易骗过普通网友,就会埋下安全隐患,诱发一些犯罪行为,诸如盗刷、欺诈等,给公众和社会造成巨大的损失。

  “AI换脸”技术是从去年开始火的,有外国网友利用软件将《神奇女侠》的扮演者盖尔·加朵的脸,替代到色情片主角上,伪造成一个以假乱真的小视频,引发无数网友围观。随后又有很多好莱坞当红女星惨遭毒手,诸如斯嘉丽·约翰逊、娜塔莉·波特曼、艾玛·沃特森等,都被网友用“AI换脸”技术替换掉了。还有外国网友用高中女同学的脸,做了小视频传到网上,虽然后来被学校抓住,视频却无法彻底清除。

  而且,“AI换脸”技术进步很快,在直播、视频聊天里,都能使用了。可以想见,假如有犯罪分子利用“AI换脸”技术,通过直播、视频聊天等方式,对用户进行欺诈,很容易蒙骗过去,这就会令网络诈骗升级到新的高度,网友识别能力却跟不上,无疑会造成很大的损失。

  如今,人脸识别技术已经得到普遍应用,诸如上班打卡、刷脸购物、支付、手机解锁、抓交通违章等场景,拥有大量的用户群体。假如有人利用“AI换脸”技术,在这些领域弄虚作假,人脸识别又无法辨识真伪的话,那么个人隐私信息、财产等都会被盗,后果难以想象。可见,“AI换脸”技术存在非常大的安全隐患,需要对其高度重视,不能坐视“AI换脸”技术的滥用,监管部门应未雨绸缪,及早对其进行研究,找出应对的措施。

  当然了,“AI换脸”技术并非一无是处,如果用在正途上,还是会发挥出很大的效力。比如影视制作,用“AI换脸”技术做后期特效,就能节省很大的人力物力,提高制作效率。《速度与激情7》里为了让保罗·沃克回归,片方用了替身+动态捕捉+CGI动画的方式,以保罗的两位弟弟为替身,最终让观众在大屏幕上重新看到保罗·沃克,避免了其突然逝去造成的影片夭折遗憾。
相关评论:
  转载请务必注明文章来源及作者姓名    
版权声明:
1、天府评论所登载文稿均仅代表作者个人观点,不代表天府评论立场。
2、作者投稿确系本人原创作品,严禁剽窃、转投他人作品,若由此引起任何法律纠纷,与天府评论无关。
3、作者向天府评论投稿时,就已表明同意四川在线全权使用本稿件。
4、欢迎网络媒体转载天府评论文章,转载时请注明来源及作者。
5、欢迎传统媒体转载天府评论文章,请与编辑联系获取作者联系方式,并支付稿费与作者。
6、传统媒体转载不支付作者稿费,网络媒体转载不注明来源及作者,天府评论将追究相关法律责任。