http://www.scol.com.cn(2022-4-15 14:55:29) 四川在线-天府评论 编辑:盛飞
前几年刚出现的“换脸”技术,还略显粗糙,肉眼仔细辨认尚可识破,支付平台亦可识别真伪,却已经令大众心惊肉跳,担忧技术会迭代升级,带来更难以控制的后果。担忧不幸言中了,随着深度合成技术飞速演进,用静态照片、音频可制作为人脸动态视频,可完成丰富表情,模拟效果极为逼真,已经能够骗过支付识别系统,人工审核亦难辨真假。近年来频频发生的“变脸”诈骗案,凸显深度合成技术遭到非法滥用,成为犯罪分子作恶的工具,需要严加防范。 在网络诈骗链条里,身份核验是一道绕不过的关卡,不法分子需要突破这个关卡,才能办理实名制手机卡、登录网银账户、电子转账提现等,难度很大。如今,深度合成技术成为一把利器,破解身份核验的难度越来越低、耗时将越来越短。相应地,针对深度合成技术的识别技术不断迭代、检测手段持续增强,但依然没能跑赢“伪造”技术升级的速度,使得不法分子能够利用深度合成技术,实施精准诈骗,侵害他人人身和财产安全。 深度合成技术的成熟,让眼见不再为实,将虚拟与现实的界限进一步被模糊。技术本身是中立的,如果将深度合成技术用于影视、游戏、医疗、教育等领域,必将发挥出强大的力量,给相关行业带来颠覆性的创新发展,给大众带来超乎想象的产品和服务。可是,当技术失去控制,落入不法分子手里,就变成了害人的工具,给社会大众造成难以估量的损失和伤害。 很多得到广泛市场应用的技术,都经过了由复杂到简单操作的阶段,从小众化到大众化的全面普及过程。由功能单一、操作复杂的“换脸”“拟声”等技术,演变为操作简便、成熟度高、成本低廉的深度合成技术,亦体现出了这些特征,也是不法分子轻易上手的主要因素。因此,除了发展“深度伪造内容”检测技术,监管部门也应对深度合成技术进行全面评析,及早作出研判和部署,采取行之有效的防范机制。 近年来,针对深度合成技术遭恶意使用,各国纷纷出台相关法律法规,探索深度合成的治理路径。美国从联邦和州层面进行专门立法,欧盟将深度合成纳入《通用数据保护条例(GDPR)》等现有法律框架规制。国家网信办公布的《互联网信息服务深度合成管理规定(征求意见稿)》,亦对深度合成技术作出了一系列较为明确的规定和指引。因此,刑法应对深度合成技术滥用行为予以规制,同时从风险防控的角度,加强对个人信息安全的保护。对于“深度伪造内容”,平台应依法履行安全管理义务,落实管理责任,围堵黑色产业链的生存空间。(江德斌) |