http://www.scol.com.cn(2022-4-15 14:55:29) 四川在线－天府评论 编辑：盛飞
前几年刚出现的“换脸”技术，还略显粗糙，肉眼仔细辨认尚可识破，支付平台亦可识别真伪，却已经令大众心惊肉跳，担忧技术会迭代升级，带来更难以控制的后果。担忧不幸言中了，随着深度合成技术飞速演进，用静态照片、音频可制作为人脸动态视频，可完成丰富表情，模拟效果极为逼真，已经能够骗过支付识别系统，人工审核亦难辨真假。近年来频频发生的“变脸”诈骗案，凸显深度合成技术遭到非法滥用，成为犯罪分子作恶的工具，需要严加防范。 在网络诈骗链条里，身份核验是一道绕不过的关卡，不法分子需要突破这个关卡，才能办理实名制手机卡、登录网银账户、电子转账提现等，难度很大。如今，深度合成技术成为一把利器，破解身份核验的难度越来越低、耗时将越来越短。相应地，针对深度合成技术的识别技术不断迭代、检测手段持续增强，但依然没能跑赢“伪造”技术升级的速度，使得不法分子能够利用深度合成技术，实施精准诈骗，侵害他人人身和财产安全。 深度合成技术的成熟，让眼见不再为实，将虚拟与现实的界限进一步被模糊。技术本身是中立的，如果将深度合成技术用于影视、游戏、医疗、教育等领域，必将发挥出强大的力量，给相关行业带来颠覆性的创新发展，给大众带来超乎想象的产品和服务。可是，当技术失去控制，落入不法分子手里，就变成了害人的工具，给社会大众造成难以估量的损失和伤害。 很多得到广泛市场应用的技术，都经过了由复杂到简单操作的阶段，从小众化到大众化的全面普及过程。由功能单一、操作复杂的“换脸”“拟声”等技术，演变为操作简便、成熟度高、成本低廉的深度合成技术，亦体现出了这些特征，也是不法分子轻易上手的主要因素。因此，除了发展“深度伪造内容”检测技术，监管部门也应对深度合成技术进行全面评析，及早作出研判和部署，采取行之有效的防范机制。 近年来，针对深度合成技术遭恶意使用，各国纷纷出台相关法律法规，探索深度合成的治理路径。美国从联邦和州层面进行专门立法，欧盟将深度合成纳入《通用数据保护条例（GDPR）》等现有法律框架规制。国家网信办公布的《互联网信息服务深度合成管理规定（征求意见稿）》，亦对深度合成技术作出了一系列较为明确的规定和指引。因此，刑法应对深度合成技术滥用行为予以规制，同时从风险防控的角度，加强对个人信息安全的保护。对于“深度伪造内容”，平台应依法履行安全管理义务，落实管理责任，围堵黑色产业链的生存空间。（江德斌） |