川观评论丨AI助人可以有 AI坑人不可取

川观新闻评论员　余姝满

4.7万单土鸡蛋，被粉丝一抢而空，可“代言人”全红婵本人却没有参与。最近央视报道，在互联网上，奥运冠军的“声音”突然开始推销农产品，视频、语音多么逼真，不少粉丝误认为带货的就是奥运冠军本人，于是热情下单购买。从奥运冠军声音被仿冒、用以带货，到演员的声音被用于24小时语音直播，AI声音克隆本是人工智能领域的创新应用，如今却在网络空间被用来违法犯罪。

当前，AI越来越普及，技术越来越成熟，门槛越来越低，一部手机、几个软件，克隆特定人物声音就可“一键式”操作。AI换脸、声音克隆等深度伪造技术，一开始没那么成熟，仅凭肉眼还是容易找出一些蛛丝马迹。如今，人工智能技术发展迅猛，信息洪流之中的真与假、虚与实变得更加难以分辨，这场博弈异常激烈。去年南京市玄武区法院就审理了一件某金融平台多名客户账户突遭异地非法登录的案件，一名男子通过AI换脸软件，突破了平台的人脸识别系统实施犯罪。技术创新变技术滥用，我们身边被诈骗、被欺骗的真实案例越来越多，技术的“双刃剑”效应越来越具象化。

“未来像盛夏的大雨，在我们还不及撑开伞时就扑面而来。”《三体》作者刘慈欣如此形容科技高速发展带来的巨变。当下，我们正在进入一个“全民AI时代”，技术成熟、门槛降低，这在很大程度上带给大众便利，但裹挟而来的另一面却是技术滥用、风险扩散、信任危机。就AI声音克隆而言，对于被仿冒的人来说，人格权被侵犯。对于公众来说，就是被误导、被欺诈。AI造假正在泛滥，技术的恶意滥用可以歪曲真相、干扰秩序、撕裂社会。

治理AI乱象，既要对造假者“冒头就打”，也需强筋健骨防范机制。AI技术发展快速，每过一段时间，总有新问题冒出、新风险涌现。比如，仿冒运动员带货的这些账号，账号名看上去挺正常，可视频内容夹带“克隆人”，拦截高仿号的防范机制失效了。一个个细微之处的技术短板、监管漏洞、机制失灵，都可能纵容和放大技术之“恶”。AI“换声”带货牟利、换脸诱导诈骗……作恶越来越隐蔽，再次应了那句“眼见之事犹恐假，耳听之言未必真”。可以说，关于AI治理的话题，有必要一而再再而三地反复提及。

治理AI乱象，“截洪流”，也要“堵水源”。国家互联网信息办公室等四部门联合印发、将于9月1日施行的《人工智能生成合成内容标识办法》明确提出，服务提供者应当对生成合成内容添加显式标识，应当在生成合成内容的文件元数据中添加隐式标识，这是把治理关口前移了。“魔高一尺，道高一丈”，比如，一开始就用技术识别出克隆声音，从源头阻断虚假内容、切断传播路径。AI治理，不能再等着“事后出事”才有所动作了。

AI时代，造假和打假就像是“猫鼠游戏”，将是一场持久战。AI是“人为”创造的，完善机制、加强监管、放大技术之“善”，才能让AI真正“为人”所用、“为人”服务。