在第五届世界互联网大会开幕当天，搜狗公司与新华社合作开发的全球第一个“AI合成主播”正式亮相，成为大会开幕日的最大亮点之一。虽然，该款虚拟主播放在自然环境之下，还有一定的违和感，可其直逼真人的形象，亦让观众惊叹不已。 　　很多人都知道，若是3D游戏过于真实，会欺骗人体的运动感知器官，进而产生眩晕感。试问，若是“AI合成主播”达到“以假乱真”的地步，那么它会不会欺骗人类，进而实现某种于社会不利的目的？ 　　在著名科幻电影《2001太空漫游》中，科幻小说家们就创造了第一款能“骗人”的人工智能机器人HAL9000。也许，在很多人的印象里，人工智能离“落地”还有一段距离，人工智能干涉人类社会则更加遥远。似乎，现今我们还不需要为“人工智能”取代人类而担忧。 　　可近几年，随着人工智能的高速发展，各类新技术、新产品、新服务层出不穷，一次又一次刷新了人们对科技的认知。前段时间，谷歌公布的最新版谷歌助手Google Assistant，其近乎“成精”的交互性，已让不少使用者分不清“真与假”。“AI合成主播”的出现，也许是人工智能踏入“未来世界”的又一块“敲门砖”。 　　人工智能技术发展至今日，图灵测试也不再是衡量技术发展的最高标准，拟人化的人工智能将会步入新的高峰。诚然，当前的技术发展还无法脱离人的控制。但我们不能否认，技术是一把双刃剑。当人工智能落入恶人手中，就是“大杀器”。 　　先不谈“虚拟主播”于国防安全领域中，可能会产生舆论战危机。诈骗分子也有可能通过利用类似技术，欺骗广大民众。近年来的网络安全态势表明，电信诈骗威胁正朝着前沿技术领域迈进。试想一下，若是有人通过“AI合成主播”伪造成我们的朋友，与我们交流。或是伪装成我们，欺骗人脸识别、语音识别等认证技术，那会产生多大的影响？ 　　现实中，人们对虚拟形象投入感情的案例数不胜数，若是有人对“虚拟主播”产生真人实感，伦理问题、安全问题就必然会出现。在2002年的电影《虚拟偶像》中，电脑仿真的虚拟明星“西蒙妮”就在一夜之间成为了大众偶像，令无数崇拜者痴迷。相比之下，我们“AI合成主播”似乎更“像人”一些。 　　“AI合成主播”科学家智慧的结晶，如果能安全用在所属领域，自然令人高兴。可在技术发展的同时，安全防范必须同步跟上。希望相关部门能早日展开研究，评估类似的人工智能“虚拟形象服务”于未来可能产生的影响，在完善法律法规的基础上，限制相关及服务的推广，确保技术能用在最合理的地方。 　　已故著名物理学家斯蒂芬·霍金最后的著作《重大问题简答》一书中指出，人工智能未来还将发展出自己的意志——这种意志将与人类的意志产生冲突。诚然，技术的发展不应受“空想”的限制，可必要防范也是对社会的负责。对此，社会各界不能过于乐观。