高质量发展100问 | 第87问：推动人工智能高质量发展需要怎样的治理？

问：人工智能带来前所未有发展机遇，也带来前所未遇风险挑战。推动人工智能高质量发展需要怎样的治理？

答：习近平总书记强调，“人工智能应该是造福全人类的国际公共产品。”加快发展新一代人工智能，是我们赢得全球科技竞争主动权的重要战略抓手,是推动我国科技跨越发展、产业优化升级、生产力整体跃升的重要战略资源。需要看到的是，发展人工智能并非单纯的技术升级，而是牵动着社会结构和国际格局的深刻变革。它既可能成为促进全球包容性发展的公共产品，也可能成为加剧各国智能鸿沟和地缘对抗的新变量，需要构建科学合理、开放包容的治理机制，推动人工智能高质量发展，更好为其国际治理提供中国方案。

以人为本的治理确保智能向善。

人工智能的本质是人类智慧的产物，必须服务于人民的根本利益，防止技术被资本逐利、权力博弈所裹挟。近年来，不乏一些大型公司在使用人工智能时产生了隐私泄露、算法歧视、价值异化等社会风险。一旦人工智能的发展缺乏价值引领和治理约束，技术就可能滑向“工具理性”的深渊，甚至背离“造福人类”的根本目标。

因此，发展人工智能应坚持以人为本理念，以增进人类共同福祉为目标。这是人工智能治理的根本立场，被纳入我国提出的《全球人工智能治理倡议》中，也与经济与合作发展组织（OECD）发布的《人工智能原则》、欧盟《人工智能法案》中内含的人权和民主价值观、保障公民的基本权利高度一致，体现了国际社会逐渐凝聚的共识。以人为本的治理要求我们把人工智能的发展放在全人类共同利益的维度上考量，让教育、医疗、环保、减贫、应对气候变化和生物多样性等全球性议题成为人工智能优先应用的方向，让不同国家、不同群体都能在智能化进程中共享红利。只有坚持以人为核心的价值导向，把“智能向善”作为技术发展的底线和基本目标，人工智能才能在不断创新中实现有温度的发展。

和平安全的治理防止技术异化。

人工智能的快速发展，正在带来新的安全焦虑。一方面，深度伪造、舆论操控、系统漏洞等风险危害公共秩序和社会信任；另一方面，人工智能在军事领域的应用有可能使得自主武器的研发产生失控风险，引发新的军备竞赛。造成这种局面的主要原因在于：基于大数据和高算力的人工智能系统具有高度自主学习和快速迭代的特征，这种技术创新往往快速发生并扩散至全球；而现有监管和治理体系往往滞后，加剧了安全困境。如果人工智能缺乏基于安全共识的国际治理，技术的负面效应就会不断积累，异化成为威胁和平的“灰犀牛”。

因此，要不断提升人工智能技术的“安全性、可靠性、可控性”，实施敏捷治理，快速有效响应。2025年7月，我国提出《人工智能全球治理行动计划》，强调“构建具有广泛共识的安全治理框架”。紧接着，8月国务院发布《国务院关于深入实施“人工智能+”行动的意见》，将“安全可控”纳入总体要求，强调“构建面向自然人、数字人、智能机器人等多元一体的公共安全治理体系”，这意味着人工智能已被纳入国家安全体系中，安全要求嵌入算法设计、数据使用和应用部署的全过程。此外，也需通过全球合作共同构建安全底线，防止人工智能被滥用于地缘政治竞争和武器化扩散。通过制度设计为人工智能设置“安全护栏”，通过国际合作把人工智能纳入国际治理框架，体现中国“以安全促发展，以和平促创新”的治理理念。

多边合作的治理回应跨境挑战。

人工智能比传统的信息系统更加复杂，依赖跨境数据流动和全球算力网络，算法本身又往往呈现“黑箱”特征，漏洞更隐蔽、传播更迅速，影响范围更大。更为重要的是，其全球属性与各国的治理碎片化之间存在巨大矛盾。一些发达国家试图将本国主导的人工智能技术生态和标准扩展至全球，并打压遏制他国技术发展和扩散；另一些发达国家以国家安全和技术主权为由，试图将自身规则扩展为全球标准；而广大发展中国家普遍缺乏技术能力和制度话语权，被排除在治理体系之外。这导致国际社会在人工智能的算法安全、数据保护、跨境监管、生态标准等领域的治理能力严重不均衡，技术难以释放普惠价值，全球技术合作与风险防控陷入困境。

因此，应以“相互尊重、平等互利”的原则，既要反对以意识形态划线或构建排他性集团，恶意阻挠他国人工智能发展；反对利用技术垄断和单边强制措施制造发展壁垒，恶意阻断全球人工智能供应链，也要构建多方参与的包容治理模式，推动构建包容、公平的多边全球数字治理体系。未来，应加快推动算法安全评测的国际互认机制，建立跨境数据流动的规则共识，开展联合风险监测和信息共享，鼓励国际间联合研发和开源合作。唯有通过多边合作，才能真正回应人工智能的跨境挑战，把这一全人类共同创造的技术引向合作共赢，而不是零和对抗。

共同发展的治理弥补智能鸿沟。

人工智能的迅猛扩张正在放大全球发展的不均衡：一端是少数国家与大型科技公司凭借算力、数据和算法优势快速集聚；另一端是高端AI芯片和制造设备的出口持续收紧并附带各种条件，抬高了很多经济体的试错门槛，算力规模和模型能力的“马太效应”正加速将大多数中小企业挤出技术创新赛道。从数据角度看，由于当前主流的人工智能大模型都是以英语和西方文化为主要数据来源，非英语和其他文化资源在技术生态中的代表性和输出能力显著不足。在联合国教科文组织发布的《人工智能伦问题理建议书》中，明确将保证多样性和包容性纳入发展和应用人工智能要体现的四大价值之一。应尽量降低算力门槛、算法规则、语料失衡等因素对“智能鸿沟”的加剧。

针对这一突出问题，中国主张将“公平普惠发展”置于人工智能全球治理的核心位置——《全球人工智能治理倡议》中指出“开展面向发展中国家的国际合作与援助，不断弥合智能鸿沟和治理能力差距”，《人工智能全球治理行动计划》也提出“提高人工智能数据语料多样化，消除歧视和偏见，促进、保护和保全人工智能生态系统和人类文明的多样性”。面向未来，缩小“智能鸿沟”的着力点可从“资源可及、能力可用、生态共建”三个层面同步推进：探索面向发展中国家的算力和模型能力的融资和建设机制，将本地语言和知识纳入模型训练与推理过程，推动技术生态的多样化和可持续性。只有通过多方参与的共建共治共享，才能推动人工智能成为真正面向全人类的公共产品。

（上海市习近平新时代中国特色社会主义思想研究中心研究员、中国浦东干部学院副教授王丹）