2025年3月26日，AIGC的互动装置在中国首都北京2025年中关村论坛（中关村论坛）举办地中关村国际创新中心拍摄。（新华社/陈忠浩）
视频通话中的熟悉面孔可能并不像看起来那样，因为人工智能 (AI) 现在可以以惊人的真实感复制人脸和声音，这给法律带来了新的挑战。周一，中国最高法院发布指令，指出此类人工智能生成的内容可能会导致法律责任。
最高人民法院（SPC）发布的指导意见解决了一些新出现的争议，包括人工智能和语音克隆、算法价格歧视以及人工智能生成的虚假信息。
他们明确表示，未经他人同意，人们不能使用人工智能创建或分发他人可识别的数字副本，包括克隆面孔和声音。此类使用构成对个人权利的侵犯，而利用人工智能生成的面孔或声音传播虚假信息或损害他人声誉可能会导致法律责任。
中国已经在法庭上讨论过此类问题。 2024年4月，北京互联网法院在全国首例人工语音侵权案中裁定，未经本人同意，利用人工智能重新创造一个人的特定声音，可能侵犯其权利。
中国在人工智能发展方面处于世界领先地位。到2025年，中国人工智能产业价值将超过1.2万亿元人民币（约合1770亿美元），比去年增长40%。
截至2026年6月，中国人工智能企业数量超过6600家，占全球总数的15%。中国已经形成了完整的产业体系，包括基础设施、模式框架和具体项目。
新规则出台之际，人工智能生成的模仿品变得越来越容易与原始内容区分开来。几张照片或一段简短的录音可以提供足够的材料来创建令人信服的数字副本。
该指南还解决了针对消费者的算法歧视问题。如果企业在没有合理理由的情况下使用算法为同一商品或服务提供不同的价格或其他交易条款，如果这种做法损害了消费者，则可能需要承担责任。
最高人民法院研究室主任周家海表示：“我们不能指望每个消费者都成为欺诈检测专家。法律必须紧急行动起来，保护消费者的权益和合法利益。”
另一个问题是人工智能生成的系统可能会生成虚假或不准确的信息，通常称为“人工智能幻觉”。
如果人工智能服务提供商意识到其系统包含侵犯个人权利的内容但未能及时采取行动，则可能会被追究责任。
用户还可以对他们如何使用人工智能负责。任何人故意使用指令或其他方法诱导人工智能系统产生伤害他人的侵权内容的人都可能被起诉。
当人工智能生成的内容可能造成严重且不可逆转的伤害时，该指南还为人们提供了一种快速寻求补救的方法。例如，如果未决行动可能造成以后难以修复的伤害，那么面部经过数字改造并用于传播虚假和诽谤性言论的人可能可以寻求禁令。
中国正在推进“人工智能+”战略，推动人工智能广泛深入融入经济社会各行业和领域。
随着人工智能的进步，世界各国政府都在努力应对鼓励创新同时保护人们免受潜在伤害的挑战。
中国已采取一系列措施应对人工智能带来的挑战。 2025 年 9 月，它出台了监管措施来标记人工智能生成和合成的内容。最新的最高人民法院指南定义了法院应如何处理人工智能相关纠纷，并补充了中国不断发展的人工智能法律框架。
7月，在2026年世界人工智能大会暨全球人工智能治理高级别会议上，中国强调要坚持开放共赢、推动创新发展，强化风险意识，确保人工智能安全可控，鼓励包容和文明倡导。全球管理。
会上，发布了人工智能国际伦理治理行动计划。
呼吁各国结合本国国情，在人工智能全生命周期的伦理管理、群体性和层次性防控、快速管理机制、产业链协同生态、强化良好社会环境等方面进行工作。
作为中国实施该计划的一部分，鼓励产业链利益相关者明确其权利和责任边界。