“不少喜爱我影视作品的观众，被 AI 换脸视频骗得很惨，这种行径性质极其恶劣，期望能构建更为完善的规则。”3 月 5 日，在政协小组讨论中，全国政协委员、演员靳东透露，加快 AI 应用相关立法进程是他今年的提案之一。

无独有偶，就在前一天，全国人大代表、小米科技董事长兼 CEO 雷军公开了自己今年带到全国两会的 5 条建议，其中一条同样聚焦于 “加强‘AI 换脸拟声’这一违法侵权重灾区的治理”。

靳东与雷军关注 AI 换脸拟声问题，一个关键的共同原因在于 —— 他们都曾是 AI “换脸” 和 “拟声” 的受害者。

去年年底，江西一位老人前往银行，称要贷款 200 万给 “男朋友靳东” 拍戏。经民警调查，老人所说的 “靳东” 是诈骗分子利用 AI 换脸合成的，通过视频平台与老人展开 “网恋”。而在去年国庆假期期间，短视频平台上涌现出大量 “雷军配音” 的恶搞视频，内容言辞犀利，还不时出现粗口。为此，雷军不得不专门发布视频澄清，相关语音是由 AI 模拟生成，并呼吁大家停止恶搞行为。

事实上，深受 AI “偷脸盗声” 之苦的，远不止靳东和雷军。从已有的报道来看，此前有 “假张文宏” 深夜直播带货，“假刘晓庆” 分享人生鸡汤，近期又出现 “假古天乐” 代言游戏平台。以当下的技术水平，只要拥有影像和声音素材，AI 几乎能够冒充任何一个人。

一旦 AI 换脸拟声被滥用，其危害不容小觑。首先，这涉及侵犯被模仿者的个人信息、肖像权甚至名誉权。其次，不法分子借助 AI 制造的虚假形象和声音，能够从事诈骗、诱导消费等各类违法犯罪活动，给受害者造成人身和财产损失。更为严重的是，部分不法分子为吸引眼球、获取流量，不惜用 AI 编造 “有模有样” 的虚假事件和新闻并加以传播。长此以往，人们将陷入真假难辨的信息洪流中，进而引发一系列社会问题。

值得关注的是，在部分代表委员关注 AI 应用弊端的同时，也有代表委员对 AI 在不同行业和领域发挥实质性作用满怀期待。例如，全国政协委员、复旦大学数学科学学院教授郭坤宇提出，AI 技术能够带来虚拟教育资源，打破物理隔阂，让偏远地区的学生也有机会获取优质教育；全国人大代表、陕西师范大学黄河研究中心主任方兰有感于科技对农业的巨大推动作用，期望借助 AI 技术推动黄河流域精准农业的提升……

除此之外，AI 人才培养以及其对产业和岗位的影响等，也是今年全国两会上众多代表委员热议的话题。由此可见，随着技术的突破与发展，AI 已彻底走出实验室，逐步向与普通大众息息相关的基础设施方向发展。这也表明，为 AI 技术应用制定标准、规则和底线，已刻不容缓。

目前，我国已出台了针对 AI 技术应用的相关规定，如《互联网信息服务深度合成管理规定》《生成式人工智能服务暂行管理办法》，对深度合成内容的用途、标记、使用范围以及滥用处罚等方面作出了规定。此外，2024 年 9 月，国家互联网信息办公室发布《人工智能生成合成内容标识办法（征求意见稿）》，进一步明确，无论是文本、音频、视频还是虚拟场景，都必须 “在适当位置添加显著的提示标识”。但从实际情况来看，一方面，对恶意深度合成行为的追责面临证据标准高、取证困难等难题；另一方面，AI 生成内容的标注缺乏明确标准，这些在一定程度上导致了 AI 换脸拟声滥用现象难以得到有效治理。

技术本身并无善恶之分，回顾人类发展历程，每一次科技革新，无论规模大小，在带来便利的同时，都难免引发一些 “副作用”。科技最终能否朝着积极有益的方向发展，关键在于人类自身。就 AI 技术而言，除了靳东、雷军等呼吁的，尽快出台更具实操性的法律法规外，AI 行业、应用平台乃至普通用户，都应积极投身于标准与规则的制定，并严格履行相应责任与义务。只有这样，这项被视为具有颠覆性意义的 AI 技术，才能真正成为推动人类实现新飞跃的强大助力。