近年来，新一代生成式人工智能（AI）以颠覆性的创新和应用为经济社会发展带来新动能，同时也带来一些新问题。例如，“AI换脸拟声”侵权现象时有发生，引发社会广泛关注。

　　今年的政府工作报告提出，持续推进 “人工智能+”行动。全国两会上，代表委员们围绕如何更好把握人工智能发展机遇、更好应对新技术带来的风险挑战，积极建言献策。不少代表委员呼吁，提升综合治理水平，推动科技向善，促进AI技术、AI产业健康有序发展。

　　AI不当滥用引发代表委员关注

　　小米集团创始人、董事长兼CEO代表表示，AI深度合成技术的快速发展，推动了“AI换脸拟声”在影视、广告、社交等领域广泛兴起，成为社会喜闻乐见、传播力强、易成热点的技术应用。

　　“但同时也要看到，‘AI换脸拟声’不当滥用成了违法侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为，甚至造成难以挽回的大规模形象和声誉损害，带来社会治理等风险。AI深度合成技术具有所需素材获取便利、技术使用门槛低、侵权主体及手段隐蔽性强等特点，给治理带来较大挑战。”雷军代表说。

　　美的集团副总裁兼首席财务官钟铮代表在调研中发现，网络上出现了一些AI生成的视频，模仿明星或专家的形象、声音，推销保健品，许多老年人上当购买了这些产品，蒙受经济损失。

　　中国民办教育协会副会长、云南工商学院执行校长李孝轩委员表示，AI的高仿真性特征，让普通人真假难辨、防不胜防。一些不法分子通过定制网络钓鱼邮件或短信，大肆收集个人面部、声音等数据资料，恶搞知名企业家，借助多个AI账号冒充名人直播带货，且账号多变，应引起重视。

　　监管滞后于AI技术发展

　　“AI技术降低了视频制作的门槛，使得虚假内容的生成变得容易。老年人对AI生成的虚假视频识别能力较弱，容易受到误导。”钟铮代表说，这与相关法律法规尚不完善，特别是在版权归属和隐私保护方面存在空白有关。

　　李孝轩委员表示，当前，我国人工智能法规体系还不完善。虽然制定发布了网络安全审查办法、《生成式人工智能服务管理暂行办法》等多部法律规章和相关国家标准，但监管仍滞后于AI技术发展。

　　雷军代表认为，《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法律法规已颁布实施，《人工智能生成合成内容标识办法（征求意见稿）》完成社会意见征集，对人工智能立法进行了有益探索。但目前“AI换脸拟声”的有关规定，效力位阶偏低、内容偏原则且分散、多个部门职责交叉或职权定位有待明晰，导致现阶段对“AI换脸拟声”造成的侵害，只能依靠基础法律中关于隐私权、肖像权、名誉权的零散法条来规制。

　　“因AI技术的复杂性、隐蔽性等特征，在查处违法违规问题时，面临调查难、取证难、定性难等诸多难题。司法规制与监管滞后，客观上难以对行业乱象形成有效震慑。”李孝轩委员说。

　　“要规范‘AI换脸拟声’技术的不当利用，有必要要求深度合成服务提供商对人工智能生成的内容进行强制标识，减少恶意滥用。这也有助于厘清责任、对违法犯罪行为追责。”TCL创始人、董事长李东生代表表示。

　　加快提升综合治理水平

　　针对上述问题，代表委员纷纷建言献策。天娱数科CEO、山西数据流量谷董事长贺晗委员认为，针对AI应用中出现的越界、侵权等行为，应完善法律法规，制定明确且细致的条款，明确界定AI技术在不同场景下的使用边界。对利用AI技术进行诈骗、侵犯隐私等违法犯罪行为，从惩处细则等方面给予强有力的约束，让法律成为AI规范发展的坚实底线。

　　雷军代表建议，针对“AI换脸拟声”等代表性问题，探索推出人工智能单行法，提高立法位阶及其效力，在分级分类的基础上进行务实治理，明确“AI换脸拟声”应用边界红线，完善侵权证据规则，加大对利用人工智能技术实施犯罪行为的刑事处罚力度。与时俱进探索新议题的细化监管措施，凝聚人工智能伦理规范共识。

　　记者注意到，全国人大常委会工作报告明确，今年将围绕人工智能、数字经济、大数据等新兴领域加强立法研究。

　　钟铮代表认为，有关部门应加强监管，对不合规的AI生成视频加大处罚力度，形成有效的震慑。同时，建立行业自律机制，引导平台企业自觉遵守法律法规，维护平台规则。

　　“平台方应加强对AI生成视频的审核和监督，确保内容的真实性。开发高效的AI审核工具，并结合人工审核，通过双重校验提高识别准确率。”钟铮代表说。