靳东：喜爱我的观众被骗很惨，雷军：我也是受害者，AI换脸风险怎么破 靳东雷军 雷军靳东
人工智能深度合成技术的快速发展，推动了“AI换脸拟声”在影视、广告、社交等领域广泛兴起，同时，“AI换脸拟声”的不当滥用也引发了诸多关注。今年全国两会，“靳东
为何AI换脸引起代表、委员关注？加强立法可以从哪些方面切入？
雷军、靳东呼吁AI换脸立法
据人民日报消息，在3月5日的政协小组讨
2024年11月，江西一位老人来到银行办理银行卡，表示要到银行贷款200万元给自己的男朋友“靳东”拍戏。民警查看后发现老人所谓的大明星“靳东”男友是骗子冒充的，视频也是由电脑AI合成。
3月4日，全国人大代表、小米集团创始人雷军接受总台记者专访时表示，“AI技术发展以后，AI换脸、AI拟声在网上已经成为了重灾区，我本人也是主要的受害者，呼吁尽快立法重点整治。”
图源 视觉中国
去年国庆假期，有人用AI捏造雷军配音，所谓“雷军语音包”层出不穷，从吐槽假期到骂人，各种内容应有尽有。对此，雷军本人还专门发视频，呼吁大家不要再恶搞。
雷军提出三条具体建议：一是针对“AI换脸拟声”等某一代表性问题，探索推出人工智能单行法，提高立法位阶及其效力，分级分类的基础上进行务实治理，明确“AI换脸拟声”应用的边界红线，完善侵权的证据规则，加大对利用人工智能技术实施犯罪行为的刑事处罚力度。
二是强化行业自律共治，压实平台等各方的责任。支持平台企业开发可精准识别人工智能深度合成内容的技术能力，优化升级通信软件和内容平台巡查审核机制、投诉举报机制、应急处理机制，确保及时阻断问题内容传播。
三是建议加强人工智能方面的法制宣传教育，增强民众的警惕性和鉴别力，聚焦重点人群，在中小学人工智能教材中加入伦理规范内容，深入老年人聚居的社区开展相关知识普及活动，在全社会夯实“以人为本、智能向善”的人工智能发展生态。
专家：在AI换脸技术的应用中，侵害他人利益的惩罚机制需更加明确
3月6日，就AI换脸这个代表、委员关注的话题，记者采访了中国传媒大学副教授张鹂，她是中国人工智能学会会员、中国伦理学会会员，出版《AI苏醒》等专著。
张鹂表示，AI换脸带来的风险，主要体现在三个方面：一是有不法分子通过AI换脸技术进行诈骗，给普通民众造成财产损失；二是AI换脸技术
同时，张鹂也指出：“AI技术在带来风险的同时，也具有潜在的应用价值。例如在内容生产领域，AI技术让视频制作更加便捷、降本增效，这本身就是生产力的某种释放。因此，对待AI技术不能采取‘一刀切
今年全国两会期间，有代表和委员呼吁加强对AI换脸技术的立法监管，张鹂对此表示，确实应尽快立法明确企业以及使用者应该承担的义务，从事前、事中、事后三个环节进行规范。
在事前，规范研发者的技术伦理和信息素养，强化制作者的标识义务和声明义务。事中，保障信息主体的知情同意权，最重要的是推动AI换脸技术服务提供者在收集个人信息时严格遵守知情同意规则，其中，加强传播平台的内容审查义务尤为重要。“如果有人用AI换脸技术制作了视频，上传的时候，要作AI使用说明。比如说在AI内容生成时自动添加一个水印，或发布时自动增加标识。”
如何让用户更有动力在发布前如实进行AI使用的说明？张鹂表示：“假如AI换脸技术的使用者对他人造成了损失或侵犯他人权益，在惩罚方式上要更加明确。通过立法形式，明确侵权责任主体及责任划分标准，设立惩罚性赔偿机制，才能让AI技术的使用更规范、让AI的发展更健康。”
“假如AI换脸被过度滥用，或许将来某一天，我们不得不在发布真实录制内容时进行声明、强调内容的真实性。如果那一天真的到来，整个社会对真实性的鉴别成本将会非常高，因此目前就要采取办法避免该技术泛滥成灾。”张鹂说。除立法外，公众人物也可以考虑采用这种类似“白名单制度”的方法进行真实性声明。
“人们对于真实的认定门槛的确是在不断提高的，这或许是互联网普及和AI技术发展不可避免的宿命。在技术飞速发展的年代，要通过各种方式增强民众的警惕性和鉴别力，这一点尤为重要。”张鹂说。
原标题：靳东：喜爱我的观众被骗很惨，雷军：我也是受害者，AI换脸风险怎么破？
编辑：杨虹 责编：张松涛 审核：阮鹏程