国庆假期期间， 短视频平台上出现了大量“雷军AI配音”的恶搞视频。在视频中，“雷军”锐评了堵车、假期等热门话题，其中还有一些不雅谩骂，有网友调侃称“国庆上网被雷军骂了整整7天”。

除了吐槽外，视频里的“雷军”还称要投资某某大学。截至目前，平台上相关话题浏览量过亿。

但事实上，这些发言和雷军本人并无干系，而是AI配音所成。目前，相关短视频已被平台逐步下架。

“雷军AI配音”的恶搞视频截图

在雷军的微博评论区中，连日来不断有人留言询问此事。

10月7日晚，针对网友“为何骂人”的询问， 雷军回复了三个愤怒表情。

AI伪造音视频事件已发生多起

在社交媒体上用雷军AI配音已经形成一种创作风潮，各种配音模仿、恶搞视频层出不穷。抖音上话题浏览量过亿，B站上相关创作超过上百条。

记者查询发现，目前市面上有大量AI配音的小程序， 用户只需在程序内选择相应的人物声音并输入文字，便可借用他人的声音发表言论。

事实上，行业内，AI伪造音视频事件早已发生多起。

9月26日，安徽合肥市公安局高新分局确认，相关网传音频为AI伪造。9月27日凌晨，深圳言域科技有限公司发文称，三只羊事件使用的是“Reecho睿声”大模型，由卢文庆30秒的直播片段克隆生成，现在在加强安全管控措施。

律师解读

对此，北京京本律师事务所主任连大有律师对中青报·中青网记者表示，无论是普通人还是知名人士，未经其本人同意，擅自使用其肖像和声音进行编辑合成，甚至发布具有辱骂和诽谤性质的内容， 明显侵犯了其相关民事权利，如肖像权、名誉权等。

《网络安全法》《数据安全法》《个人信息保护法》《科学技术进步法》等法律对此均有规定；国家网信办等七部门联合公布并于2023年8月15日起施行的《生成式人工智能服务管理暂行办法》还专门对侵害个人信息权益的人工智能的责任进行了明确规定。

连大有律师称，雷军可以依据《民法典》规定，要求恶搞者承担包括停止侵权、公开道歉、恢复名誉和赔偿损失等法律责任。如恶搞者的恶搞行为违反《治安管理处罚法》相关规定的，也会面临行政处罚如行政罚款或(和）行政拘留。再者， 如果这些恶搞内容传播谣言并造成严重社会影响，则可能触犯刑法。

垦丁律师事务所联合创始人欧阳昆泼分析称，对于深度合成技术的标识义务，已有相关法规要求在使用合成内容时进行标识，各个社交平台也已采取了相关措施，会在AI生成的内容旁标注类似于“本内容为AI生成”的内容。然而，在实际操作中，对AI生成内容标识仍存在一定挑战。例如，合成内容经二次传播后，标识就可能被省略或忽视，导致接收方对内容来源产生误解。这会是接下来各个平台需要处理的课题。

“雷军”七天骂翻全网？谁之过？

虚假信息古已有之。如今，人人都有“麦克风”、人人皆是信息源，信息与新闻的界限日渐模糊，亦真亦假的消息、汹涌澎湃的情绪，让舆论场跌宕起伏，过山车般的反转更是天天可见。

如果说，之前的人工造假只是1.0版本，那么AI的发达则开启了深度伪造与低价量产的2.0时代。换脸、换声、换动作，移花接木；文生文、文生图、文生视频，无中生有……当几千元即可定制整套虚拟形象，当寻常软件分分钟生成一批内容详细、真假难辨的文章，当几张图片、几个关键词就能轻松炮制“新闻”，我们该如何应对？

假信息激增是全球问题，国外政要官员、商企精英、歌手明星等，无不遭遇“碰瓷”。 流水线式造假，不仅侵犯隐私权益、混淆公众认知，更带来巨大的风险隐患。《2024人工智能安全报告》显示，2023年基于AI的深度伪造欺诈增长了3000%，仅今年上半年，AI诈骗案案值已超过1.85亿元。

信息最终都要作用于人，传播媒介的代际更迭，总会对受众产生深远影响。 技术进步带来了“信息的洪流”与“选择的苦恼”，我们也应适当提升媒介素养，尝试突破“信息茧房”，对于所谓的“网络热点”及吸睛信息，不可盲目相信、轻易转发，可以多问几个“真的吗” ？更进一步，也有必要有意识地优化媒介使用策略，平衡信源，改善“信息偏食”、拒绝“偏听偏信”。

AI本身就是“人为”创造的，也应该“为人”所用、“为人”服务，我们理当对携手行动、以善治实现善“智”抱有足够信心。

来源： 综合中国青年报、21世纪经济报道、北京商报、北京日报长安观察

编辑： 雷彬