冲上热搜！网传陈奕迅去世为AI造谣，别让技术为谣言“跑腿”

近日，有关陈奕迅去世的传闻，在社交媒体不胫而走。伪造者通过AI 合成粤语配音，将陈奕迅往年的演唱会片段与伪造的 "官方声明" 嫁接进行传播。这种 "半真半假" 的消息极具迷惑性，但网络平台不是法外之地，AI技术更不应成为虚假信息传播制造的温床。

谣传陈奕迅去世/来自网络

5 月 19 日凌晨，一则声称 "陈奕迅因新冠并发症去世" 的消息在社交平台大量传播，真假参半的视频引起不少市民的关注。

市民： 吓一跳，他本人也没有出面辟谣，当时其实是有一点担心的。

市民：我有看到热搜，知道他好像新冠阳性了，但是我觉得应该不至于去世吧，应该只是夸大其词。

市民： 我觉得这个真伪有待考证，因为我只是刷到他那天演唱会取消，然后说是因为生病了。这么快就有去世的消息传出来，这个还是存疑的。

市民：生病这种谣言其实特别难辨认，如果亲属他们不及时回应的话，公众是没有办法去辨别的。

证实陈奕迅去世为假新闻/来自网络

随后有博主紧急辟谣，才平息这一风波。经了解，这条虚假视频是用 AI 合成粤语配音，将陈奕迅往年的演唱会片段与伪造的 "官方声明" 嫁接形成。而发布这一视频的账号，还如法炮制过其他知名人士去世的假新闻。街头采访中，不少市民表示曾看到过类似AI合成的虚假视频。

市民：经常会刷到用AI拟声去发一些艺人的视频，再一个就是现在AI拟声发展的也非常好，甚至有的时候我听到一些音频，都没有办法确定是不是本人说的，所以我觉得这种AI拟声如果涉及到相关社会问题还是会造成很大影响的。

市民：我觉得这种现象现在非常常见，营销号随意造一个谣，这肯定很不好。

从换脸技术到ChatGPT爆火，AI技术正以惊人速度重塑市民生活。但技术越先进，越需要法律与道德的约束。今年全国两会期间，更有多位委员呼吁在立法层面加强对AI技术的监督。为什么类似谣言会一再出现？毫无根据的假视频为何屡禁不止？有闻记者之家创始人、时事评论员阳淼表示，网络信息环境正在不断接受AI技术的挑战。

阳淼：因为以前我们有一个经验公式，就是有图有真相，或者说有视频有真相，但是现在AI的技术发展可以说图片伪造的天衣无缝，甚至视频乃至于真人语音也都可以伪造到连本人都辨认不出真假的程度。这个技术发展是非常快的，那相应带来的一个问题就是我们的信息网络里面会有非常多的真假难辨的消息。可以说无论是给普通人也好，还是给监管机构也好，都提出了新的挑战。

AI技术实现“丝滑”换脸/来自网络

对此，北京嘉潍律师事务所律师赵占领表示，网络信息传播的便捷性和匿名性，使得谣言的制造和传播成本极低，但网络平台并非法外之地。

赵占领：利用这种AI制作一些虚假的信息并进行传播，涉及到多重的法律责任。首先根据《治安管理处罚法》，散布谣言扰乱公共秩序，需要承担相应的行政责任。另外一个就是刑事责任，主要看传播的虚假信息的具体的内容，通常来讲涉及到的主要是故意传播虚假信息罪或者是寻衅滋事罪。还有一个就是民事责任，如果传播的虚假信息导致他人的名誉受到损害，导致公司的商誉受到侵害，都需要承担相应的民事侵权责任，一般是需要赔偿损失，赔礼道歉等等。

在此事件中，一些自媒体账号为了吸引流量，不加核实便传播转发，进一步推波助澜。赵占领提醒，针对不实信息，转发者也可能面临法律责任。

赵占领：明知道是谣言仍然进行转发，那这个可能构成共同的违法，甚至是犯罪行为。实际上他和造谣者是构成共同犯罪的。如果用户并不知道这个信息是虚假的，而且也没有造成严重后果，在这种情况下通常是不构成刑事犯罪，但是需要删除信息或者接受教育等。

造谣者曾多次发布虚假信息/来自网络

有闻记者之家创始人阳淼还指出，当下网络平台要求被造谣者“自证清白”的机制存在误区。

阳淼：公众人物也好，普通大众也好，如果大家伪造了他的内容之后，当他向平台投诉，现在很多平台采取的措施是你要证明你没有发生过视频里面说的事儿，等于是让受害者去自证清白。其实这个处理顺序的颠倒，就导致假消息有了很充分的流传的空间，相当于变相纵容了人工智能生成的假新闻、假消息。老百姓或者说是公众人物，受到假消息的困扰的话，一定要及时的去公开发表澄清的消息，很多时候可以避免谣言进一步传播。另外一步就是要积极的去向平台向主管部门投诉，维护自己的权益。

4月30日，中央网信办正式启动为期3个月的“清朗·整治AI技术滥用”专项行动，直指虚假信息、网络诈骗等七大乱象。想要规范技术，源头管理、传播渠道管理和受众群体管理缺一不可。

阳淼：凡是中国境内研发或者部署或者使用的这些具有生成多模态信息能力的大模型，在生成内容的时候必须进行两种类型的标注，一种叫显示标注，一种叫隐示标注。如果你看到一个非常耸人听闻的视频或标题，可能倾向于去相信它，但是如果后面标注了它是由人工智能生成的，有70%以上的受众会立刻降低信任度。隐示标识实际上就是隐藏在后面的不可见水印，来对生成的内容进行标注，这个主要用于事后监管和各个传播平台对自己的内容进行把控。

《生成式人工智能服务管理暂行办法》/中华人民共和国中央人民政府官网

北京嘉维律师事务所赵占领表示，AI技术不应成为谣言滋生的温床。

赵占领：需要研发备案的鉴伪技术，提升鉴别虚假内容的效率。第二就是对于平台来讲，要强化平台的责任，建立一个有先审后发的机制，对AI生成的内容进行技术加人工的双重审核。因为生成的内容是海量的，所以可以通过人工抽查巡查的方式，进行多重把关。还有就是对于多次违规的账号，应该采取更严厉的处罚措施，甚至在整个行业建立黑名单制度。第三个方面就是法律法规的完善和监管的完善，这需要推动专项的立法，明确AI生成内容的全链条责任。

广大市民朋友要时刻保持理性思考，不信谣、不传谣，避免转发未经核实的内容，共同维护健康、有序的网络环境。只有这样，才能让AI真正成为推动社会进步的助手，而非扰乱秩序的隐患。赵占领律师提醒：

赵占领：可以建立一些举报奖励的机制，鼓励公众去参与监督。现在实际上网信部门已经开通有一些谣言举报的渠道，但这种渠道可能很多人还不知道，所以在这一方面也需要调动网民的积极性。

记者/编辑：张赛男

主编：朱来生