深度伪造滥用正从剪辑视频转向现场表演
404 Media 报道的一起直播事件，展现了生成式媒体被滥用的一个更危险阶段：在直播观众面前进行实时冒充。根据所提供的原文，某主播使用名为 Delulu 的软件，让自己看起来像 YouTube 创作者 MrBeast，同时发表了带有露骨、未经同意且可能构成诽谤的言论。报道称，这场直播发生在 Kick 上，而该平台常因审核标准比大型竞争对手更宽松而受到批评。
此案的重要性不仅在于内容本身，也在于其形式。深度伪造最初主要被讨论为事后传播的剪辑视频。实时工具改变了风险结构。它们降低了冒充的技术门槛，允许滥用在直播中展开，并使干预更困难，因为审核人员必须在直播已经传播开来时识别篡改。
实时身份滥用是另一类平台问题
在传统的假视频案例中，平台仍可能未能及时响应，但审查对象是一段独立的媒体内容。在实时深度伪造场景中，审核系统必须应对一个不断移动的目标：被冒充的面孔、实时表演以及即时放大的观众传播效应。这形成了一个混合问题，结合了骚扰、身份盗用、诽谤和合成媒体检测。
所提供的原文称，该软件面向主播销售，并可在实时中把用户变成其他人。如果这类定位的工具被广泛获取，问题就远不止一个创作者或一个平台。名人、记者、高管、政界人士和普通公众都可能在直播场景中成为目标，虚假言论会瞬间与熟悉的面孔绑定。
这一问题尤其严重，因为直播本身就带有真实性假设。观众也许知道剪辑视频可能被操纵，但直播视频历来传递出更强的预设，即屏幕上的人就是他们看起来的那个人。实时换脸直接攻击了这一假设。
政策、产品和法律体系都在落后
这一事件也暴露出现有防线有多么碎片化。平台规则可能禁止冒充或骚扰，但执行往往依赖举报，而非主动检测。合成媒体工具持续进步，而信任与安全系统在不同平台之间仍不一致。以宽松审核著称的服务，可能会成为滥用的尤其有吸引力的场所，因为在真正审查开始之前，社会和声誉损害就可能已经发生。
这也涉及法律层面。所提供的原文明确将相关内容描述为可能构成诽谤。这表明生成式 AI 工具与现有关于虚假陈述、伤害和身份滥用的法律原则之间，正在发生日益明显的碰撞。实时合成冒充也可能带来取证难题，尤其是在片段被跨平台转发且上下文被剥离时。
更广泛的文化问题在于，深度伪造技术已不再局限于小众实验。它正在被打包、变得更易用，并与创作者工作流相结合。一旦软件是围绕娱乐和观众参与来销售的，若没有从一开始就嵌入防护措施，滥用就不再是边缘案例，而更像是可预见的产品结果。
因此，这里描述的事件影响的不只是涉事个人。它表明，AI 生成的身份滥用正在演变为直播平台、工具供应商和监管机构都必须面对的实时系统问题。下一阶段的内容审核，可能不仅取决于识别假媒体，还取决于如何在不让正常参与变得不可能的前提下，实时验证人的身份。
- 据称，一名主播在直播中使用实时深度伪造软件冒充 MrBeast。
- 这一案例凸显了直播深度伪造如何加剧审核和诽谤风险。
- 随着换脸工具变得更易使用，平台可能面临越来越大的身份核验与更快响应压力。
本文基于 404 Media 的报道。阅读原文。
Originally published on 404media.co