从YouTube深度伪造检测工具说起（下）:硬币的两面

君畅| 流媒体网| 2026-05-27

【流媒体网】摘要：YouTube深伪检测工具的另一面牵涉粉丝互动娱乐、IP变现，以及更复杂的监管问题。

　　前文阅读：从YouTube深度伪造检测工具说起（上）:初衷与开放态度

四、AI之于好莱坞：粉丝深度互动参与，以及IP变现？

1、基于AI与深伪的互动娱乐

　　前述YouTube深伪检测工具虽然以好莱坞人士的名誉保护为首要目标。但好莱坞与人工智能的关系比表面看来要复杂得多——尤其在涉及用户娱乐互动性质的UGC和创作者经济方面。上述删除情形是否适用于比如粉丝自制的电影预告片，则有些模糊。虽然旁观者可能会对这项技术产生轻视，但创意人才和高管们看起来比表面看起来更开放。例如，CAA投资了两家深度伪造业务的公司——Metaphysic和Deep Voodoo，押注于其创意应用场景。但迪士尼与OpenAI的失败协议早期表明，娱乐公司任务该技术不仅是增强制作能力的工具，它还可以作为粉丝互动的工具（可参考相关案例）乃至可能的IP授权应用相关工具。事实上，YouTube高管表示，在试点期间，许多创作者只请求删除一小部分被标记的内容。而一位大型YouTube创作者表示，他们看到的大多数AI生成的内容都是无害的，甚至是积极且支持性的。

　　华纳兄弟影业联合首席执行官帕姆·阿卜迪（Pam Abdy）此前被问及《实用魔法2》AI生成的粉丝预告片激增时，表达了接受和允许态度：“我知道它不算出色，但也很令人兴奋，因为这意味着大家对它有渴望，也意味着人们想来玩这部电影，”阿布迪说。

　　可见，粉丝通过利用AI制作假预告片的案例似乎比前述皮特vs.克鲁斯的病毒式案例更为普遍，这更多是一种互动娱乐参与，它比贬低性视频更常见。对此，香农（Shannon）说：“我认为确实有人会认为任何形式的肖像使用都应该得到同意，我认为这也是一个合理的理由。”“但平均来看，我们看到更多人对粉丝的参与感到兴奋，并希望以某种形式庆祝他们。”而西尔弗曼（Silverman）认为：“现实是这些内容正在被制作出来，就在那里。所以问题在于，创意人才是否看到这一点，以及是否有机制来应对。我认为有了这个功能，现在有了回应的能力。”

2、深伪检测成为AI应用的必要防护栏

　　进一步，这又引出了更复杂的货币化变现问题。有了Content ID，版权持有人可以请求删除侵权视频、取消其变现……或者通过与上传者分享收入来实现货币化变现。在一个以相似即为IP为核心的世界里，名人们是否很快能通过粉丝制作的自己深度伪造视频赚钱？

　　目前，YouTube 的工具目前还没有这个功能，尽管科伊将此描述为他们正在考虑的长期规划。“我们需要真正专注于这个责任和保护的基础层，然后我们会考虑权利持有人，以及如何考虑变现，”科伊说。“但现在，关键在于那层责任。”

　　而经纪人、经理和律师则已经想得更远一点了，尤其是因为通过深度伪造来变现肖像本身的复杂性。CAA甚至推出了名为“CAA Vault”的产品，用于存放客户的肖像，供未来潜在的变现机会使用。“这当然是一个极其复杂的问题，我们正在积极思考，”香农说。“如果你谈论一个视频中某个特定人才，那是另一回事；如果你谈论的是两个不同才华的视频，一个可以接受，一个不接受，或者一个是已成名的明星，另一个是冉冉升起的新星，那又是另一回事。我觉得这里面有很多复杂性。”

　　不管如何，人工智能和深度伪造已成为YouTube思考的前沿，他们押注于帮助创作者管理这些问题，尽管合成内容和深度伪造带来的风险也存在。在今年早些时候给YouTube创作者的年度信中，莫汉将其列为四大优先事项之一，重点关注深度伪造。他写道：“归根结底，我们致力于确保人工智能服务于让YouTube伟大的人们：创作者、艺术家、合作伙伴以及数十亿希望捕捉、体验并分享与周围世界更深层连接的观众，”。

　　但即使最终无法实现变现，YouTube为识别平台上深度伪造而开发的技术依然是必要和审慎的，并且正如多方消息来源强调的，这对于处于技术变革中的行业来说极为重要。最终，这对任何面临被针对风险的人都可能有所帮助。“这就像火灾保险，对吧？你不会觉得它会发生在你身上，直到它真的发生了，那时它真的很糟糕，你会感激自己拥有它，”科伊说。“我认为心灵的平静和掌控感是非常重要的益处。我们听到的那种安心感是真实的。”或者用纽曼的话说：“金·卡戴珊旅行时，身边总有保安。在数字世界里，为什么你身边没有安保？”

五、泛言深度伪造监管

1、美国针对深伪的监管法案

　　如前文所言，深度伪造已经导致了一些重大伤害，并将随着AIGC的应用而加大。所以，设定针对性的监管法律也势在必行。

　　但是，目前美国联邦层面目前唯一已生效的联邦深度伪造专门立法是TAKE IT DOWN Act（其全称是《Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act（S.146），），即《删除法案》。其余更广泛的联邦提案尚未通过。

　　《删除法案》2025年5月由美国总统签署生效，是美国联邦首部针对AI深度伪造危害的成文法。该法案规定：禁止未经同意发布他人的非自愿私密影像，明确将AI生成的高度逼真私密“数字伪造影像”（Digital Forgery）纳入规制，发布者可处最高2年监禁（涉及未成年人最高3年）。该法案要求社交平台/网站在收到受害者有效通知后48小时内删除相关内容并建立通知—下架流程。问题在于，该法案仅针对“非自愿亲密影像类深度伪造”，不涵盖政治误导、普通诽谤、金融诈骗等其他类型的深度伪造内容。可见，该法案的局限性是非常显著的

　　除此之外，以下法案均未成为联邦法律，目前仍停留在提案或已过期阶段：

　　——DEEPFAKES Accountability Act（《深度伪造问责法案》）：曾提议要求所有深度伪造内容嵌入水印/披露标识，并对恶意不标注者处以相关刑责和民事责任。该文在2023年引入后未获通过。

　　——DEFIANCE Act/ NO FAKES Act：分别拟创设联邦民事诉讼权（针对亲密深度伪造受害者）及保护个人声音/形象的数字复制品权，目前仍在国会待审，未生效。

　　有意思的是，美国已有40多个州出台了各自的深度伪造相关法律，常见规制方向为非自愿亲密深度伪造（刑事/民事）和选举期间政治广告AI内容需标注，部分州（如加州、德州、纽约）走在了联邦前面。这种情况，其实和笔者之前在《从迪士尼诉讼看全球AI监管》所指出的一样，美国联邦和地方各州存在一定的“监管战争”——尤其是在当下AI时代。或许，正是有了这种法律监管不一、联邦立法缺失的情况，YouTube针对自身平台推出了专门的检测工具。对此，笔者只能说“这是个自由的国度”。