AI鉴场|从YouTube深度伪造检测工具说起（上）:为谁开放？为何？

君畅| 流媒体网| 2026-05-27

【流媒体网】摘要：该工具要求名人上传其肖像，会标记可能侵权的内容，以进行可能的删除。

一、YouTube向好莱坞开放其深度伪造检测工具

　　好莱坞是一个建立在肖像和名声基础上的产业。但随着人工智能生成的深度伪造（Deepfake）泛滥，消费者正进入一个任何人肖像都可以被挪用的世界。而按照4月份的消息，YouTube已经开发出了深度伪造检测解决方案，并向好莱坞开放。YouTube高管表示，他们多年研发的专有深度伪造检测工具，现已现在对任何高风险的肖像被滥用的人开放：无论演员、运动员、创作者和音乐人是否有YouTube频道，都可以注册识别和申请移除YouTube平台上的深度伪造。

　　“我认为这是责任的基础层（a foundational layer of responsibility），”YouTube首席商务官玛丽·艾伦·科伊（Mary Ellen Coe）说。“自从AI工具的诞生及其对平台的影响以来，我们已经为此工作了相当长一段时间……坦率地说，我们甚至还没看到可能的方向，我们正与经纪公司和第三方经纪公司紧密合作，确保公众人物能够在负面事件发生前抢先一步。”科伊说：“保护艺人的声誉和生计是他们的职责，声誉在这个行业里至关重要。”

　　YouTube近一年半前开始测试该工具，几个月后又扩展到平台上一些最知名的创作者，今年早些时候又扩展到部分政治家和公职人员，但现在大门正式敞开，最有可能因这项技术而受损生计的人。对此，管理与制作公司Untitled Entertainment的合伙人Jason Newman说：“YouTube……免费提供这些工具，做的是正确的事，这样艺人才能保护自己的财产。他们的财产就是他们的脸，就是他们的身体。他们的财产就是他们是谁，他们做什么，他们怎么说。”可见，该工具的初衷是保护好莱坞知名人士与创意人才的声誉以及相关的IP。

　　事实上，YouTube三年多前就开始考虑开发这款深度伪造检测工具。当时公司首席执行官尼尔·莫汉（Neal Mohan）开始着手开发生成式人工智能在平台上的潜力。当时，AI生成的音频正在大量出现。针对AI在音乐领域的应用，莫汉当时在博客写道：“在这个关键转折点，很明显我们需要大胆拥抱这项技术，并持续承担责任。”当然，YouTube的AI应用并未止步于音乐产业。同年晚些时候，YouTube推出了首个可扩展生成式AI工具“Dream Screen”。但随着技术进步，YouTube的努力也在不断提升。其深伪检测工具借鉴了Content ID系统，该系统用于识别上传到服务器的版权内容。“这其实是同一个概念，就是他们管理自己的身份，以及这种身份如何在公共市场中展现出来，”科伊说。

二、深度伪造的伤害可能与案例

1、海外与好莱坞情形

　　YouTube扩展这一深伪检测工具扩展的时机正值行业应对深度伪造在各平台持续增长的趋势，以及视频模型迅速将许多明星的假设最坏情况变为现实之际。

　　——最早激发公众想象力的深度伪造照片之一，或许是2023年初教皇方济各穿着时尚的蓬松外套的深度伪造照片在社交媒体疯传。该图片极其逼真，在发布后几小时内便病毒式传播，获得了数百万浏览量。这一事件被视为公众首次大规模接触高拟真AI深伪图像的里程碑，引发了关于“眼见不再为实”及AI伦理监管的广泛担忧。而在近年，按照一位高层人士声称，好莱坞出现了两次与深度伪造相关的“糟糕时刻”。

　　——去年秋天，OpenAI推出了Sora应用，众多热门角色和知识产权迅速涌入，包括扮演电影和电视角色的熟悉面孔，以及历史人物如马丁·路德·金——后者的AI肖像被用户操控。部分用户利用它生成了大量极度不尊重马丁·路德·金的深度伪造视频。在2024年美国选举期间，曾有国会候选人发布AI生成的音频视频，声音克隆得极为像马丁·路德·金博士，内容是为该候选人“背书”拉票，导致部分选民信以为真。OpenAI最终制止了马丁·路德·金和知识产权驱动的深度伪造（当然，Sora被彻底关闭了），但伤害已经造成。

　　——然后在今年二月，Seedance 2.0制作的布拉德·皮特与汤姆·克鲁斯对抗的视频迅速在互联网上传播开来。正如一位消息人士指出的，这对好莱坞来说是一个警钟：不仅深度伪造已经出现，而且发展速度惊人。对此，MPA（美国电影协会）总裁兼首席执行官查尔斯·里夫金（Charles Rivki）表示：“在一天之内，中国AI服务Seedance 2.0大规模未经授权使用了美国版权作品。”

　　注：一个广为流传的AI生成的布拉德·皮特与汤姆·克鲁斯的视频是用Seedance 2.0制作的。

　　所以，对于深度伪造的危害可能，科伊说表示：“如果你想到公众人物、名人，他们的形象和声誉对他们的生活至关重要。深度伪造这种行为可能以某种方式腐蚀他们的生活……他们必须能够有一定的控制权和能力来管理这些问题。”

2、中国的一些深度伪造案例

　　在中国，深度伪造（Deepfake）同样开始产生巨大的影响力与伤害。以下是一些典型事件

　　全国首例AI换脸巨额诈骗案（2023，四川）

　　· 手法：团伙伪造某科技公司CEO面部与声音，召开虚假线上融资会。

　　· 伤害：骗取6家投资机构2亿元，资金流向境外壳公司。

　　· 影响：作为国内首例深度伪造诈骗刑事案，直接推动监管与溯源技术升级。

　　成龙“被去世”AI假视频（2025年11月）

　　· 内容：伪造成龙病逝医院场景，合成“亲属悲痛”片段。

　　· 传播：3小时内全网播放超500万，冲上热搜前十。

　　· 影响：引发公众对“数字死亡”与AI虚假信息的集体焦虑。

　　演员温峥嵘被AI换脸直播带货（2025年）

　　· 事件：大量账号冒用温峥嵘脸直播卖货，本人投诉被拉黑。

　　· 规模：团队日均举报50 个假冒账号，仍难以遏制。

　　· 影响：凸显名人肖像维权难、灰色产业链成熟的行业痛点。

　　青岛保时捷女销冠AI造黄谣（2025年10月）

　　· 事件：牟姓销售被恶意合成不雅视频，遭网络诽谤。

　　· 进展：造谣者被行政拘留，案件进入司法程序。

　　· 影响：普通公众成AI造谣受害者，引发人格权保护讨论。

　　明星短剧AI换脸侵权潮（2026年初）

　　· 事件：杨紫、迪丽热巴等脸被批量换至付费短剧，未获授权。

　　· 行业：短剧行业用AI换脸降本，形成“无版权蹭流量”灰色模式。

　　· 影响：文娱行业集体维权，倒逼平台加强AI内容审核。

　　以上情况表明：深度伪造危害从经济损失扩散至人格权与社会信任。这是因为：在数字经济急遽放大的中美欧等国与地区，当数字媒体与数字应用逐渐占据大众更多生活与工作空间时，在AI快速崛起的过程中，数字欺诈与深度伪造可能造成的危害也在放大。因为在真实物理世界与虚拟数字世界不断融合与碰撞的过程中，大众的数字生活与数字应用可能被不良的AI使用者所扭曲、放大和误导。并且，我们还要考虑到不同代际人在数字应用方面的巨大鸿沟或信息不对称。

事实上，此前针对马斯克xAI开发的人工智能聊天机器人Grok陷入伦理漩涡一事，笔者认为：AI始终还是人类的辅助工具，是人类某些能力的延伸和放大，其中也可能放大人类某些方面的心理欲求。这就像去年10月美国近700万人发起的“不要国王”的抗议活动美国总统唐纳德·特朗普对这种抗议有一种污秽（scatological）的反应。特朗普当晚上在他的Truth Social社交平台上分享道一段人工智能生成的视频片段，特朗普被描绘成一个戴着皇冠坐在战斗机上的国王，向下面的抗议者投掷了似乎是大量粪便的东西（如下图所示）。在这段视频中，身为美国总统的特朗普，其心理深处的欲望显然被遽然放大——同样，这也必然点起反对民众的情绪——而其结果自不待言。