YOHO AI

标签： 深度伪造

  • TikTok悄悄测试AI肖像检测：想抓深伪换脸，先交自拍和身份证

    刷短视频的人多少都想过一个问题：要是有人用 AI 把自己的脸换到一段视频里，到处招摇撞骗，自己该怎么发现、又该怎么治？TikTok 最近在悄悄试一个答案。

    据 The Verge 的 Jay Peters 报道，TikTok 正在小范围内测一款”肖像检测”（Likeness Detection）工具，目前只对一部分美国创作者开放。它的逻辑很简单：你先加入，系统就帮你盯着平台上有没有 AI 生成的内容在冒用你的脸，发现了你再来核对、举报。

    TikTok 美国发言人 Zachary Kizer 说得很清楚：这项工具是自愿加入的，想用就得先通过 Jumio 做身份验证——实时自拍加身份证件那一整套。

    先验证，再参与

    这点特别关键。创作者想用这个工具，第一步不是”开启扫描”，而是先证明”我是我”。TikTok 不保留身份证件，面部信息也只用于匹配肖像、找出可能的盗用。验证通过后，系统才会去扫那些可能用了你长相的 AI 内容，把疑似结果推给你，由你决定要不要举报。

    TikTok AI 肖像检测
    TikTok 的 AI 肖像检测功能示意（图源：The Verge / Nick Barclay）

    和 Meta 的翻车形成对照

    把时间往回拨几天就很耐人寻味。就在这个月，Meta 推出 Muse Image，允许任何人基于 Instagram 上的公开照片生成 AI 图像，而且所有账号默认就被拉进这个功能。结果骂声来得太快，短短三天 Meta 就撤下了功能，承认自己”没把握好分寸”。

    TikTok 几乎是反着来的：身份验证在前，参与全凭自愿，控制权始终在创作者手里。

    不是 TikTok 一个人在做

    它其实跟在 YouTube 后面。YouTube 早就在做类似的工具，并且已经向所有成年用户开放；更早之前，它把这类保护也给了名人和艺人经纪公司。换句话说，平台从”发现深伪我们再删”走向”帮创作者主动揪出盗用”，已经成了大视频平台的标配方向。

    • 验证机制本身是个隐私取舍：要系统帮你找冒用，就得先交脸的数据
    • 平台得说清楚数据存多久、会不会拿去训练模型、退出后还扫不扫
    • 打假不等于一刀切下架，恶搞、新闻、评论这些边界仍要人工判断

    对创作者来说，一个能乱真的 AI 换脸，轻则毁名声，重则配合诈骗和色情内容。手动搜基本是杯水车薪，所以自动检测才有价值。代价是，你得先信任平台，把最敏感的身份信号交出去。

  • 上线四天就认怂：Meta 用 @ 别人就能造 AI 深伪图，被骂到下架

    一个 @ 就能把陌生人塞进你的图里

    这周二，Meta 高调推出了自家的图像生成模型 Muse Image，并把它接进了 Instagram。其中一个被当成亮点的玩法很直白：在 Meta AI 里 @ 某个公共 Instagram 账号，系统就会把那个人的内容拉进你生成的图里。

    问题出在默认设置上。只要账号是公开的，它的照片就能被别人拿去生成 AI 图像，而且不需要本人同意。想不被用？得自己钻进设置里一层层翻，手动关掉。

    追求高风险的设计，却把责任推给个人去层层跳转菜单退出——这是不可接受的。

    说这话的是 Haley McNamara，美国全国性反性剥削组织（NCOSE）的负责人。她的担忧很具体：这不光是侵蚀了每个人对自己肖像的权利，更像是一个为”色情勒索”和其他诈骗者准备好的现成工具。

    四天，从上线到撤回

    批评声不只是来自民间。演员工会 SAG-AFTRA 直接建议旗下会员去关掉这个功能，还手把手写了操作教程。在舆论、行业组织和媒体一起施压之后，Meta 认了。

    公司在博客更新里写：”我们听到了反馈，这个功能没达到预期，所以不再提供了。”不过要注意，被撤下的只是”@ 公共账号生成图像”这一项，Muse Image 本身还能在 Meta AI、Instagram Stories 和 WhatsApp 里继续用。

    Meta Muse Image 的 @ 提及功能
    用 @ 就能把公开账号的内容拉进 AI 生成图（图：The Verge）

    真正的争论在”同意”两个字

    这起翻车背后，是一场关于”Opt-in 还是 Opt-out”的拉锯。Meta 选了后者：默认你同意，不想被用就自己去关。可当用户对自己形象的控制权，取决于他是否碰巧发现了那个隐藏开关，这套逻辑本身就站不住脚。

    • 演员公会主张，数字分身这类事必须”显式同意”，而不是事后退出；
    • 反剥削组织指出，把伦理风险从设计公司转嫁到使用者头上，是硅谷反复出现的老毛病；
    • 而随着 AI 图像、视频越来越难用肉眼分辨，隐形水印和内容标签也只是杯水车薪。

    有意思的是时间线。从官宣到撤回，前后不过四天。放在几年前，一个功能引发争议、公司再慢慢评估，往往是以”周”甚至”月”计的。2026 年的舆论场，反应速度快到可以用天来量。Meta 砸重金重建 AI 实验室、和 OpenAI、Anthropic 贴身肉搏的当口，这一跤摔得不算轻，但也算给全行业提了个醒：把别人的脸塞进 AI 之前，先问一句”你愿意吗”，大概不该是 optional。

  • Meta 紧急关掉 Instagram AI 换脸功能：上线四天就认错

    这周科技圈又上演了一出熟悉的戏码：一个大公司推出一个「听起来很酷」的 AI 功能，用户还没玩热乎，舆论和监管机构已经把它按了回去。这次的主角是 Meta——它给 Instagram 加的那个「@ 一下公开账号就能拿对方照片生成 AI 图」的功能，从宣布到下线，前后不到四天。

    Meta Muse Image 通过 @ 提及公开 Instagram 账号生成 AI 图
    Meta AI 的 Muse Image 曾允许用户 @ 提及公开 Instagram 账号来生成 AI 图（图源：The Verge）

    一个 @ 就能「借用」别人的照片

    事情是这样的。Meta 本周早些时候宣布，在 Meta AI 里生成图片时，你可以直接 @ 提及某个公开的 Instagram 账号，让 AI 参考这个账号的内容来出图。初衷听起来挺正当：给创作者一个好玩的工具，顺便让用户自己决定「我的公开内容能不能被这么用」。

    问题出在默认设置上。按照最初的设计，任何公开 Instagram 账号的内容，都可以被塞进别人的 AI 创作里，而且不需要账号主人点头。换句话说，你的头像、你的照片，别人动动手指就能拿来生成一张以你为主角的 AI 图——而你全程可能毫不知情。

    「我们听到了反馈，这个功能没踩在点上，所以它不再可用了。」—— Meta 关于 Muse Image 的更新说明

    批评来得又快又猛

    功能上线后，Meta 确实留了一个「退出」开关，但你得自己钻进设置里翻才能找到。这个设计本身就招来一片骂声。全国性性剥削中心的负责人 Haley McNamara 说得更重：这不仅明摆着侵蚀了每个人对自己肖像的权利，还成了色情勒索和其他诈骗者的现成工具；先把高风险设计甩出来，再让用户自己费劲去退出，这完全说不过去。

    演员工会 SAG-AFTRA 也发文提醒会员去关掉这个功能，还专门写了一份操作指南。对一个拥有几十亿用户的平台来说，这种「默认开放、自己退出」的套路，碰到深伪和肖像权议题，天然就是火药桶。

    为什么这次回滚这么快

    从宣布到关停只隔了几天，速度本身就很说明问题。过去这类争议往往要扯上几周甚至更久，但 2026 年的舆论环境里，用户、行业组织和媒体的反应已经快到一个产品可以用「天」来计算生死。Meta 自己的措辞是 feature「missed the mark」（没踩准点），算是体面地认了个错。

    • 功能的触发方式太轻巧：一个 @ 就能调用他人公开内容，滥用门槛极低
    • 「默认开通、主动退出」把保护责任推给用户，触碰了深伪与肖像权红线
    • 在勒索、诈骗风险面前，创意工具的便利很难站得住脚

    留给行业的提醒

    这次回滚并不意味着 Meta 放弃了 AI 生图。Muse Image 本身还在，被砍掉的只是「拿公开账号当素材」这一条路径。但它给所有做生成式 AI 的团队提了个醒：当工具能直接动用真实人物的脸和身份时，「创意自由」和「基本权利」之间的天平，用户和监管都不会让你随便摆。

    对普通用户来说，最实在的一课也许是：你的公开资料从来不只是「公开」那么简单，平台一句「你可以退出」并不能替你挡掉所有风险。