YOHO AI

标签： 隐私

  • TikTok悄悄测试AI肖像检测：想抓深伪换脸，先交自拍和身份证

    刷短视频的人多少都想过一个问题：要是有人用 AI 把自己的脸换到一段视频里，到处招摇撞骗，自己该怎么发现、又该怎么治？TikTok 最近在悄悄试一个答案。

    据 The Verge 的 Jay Peters 报道，TikTok 正在小范围内测一款”肖像检测”（Likeness Detection）工具，目前只对一部分美国创作者开放。它的逻辑很简单：你先加入，系统就帮你盯着平台上有没有 AI 生成的内容在冒用你的脸，发现了你再来核对、举报。

    TikTok 美国发言人 Zachary Kizer 说得很清楚：这项工具是自愿加入的，想用就得先通过 Jumio 做身份验证——实时自拍加身份证件那一整套。

    先验证，再参与

    这点特别关键。创作者想用这个工具，第一步不是”开启扫描”，而是先证明”我是我”。TikTok 不保留身份证件，面部信息也只用于匹配肖像、找出可能的盗用。验证通过后，系统才会去扫那些可能用了你长相的 AI 内容，把疑似结果推给你，由你决定要不要举报。

    TikTok AI 肖像检测
    TikTok 的 AI 肖像检测功能示意（图源：The Verge / Nick Barclay）

    和 Meta 的翻车形成对照

    把时间往回拨几天就很耐人寻味。就在这个月，Meta 推出 Muse Image，允许任何人基于 Instagram 上的公开照片生成 AI 图像，而且所有账号默认就被拉进这个功能。结果骂声来得太快，短短三天 Meta 就撤下了功能，承认自己”没把握好分寸”。

    TikTok 几乎是反着来的：身份验证在前，参与全凭自愿，控制权始终在创作者手里。

    不是 TikTok 一个人在做

    它其实跟在 YouTube 后面。YouTube 早就在做类似的工具，并且已经向所有成年用户开放；更早之前，它把这类保护也给了名人和艺人经纪公司。换句话说，平台从”发现深伪我们再删”走向”帮创作者主动揪出盗用”，已经成了大视频平台的标配方向。

    • 验证机制本身是个隐私取舍：要系统帮你找冒用，就得先交脸的数据
    • 平台得说清楚数据存多久、会不会拿去训练模型、退出后还扫不扫
    • 打假不等于一刀切下架，恶搞、新闻、评论这些边界仍要人工判断

    对创作者来说，一个能乱真的 AI 换脸，轻则毁名声，重则配合诈骗和色情内容。手动搜基本是杯水车薪，所以自动检测才有价值。代价是，你得先信任平台，把最敏感的身份信号交出去。

  • 上线四天就认怂：Meta 用 @ 别人就能造 AI 深伪图，被骂到下架

    一个 @ 就能把陌生人塞进你的图里

    这周二，Meta 高调推出了自家的图像生成模型 Muse Image，并把它接进了 Instagram。其中一个被当成亮点的玩法很直白：在 Meta AI 里 @ 某个公共 Instagram 账号，系统就会把那个人的内容拉进你生成的图里。

    问题出在默认设置上。只要账号是公开的，它的照片就能被别人拿去生成 AI 图像，而且不需要本人同意。想不被用？得自己钻进设置里一层层翻，手动关掉。

    追求高风险的设计，却把责任推给个人去层层跳转菜单退出——这是不可接受的。

    说这话的是 Haley McNamara，美国全国性反性剥削组织（NCOSE）的负责人。她的担忧很具体：这不光是侵蚀了每个人对自己肖像的权利，更像是一个为”色情勒索”和其他诈骗者准备好的现成工具。

    四天，从上线到撤回

    批评声不只是来自民间。演员工会 SAG-AFTRA 直接建议旗下会员去关掉这个功能，还手把手写了操作教程。在舆论、行业组织和媒体一起施压之后，Meta 认了。

    公司在博客更新里写：”我们听到了反馈，这个功能没达到预期，所以不再提供了。”不过要注意，被撤下的只是”@ 公共账号生成图像”这一项，Muse Image 本身还能在 Meta AI、Instagram Stories 和 WhatsApp 里继续用。

    Meta Muse Image 的 @ 提及功能
    用 @ 就能把公开账号的内容拉进 AI 生成图（图：The Verge）

    真正的争论在”同意”两个字

    这起翻车背后，是一场关于”Opt-in 还是 Opt-out”的拉锯。Meta 选了后者：默认你同意，不想被用就自己去关。可当用户对自己形象的控制权，取决于他是否碰巧发现了那个隐藏开关，这套逻辑本身就站不住脚。

    • 演员公会主张，数字分身这类事必须”显式同意”，而不是事后退出；
    • 反剥削组织指出，把伦理风险从设计公司转嫁到使用者头上，是硅谷反复出现的老毛病；
    • 而随着 AI 图像、视频越来越难用肉眼分辨，隐形水印和内容标签也只是杯水车薪。

    有意思的是时间线。从官宣到撤回，前后不过四天。放在几年前，一个功能引发争议、公司再慢慢评估，往往是以”周”甚至”月”计的。2026 年的舆论场，反应速度快到可以用天来量。Meta 砸重金重建 AI 实验室、和 OpenAI、Anthropic 贴身肉搏的当口，这一跤摔得不算轻，但也算给全行业提了个醒：把别人的脸塞进 AI 之前，先问一句”你愿意吗”，大概不该是 optional。

  • Meta的AI生图刚上线就翻车：默认能拿你的公开照片去拼图

    Meta 超级智能实验室这周高调推出了图像生成模型 Muse Image，本想秀一把“把 AI 创作塞进 Instagram”的肌肉，结果其中一个功能刚露面就被用户和经纪公司围攻，不到三天就灰溜溜地撤了。

    问题出在那个“@一下”的功能

    Muse Image 可以让人在提示词里 @ 某个公开 Instagram 账号，模型就会去参考那个人的公开照片来生成图像。听起来是个挺聪明的社交创作玩法，但 Meta 压根没设计“通知对方”的机制——也就是说，别人拿了你的脸去生图，你可能完全不知情。公开账号默认是开启状态，想不被用，得自己进设置手动关掉。

    “我们的初衷是提供一个好用的创作工具，也给大家控制自己公开内容是否被引用的权利。但反馈告诉我们，这个功能没踩准点，所以已经下线了。”——Meta 官方博客

    经纪公司先急了

    第一个把 Meta 撤功能的决定捅出来的是 Puck News 的 Dylan Byers。据他转述，真正让 Meta 松手的，是用户和 talent agency（包括 CAA 这样的大牌经纪公司）的双重施压。想想也不意外：明星的公开照片本来就是被深伪色情内容盯得最狠的，平台再开个“一键拿脸”的口子，等于把火引到自己身上。

    这锅 AI 生图背了不止一次

    把公开照片默认纳入 AI 生成，Meta 不是头一个踩雷的。Google 刚把 Gemini 的 Nano Banana 接到 Google Photos 上，同样引发了“我的私人内容怎么被用了”的争议。区别是，Meta 这回连个提醒都没给，直接默认开启，激怒大家也就不奇怪了。

    • Muse Image 由 Meta 超级智能实验室（MSL）打造，支持提示词生图与局部修改
    • 提示词里 @ 公开账号即可引用其照片，默认不通知本人
    • 上线约三天后，在用户与经纪公司（含 CAA）施压下被移除
    Meta Muse Image 隐私争议概念图
    Muse Image 能融合公开 Instagram 照片生成图像，但“默认可用、不通知本人”的设计引发了隐私反弹。

    TechCrunch 还专门写了篇教程，教用户怎么关掉这个开关。一个功能需要媒体出科普帖教人“如何不被用”，本身就说明默认设置有多离谱。好在 Meta 这次认错挺快，但下一次“默认开启、事后道歉”的剧本，用户大概不会再买账了。

  • 加拿大裁定OpenAI违反隐私法，训练数据收集首遭国家级认定违规

    五月底，加拿大隐私专员办公室联合魁北克、不列颠哥伦比亚和艾伯塔三省的对应机构，正式发布调查结果：OpenAI在开发ChatGPT的过程中，违反了加拿大隐私法。这是全球范围内第一个国家级别的隐私监管机构，正式认定AI模型训练数据收集构成隐私违规。

    调查持续了三年。起因是加拿大公民社会组织CAIDP在2023年向监管机构投诉，认为OpenAI从公开互联网大规模抓取个人信息用于训练，缺乏合法依据。调查最终认定了三项违规：第一，从公共网络过度收集个人信息，且没有做比例评估；第二，对被抓取数据的个人缺乏有效同意机制和透明度；第三，对敏感数据的保护不足，包括健康状况信息，以及从社交媒体、博客、新闻网站收集的儿童数据。

    加拿大成为第一个正式裁定AI训练数据收集违反隐私法的国家，而且几乎可以确定不会是最后一个。

    OpenAI承诺补救，但省级监管机构不买账

    联邦专员认为这起投诉已经”有条件地”解决，OpenAI方面承诺采取额外补救措施。但魁北克、不列颠哥伦比亚和艾伯塔三省的隐私专员并不认同这个解决方案，正在继续推进各自的执法程序。这种联邦与省级监管态度分裂的局面，让OpenAI在加拿大的合规前景变得复杂。

    OpenAI的标准回应一直是：公共网络数据用于模型训练是合理的，这是业界通行做法。但这个论点在拥有 comprehensive 隐私框架的司法管辖区，越来越站不住脚。英国的ICO、德国的数据保护机构（DPA）、法国CNIL都在进行类似调查。

    对企业用户意味着什么

    如果你在加拿大的组织里部署ChatGPT，这条裁定创造了实质性的合规风险。根据OpenAI的训练数据收集机制，通过ChatGPT处理的数据有可能被用于模型改进（除非企业用户明确退出），而加拿大隐私监管机构现在已经正式认定这种模式本身存在问题。

    • 受加拿大隐私法（PIPEDA）约束的组织，需要在部署前进行法律审查
    • 省级监管机构（特别是魁北克）的执法态度比联邦层面更严格
    • 训练数据同意框架是这根刺的核心，OpenAI需要提出比”公共数据例外”更有说服力的论辩