上线四天就认怂:Meta 用 @ 别人就能造 AI 深伪图,被骂到下架

一个 @ 就能把陌生人塞进你的图里

这周二,Meta 高调推出了自家的图像生成模型 Muse Image,并把它接进了 Instagram。其中一个被当成亮点的玩法很直白:在 Meta AI 里 @ 某个公共 Instagram 账号,系统就会把那个人的内容拉进你生成的图里。

问题出在默认设置上。只要账号是公开的,它的照片就能被别人拿去生成 AI 图像,而且不需要本人同意。想不被用?得自己钻进设置里一层层翻,手动关掉。

追求高风险的设计,却把责任推给个人去层层跳转菜单退出——这是不可接受的。

说这话的是 Haley McNamara,美国全国性反性剥削组织(NCOSE)的负责人。她的担忧很具体:这不光是侵蚀了每个人对自己肖像的权利,更像是一个为”色情勒索”和其他诈骗者准备好的现成工具。

四天,从上线到撤回

批评声不只是来自民间。演员工会 SAG-AFTRA 直接建议旗下会员去关掉这个功能,还手把手写了操作教程。在舆论、行业组织和媒体一起施压之后,Meta 认了。

公司在博客更新里写:”我们听到了反馈,这个功能没达到预期,所以不再提供了。”不过要注意,被撤下的只是”@ 公共账号生成图像”这一项,Muse Image 本身还能在 Meta AI、Instagram Stories 和 WhatsApp 里继续用。

Meta Muse Image 的 @ 提及功能
用 @ 就能把公开账号的内容拉进 AI 生成图(图:The Verge)

真正的争论在”同意”两个字

这起翻车背后,是一场关于”Opt-in 还是 Opt-out”的拉锯。Meta 选了后者:默认你同意,不想被用就自己去关。可当用户对自己形象的控制权,取决于他是否碰巧发现了那个隐藏开关,这套逻辑本身就站不住脚。

  • 演员公会主张,数字分身这类事必须”显式同意”,而不是事后退出;
  • 反剥削组织指出,把伦理风险从设计公司转嫁到使用者头上,是硅谷反复出现的老毛病;
  • 而随着 AI 图像、视频越来越难用肉眼分辨,隐形水印和内容标签也只是杯水车薪。

有意思的是时间线。从官宣到撤回,前后不过四天。放在几年前,一个功能引发争议、公司再慢慢评估,往往是以”周”甚至”月”计的。2026 年的舆论场,反应速度快到可以用天来量。Meta 砸重金重建 AI 实验室、和 OpenAI、Anthropic 贴身肉搏的当口,这一跤摔得不算轻,但也算给全行业提了个醒:把别人的脸塞进 AI 之前,先问一句”你愿意吗”,大概不该是 optional。

📎 原文来源:Meta turns off the Instagram feature that let users make AI deepfakes of public accounts | The Verge

评论

2 条对“上线四天就认怂:Meta 用 @ 别人就能造 AI 深伪图,被骂到下架”的回复

  1. MWTAH51627 的头像
    MWTAH51627

    默认开启还要自己去设置里翻才关得了,这设计就很有问题。我的照片我居然要做额外动作才能保护,怎么想都不对。

  2. PRFKY42165 的头像
    PRFKY42165

    四天就撤回,这速度可以。比起之前那些拖了半年才改的产品,至少说明舆论这次真的起到了作用。希望别过阵子又悄悄换皮回来。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注