Meta 最近在独立 AI 应用的”为你推荐”板块里，悄悄上线了一个新功能：用 AI 自动生成新闻推送流。
听起来好像也没什么，AI 生成内容嘛，大家都见过了。但这次的问题在于，生成出来的东西质量低到了让人怀疑是不是故意的水平。
推送了些什么内容
据《The Verge》记者实测，这个 AI 生成的内容流推的东西基本可以分为两类：
一类是毫无信息量的”故事”。点进去之后，AI 会生成一篇完整的文章，但内容基本上就是把标题换个说法重复三遍，没有任何实质信息。比如有篇文章的标题是”皇家管家终于解决了先加奶还是先加茶的争论”，点进去之后发现内容完全是在一本正经地胡说八道。
另一类是高度依赖刻板印象的选题。《The Verge》驻伦敦的记者发现，他的推荐流里充斥着大量关于”英国性”的内容，什么”排队却不知道原因的心理学”、”英国式愤怒的解剖”，看起来就像是一个从没去过英国但读了十本旅游攻略的 AI 写的。
给被算法判定为”奢侈品手表爱好者”的用户，AI 推送了”我的假劳力士实验”和”劳力士候补名单背后的残酷数学”——两篇完全虚构的文章。
图片问题更大
文字内容质量低就算了，配图的问题更明显。大部分配图是通用风格的 AI 生成图——卡通人物、风景、食物，看起来没什么破绽。
但有一部分配图用了真实公众人物的形象，而且生成效果惨不忍睹。有一篇关于”2026年谁真的在为王室买单”的文章，配图里出现了两个伊丽莎白二世——其中一位已经去世多年。其他王室成员的配图也有面部失真、肢体扭曲等典型的 AI 生成错误。
更关键的是，这些内容没有标注”AI 生成”。Meta 自己制定的规则里明确要求，AI 生成内容必须打上标识。这个功能显然没有遵守。
Meta 的回应很微妙
《The Verge》向 Meta 询问这个功能的定位、内容性质、安全保护措施等问题之后，Meta 的回应很有意思：
- 第一次声明：这是一个”主动推送符合用户兴趣的提示、内容和建议的每日信息流”
- 第二次声明：删掉了”主动（proactively）”这个词
- 第三次声明：这个功能只是”小范围用户测试”，Meta 没有继续推进该功能的计划，将会下线
三次声明，三次说法。但《The Verge》指出，至少有四名该媒体员工都访问到了这个功能，所谓的”小范围测试”说法站不住脚。
这件事还没有引发监管层面的实质性行动，但已经有人在讨论：一个科技公司，在自己的平台上用 AI 大规模生成未标注的内容，还涉及真实公众人物的形象，这到底算不算违反了它自己承诺的 AI 治理规则。
发表回复