如果有人说“用 AI 来治理 AI 制造的垃圾”，你可能会觉得这是句绕口令。但 Reddit 现在真在这么干。这家公司最近公布了一组数字：靠一套升级过的 AI 垃圾检测系统，他们每天在内容被真人看到之前，就拦掉 2300 万次垃圾浏览；每天新抓到大约 2.5 万条“像垃圾的帖子和评论”；顺手废掉将近 200 万个水军刷出来的假赞。
Reddit 这波操作，表面是清理社区，底下其实藏着一股更具体的焦虑：有人正在用 AI 批量生产内容，往 Reddit 里灌，目的不是跟你聊天，而是去影响 ChatGPT、谷歌 AI 搜索会给出什么答案。
新型“搜索引擎优化”：驯化聊天机器人
这事儿有个新名字，叫 GEO（生成式引擎优化），也有人叫它 AEO。逻辑不复杂：现在 AI 聊天机器人在回答问题时，特别爱引用 Reddit 的帖子。于是品牌方发现，只要在 Reddit 高流量版块里悄悄埋几句产品好评，成本极低，却能左右那些机器人推荐什么。The Verge 就点名了一家叫 RedRover 的公司，公然揽活，派 AI 智能体到 Reddit 和博客上铺量内容，既冲谷歌排名，也冲 ChatGPT 的答案。
“我们最管用的工作，发生在帖子被任何人类看到之前。”Reddit 在自己的公告里写道。他们不再等违规内容流到社区里才判断好坏，而是从源头就掐断。
具体怎么拦？Reddit 说，账号一创建，系统就开始盯信号，把可疑角色挡在发帖之前。对那些真的进来的，他们用大模型去识别那种特别隐蔽、有组织的“假互动”和“人造热度”——这类套路老系统经常看走眼。最近他们还加了一道：凡是看着像机器人的可疑账号，都会被要求证明自己是真人。过去三个月，每天作废的假赞接近 200 万个。
从“删帖慢”到“五秒内”
不只是垃圾内容。在治理仇恨、暴力这类有害信息上，自动化也把效率拉满了：从发现到处理的平均时间，压到了 5 秒以内，用户接触到有害内容的概率降了四成多。对一个有 21 年抗机器人历史的老社区来说，这算一次明显的升级。
说到底，Reddit 这套打法等于亲口承认了一件事：光靠人工审核，已经追不上 AI 辅助的操纵了。当“投喂聊天机器人”变成一门生意，平台能拿出来的、唯一现实的反制，就是同样用 AI、在更大规模上做检测。至于这场猫鼠游戏谁先累，现在还看不出来。
发表回复