Reddit用AI打AI：每天拦下2300万次垃圾内容浏览

如果你最近几个月在Reddit上逛，可能注意到一个变化：那些看起来像真人写的垃圾帖子和评论，好像比以前少了。这不是你的错觉。Reddit在7月6日发了一篇博客，详细讲了他们怎么用LLM来对付LLM制造的麻烦。

这事说来有点讽刺。LLM越来越好用，导致网上垃圾内容爆炸式增长。以前要雇人写水军评论，现在一个脚本就能批量生成成千上万条看起来挺像那么回事的帖子。Reddit说，他们每天要拦下2300万次垃圾内容的浏览，抓到大约2.5万条新的垃圾帖子和评论。

用魔法打败魔法

Reddit在博客里说得很直白：光靠传统自动化工具不够用了。那些老办法能拦住明显的垃圾信息，但LLM生成的内容往往能绕过关键词过滤，因为它们写得太”自然”了。

所以他们用了LLM自己来识别LLM生成的垃圾内容。Reddit的说法是，他们用LLM来捕捉”高度微妙的、协调一致的假行为和人工炒作模式”——这些模式用老办法很难识别。

Reddit表示，2026年1月到3月之间，用户接触到垃圾内容的比例比前三个月降低了20%。

其他平台也在做类似的事

Reddit不是唯一一个在AI时代”以毒攻毒”的平台。YouTube、Meta、Instagram都允许用户发布AI生成内容，只要标注出来就行。TikTok甚至让用户自己选择想看多少AI生成内容。

但平台专家一直在提醒：用AI做内容审核，必须配合人工审核，才能达到最好的效果。纯靠AI，迟早会出岔子。比如AI可能把正常的批评误判为垃圾内容，或者让更隐蔽的违规行为溜过去。

这事背后的两难困境

Reddit这个做法，其实折射出一个更大的问题：当AI让”制造内容”的成本趋近于零，平台要怎么维持内容质量？

如果平台不用AI来对抗AI，垃圾内容会把正常讨论淹没。但如果平台用AI来做内容审核，又可能引发新的问题——AI的判断标准是什么？谁来确保它不偏不倚？

Reddit说他们的工具在持续改进。但说实话，这场猫鼠游戏不会有终点。只要LLM还在进化，垃圾内容制造者就会找到新的办法绕过检测。平台能做的，只是尽量跑在前面。