标签： AI内容检测

互联网上的AI垃圾内容越堆越多，有人开始靠”打假”赚钱了。纽约初创公司Pangram刚拿到900万美元融资，领投的是Menlo Ventures，Haystack、ScOp、Script Capital和Cadenza跟投。它做的事情说白了就一句话：帮你分辨眼前这段文字、这张图，到底是人写的还是AI生成的。

拿融资的同时，还发了两个新模型

这轮融资官宣的同时，Pangram顺手上线了新一代文本检测模型Pangram 4，还有一个图像检测模型Pangram Image。官方给的数字挺激进：文本模型识别AI辅助写作和”人机混写”内容的准确率超过99%，而且专门强化了对”AI人味儿改写工具”（humanizer）的识别——就是那种号称能把AI文章洗得像真人写的软件。图像检测模型目前只开放研究预览，未来几周才会大范围放出。

两位创始人Max Spero和Bradley Emi都是斯坦福AI和机器学习方向的毕业生，公司成立差不多两年。起因也很直接：ChatGPT火了之后，网上的机器人账号、AI批量生产的SEO垃圾文、还有Spero口中”由大模型驱动的俄罗斯虚假信息行动”一下子全冒了出来。

Spero说得很实在：知道你正在读的东西是不是AI写的，非常值钱——如果是AI写的，你得提防幻觉、带着怀疑去读；如果是真记者认真调研写出来的，你可以选择信任。

技术路子：不靠水印，靠”镜像训练”

Pangram的做法和OpenAI、谷歌那套水印思路完全不同。他们先收集了几千万份确定是人类写的文档，然后给每一份都造一个”合成镜像”——让前沿大模型照着同样的主题、篇幅、语气再写一遍。模型在这海量的成对样本里，学会了AI写作时那些始终改不掉的风格习惯和用词偏好。图像那边同理，靠的是像素级统计分布的差异，而不是某家厂商埋的水印，所以跨模型通用，甚至能揪出”真实照片里嵌了一张AI图”这种套路。

TechCrunch记者亲自上手测了一轮，结论是”很强但不完美”：纯AI生成的新闻稿一抓一个准，人工润色过的也大多逃不掉；让ChatGPT和Claude刻意模仿人类语气去骗检测器，基本没用。误伤率官方口径是万分之一，但实测中确实有几句记者亲手重写的句子被误判成AI。

已经有大客户在用了

• Substack最近把Pangram接进了平台，读者能看到自己关注的作者是不是用AI写的newsletter；
• Quora、高校、出版社、猎头也都是它的API客户；
• 个人用户每月20美元，Chrome插件能实时给X、LinkedIn、Reddit、Medium上的帖子打标，还会给你的信息流算一个”人类含量”健康分。

这个赛道也不只它一家，Winston AI、Originality.ai、Copyleaks、GPTZero都在抢同一块蛋糕。大环境也在配合：开放论文库arXiv今年出了新规，投稿里要是发现作者没审查大模型输出——比如留着幻觉引用、或者”需要我再改改吗？”这种AI对话残留——直接封禁投稿一年。

Spero倒是反复强调不想搞成”AI猎巫”，用AI辅助写作可以接受，前提是作者主动披露。但他对未来的判断相当冷峻：GPU的增速已经超过了新生儿的增速，如果不主动为人类内容撑腰，人类的声音迟早会被AI的洪流淹没。这门生意能做多大不好说，但需求只会越来越真实。

AO3（Archive of Our Own）上每周都会涌现大量同人作品，这个由粉丝运营的非商业平台承载着无数读者和创作者的热爱。但过去这一周，这里发生了一件挺荒诞的事情——有人开发了一款工具，专门用来抓那些”用AI写作的人”，而且手段相当粗暴。

事情要从6月29日说起。一个名叫@heatedrivalryai的匿名X账号发了一条推文，声称自己做了一个AO3的”皮肤”（类似浏览器扩展的东西），可以检测某篇同人作品是不是用Anthropic的Claude写出来的。

它的原理听起来很”技术”

这个工具的核心逻辑是：当你把Claude生成的文字直接粘贴到AO3的编辑器里时，Claude会在文字外面包裹一段代码，叫做font-claude-response-body。这段代码的”残留”会被AO3的HTML保留下来，普通读者看不见，但这个”皮肤”能识别出来。

一旦识别到这个标记，整个页面背景就会变成——红色。很直白，也很粗暴。

“当Claude生成的回复直接从Claude粘贴到AO3时，文字会被Claude注入的代码’font-claude-response-body’包裹。它的存在确凿地表明使用了Claude。”——@heatedrivalryai

我在AO3上找了几篇测试文章试了一下，屏幕确实变红了。然后我自己做了一个实验：用Claude生成一篇短篇故事，直接粘贴进去，红色出现了；但如果我把同一段文字先粘贴到记事本、再复制出来，然后贴到AO3，红色就消失了。

问题出在哪

这个工具的致命缺陷在于：它只能检测出”直接从Claude粘贴”这种行为。任何一个有点经验的写作者，都不会直接粘贴AI生成的文字就完事——他们会改写、会调整、会经过别的处理步骤。换句话说，这个工具抓不到真正想隐藏痕迹的人，却可能误伤那些偶然间留下了代码残留的无辜作者。

更麻烦的是，一旦页面变红，在AO3这种社区里意味着什么，不言而喻。同人创作的圈子本来就对身体不好、情绪敏感的创作者不够友好，现在又多了一层”AI猎巫”的氛围。

同人圈对AI的复杂情绪

平心而论，同人创作者对AI的抵触是有原因的。AO3的存在本身就是基于创作者对作品版权的珍视，而AI训练恰恰大量使用了这些免费公开的同人作品。很多写作者担心自己的文字风格被AI”学会”，然后被用来批量生产劣质内容。

但这种情绪一旦演变成”猎巫”，事情就变味了。目前这个检测工具的准确性本身就很可疑，而又没有透明的申诉机制。一个红色背景就能毁掉一个创作者在这个社区里的声誉，这种权力没有任何制衡。

• 工具只能检测”直接粘贴Claude”的行为，无法检测经过人工改写的AI辅助写作
• 误判风险高，没有申诉或更正机制
• 在社区里制造了对立氛围，让创作者感到被监视
• 真正想隐藏痕迹的人反而更容易规避检测

这件事其实折射出一个更大的问题：当社区试图用技术手段解决信任问题，而技术本身又不完美的时候，受伤的往往是那些最没有防备的人。

AI生成的语音越来越逼真，普通人根本分不清哪些是真人录的、哪些是机器合成的。这个问题不只是”听不听得出来”——当诈骗电话开始用AI克隆亲人的声音，当假新闻用合成语音煽动情绪，你才发现”能分辨”和”不能分辨”之间隔着巨大的安全隐患。

看不见的水印，埋在声音里

6月26日，AI音频平台ElevenLabs宣布接入Google DeepMind的SynthID隐形水印技术。这个技术的思路很聪明：不是在外层贴标签，而是把标识信息直接编织进音频信号本身——人耳听不到，但检测器可以准确识别。

更重要的是，这个水印经得起折腾。剪辑、压缩、换格式、删元数据——这些操作过去能让溯源信息直接消失，但SynthID埋得够深，上述操作基本奈何不了它。

免费用户先用，几周内全覆盖

ElevenLabs的部署节奏是先覆盖免费用户的文本转语音生成，然后”在未来几周内”扩展到所有音频生成类型。同步推出的还有一个免费工具：ElevenLabs Audio Detector，任何人都可以把一段音频传上去，检测它是不是ElevenLabs生成的。

根据Google DeepMind的数据，SynthID技术已经在全球范围内标记了超过1000亿条AI生成内容。这次扩展接入ElevenLabs，是继OpenAI、NVIDIA之后的又一重要落地。

不只是打假，还有版权归属

水印技术的意义不止于”识别假内容”。对创作者来说，持久的水印意味着他们可以证明某段AI生成音频确实出自自己——即使这段音频被下载、转码、再上传到YouTube或TikTok。内容溯源（provenance）正在成为AI平台的标配能力。

当然，这套方案也不是万能的。水印标准如果只在少数平台间互通，效果就会打折扣。而且，真正想作恶的人总会想办法绕过检测——这是一场持续的猫鼠游戏。

• SynthID水印直接嵌入音频信号，剪辑压缩后依然可检测
• ElevenLabs免费用户率先覆盖，全平台几周内上线
• Audio Detector免费开放，可检测任意音频是否为AI生成
• 水印技术同时服务于内容溯源和版权保护两个目标