标签： AI垃圾内容

互联网上的AI垃圾内容越堆越多，有人开始靠”打假”赚钱了。纽约初创公司Pangram刚拿到900万美元融资，领投的是Menlo Ventures，Haystack、ScOp、Script Capital和Cadenza跟投。它做的事情说白了就一句话：帮你分辨眼前这段文字、这张图，到底是人写的还是AI生成的。

拿融资的同时，还发了两个新模型

这轮融资官宣的同时，Pangram顺手上线了新一代文本检测模型Pangram 4，还有一个图像检测模型Pangram Image。官方给的数字挺激进：文本模型识别AI辅助写作和”人机混写”内容的准确率超过99%，而且专门强化了对”AI人味儿改写工具”（humanizer）的识别——就是那种号称能把AI文章洗得像真人写的软件。图像检测模型目前只开放研究预览，未来几周才会大范围放出。

两位创始人Max Spero和Bradley Emi都是斯坦福AI和机器学习方向的毕业生，公司成立差不多两年。起因也很直接：ChatGPT火了之后，网上的机器人账号、AI批量生产的SEO垃圾文、还有Spero口中”由大模型驱动的俄罗斯虚假信息行动”一下子全冒了出来。

Spero说得很实在：知道你正在读的东西是不是AI写的，非常值钱——如果是AI写的，你得提防幻觉、带着怀疑去读；如果是真记者认真调研写出来的，你可以选择信任。

技术路子：不靠水印，靠”镜像训练”

Pangram的做法和OpenAI、谷歌那套水印思路完全不同。他们先收集了几千万份确定是人类写的文档，然后给每一份都造一个”合成镜像”——让前沿大模型照着同样的主题、篇幅、语气再写一遍。模型在这海量的成对样本里，学会了AI写作时那些始终改不掉的风格习惯和用词偏好。图像那边同理，靠的是像素级统计分布的差异，而不是某家厂商埋的水印，所以跨模型通用，甚至能揪出”真实照片里嵌了一张AI图”这种套路。

TechCrunch记者亲自上手测了一轮，结论是”很强但不完美”：纯AI生成的新闻稿一抓一个准，人工润色过的也大多逃不掉；让ChatGPT和Claude刻意模仿人类语气去骗检测器，基本没用。误伤率官方口径是万分之一，但实测中确实有几句记者亲手重写的句子被误判成AI。

已经有大客户在用了

• Substack最近把Pangram接进了平台，读者能看到自己关注的作者是不是用AI写的newsletter；
• Quora、高校、出版社、猎头也都是它的API客户；
• 个人用户每月20美元，Chrome插件能实时给X、LinkedIn、Reddit、Medium上的帖子打标，还会给你的信息流算一个”人类含量”健康分。

这个赛道也不只它一家，Winston AI、Originality.ai、Copyleaks、GPTZero都在抢同一块蛋糕。大环境也在配合：开放论文库arXiv今年出了新规，投稿里要是发现作者没审查大模型输出——比如留着幻觉引用、或者”需要我再改改吗？”这种AI对话残留——直接封禁投稿一年。

Spero倒是反复强调不想搞成”AI猎巫”，用AI辅助写作可以接受，前提是作者主动披露。但他对未来的判断相当冷峻：GPU的增速已经超过了新生儿的增速，如果不主动为人类内容撑腰，人类的声音迟早会被AI的洪流淹没。这门生意能做多大不好说，但需求只会越来越真实。

AI”虚拟网红”正在占领社交媒体，而你可能根本没看出来

几年前，如果你在社交媒体上刷到一个AI生成的”网红”，大概率一眼就能认出来。那些数字面孔总带着某种说不清的怪异感——皮肤过于完美，光影不太对劲，整体感觉像PS教程里的高级作业。

但现在情况变了。越来越多由AI驱动的内容创作者正在涌入你的时间线，而且它们看起来——至少第一眼——和真人没什么两样。

从”一眼假”到”以假乱真”

最早那批虚拟网红其实挺好辨认的。Lil Miquela留着刘海、长着雀斑；Imma有一头泡泡糖粉色的短发；Shudu Gram的皮肤完美到不真实。它们都是明确的”数字产物”，每次合作都会大张旗鼓地发通稿、搞宣传。

那时候，做一个AI网红是件很”重”的事。你需要工作室、资金、团队协调，还得花大量精力打磨细节。普通用户根本玩不转。

但工具民主化之后，事情开始失控。现在你随便刷一刷TikTok或者Instagram，很可能会刷到一堆你根本没意识到是AI生成的账号。

像Emily Pellegrini和Aitana Lopez这样的角色，已经接近”真人网红”的观感——至少接近你大学里那个条件优渥但没怎么联系的朋友的现实：永远在不错的餐厅、漂亮的地方发帖，或者从科切拉音乐节、温布尔登网球锦标赛发帖。算不上接地气，但话说回来，大多数职业网红也不接地气。

AI内容创作者的数量已经多到平台自己也搞不清楚到底有多少是假的。除了要求给AI生成内容贴标签，大多数平台的规则不过是把这些内容硬塞进”诈骗””垃圾信息””冒充”这些现有类别里。但AI虚拟形象往往并不 neatly 归入这些类别中的任何一个。

假人太多了，平台也头疼

这些AI账号能逃避检测，一部分原因是制作它们的技术已经大幅改进。静态图像现在好到乍一看足以以假乱真——尤其是在本来就充斥着大量善用打光、滤镜和编辑效果的真实网红的feed里。

视频和音频也在快速追赶。现在的工具可以给虚拟人赋予能够骗过粗心刷内容用户的声音和动作。而且这些工具不再是小众玩家或者贵到用不起的东西。谷歌、OpenAI的主流产品，和Higgsfield、HeyGen、ElevenLabs这样的专业服务并存。只要花点功夫，几乎任何人都可以做一个AI网红——或者一群——不需要工作室，不需要专业设备，也不需要（太多）钱。

这让AI内容创作者的影响力规模变得极难衡量。平台不会公布有多少用户是”假人”，大多数AI虚拟形象也不会火到能获得早期那批虚拟形象受到的媒体关注。

在少数几个高曝光度案例之下，是大量完全不为人知的账号。它们中的一些在推销无良代发货的垃圾产品，一些用假照片诈骗男性钱财，还有一些在传播虚假信息和种族主义言论。当然，还有大量的擦边内容。

平台的态度：既不支持，也不打击

面对这股AI内容浪潮，社交媒体平台的态度可以用”矛盾”来形容。它们一边把AI宣传为创意工具，一边又试图阻止垃圾内容淹没自己的服务。

YouTube、TikTok、Instagram都制定了给合成媒体贴标签的规则，尤其是逼真的那种。但它们推广自己的AI工具套件——包括一些可以克隆或模拟用户的工具。这些规则往往侧重于单个帖子，而不是其背后的账号和人设，让AI网红处于灰色地带。

目前来看，平台似乎满足于处于这种模糊地带。对它们来说，参与度仍然是参与度，不管它来自假创作者还是真创作者。只要合成创作者继续发帖，不超出现有规则的范围，平台就没有什么动力去主动打击。

有市场研究公司估计，到2030年，虚拟网红市场的规模可能超过600亿美元，高于今年的约120亿美元。文化影响力也在增长——有AI网红奖项、选美比赛，有专门的人才机构代表合成创作者，还有一个蓬勃发展的市场：合成创作者出售课程和工具，承诺帮助人们制作和运营自己的”无脸”被动收入账号。

清算迟早会来

但这种”放任”能持续多久？AI垃圾内容已经让人恼火，一个平台能承载的这类内容只有那么多，直到它变得几乎无法使用。

还有一个更根本的问题：如果这么多虚拟形象都是为了从人类用户身上赚钱而建立的，那么当人类用户的池子干涸时会发生什么？愿意购买课程和工具来建立自己网红的人只有那么多。

这是假设社交媒体能在AI网红的涌入中幸存下来。根据定义，社交媒体需要一定临界数量的人类来保持”社交”属性。如果不加控制，网络将在这些假人的重压下崩溃，人类用户不可避免地被赶走。

欧盟的《人工智能法案》可能是一个驱动力。该法规将要求生成式AI系统的部署者明确披露AI生成或操纵的内容，这可能会迫使公司加强标记AI内容，否则可能面临巨额罚款。但即便如此，重点仍然主要是内容，而不是发布内容的账号是否代表一个真实的人。

和社交媒体的很多事情一样，负担又落回了用户身上。很多平台已经有效地将审核AI内容的任务委托给用户，依靠他们发现并举报可疑账号。但自我审核对于旨在逃避注意的事物来说，是一个糟糕且不可持续的答案。

如果平台拒绝自己在真人和非真人之间划清界限，至少现在，用户正在用自己的方式划清界限。对无AI空间的需求正在增长。毕竟，如果你消费的内容背后没有真实的人，那”社交”媒体还剩下什么？