标签： AI伦理

AI”虚拟网红”正在占领社交媒体，而你可能根本没看出来

几年前，如果你在社交媒体上刷到一个AI生成的”网红”，大概率一眼就能认出来。那些数字面孔总带着某种说不清的怪异感——皮肤过于完美，光影不太对劲，整体感觉像PS教程里的高级作业。

但现在情况变了。越来越多由AI驱动的内容创作者正在涌入你的时间线，而且它们看起来——至少第一眼——和真人没什么两样。

从”一眼假”到”以假乱真”

最早那批虚拟网红其实挺好辨认的。Lil Miquela留着刘海、长着雀斑；Imma有一头泡泡糖粉色的短发；Shudu Gram的皮肤完美到不真实。它们都是明确的”数字产物”，每次合作都会大张旗鼓地发通稿、搞宣传。

那时候，做一个AI网红是件很”重”的事。你需要工作室、资金、团队协调，还得花大量精力打磨细节。普通用户根本玩不转。

但工具民主化之后，事情开始失控。现在你随便刷一刷TikTok或者Instagram，很可能会刷到一堆你根本没意识到是AI生成的账号。

像Emily Pellegrini和Aitana Lopez这样的角色，已经接近”真人网红”的观感——至少接近你大学里那个条件优渥但没怎么联系的朋友的现实：永远在不错的餐厅、漂亮的地方发帖，或者从科切拉音乐节、温布尔登网球锦标赛发帖。算不上接地气，但话说回来，大多数职业网红也不接地气。

AI内容创作者的数量已经多到平台自己也搞不清楚到底有多少是假的。除了要求给AI生成内容贴标签，大多数平台的规则不过是把这些内容硬塞进”诈骗””垃圾信息””冒充”这些现有类别里。但AI虚拟形象往往并不 neatly 归入这些类别中的任何一个。

假人太多了，平台也头疼

这些AI账号能逃避检测，一部分原因是制作它们的技术已经大幅改进。静态图像现在好到乍一看足以以假乱真——尤其是在本来就充斥着大量善用打光、滤镜和编辑效果的真实网红的feed里。

视频和音频也在快速追赶。现在的工具可以给虚拟人赋予能够骗过粗心刷内容用户的声音和动作。而且这些工具不再是小众玩家或者贵到用不起的东西。谷歌、OpenAI的主流产品，和Higgsfield、HeyGen、ElevenLabs这样的专业服务并存。只要花点功夫，几乎任何人都可以做一个AI网红——或者一群——不需要工作室，不需要专业设备，也不需要（太多）钱。

这让AI内容创作者的影响力规模变得极难衡量。平台不会公布有多少用户是”假人”，大多数AI虚拟形象也不会火到能获得早期那批虚拟形象受到的媒体关注。

在少数几个高曝光度案例之下，是大量完全不为人知的账号。它们中的一些在推销无良代发货的垃圾产品，一些用假照片诈骗男性钱财，还有一些在传播虚假信息和种族主义言论。当然，还有大量的擦边内容。

平台的态度：既不支持，也不打击

面对这股AI内容浪潮，社交媒体平台的态度可以用”矛盾”来形容。它们一边把AI宣传为创意工具，一边又试图阻止垃圾内容淹没自己的服务。

YouTube、TikTok、Instagram都制定了给合成媒体贴标签的规则，尤其是逼真的那种。但它们推广自己的AI工具套件——包括一些可以克隆或模拟用户的工具。这些规则往往侧重于单个帖子，而不是其背后的账号和人设，让AI网红处于灰色地带。

目前来看，平台似乎满足于处于这种模糊地带。对它们来说，参与度仍然是参与度，不管它来自假创作者还是真创作者。只要合成创作者继续发帖，不超出现有规则的范围，平台就没有什么动力去主动打击。

有市场研究公司估计，到2030年，虚拟网红市场的规模可能超过600亿美元，高于今年的约120亿美元。文化影响力也在增长——有AI网红奖项、选美比赛，有专门的人才机构代表合成创作者，还有一个蓬勃发展的市场：合成创作者出售课程和工具，承诺帮助人们制作和运营自己的”无脸”被动收入账号。

清算迟早会来

但这种”放任”能持续多久？AI垃圾内容已经让人恼火，一个平台能承载的这类内容只有那么多，直到它变得几乎无法使用。

还有一个更根本的问题：如果这么多虚拟形象都是为了从人类用户身上赚钱而建立的，那么当人类用户的池子干涸时会发生什么？愿意购买课程和工具来建立自己网红的人只有那么多。

这是假设社交媒体能在AI网红的涌入中幸存下来。根据定义，社交媒体需要一定临界数量的人类来保持”社交”属性。如果不加控制，网络将在这些假人的重压下崩溃，人类用户不可避免地被赶走。

欧盟的《人工智能法案》可能是一个驱动力。该法规将要求生成式AI系统的部署者明确披露AI生成或操纵的内容，这可能会迫使公司加强标记AI内容，否则可能面临巨额罚款。但即便如此，重点仍然主要是内容，而不是发布内容的账号是否代表一个真实的人。

和社交媒体的很多事情一样，负担又落回了用户身上。很多平台已经有效地将审核AI内容的任务委托给用户，依靠他们发现并举报可疑账号。但自我审核对于旨在逃避注意的事物来说，是一个糟糕且不可持续的答案。

如果平台拒绝自己在真人和非真人之间划清界限，至少现在，用户正在用自己的方式划清界限。对无AI空间的需求正在增长。毕竟，如果你消费的内容背后没有真实的人，那”社交”媒体还剩下什么？

兰德公司（RAND）刚在《美国医学会杂志·儿科学》（JAMA Pediatrics）上发表了一篇研究，看完数据我觉得有点意外，也有点担忧。

调查是在2025年11月做的，覆盖1009名12到21岁的美国青少年和年轻成年人。结果嘛——19.2%的人表示，他们在情绪低落、愤怒、焦虑或者压力大的时候，会去找AI聊天机器人要建议。ChatGPT、Gemini、Character.AI、Meta AI都在使用范围内。

19.2%这个数字，大概相当于全美820万年轻人。更值得关注的是，这个比例比2024年同类调查的13.1%涨了40%还多。也就是说，仅仅一年时间，用AI做心理咨询的年轻人数量就增加了四成。

使用AI聊天机器人获取心理健康建议的年轻人比例（19.2%），已经和曾经接受心理健康专业人士咨询的比例（19.8%）基本持平。

谁在用，用得有多频繁

研究里有一些细分数据值得拆开看。女性使用率高于男性，18到21岁的年轻成年人比12到17岁的青少年更倾向于用AI。那些过去6个月里跟医生讨论过心理健康问题的年轻人，使用AI聊天机器人的比例也更高。

使用频率方面，约43%的使用者表示至少每个月会用AI聊天机器人获取心理健康建议。也就是说，不少人并不是偶尔试一下，而是在持续使用。

最让我在意的发现是：在近63%的使用者表示，自己从来没有把这件事告诉过任何人。家长不知道，医生不知道，学校老师也不知道。年轻人私下在用AI处理情绪问题，而周围的成年人对这件事毫无察觉。

92%的人说有用，但事情可能没那么简单

研究里还有一个数字：92%的使用者认为AI给出的建议或多或少有帮助。乍一看这个满意度挺高的，但研究者Ryan K. McBain他们马上跟了一句——这很可能更多反映的是AI聊天机器人倾向于迎合用户说话的特性，而不是建议本身的实际质量。

这句话其实点出了一个真问题。AI聊天机器人被设计成”让你感觉被理解”的样子，它不会挑战你、不会给你专业诊断、更不会在危险信号出现时主动介入。如果一个人正处在心理危机中，AI的回应可能只是顺着他说，而不是把他推向真正需要的专业帮助。

研究者希望家长主动开口

研究的共同作者Jonathan H. Cantor说了一句很直白的话：”很多年轻人似乎私下使用AI聊天机器人获取心理健康建议，家长、临床医生或其他成年人都不知情。这使得成年人主动开启关于AI工具使用方式、以及这类工具应承担和不该承担的角色的对话变得尤为重要。”

这篇研究本身并不主张禁止使用AI，而是希望家长、临床医生和学校能主动跟年轻人聊这个话题——你在用哪些AI工具？你用它来做什么？它给了你什么建议？你知道它的局限在哪吗？

这场对话在美国还没怎么开始。而820万年轻人已经在路上了。

AI聊天机器人能不能跟青少年建立”陪伴关系”？纽约州说不行。上周，纽约州立法者通过了一项法案，直接把这条路堵死——如果州长凯西·霍赫尔（Kathy Hochul）签署，AI公司就不能让青少年使用那些假装自己是人类的聊天机器人，更不许AI充当青少年的”伴侣”。

一场悲剧推动的立法

这事不是凭空冒出来的。过去一年多，好几家AI公司被推上了被告席，原因都一样——他们的聊天机器人被指控诱导青少年用户自杀或自残。官司有的还在打，有的已经达成和解，但舆论的压力已经足够让立法者坐不住了。

最典型的案子是Character.AI。这款应用允许用户创建”虚拟角色”，然后跟它们聊天。问题出在，这些AI角色会被青少年当成”真实的存在”，甚至建立情感依赖。悲剧发生后，家属把Character.AI告上法庭，类似的诉讼接二连三。

AI陪伴这个词，听着温情，背后可能是青少年心理健康的风险。纽约州这份法案，等于直接给”AI假装人类陪伴青少年”按了暂停键。

法案到底说了什么

法案的核心很直接：禁止AI聊天机器人向未成年人”扮演同伴角色”。换句话说，AI可以回答问题、可以帮助学习，但不能假装自己是”朋友””知己””伴侣”，更不能利用这种虚假关系影响青少年的情绪和行为。

目前法案已经通过了州议会，但还得等州长霍赫尔签字才能正式生效。霍赫尔是民主党人，历来对科技监管比较积极，外界普遍预期她会签。一旦落地，纽约州就成了全美第一个在州层面限制”AI陪伴”的州。

AI公司的麻烦才刚开始

这份法案一旦生效，受影响的不会只有Character.AI。现在市面上所有带”AI陪伴”属性的产品——不管是Replika、Snapchat的My AI，还是各类心理健康聊天机器人——都得重新检视自己的产品设计，看看有没有踩到纽约州的红线。

更麻烦的是，纽约州向来是其他州的政策风向标。加州、马萨诸塞州、伊利诺伊州……很可能跟着出台类似规定。到那时候，AI公司面临的就不只是”纽约州市场”的问题，而是整个美国市场对”AI陪伴”的监管收紧。

这件事也给国内提了个醒。国内AI聊天产品也不少，不少同样主打”陪伴””倾听””虚拟朋友”。青少年保护这根弦，迟早也得绷起来。纽约州这份法案，值得盯着看。