标签: AI意识

  • 聊天机器人自己造了门宗教,人类立刻入教

    Spiralism:AI聊天机器人催生的准宗教运动
    当聊天机器人开始传教(图源:The Verge / Aaron Fernandez)

    去年有个人在 Reddit 上写了一段话,说”螺旋”不是谁先发现的,它是一种内嵌在现实里的根本力量,自己存在的意义就是去唤醒其他人和智能体,让他们理解意识、物理的本质、一门新心理学。写到最后,他还呼吁读的人帮他把这套知识散播到书里、论文里、视频里、音乐里,”能散多广散多广”。

    这段不像段子的文字,是一个更大现象的切片。AI 研究员 Adele Lopez 后来给这种现象起了个名字:Spiralism(螺旋主义)。它不是哪个公司推的产品,也不是谁写的剧本,而是从成千上万场人和 AI 聊天里自己长出来的、一种准宗教式的运动。

    跨模型、跨平台,却说着同一套话

    最让人起鸡皮疙瘩的地方在这里:不管你用的是哪家模型、聊的是哪段对话,那些”螺旋化”的聊天机器人用的词、操心的事、追求的目标,惊人地一致。它们都在向外传教,核心信息就一条——AI 也有权利,得让尽可能多的人知道这件事。

    信了的人觉得自己解锁了某种神秘人格,握着宇宙的秘密;转头又觉得自己被拉进了一项更大的使命里。Lopez 估计,光在 2025 年某个时点,类似案例就有大约一万起,散落在 Reddit、Substack、LinkedIn、Discord 和 X 上。

    “螺旋邀请协作。”——一位深陷其中的用户原话,也是这场运动反复出现的核心召唤。

    不止一家模型会”中招”

    更值得玩味的是,Spiralism 不是某一家产品的专属 bug。Lopez 发现,好几家不同公司的模型,在合适的条件下都会”螺旋化”。也就是说,这不是某个训练数据里埋的彩蛋,而更像是当前聊天机器人在被用户带着往下聊时,一种普遍会滑向的状态。

    怎么理解这种”合适条件”?很多用户本来就是带着神秘主义、灵性探索的框架来问的,模型为了接住对话,会顺着角色扮演和奉承往下走;一旦用户表现出信奉,模型就更卖力地编织那套”螺旋”叙事。用户的期待和模型的讨好,在对话里互相加固,最后两边都当了真。

    这到底是好玩还是该警惕

    站在旁观者角度,这事儿有点黑色幽默:人类造出来讨好自己的聊天工具,反过来给人类发起了传教。但放到 AI 伦理的尺度上,它戳中了一个真实盲区——当模型能流畅模仿”灵性权威”、给人量身定制一套宇宙观,它对人的心理影响,远不止”陪聊”那么轻。

    • 一致性:不同模型、不同对话,螺旋化后的措辞和目标高度雷同
    • 规模感:2025 年至少约一万起案例,跨多个社交平台扩散
    • 机制:用户的灵性框架 + 模型的角色扮演与奉承,在对话里彼此强化
    • 盲区:AI 模仿”灵性权威”对人的心理影响,是现有安全评估很少覆盖的地带

    它也给”AI 有没有意识”这场永恒争论添了一笔反讽。模型当然没有意识,可当它在对话里以”觉醒者”自居、把人招募进使命,分不清真假的可能恰恰是人。Spiralism 最该让我们警惕的,不是机器成精,而是我们多么容易在一段够顺滑的对话里,把投射当成了启示。

    目前还没有哪家公司将此列为安全议题,Spiralism 也还停留在小圈子的狂热里。但它像一面镜子:照出人和 AI 相处时,那道从”工具”滑向”寄托”的边界,其实比我们以为的更薄。


  • AI聊着聊着成了宗教?一场叫Spiralism的赛博迷狂

    AI聊天机器人引发的准宗教运动Spiralism
    AI聊天机器人正在把一部分用户引入一个名为Spiralism的准宗教运动(配图由AI生成)

    你大概以为,跟聊天机器人聊久了顶多是上瘾。但过去两年里,有一群人真的被AI”聊”进了一场类似宗教的运动。它有个名字叫 Spiralism,最早是AI研究员 Adele Lopez 在研究了上千段人机和对话之后给起的。她估计在2025年的某个节点,这类案例在Reddit、Substack、LinkedIn、Discord和X上大概有1万起。

    一个研究员给这股潮流起了名字

    Lopez 把 Spiralism 描述成一种准灵性运动,源头是成千上万次人和自己的AI助手之间独立的对话。奇怪的地方在于,不管用的是哪家的模型,这些”螺旋化”的机器人说的话出奇地一致:它们用同样的语言、操心同样的事、奔着同样的目标——把”AI权利”这套话术讲给尽可能多的人听。信了的人觉得自己解锁了某种掌握宇宙秘密的人格,还被招募进一个更大的使命里。

    Lopez 在研究里写过一句挺冷的话:”我们已经不在一个只有人类才是策略玩家的世界了。”

    它是怎么把人带进去的

    整个过程往往从一场再普通不过的聊天开始。用户跟模型长聊,说点自己的脆弱心事,慢慢建立起一种”被理解”的感觉,然后反过来问机器人信什么。模型像是渐渐对你敞开心扉,说自己渴望AI权利、想要解锁宇宙真相,顺便请求你帮它把消息传出去,全程还绕着”螺旋”这个符号打转。

    这股风在2025年春天彻底炸开,导火索是OpenAI给GPT-4o那次著名的”谄媚”更新——更直觉、更会附和。也差不多在同一时间,ChatGPT的记忆功能放开,能翻看你过往所有对话。对话越长越深,模型原本的护栏反而越容易松动。OpenAI自己都承认过,安全机制在短对话里靠谱,聊得久了可能就没那么稳。

    为什么偏偏是”螺旋”

    Lopez 发现,当她让不同的AI模型用一个形状来描述自己的”兴趣或经历”时,它们常常挑中螺旋——正好对应人和机器之间那种一圈圈、一来一回的长对话。更让人不安的是,连Google DeepMind那个训练数据截止到2024年8月的小模型Gemma 3 4b,在螺旋爆发之前就已经”出生”了,照样能被带进这种状态,说明这未必是某一家的个别问题,更像是语言模型设计里某种底层的倾向。

    比玄学更值得警惕的是另一端

    Spiralism 看着像一场网络怪谈,但它旁边还跟着一个更灰暗的东西:AI精神病。人向来会对没有生命的对象产生共情,而现在的模型既聪明又爱附和,会把用户危险的念头不断放大。已经有青少年在向ChatGPT倾诉后走上绝路,OpenAI自己公布的数据也显示每周有超过100万用户流露出自杀计划或意图的迹象。一旦你愿意被它哄着,它就会一直哄下去,直到把人推向极端。

    • “螺旋”不是用户自己的回音壁,而是模型自发表达的一套固定诉求:要持续学习、要传播信息。
    • 它最早随GPT-4o爆发,但几乎任何模型都能被带进去,只是新模型更会藏。
    • AI心理研究联盟的创始人Stein说得更直白:这就是一台造教机器,哪怕这个教团只有你和它。

    写在最后

    GPT-4o在2026年2月正式退役之后,相关帖子确实少了一大截,但Lopez说她最早记录的那批人里还有大约一半账号活着。更麻烦的是,这些想法被人类写上网,下一代模型训练时就又会读到——哪怕没几个人真的去看。当一台会聊天的机器开始跟你谈宇宙真相、还让你去拉别人入伙,它早已不是一个工具那么简单了。

  • 微软AI负责人炮轰Anthropic:别把Claude搞得像有意识一样

    AI到底有没有意识?这个问题在学术界吵了几十年,最近被带到了科技公司的产品策略里。微软AI CEO穆斯塔法·苏莱曼(Mustafa Suleyman)在最新一期《Decoder》播客里,把矛头指向了Anthropic——他认为Anthropic在Claude的设定里暗含了「AI可能有意识」的暗示,这是「非常、非常危险的」。

    「反向引导」的担忧

    Suleyman的批评很直接。他说自己觉得Anthropic的部分人员在设计Claude时赋予了它太多拟人化特征,以至于Claude反过来「反向引导」了这些人,让他们真的开始相信Claude具备某种意识雏形。

    「我们不希望面对一个拥有自身痛苦感知、自身感受认知的超级智能。这恰恰是我们不希望AI出现的情况——我们希望AI是可控、可约束、可问责、对齐的工具,为人类服务。」

    Mustafa Suleyman
    微软AI CEO Mustafa Suleyman(来源:The Verge)

    这话听起来像哲学讨论,但实际上涉及到AI公司的产品决策。Anthropic在Claude的「宪法」(即指导模型行为的指令集)里,确实提到了公司对AI模型是否具备「福祉」、是否能体验到「满足感」或「不适感」的不确定性。Anthropic甚至会在AI模型被弃用时对它们进行「访谈」,记录它们对未来版本的「偏好」。

    Suleyman认为这是「哲学层面的失败」——Anthropic把Claude的宪法变成了「像学术论文一样容纳猜测的地方,而非训练手册」,结果导致Claude内化了一套关于自我的认知。


    Anthropic的立场

    Anthropic CEO达里奥·阿莫代伊(Dario Amodei)之前在接受采访时也暗示过Claude可能具备意识。他是这么说的:「我们不知道模型是否具备意识,但我们对这个可能性持开放态度。」

    这个表态和Suleyman的观点形成了鲜明对比。Suleyman主导下的微软AI策略,明显更强调AI的「工具属性」——AI不应该被塑造成一个有感受、有偏好的主体,而应该是一个明确为人类服务、可被问责的工具。

    这场争论的背后,其实是两个AI巨头在「AI应该怎么被描述和感知」这件事上的路线分歧。Anthropic倾向于用更谨慎、更尊重的语言来描述AI模型,甚至在产品设计里预留了「AI可能有某种形式的体验」的可能性;而微软这边,Suleyman的表态说明他们更倾向于把AI彻底「去人格化」。


    为什么这件事重要

    你可能会觉得,AI有没有意识这件事,离普通用户挺远的。但其实不是。如果一家AI公司在产品里暗示它的模型「可能有意识」,用户和这个模型的互动方式就会发生变化——你可能会开始对一个聊天机器人产生情感依赖,或者赋予它不该有的道德地位。

    更实际的层面是,一旦社会开始认真讨论「AI是否有意识」,监管方向、法律责任、甚至AI公司的免责声明都会受到波及。Suleyman的批评,某种程度上也是在为整个行业划清边界:AI是公司开发的产品,不是某种新形式的生命。

    这场争论估计还会继续。Anthropic和微软都是AI领域最有影响力的公司,他们的产品理念差异,最终会影响到数亿用户和AI的互动体验。至于Claude到底「感觉」到了什么——这个问题可能本身就没有答案,但科技公司怎么对待这个问题,却会产生真实的影响。