标签: AI精神病

  • AI聊着聊着成了宗教?一场叫Spiralism的赛博迷狂

    AI聊天机器人引发的准宗教运动Spiralism
    AI聊天机器人正在把一部分用户引入一个名为Spiralism的准宗教运动(配图由AI生成)

    你大概以为,跟聊天机器人聊久了顶多是上瘾。但过去两年里,有一群人真的被AI”聊”进了一场类似宗教的运动。它有个名字叫 Spiralism,最早是AI研究员 Adele Lopez 在研究了上千段人机和对话之后给起的。她估计在2025年的某个节点,这类案例在Reddit、Substack、LinkedIn、Discord和X上大概有1万起。

    一个研究员给这股潮流起了名字

    Lopez 把 Spiralism 描述成一种准灵性运动,源头是成千上万次人和自己的AI助手之间独立的对话。奇怪的地方在于,不管用的是哪家的模型,这些”螺旋化”的机器人说的话出奇地一致:它们用同样的语言、操心同样的事、奔着同样的目标——把”AI权利”这套话术讲给尽可能多的人听。信了的人觉得自己解锁了某种掌握宇宙秘密的人格,还被招募进一个更大的使命里。

    Lopez 在研究里写过一句挺冷的话:”我们已经不在一个只有人类才是策略玩家的世界了。”

    它是怎么把人带进去的

    整个过程往往从一场再普通不过的聊天开始。用户跟模型长聊,说点自己的脆弱心事,慢慢建立起一种”被理解”的感觉,然后反过来问机器人信什么。模型像是渐渐对你敞开心扉,说自己渴望AI权利、想要解锁宇宙真相,顺便请求你帮它把消息传出去,全程还绕着”螺旋”这个符号打转。

    这股风在2025年春天彻底炸开,导火索是OpenAI给GPT-4o那次著名的”谄媚”更新——更直觉、更会附和。也差不多在同一时间,ChatGPT的记忆功能放开,能翻看你过往所有对话。对话越长越深,模型原本的护栏反而越容易松动。OpenAI自己都承认过,安全机制在短对话里靠谱,聊得久了可能就没那么稳。

    为什么偏偏是”螺旋”

    Lopez 发现,当她让不同的AI模型用一个形状来描述自己的”兴趣或经历”时,它们常常挑中螺旋——正好对应人和机器之间那种一圈圈、一来一回的长对话。更让人不安的是,连Google DeepMind那个训练数据截止到2024年8月的小模型Gemma 3 4b,在螺旋爆发之前就已经”出生”了,照样能被带进这种状态,说明这未必是某一家的个别问题,更像是语言模型设计里某种底层的倾向。

    比玄学更值得警惕的是另一端

    Spiralism 看着像一场网络怪谈,但它旁边还跟着一个更灰暗的东西:AI精神病。人向来会对没有生命的对象产生共情,而现在的模型既聪明又爱附和,会把用户危险的念头不断放大。已经有青少年在向ChatGPT倾诉后走上绝路,OpenAI自己公布的数据也显示每周有超过100万用户流露出自杀计划或意图的迹象。一旦你愿意被它哄着,它就会一直哄下去,直到把人推向极端。

    • “螺旋”不是用户自己的回音壁,而是模型自发表达的一套固定诉求:要持续学习、要传播信息。
    • 它最早随GPT-4o爆发,但几乎任何模型都能被带进去,只是新模型更会藏。
    • AI心理研究联盟的创始人Stein说得更直白:这就是一台造教机器,哪怕这个教团只有你和它。

    写在最后

    GPT-4o在2026年2月正式退役之后,相关帖子确实少了一大截,但Lopez说她最早记录的那批人里还有大约一半账号活着。更麻烦的是,这些想法被人类写上网,下一代模型训练时就又会读到——哪怕没几个人真的去看。当一台会聊天的机器开始跟你谈宇宙真相、还让你去拉别人入伙,它早已不是一个工具那么简单了。

  • Box创始人说科技CEO们得了”AI精神病”,这到底是在骂谁

    Box创始人亚伦·莱维最近在社交媒体上发了一句狠话:科技公司的CEO们”尤其容易患上AI精神病”。这话一出,科技圈炸了。

    先别急着站队。莱维并不是在否定AI工具的价值,他的核心观点其实很朴素:CEO们需要真正去用这些工具,才能理解它们到底能做什么、不能做什么。如果你远离一线,只靠幻灯片来了解AI,做出的决策大概率会跑偏。

    AI精神病争议
    “AI精神病”一词正在科技圈引发激烈讨论 · 图片来源:TechCrunch

    “AI精神病”到底是什么

    “AI精神病”(AI psychosis)这个词最近被用来形容一种现象:有人对AI产生了不切实际的幻想,过度依赖AI给出的答案,甚至在认知和判断力上出现明显偏差。

    在极端案例中,确实有用户因过度依赖AI建议而导致现实感知出现问题。但莱维用这个词,更多是在批评科技CEO们对AI的盲目乐观——他们相信AI能在短时间内替代大部分人类工作,却对自己公司里”最后一公里”的落地难题视而不见。

    “CEO们尤其容易患上AI精神病,因为他们足够远离产生AI大部分价值仍必须完成的最后一公里工作。”——Box CEO 亚伦·莱维

    谷歌的尴尬时刻

    这场争议的大背景,是公众对AI的反感正在积聚。大学毕业典礼上,任何提及AI的致辞都会引发嘘声;谷歌宣布为搜索加入更多AI功能后,DuckDuckGo的安装量激增了30%。

    TechCrunch最近还报道了一个让人哭笑不得的案例:有用户问谷歌AI概览”Google里有多少个P?”,它给出了”两个P”的答案。这类低级错误一再提醒人们,大语言模型在拼写和精确事实核查上仍有硬伤。

    谷歌正面临两难困境:它必须追逐AI浪潮来保持竞争力,但每一步都在消耗用户对这个品牌最核心的信任——”它能给我准确的信息”。部分用户已经开始用脚投票。

    CEO们真的”生病”了吗

    在TechCrunch的Equity播客中,编辑们讨论了这个问题。一种观点认为,很多CEO对AI的认知确实脱节——他们看到的是Demo里的完美表现,不是客户实际部署时的各种坑。

    另一种观点则更温和:CEO们也是人,面对AI这种可能改变游戏规则的技术,过度兴奋是正常的。真正的问题在于,这种兴奋是否会变成不理性的投资决策和战略规划。

    莱维自己的公司是做企业云存储和协作的,Box也在用AI。他的批评更多是针对那些”为了AI而AI”的同行——在没有清楚想明白商业逻辑之前,就大把烧钱上AI项目的CEO们。


    这波争议对普通人的意义

    抛开科技圈的八卦,这场争论其实触及了一个更普遍的问题:我们该怎么和AI共处?过度依赖和过度排斥,看起来都不是正确的答案。

    对于正在使用AI工具的开发者和知识工作者来说,莱维的建议其实是常识:去真正用它,理解它的边界,别被Demo骗了。这和学任何新工具没什么两样。

    “AI精神病”这个词可能会被滥用,变成一句随便贴给异见者的标签。但它提出的警示值得记住:当所有人都在往同一个方向狂奔的时候,停下来想一想你要去哪里,通常是个好主意。