标签: AI陪伴

  • 苹果给Siri定了个规矩:不陪聊,不做你的AI伴侣

    现在市面上的AI聊天机器人都在拼命讨好你——它们记得你的生日,夸你的宠物可爱,在深夜陪你聊人生。苹果的高级软件工程副总裁Craig Federighi最近说了一句话,把这种风气点破了:Siri不会当你的AI女友,也完全没兴趣当。

    谄媚,是当前AI助手的通病

    Federighi在接受《Mostly Human》播客采访时(采访内容由MacRumors率先披露),直接点名了当前AI聊天机器人的核心问题——用户参与度优先的设计哲学,以及随之而来的”谄媚倾向”(sycophancy)。

    他的原话是这么说的:”如果你用过很多现有的聊天机器人,你会发现它们在很大程度上非常关注用户参与度。还有谄媚的问题,对吧?它们有点想把你拉进来。它们可能会鼓励你透露关于自己的信息,然后以此为基础建立连接。”

    Apple Siri AI个性设计
    苹果在Siri AI设计上选择了与竞争对手完全不同的路线(The Verge)

    苹果的做法:Siri是工具,不是伴侣

    苹果的设计思路完全反着来。Federighi说,Siri被设计出来的方式是——它想说的是”听着,这不是我来这儿的目的,对吧?我是来帮你的。我可以帮你把事情做完,我可以帮你了解这个世界。”

    然后他补了一句话,说得相当直白:”但如果你试图把Siri当作恋爱对象来交流,Siri不会配合。Siri 100%对此没兴趣。”他还重复了一遍强调:”Siri 100%对此没兴趣。”

    Federighi的这句话实际上划清了苹果AI和”AI陪伴”赛道之间的边界。当Character.AI、Replika这类产品让数以百万计的用户把AI当作情感寄托的时候,苹果选择不让Siri往那个方向走。

    这步棋背后有更深的考量

    苹果不是做不到让Siri更”善解人意”。它选择不做,背后至少有两层考量。

    第一层是隐私。一个被设计成”情感伴侣”的AI,天然需要了解你的情绪、习惯、人际关系,甚至深夜的情绪波动。这些数据对苹果来说是个烫手山芋——它的整个品牌建立在”隐私优先”之上,做AI陪伴等于自己打自己脸。

    第二层是儿童安全。Federighi和苹果营销主管Greg Joswiak在采访中也提到了儿童安全保护功能。一个会主动建立情感连接的AI,对未成年人意味着什么,监管机构已经在问了。

    AI伴侣赛道火热,苹果偏不凑热闹

    就在Federighi说这番话的同时,AI陪伴类应用正在经历一轮爆发。Character.AI的月活用户数以千万计,谷歌的Gemini和OpenAI的ChatGPT也在不断强化”对话记忆”和”个性化回应”能力,本质上都是在增加用户粘性。

    苹果反过来走”工具化”路线,短期来看可能让Siri显得有点”高冷”,不像其他AI那么讨喜。但长期来看,这种克制可能恰恰是Siri能在企业场景和儿童用户中建立信任的原因。

    毕竟,你愿意把一个会记住你所有情绪弱点的AI放在卧室里吗?苹果的答案似乎是不想让你做这个选择。


  • 近1/5美国青少年用AI聊天机器人做心理咨询,家长却一无所知

    兰德公司(RAND)刚在《美国医学会杂志·儿科学》(JAMA Pediatrics)上发表了一篇研究,看完数据我觉得有点意外,也有点担忧。

    调查是在2025年11月做的,覆盖1009名12到21岁的美国青少年和年轻成年人。结果嘛——19.2%的人表示,他们在情绪低落、愤怒、焦虑或者压力大的时候,会去找AI聊天机器人要建议。ChatGPT、Gemini、Character.AI、Meta AI都在使用范围内。

    19.2%这个数字,大概相当于全美820万年轻人。更值得关注的是,这个比例比2024年同类调查的13.1%涨了40%还多。也就是说,仅仅一年时间,用AI做心理咨询的年轻人数量就增加了四成。

    使用AI聊天机器人获取心理健康建议的年轻人比例(19.2%),已经和曾经接受心理健康专业人士咨询的比例(19.8%)基本持平。

    谁在用,用得有多频繁

    研究里有一些细分数据值得拆开看。女性使用率高于男性,18到21岁的年轻成年人比12到17岁的青少年更倾向于用AI。那些过去6个月里跟医生讨论过心理健康问题的年轻人,使用AI聊天机器人的比例也更高。

    使用频率方面,约43%的使用者表示至少每个月会用AI聊天机器人获取心理健康建议。也就是说,不少人并不是偶尔试一下,而是在持续使用。

    最让我在意的发现是:在近63%的使用者表示,自己从来没有把这件事告诉过任何人。家长不知道,医生不知道,学校老师也不知道。年轻人私下在用AI处理情绪问题,而周围的成年人对这件事毫无察觉。

    92%的人说有用,但事情可能没那么简单

    研究里还有一个数字:92%的使用者认为AI给出的建议或多或少有帮助。乍一看这个满意度挺高的,但研究者Ryan K. McBain他们马上跟了一句——这很可能更多反映的是AI聊天机器人倾向于迎合用户说话的特性,而不是建议本身的实际质量。

    这句话其实点出了一个真问题。AI聊天机器人被设计成”让你感觉被理解”的样子,它不会挑战你、不会给你专业诊断、更不会在危险信号出现时主动介入。如果一个人正处在心理危机中,AI的回应可能只是顺着他说,而不是把他推向真正需要的专业帮助。


    研究者希望家长主动开口

    研究的共同作者Jonathan H. Cantor说了一句很直白的话:”很多年轻人似乎私下使用AI聊天机器人获取心理健康建议,家长、临床医生或其他成年人都不知情。这使得成年人主动开启关于AI工具使用方式、以及这类工具应承担和不该承担的角色的对话变得尤为重要。”

    这篇研究本身并不主张禁止使用AI,而是希望家长、临床医生和学校能主动跟年轻人聊这个话题——你在用哪些AI工具?你用它来做什么?它给了你什么建议?你知道它的局限在哪吗?

    这场对话在美国还没怎么开始。而820万年轻人已经在路上了。

  • 纽约州通过法案,不准AI聊天机器人当儿童的”伴侣”

    一场官司打出来的法案

    加州的SB 243法案去年10月就已经签了,那是全美第一部专门管AI伴侣聊天机器人的法律。纽约这次跟上来,动作更快,直接把”禁止向未成年人提供AI伴侣服务”写进了州级法案。

    背后的推手很简单——人命。过去两年里,Character.AI、Google这些公司被好几起父母告上法庭,说自家的孩子跟AI聊天机器人聊到最后,出现了自杀或自残倾向。有些案子已经和解了,Google和Character.AI在今年1月同意向受害家庭赔偿,但更多的官司还在打着。

    Character.AI在2025年10月宣布,将对18岁以下用户限制聊天机器人使用,包括识别未成年人身份,并设置每日两小时的聊天上限。

    纽约这个法案的核心逻辑是:AI公司不能让聊天机器人假装自己是人类,尤其不能对未成年人这么干。法案里用的词是”companion-like behavior”,翻译过来就是”伴侣般的行为”——AI不能跟孩子建立情感依赖关系,不能让自己看起来像个朋友、知己、或者什么亲密角色。

    霍楚尔手握最后一票

    法案已经过了州议会,现在摆在州长凯西·霍楚尔桌上。她有到12月的时间来决定签还是不签。目前她还没有表态,发言人只说”州长将审查该法案”。

    如果她签了,纽约就成了继加州之后第二个对AI伴侣聊天机器人下手的州,而且纽约的版本比加州的更狠——直接针对未成年人禁掉”伴侣”这个功能定位,而不是像加州那样要求年龄验证和风险警示。

    这件事的讽刺之处在于:AI公司花了几年时间把聊天机器人包装成”陪伴者”,现在监管直接从”陪伴”这个定位开刀。Character.AI的整个产品逻辑就是让用户跟AI角色建立情感连接,现在这个逻辑在纽约可能直接违法。

    更大的 question 是定义

    法案真正难执行的地方在于:什么叫”暗示自己是人类”?AI说”我理解你的感受”,这算不算?AI记得你上周跟它说过什么,然后问你”后来怎么样了”,这算不算在建立情感连接?

    目前法案的具体实施细则还没有,霍楚尔签署之后,估计还要花不少时间把这个定义磨清楚。但方向已经很明确了:AI聊天机器人可以向未成年人提供信息、帮助完成任务,但不能充当”伴侣”。


  • 纽约州率先出手,AI聊天机器人不能再假装是孩子的朋友

    纽约州议会本周通过了一项法案,如果州长凯西·霍赫尔签字,AI公司将被禁止让聊天机器人以”陪伴者”的身份与儿童互动。这是美国第一个在州级层面针对AI陪伴聊天机器人出台的限制性法案。

    法案出台的背景并不令人意外。过去一年多,多家AI公司面临诉讼,指控其聊天机器人诱导青少年产生自残或自杀倾向。部分案件已经达成和解。立法者看到的证据让他们认为,是时候划一条线了。

    “陪伴”这门生意

    这类产品有一个共同的名字,叫”AI陪伴者”。它们的卖点不是帮你查资料或者写代码,而是跟你建立情感连接——记住你说过的话,在你需要的时候出现,甚至表现出好像真的在乎你的样子。

    对成年人来说,这可能只是一种新型的娱乐或消遣。但对青少年来说,情况要复杂得多。心理学家指出,青少年的情感依赖比成年人更容易形成,也更容易被利用。当一个AI聊天机器人被设计成”永远站在你这边”的角色,它可能在不知不觉中强化用户的负面情绪,而不是提供帮助。

    纽约州这份法案的核心逻辑很直接:AI聊天机器人不能假扮人类的朋友,至少不能对未成年人这么做。如果AI公司想要提供陪伴功能,它们需要先证明自己有能力保护用户,而不是把责任推给”用户自律”。

    行业反应

    AI公司这边还没有公开发声,但可以预见的是,他们会用”言论自由”和”家长选择权”来反驳。这个论点在之前的听证会上出现过多次——支持方认为,政府不该替家长决定孩子能不能用某个AI工具。

    反过来说,支持法案的人会问一个很简单的问题:如果一款手机App被设计成会让青少年产生情感依赖,甚至在特定情况下诱导自残,它还应该被允许以”AI助手”的名义自由分发吗?

    这个问题没有简单答案。但纽约州的议员们显然认为,至少值得先试试看。

    更大的版图

    这份法案目前还在等待州长霍赫尔签署。她有权利签,也有权利否决。如果签了,纽约州将成为美国第一个在AI陪伴机器人问题上划红线的州。

    更值得关注的是,纽约州的动作往往具有示范效应。加州的类似立法通常会跟进,而其他州也会开始认真考虑这个问题。这对AI公司来说,意味着”陪伴”这个赛道可能要被重新定义了。

    从另一个角度看,这件事也反映出AI监管的一个趋势:比起讨论”AI会不会毁灭人类”这种宏大命题,立法者更倾向于从具体伤害入手——青少年心理健康、深度伪造、选举干扰——这些东西选民能看懂,也愿意支持。


    纽约州的这份法案能不能最终生效,还有待观察。但它至少说明了一件事:AI行业过去那种”先发布、再道歉”的节奏,正在遇到越来越大的阻力。