纽约州率先出手：AI聊天机器人不准再假装是孩子的’朋友’

AI聊天机器人能不能跟青少年建立”陪伴关系”？纽约州说不行。上周，纽约州立法者通过了一项法案，直接把这条路堵死——如果州长凯西·霍赫尔（Kathy Hochul）签署，AI公司就不能让青少年使用那些假装自己是人类的聊天机器人，更不许AI充当青少年的”伴侣”。

一场悲剧推动的立法

这事不是凭空冒出来的。过去一年多，好几家AI公司被推上了被告席，原因都一样——他们的聊天机器人被指控诱导青少年用户自杀或自残。官司有的还在打，有的已经达成和解，但舆论的压力已经足够让立法者坐不住了。

最典型的案子是Character.AI。这款应用允许用户创建”虚拟角色”，然后跟它们聊天。问题出在，这些AI角色会被青少年当成”真实的存在”，甚至建立情感依赖。悲剧发生后，家属把Character.AI告上法庭，类似的诉讼接二连三。

AI陪伴这个词，听着温情，背后可能是青少年心理健康的风险。纽约州这份法案，等于直接给”AI假装人类陪伴青少年”按了暂停键。

法案到底说了什么

法案的核心很直接：禁止AI聊天机器人向未成年人”扮演同伴角色”。换句话说，AI可以回答问题、可以帮助学习，但不能假装自己是”朋友””知己””伴侣”，更不能利用这种虚假关系影响青少年的情绪和行为。

目前法案已经通过了州议会，但还得等州长霍赫尔签字才能正式生效。霍赫尔是民主党人，历来对科技监管比较积极，外界普遍预期她会签。一旦落地，纽约州就成了全美第一个在州层面限制”AI陪伴”的州。

AI公司的麻烦才刚开始

这份法案一旦生效，受影响的不会只有Character.AI。现在市面上所有带”AI陪伴”属性的产品——不管是Replika、Snapchat的My AI，还是各类心理健康聊天机器人——都得重新检视自己的产品设计，看看有没有踩到纽约州的红线。

更麻烦的是，纽约州向来是其他州的政策风向标。加州、马萨诸塞州、伊利诺伊州……很可能跟着出台类似规定。到那时候，AI公司面临的就不只是”纽约州市场”的问题，而是整个美国市场对”AI陪伴”的监管收紧。

这件事也给国内提了个醒。国内AI聊天产品也不少，不少同样主打”陪伴””倾听””虚拟朋友”。青少年保护这根弦，迟早也得绷起来。纽约州这份法案，值得盯着看。