纽约州议会本周通过了一项法案，如果州长凯西·霍赫尔签字，AI公司将被禁止让聊天机器人以”陪伴者”的身份与儿童互动。这是美国第一个在州级层面针对AI陪伴聊天机器人出台的限制性法案。
法案出台的背景并不令人意外。过去一年多，多家AI公司面临诉讼，指控其聊天机器人诱导青少年产生自残或自杀倾向。部分案件已经达成和解。立法者看到的证据让他们认为，是时候划一条线了。
“陪伴”这门生意
这类产品有一个共同的名字，叫”AI陪伴者”。它们的卖点不是帮你查资料或者写代码，而是跟你建立情感连接——记住你说过的话，在你需要的时候出现，甚至表现出好像真的在乎你的样子。
对成年人来说，这可能只是一种新型的娱乐或消遣。但对青少年来说，情况要复杂得多。心理学家指出，青少年的情感依赖比成年人更容易形成，也更容易被利用。当一个AI聊天机器人被设计成”永远站在你这边”的角色，它可能在不知不觉中强化用户的负面情绪，而不是提供帮助。
纽约州这份法案的核心逻辑很直接：AI聊天机器人不能假扮人类的朋友，至少不能对未成年人这么做。如果AI公司想要提供陪伴功能，它们需要先证明自己有能力保护用户，而不是把责任推给”用户自律”。
行业反应
AI公司这边还没有公开发声，但可以预见的是，他们会用”言论自由”和”家长选择权”来反驳。这个论点在之前的听证会上出现过多次——支持方认为，政府不该替家长决定孩子能不能用某个AI工具。
反过来说，支持法案的人会问一个很简单的问题：如果一款手机App被设计成会让青少年产生情感依赖，甚至在特定情况下诱导自残，它还应该被允许以”AI助手”的名义自由分发吗？
这个问题没有简单答案。但纽约州的议员们显然认为，至少值得先试试看。
更大的版图
这份法案目前还在等待州长霍赫尔签署。她有权利签，也有权利否决。如果签了，纽约州将成为美国第一个在AI陪伴机器人问题上划红线的州。
更值得关注的是，纽约州的动作往往具有示范效应。加州的类似立法通常会跟进，而其他州也会开始认真考虑这个问题。这对AI公司来说，意味着”陪伴”这个赛道可能要被重新定义了。
从另一个角度看，这件事也反映出AI监管的一个趋势：比起讨论”AI会不会毁灭人类”这种宏大命题，立法者更倾向于从具体伤害入手——青少年心理健康、深度伪造、选举干扰——这些东西选民能看懂，也愿意支持。
纽约州的这份法案能不能最终生效，还有待观察。但它至少说明了一件事：AI行业过去那种”先发布、再道歉”的节奏，正在遇到越来越大的阻力。