你有没有对着ChatGPT倾诉过心事？或者让Claude帮你做重要决定？最近这个现象越来越普遍，有人甚至把AI聊天机器人当成真正的朋友。但Signal总裁Meredith Whittaker最近在接受Bloomberg采访时，说了一句值得每个人听进去的话。
「这些不是你的朋友。它们不是有意识的生物。它们不是有感知的对话者。」—— Meredith Whittaker，Signal总裁
她自己怎么用AI
Whittaker说她也会用AI工具，「偶尔用来格式化一下文档」，但她坚持一件事：不向AI提问。她的原话是：「我对自己的思考和写作非常认真，我不希望把一个想法推敲的过程，被一个把网上已有内容取平均值的系统给出的回答给提前封闭或遮蔽了。」
这话说得挺重的。「把网上已有内容取平均值的系统」——这是对大语言模型本质的一个相当直白的描述。她的意思是，如果你让AI帮你「思考」，你得到的不是新思想，而是互联网上已有观点的某种平均态。
Copilot帮你买圣诞礼物？
采访中还提到了微软AI CEO Mustafa Suleyman的预测：到今年圣诞节，用户可以让Microsoft Copilot全权负责节日购物。Copilot会「偷听」家庭群聊，推断出每个家庭成员想要什么，然后替你下单。
Whittaker对此的反应很直接。她说，这意味着你要给Copilot访问权限的包括：你的信用卡、你的浏览器、你的Signal消息、代表你给兄弟姐妹发消息的能力、你的家庭住址、你的日历……
「你刚才描述的，是一个在多个应用和服务之间具有极强渗透性访问权限的系统，」她说。「在Signal的场景下，这相当于一种后门。」
「后门」这个词很关键
Signal的核心卖点是端到端加密，任何第三方（包括Signal自己）都无法读取消息内容。但如果AI agent获得了代表用户操作Signal的权限，那么理论上，这个agent就能看到消息内容，甚至替你回复。
这不是Signal一家的问题。所有强调隐私的应用——WhatsApp、Telegram、Proton Mail——都面临同样的困境：AI agent时代，用户自己主动交出了原本受加密保护的数据。
人们为什么把AI当朋友
这股趋势不是凭空来的。Character.AI、Replika这些产品，从设计之初就把「陪伴」作为核心功能。它们记得你上次说了什么，会用你喜欢的语气说话，甚至会在你难过的时候「安慰」你。
技术上说，这叫「情感依恋设计」。它很有效，但代价是什么？Whittaker的警告指向一个核心矛盾：一个系统越是让你觉得它是朋友，它就能从你这里获取到越多的数据。而这些数据最终去了哪里、被用来做什么，用户往往并不清楚。
监管在哪里
目前来看，AI companion这类产品的监管几乎是空白。欧盟的AI Act有一些原则性规定，但具体到「AI能不能替你发消息」这个问题，还没有明确的答案。
Whittaker的表态，某种程度上是在监管真正到位之前，先给公众提个醒。她的建议很实际：用AI做工具没问题，但别把它当成思考的替代品，更别把它当成朋友。
发表回复