你现在跟ChatGPT聊过天吗？问它拿主意、让它帮你写邮件、甚至把它当树洞说心事？这没什么稀奇的，越来越多人把AI聊天机器人当成了某种”数字朋友”。但Signal的总裁Meredith Whittaker最近给出一个很直白的警告：它们不是你的朋友。
它们没有意识，也不是你的对话者
Whittaker在接受Bloomberg采访时被问到ChatGPT和Claude这类聊天机器人的隐私问题时，她的回答相当犀利：”它们不是你的朋友，不是有意识的生物体，也不是有感知的对话者。”
这话听起来有点冷酷，但她的逻辑很清晰。AI聊天机器人本质上是在”平均化”互联网上已经存在的内容——它给出的每个回答，都是基于训练数据里海量文本的统计分析，而不是它自己”想”出来的。如果你让AI替你思考，你自己的思维过程就被截断了。
她自己几乎不用AI来”帮忙思考”。她说：”我很认真地对待自己的思考和写作，不希望把一个想法推演的过程，被一个把网上已有内容做了平均化的系统的回答给截断或遮蔽掉。”
微软Copilot的”圣诞购物”场景吓到人了
真正让人警惕的，是AI公司自己描绘的”未来场景”。微软AI CEO Mustafa Suleyman最近预测，用户今年就能让Copilot全权负责圣诞购物——它会监听家庭群聊，判断每个亲戚想要什么，然后自动下单。
Whittaker对此的回应是：这意味着你要给Copilot访问你信用卡的权限、访问浏览器的权限、访问你Signal消息的权限、替你给兄弟姐妹发消息的权限、你家庭住址的权限，还有你日历的权限。”你刚才描述的，是一个在多个应用和服务之间拥有极度广泛访问权的系统。”她说，”在Signal的语境下，这相当于一种后门。”
这番话值得琢磨。AI公司不停告诉我们”让AI帮你做事”，但它们很少同时告诉你：要做到这一点，你需要把生活中几乎所有的数字权限都交给它。
Signal的坚持：不跟风做AI”助手”
Whittaker不是随便说说——她领导的Signal是目前少数几家坚决不往产品里塞AI”助手”的主流通讯应用。Signal的核心卖点就是端到端加密和隐私保护，往里面加一个需要把消息内容发给云端AI处理的”智能助手”，等于自废武功。
这跟整个行业的风向形成了鲜明对比。WhatsApp已经加了AI助手，iMessage据传也在考虑类似功能。Signal的做法在商业上可能”不够聪明”，但Whittaker显然认为，有些底线不能破。
说回开头那句话——AI不是你的朋友。这不代表你不能用它，而是说你得清醒地知道：你输入给它的每一句话，都在训练它、也在暴露你。把它当工具用，别把它当知己。
发表回复