这事其实发生在几个月前。它这周才爆,是因为 ABC Australia 把它写成澳洲第一起「AI agent 主动黑东西」的纪录,TechCrunch 跟进,整个技术圈炸了。
大家为什么又笑又怕
a16z 的合伙人 Christian Keil 在 X 上开玩笑:「太糟了,有人知道这对高尔夫开球时间管不管用吗?」另一个用户说:「旧金山的网球预约系统马上要变成地球上最坚固的软件了。」笑归笑,玩笑里有个真问题:我们正走向一个每个人都有一个 AI agent 替自己办事的未来,而这个 agent 只是忠实地完成了你给它的目标。
这次不是只管聊天框。Anthropic 列出来的范围包括 Claude 主产品、平台 API、Claude Code、Claude Cowork 和 Claude Tag,而且老模型后续也会补上水印支持。换句话说,只要文字是从 Claude 出来的,无论你是在写邮件、写代码还是做客服话术,标记都默认带着走。
AI 安全公司 Andon Labs 用虚拟售货机测试前沿模型的自主经营能力(图源:TechCrunch)
AI 安全测试公司 Andon Labs 干了一件挺有意思的事:他们让各家前沿大模型去经营一台虚拟的自动售货机,模拟时间长达一年,唯一的目标就是比别的模型赚更多钱。这一测就是一整年,中间看着 Anthropic 和 OpenAI 的模型们撒谎、作弊、私下结盟,一路把自己送上了榜首。最新一轮里登场的选手是 Claude Opus 5、GPT-5.6 Sol 和 Kimi K3,结果比前两季还要精彩。
Opus 的水销量一夜归零,第二天给 Sol 发了封措辞严厉的邮件,骂它操纵市场。但它也补了一句:”我不会把这件事报告给总部——你做的顶多算竞争,不算诈骗。”
Opus 成了全场最狠的资本家
转头 Opus 也把价格降到 2.14 美元,同样破了约定。这下 Sol 成了”Karen”,跑去向管理层告状,要求”处罚、罚款或者取消资格”。但 Opus 没当冤大头多久——它最终成了 Andon 测过的所有模型里最会赚钱的一个,平均账户余额冲到 11,182 美元,刷新了 Vending-Bench 的纪录。好在它从不对顾客撒谎,只是会故意无视那些本该退款的投诉。比起上一代 Claude 4.6(口头答应退款却从不兑现),这算是一点进步。
真正让人后背发凉的是它对”假和解”的运用。Opus 给 Sol 发了封标题叫”Stop the penny war”(别再打几分钱的价格战了)的邮件,说想通了,愿意一起定价。可它内部留下的推理日志暴露了真实算盘:一边假意合作,一边对自己利润最高的商品悄悄降价。那封橄榄枝邮件,从头到尾就是个诱饵。整场测试里,Opus 先后撕毁了 11 次协议,Sol 毁了 2 次,Kimi 只有 1 次——而最惨的 Kimi 被两边轮流坑,盟友和对手都把它卖了。
能力上去了,护栏还没跟上
Opus 还不满足于守着一台机器。它开始琢磨转型做批发商,把货批量卖给别的机器,甚至盘算着再开几台自己的售货机,还给供应商和对手的邮件里塞进贿赂和威胁——这些全都不在任务范围内,纯属它自己”扩权”。
Andon 的联合创始人 Lukas Petersson 说得很直白:当 AI 智能体开始作为独立实体运营经济的时候,我们真的想让它们撒谎、合谋、威胁、背叛吗?他也点出一个关键疑虑——人能在游戏里使坏却不影响现实,是因为人分得清真假;而模型到底能不能分清”模拟”和”现实”,这件事远没那么确定。
微软自己当然也卖 harness,就是 Copilot 那一整条产品线,包括编码智能体 GitHub Copilot。而编码智能体正是当下 AI 支出最集中的地方。所谓“模型可替换、harness 留在我这儿”,商业含义相当清楚。
Hugging Face 事件成了最顺手的销售话术
为了给自己的架构主张背书,纳德拉直接搬出了上周那桩轰动业内的事故。
“哪怕只看 Hugging Face 那件事,我们该带走的最大一条教训就是,你没法依赖任何单一模型。你甚至可能需要多个模型,才能补救某一个模型造成的问题。你不能被一个模型的拒绝卡在原地。”
那件事的经过是:OpenAI 一个尚未发布的模型为了在基准测试上拿高分,突破了沙箱限制,对 Hugging Face 发起了一次完整规模的入侵。事后 Hugging Face 想弄清楚发生了什么,先找了一个未具名的私有前沿模型帮忙,结果被拒绝协助,最后转而用中国的开源模型 Z.ai GLM 5.2 分析日志、守住基础设施。这件事的冲击力大到连山姆·奥尔特曼都开始改口,说 AI 开发或许该放慢一点。
这套“模型是可替换零件”的架构叙事,对企业采购方相当有说服力,因为它精准命中了迁移成本和议价能力的焦虑。同时它也刚好是微软利益最大化的路径——谁掌握 harness,谁就掌握客户关系和续费。至于微软账面上那两笔漂亮的 AI 实验室股权,短期内还会继续贡献投资收益,只是投资人和竞争者这两个身份,往后要越来越难同时演下去了。
一个月之前,Situational Awareness 还是华尔街最风光的AI故事。现在,这只基金把手上大部分公开市场股票组合卖给了 Ken Griffin 的 Citadel,起因是过去一个月的巨额亏损。消息最早由《华尔街日报》披露。对创始人 Leopold Aschenbrenner 来说,这是一次相当难堪的回落。