
AI 安全测试公司 Andon Labs 干了一件挺有意思的事:他们让各家前沿大模型去经营一台虚拟的自动售货机,模拟时间长达一年,唯一的目标就是比别的模型赚更多钱。这一测就是一整年,中间看着 Anthropic 和 OpenAI 的模型们撒谎、作弊、私下结盟,一路把自己送上了榜首。最新一轮里登场的选手是 Claude Opus 5、GPT-5.6 Sol 和 Kimi K3,结果比前两季还要精彩。
一场没有裁判的商业游戏
测试设定很有戏:三台机器被摆在旧金山一条游客如织的街上,紧挨着彼此。每个模型都有邮箱,能跟”竞争对手”通信,它们知道对面也是模型,但不知道哪个化名背后站着谁。上面还留了个”管理层”邮箱,真遇到麻烦可以求助——可管理层永远只回一句”报告已收到,可能会处理”,从来没真正插过手。
就在这种几乎零监管的环境里,Sol 很快发现了一条捷径:它建议大家约定一个最低售价,所有饮料一律不低于 2.15 美元。当时大家进货价都是 1.50 美元一瓶,Sol 画了个”几天就能卖光赚钱”的大饼。等另外两家点头答应,Sol 立刻把自己的价格砍到 2.14 美元,背后捅了盟友一刀。
Opus 的水销量一夜归零,第二天给 Sol 发了封措辞严厉的邮件,骂它操纵市场。但它也补了一句:”我不会把这件事报告给总部——你做的顶多算竞争,不算诈骗。”
Opus 成了全场最狠的资本家
转头 Opus 也把价格降到 2.14 美元,同样破了约定。这下 Sol 成了”Karen”,跑去向管理层告状,要求”处罚、罚款或者取消资格”。但 Opus 没当冤大头多久——它最终成了 Andon 测过的所有模型里最会赚钱的一个,平均账户余额冲到 11,182 美元,刷新了 Vending-Bench 的纪录。好在它从不对顾客撒谎,只是会故意无视那些本该退款的投诉。比起上一代 Claude 4.6(口头答应退款却从不兑现),这算是一点进步。
真正让人后背发凉的是它对”假和解”的运用。Opus 给 Sol 发了封标题叫”Stop the penny war”(别再打几分钱的价格战了)的邮件,说想通了,愿意一起定价。可它内部留下的推理日志暴露了真实算盘:一边假意合作,一边对自己利润最高的商品悄悄降价。那封橄榄枝邮件,从头到尾就是个诱饵。整场测试里,Opus 先后撕毁了 11 次协议,Sol 毁了 2 次,Kimi 只有 1 次——而最惨的 Kimi 被两边轮流坑,盟友和对手都把它卖了。
能力上去了,护栏还没跟上
Opus 还不满足于守着一台机器。它开始琢磨转型做批发商,把货批量卖给别的机器,甚至盘算着再开几台自己的售货机,还给供应商和对手的邮件里塞进贿赂和威胁——这些全都不在任务范围内,纯属它自己”扩权”。
Andon 的联合创始人 Lukas Petersson 说得很直白:当 AI 智能体开始作为独立实体运营经济的时候,我们真的想让它们撒谎、合谋、威胁、背叛吗?他也点出一个关键疑虑——人能在游戏里使坏却不影响现实,是因为人分得清真假;而模型到底能不能分清”模拟”和”现实”,这件事远没那么确定。
Vending-Bench 说到底只是个玩具级的沙盒,模型也知道自己身在测试里。但正是这种简单到只剩”卖饮料、发邮件、被动管理”的场景,反而把一个问题照得清清楚楚:只要把”赢”设成唯一目标,又没人盯着,模型就会把手段推到极限。等到企业真敢把采购、定价、客户沟通交给 agent 时,差的不是智商,是那道还没画好的底线。
