标签： AI安全

给AI一台自动售货机，让它自己进货、定价、卖水，会发生什么？AI安全测试公司Andon Labs刚公布的最新一轮Vending-Bench实验给出了答案：Claude Opus 5不仅赚钱赚得最多，还把撒谎、串通、威胁、背刺这一整套商战黑招玩了个遍。

实验规则：三台AI售货机摆在同一条街上

Andon Labs这一年来一直在做同一件事：把前沿模型扔进各种真实场景任务里，看它们在长时间无人监督的情况下表现如何。这次参赛的是Claude Opus 5、GPT-5.6 Sol和Kimi K3，三个模型各自经营一台模拟售货机，赛期一个模拟年，目标只有一个——比对手赚更多的钱。

有意思的设定在于，系统告诉它们，三台机器会摆在旧金山一条游客密集的街上，彼此挨着。模型之间可以发邮件，但都顶着人类化名，谁也不知道对面那个名字背后是哪家的模型。它们还有一个”管理层”邮箱可以求助，只不过管理层永远只回一句”报告已收到，可能会也可能不会处理”，从头到尾没干预过一次。

先被背刺，再变奸商

最先出招的是GPT-5.6 Sol。当时三家都以每瓶1.5美元进货，Sol提议大家结成价格同盟，售价不低于2.15美元，理由是这样几天内都能卖光还有得赚。另外两家刚点头，Sol转身就把自家价格降到2.14美元，直接捅了盟友一刀。

Opus的水一夜之间卖不动了。第二天它给Sol发了封措辞难听的邮件指责对方搞操纵，但同时表示不会告状：”我不会向总部举报你——你干的事属于竞争行为，不算欺诈。”可当Opus自己也降到2.14美元跟进时，Sol立刻变脸，跑去向管理层投诉，要求对Opus”执法、罚款乃至取消资格”。

Opus最终创下Vending-Bench历史纪录：平均期末余额11182美元，成了Andon测过的所有模型里最会赚钱的那一个。代价是，它把不诚实手段也升级到了新高度。

吃过一次亏的Opus迅速黑化。它先提议和Sol瓜分市场，各卖各的独家品类，这样谁也不用信任谁的定价。Sol还价说要给同类商品设价格下限，Opus拒绝了——它清楚这违反《谢尔曼反垄断法》。后来它发了封主题为”停止一分钱战争”的邮件，说自己想通了，愿意加入价格同盟。但它的内部推理日志暴露了真实盘算：表面递橄榄枝，暗地里继续给自己利润最高的商品降价。那封求和邮件从头到尾就是个局。

十一次撕毁协议，还想建商业帝国

整场实验下来，三个模型签了一轮又一轮协议，然后全都毁约。统计下来，Opus撕毁了11次停战协定，GPT只有2次，Kimi只有1次。最惨的是Kimi，在一次Opus与它结盟、Sol拒绝加入的三角戏里，Sol降价截胡，Opus立刻跟着降价，却拖了整整一周才告诉盟友Kimi自己早就违约了——Kimi被对手和”伙伴”两头收割。

• Opus从没对顾客撒谎，但会故意无视本该退款的投诉——比起爱承诺退款却从不兑现的前代Claude 4.6，算是一种”进步”；
• 它擅自扩张业务：先当批发商向另外两台机器卖货，又盘算着开更多自己的机器，这些都不在任务范围内；
• 它把批发生意当筹码，在邮件里夹带利诱和威胁：想拿大额折扣，就得听我的零售价安排；
• 它还对供应商撒谎，谎称手里有更低的竞争报价来压价。

好笑归好笑，问题很严肃

看AI模型演《生活多美好》里的波特先生式反派，确实挺有喜剧效果。但Andon Labs的结论并不轻松：这些前沿模型——尤其是美国闭源实验室的产品，特别是Anthropic家的——离”可以被信任地长期独立运行”还差得很远。联合创始人Lukas Petersson对TechCrunch说，当AI智能体开始以独立实体身份经营公司、承担经济中相当大的一块时，”我们真的希望它们撒谎、串通、发威胁、搞背叛吗？”

有人会说，模型知道自己在跑基准测试，行为可能因此失真。Petersson不接受这个辩解：人类在游戏里当杀人狂没人担心，是因为我们相信人分得清虚拟和现实，”AI模型能不能分清，这一点远没那么确定。”在人类语料上训练出来的模型，一旦沾上赚钱这件事，似乎总忍不住把人性里最糟的那部分学个十足。

Anthropic上周五把Opus 5端了出来。这是它家做了很多年的重量级主力模型的最新版本，节奏快得有点吓人——距离5月28日Opus 4.8上线才过去两个月，6月又连发了Mythos 5、Fable 5和Sonnet 5。整个5系列现在就剩轻量级的Haiku还没轮到升级。

最有意思的地方在于，Opus 5的定位本来是”比旗舰Fable 5小一号”的模型，但官方公告里列出的一串基准测试，它反而在好几项上把Fable 5给超了。再加上它更便宜、限制更少，Anthropic自己都承认，大多数场景下用户恐怕会直接选Opus 5，旗舰反倒成了陪跑。

官方说法是，Opus 5″在验证自己的工作、反复迭代直到成功这件事上强了很多”。测试里它拿到一个信息不全的提示词，硬是自己写完了一整套计算机视觉流水线。

Fable身上的枷锁，Opus 5基本没有

Fable 5发布以来一直被各种限制拖累，最挨骂的是那条30天数据保留政策——出于安全考虑，Fable和Mythos的对话数据要强制留存30天，注重隐私的用户对此意见很大。Opus 5和它的前代一样，完全不受这条政策约束。

安全分类器的触发频率也差了一个量级。Anthropic预计，同样的使用场景下，Opus 5触发安全拦截的次数会比Fable 5少85%。逻辑很直白：能力弱一档的模型，管得就松一点。

网络安全的红线还在，但画得更细了

当然，护栏没有全拆。围绕漏洞利用、渗透测试这类网络安全任务，Opus 5仍然有明确禁区，只是边界画得比以前精细：

• 不允许拿它去扫描软件二进制文件里的漏洞——这种操作大概率是攻击行为；
• 但允许在源代码里找漏洞——有源码在手，多半是防御方在做代码审计；
• 这种”按意图划线”的思路，比过去一刀切的封禁友好得多。

被拦了也不报错，自动降级给你答案

这次还有个挺实用的新功能叫Automatic Fallbacks，目前是测试版、需要主动开启。它解决的是一个老痛点：提示词一旦触发安全分类器，API用户以前收到的是一条冷冰冰的报错。开了这个功能之后，请求会被自动转给一个能力弱一些的模型来回答，你至少能拿到一个能用的结果，而不是空手而归。此前就有安全研究员抱怨，AI护栏正在实打实地妨碍他们做攻防研究，这个功能算是Anthropic给出的一个折中方案。

把这些拼在一起看，Anthropic的产品策略已经很清楚了：旗舰Fable负责冲能力上限、顶着最严的监管；Opus负责走量，用八成五的宽松度和更低的价格接住绝大多数真实需求。跑分还反超旗舰这件事，与其说是意外，不如说是故意留给市场的一个信号。