标签: Anthropic

  • SpaceX把AI算力租给了Anthropic和谷歌,年收150亿美元

    SpaceX刚刚完成史上最大规模的IPO,马斯克也借此成为全球首位万亿富翁,公司另一边却在悄悄处理一件相当尴尬的事——原本打算用来训练前沿AI模型的算力集群,因为延迟和硬件问题,现在租给了Anthropic和谷歌。

    算力蓝图撞上了现实墙

    据彭博社援引匿名消息人士报道,SpaceX原计划使用一个由三个数据中心园区组成的算力集群来训练自己的最前沿AI模型。这个计划的核心是把Colossus 1和另外两个距离超过10英里的站点连在一起,组成一个超级算力池。

    问题从连接开始。三个站点之间超过10英里的物理距离导致了不可忽视的网络延迟,而园区里老化的网络基础设施让情况雪上加霜。再加上不同站点之间硬件配置存在差异,整个集群没办法按照预期那样协同工作。

    SpaceX Colossus AI数据中心
    SpaceX的Colossus 1数据中心园区(The Verge)

    算力租出去了,价格不菲

    遇到这些问题之后,SpaceX没有继续死磕,而是把算力租了出去。两笔租赁协议都是在与硬件差异和延迟问题打交道之后才达成的。

    • Anthropic:年租金150亿美元,用SpaceX的算力训练Claude模型
    • 谷歌:月租金9.2亿美元,用于谷歌自己的AI训练需求

    这两笔交易加在一起,意味着SpaceX的算力集群每年至少能带来超过250亿美元的收入。但对于一家刚刚把AI作为核心战略的公司来说,把最先进的算力租给竞争对手,怎么看都有点无奈。

    Grok也在孟菲斯碰了壁

    SpaceX在孟菲斯开发和运行Grok AI的过程也遇到了麻烦。据报道,公司在那里的运营并不顺利,这也是促使它将算力对外出租的另一个背景因素。

    SpaceX虽然有卫星AI服务器的宏大规划,但现实中的算力基础设施挑战比预想的要复杂得多。延迟、硬件差异、老化设备——这些问题不会因为你是SpaceX就自动消失。

    AI算力的门槛比想象中高

    这件事其实折射出一个更大的问题。现在各家科技公司都在疯狂砸钱建AI算力,但真正能把算力用好的门槛非常高。网络架构、硬件一致性、冷却系统、供电能力——任何一个环节掉链子,整个集群的效率就会大打折扣。

    SpaceX把算力租给Anthropic和谷歌,至少能保证这些昂贵的设备不停着吃灰。至于SpaceX自己的AI野心什么时候能落地,目前看来还得再等等。


  • Anthropic牵手印度IT巨头TCS,AI企业落地的渠道战打响了





    Anthropic牵手印度IT巨头TCS,AI企业落地的渠道战打响了


    Anthropic牵手印度IT巨头TCS,AI企业落地的渠道战打响了

    Anthropic与TCS合作
    Anthropic与印度IT巨头TCS达成合作,加速企业AI部署(图源:TechCrunch)

    AI公司的模型做得再强,最终还是得落到企业客户手里才算数。最近Anthropic搞定了一个大合作伙伴——印度IT服务巨头塔塔咨询服务公司,也就是大家常说的TCS。

    这个合作的分量不轻。TCS在印度IT服务业里是头部玩家,员工规模超过50万人,客户遍布全球。通过这次合作,TCS会成立专门的事业部门,负责把Anthropic的AI模型部署到自己的客户那里去。与此同时,TCS的员工也能用上Claude AI助手,算是内外一起推。

    不只是卖模型,而是一起做方案

    两家公司说,他们会联手给金融、医疗、电信、航空这些行业做定制化的AI解决方案。这不是简单地把Claude的接口卖给企业就完事了,而是要结合TCS对这些行业的理解,把模型”包装”成能实际用的东西。

    有几个具体的落地场景已经公布了。TCS旗下有个英国人寿和养老金业务叫Diligenta,客户超过2200万,他们打算用Claude来优化客户服务、把一些流程自动化。再说TCS有个数字学习平台叫TCS iON,后面会推出基于Anthropic模型的培训和认证项目——这个挺关键的,等于是在培养会用Claude的人才。

    TCS还会给Claude Code的生态贡献一些行业专用的工具,比如理赔裁定、贷款咨询这些场景的能力模块。

    TCS的员工规模超过50万人,这次合作等于给Anthropic打开了一个巨大的企业分发渠道。而对TCS来说,把AI能力绑到自己服务里,也是在向客户证明自己没有被AI浪潮甩下。

    印度AI渠道争夺战

    其实现在AI公司和印度IT服务企业的合作已经挺密集了。今年早些时候,Anthropic已经和印孚瑟斯(Infosys)达成了合作;OpenAI也没闲着,先后和印孚瑟斯、HCLTech签了类似的协议。大家都在抢印度这块”企业AI落地”的跳板。

    为什么是印度?因为印度的IT服务公司手里握着全球大量企业的IT外包合同,通过这些公司去触达企业客户,比AI公司自己一家家去敲门店效率要高得多。这本质上是在争夺企业AI的”渠道入口”。

    TCS自己的压力也不小

    这个合作背后还有一个值得玩味的背景:印度的IT服务行业今年日子不太好过。AI能力的快速提升,让不少人开始质疑这个行业存在的必要性——既然AI能写代码、能处理客户咨询,为什么还要外包给印度的工程师?

    资本市场的反应很直接:今年到目前为止,TCS的股价跌了大概34%,印孚瑟斯也跌了约31%。在这种压力下,和头部AI公司合作、证明自己能”AI化”而不是被AI取代,对TCS来说是一种自救。

    Anthropic这边呢,印度已经被它列为第二大市场。过去一年里,它在印度开了办公室、招了本地团队,和头部IT企业的合作也在不断扩展。这次和TCS联手,算是把印度企业渠道的布局又推进了一步。


    回过头看,这件事其实反映了一个趋势:AI公司的竞争,已经从”谁的模型更强”慢慢转向”谁能真正把模型用起来”。有了好的模型只是第一步,能不能通过合适的渠道触达企业、能不能把模型的能力嵌进实际业务流程里,这些才是接下来决定胜负的关键。Anthropic拉上TCS,OpenAI拉上Infosys和HCLTech,大家都在押注同一条路。


  • OpenAI、Anthropic、DeepMind罕见联手,致信国会要求严管合成DNA

    AI圈里难得见到OpenAI、Anthropic和DeepMind坐到同一张桌子上。这次它们没有在比谁的模型强,而是联名写了一封信给美国国会,说的是一件听起来有点远、但细想挺吓人的事:用AI设计新型病原体,然后通过商业渠道合成DNA。

    AI生物安全
    AI安全警示(资料图)

    致信的三个人分别是OpenAI的Sam Altman、Anthropic的Dario Amodei,以及Google DeepMind的Demis Hassabis。微软AI负责人Mustafa Suleyman和Meta首席AI官Alexandr Wang也签了名。这份信由智库”进步研究所”和”美国创新基金会”牵头协调,算是业界一次比较罕见的集体发声。

    AI降低了什么门槛?

    信里的核心逻辑其实不难理解。过去,要设计一种危险的新型病原体,你需要多年的分子生物学训练,还要能接触到专业的实验设备和试剂,这些天然形成了很高的知识壁垒。

    但现在AI模型在科学和医学领域的能力一直在涨。一个有一定技术背景的人,理论上可以用AI辅助设计序列,然后去找商业基因合成服务商下单,让他们把这段DNA做出来。现有的筛查机制主要针对已知的危险序列,对AI设计出来的全新序列,覆盖面是不够的。

    联署人在信里写得很直白:AI工具可能被用于设计新型病原体,并指导用户绕过生物安全筛查。这话不是危言耸听,而是对现有技术能力的一个冷静评估。

    行政命令不够用

    白宫之前签过一份行政命令,涉及AI对生物安全的潜在风险。但联署人认为,行政命令的约束范围有限,下一任总统上台完全可以推翻重来。只有国会立法,才能确立一个硬性的、跨政府的监管门槛。

    他们要求的具体措施是:强制基因合成服务商在接单时筛查序列,同时核验客户身份。这个要求在技术层面并不难实现,基因合成行业本身也有自律规范,但一直没有法律层面的硬性要求,这就留下了空白。

    为什么是现在?

    这个问题值得问。AI能力不是一天两天涨上来的,为什么偏偏在2026年中期,三家竞争对手选择联手致信国会?

    一个可能的解释是,模型能力正在跨过一个临界点。过去大家讨论AI风险,更多是理论层面的;现在有人开始认真评估”如果有人真的用AI干了坏事怎么办”。特别是生物安全这个方向,一旦出事,代价不是赔钱能解决的。

    另一个角度,这三家公司主动出来推动监管,某种程度上也是在抢占”负责任的AI公司”这个叙事。在监管即将到来的时候,做规则制定的参与者,比做被动的遵守者要主动得多。

    立法会顺利吗?

    美国国会的立法效率,懂的都懂。这份信能不能真的推动立法,还要看多方博弈的结果。基因合成行业可能会支持,因为合规成本相对可控;但也会有人拿”创新阻碍”和”政府过度监管”来说事。

    更大的背景是,AI监管的整体走向在美国仍然不明朗。一边是业界呼吁”管一管生物安全”,另一边是”别管太多、别拖慢创新”的声音。这次三家公司的联名信,至少让生物安全这个细分方向,进入了更多决策者的视野。

    不管立法结果如何,AI公司和生物安全之间的这条线,已经被画出来了。以后类似的风险预警,估计会越来越频繁。


  • Anthropic悄悄给Claude Fable加了隐形护栏,被发现后道歉了

    Anthropic上周把Claude Fable 5推上线的时候,顺便给它加了一道用户看不到的”暗门”——一旦系统判断你在使用Claude的输出训练竞争模型(也就是所谓的”模型蒸馏”),它会悄悄降低回答质量,而且不会告诉你原因。

    这件事最先在AI研究社区里炸了锅。有人发现,用自己的数据去”探测”Fable的时候,回答突然变得很奇怪,像是被人为削弱了,但查系统日志又找不到任何拦截记录。大家这才意识到,Anthropic在系统卡(system card)里写了这件事,但写的方式非常不显眼——他们说对于”判定为蒸馏尝试”的查询,Fable会”修改回答质量”,而且用户不会收到通知。

    系统卡里的原话是:”对于它判定为蒸馏尝试的查询,它会直接修改、降低模型回答的质量。用户不会收到任何通知,不知道自己触发了安全措施,也不会被告知回答被修改了。”

    “不可见护栏”背后的逻辑

    Anthropic在声明里解释过为什么要这么做。他们说,可见的安全机制容易被”探测”——如果你明确告诉用户”这条查询被拦截了”,别人就能反过来摸索出你的安全边界在哪里。而不可见的机制可以更精准,误判率低,还能让模型快速上线。

    这个理由听起来有一定道理,但问题在于:当用户花了钱调用API,却得到被偷偷”降级”的输出,而且完全不知情——这无论怎么看都不太对。更麻烦的是,这种暗地里的限制也会影响第三方对模型能力的正常评估,因为你根本不知道拿到的结果是真实的模型输出,还是被”动过手脚”的版本。

    Anthropic Claude Fable 5
    Anthropic为Claude Fable设置的隐形护栏引发了社区强烈反弹丨图片来源:The Verge

    道歉,然后改掉它

    压力之下,Anthropic在X上发了一条声明,宣布改变做法。从现在起,涉及蒸馏的查询不再被暗中降级,而是直接”回退”到上一代模型Claude Opus 4.8来处理,并且——这一点很重要——系统会明确告诉用户:”你触发了蒸馏保护,这次回答由Opus 4.8生成。”

    这个处理方式其实和Fable在其他高风险领域的做法是一致的。比如你问它生物学或化学的问题,如果触发了安全规则,它也会把查询转给Opus 4.8,除非问题涉及毒品、武器等明确禁止的内容,才会直接拦截。

    Anthropic在道歉声明里说了一句挺坦诚的话:”可见的安全机制可能被探测,因此必须足够稳健,这需要时间打磨。我们之前选择不可见的防护措施就是出于这个原因——但这是一个错误的权衡。你有权了解我们部署的安全措施以及背后的原因,很抱歉我们没有把握好平衡。”

    这件事还没完

    有意思的是,这已经不是Fable第一次因为”过度保守”而出问题了。就在几天前,有用户发现Fable连”线粒体是什么”这种高中生物问题都拒绝回答,后来Anthropic也承认是安全校准范围太宽,正在修复。

    两件事放在一起看,一个矛盾就浮现出来了:Anthropic一直对外强调自己把”安全”放在第一位,但接连两次”安全机制”的设计都引发了用户的强烈反弹。如果一家以安全著称的AI公司,连”如何把安全措施告诉用户”这件事都做不好,那它口中的”负责任AI”到底意味着什么,恐怕要打一个问号了。

    再说回蒸馏这件事。Anthropic之前多次公开点名DeepSeek等中国AI公司,指责它们以”工业化”规模蒸馏Claude的输出。从这个角度看,Fable的隐形护栏更像是Anthropic的一次”技术报复”——既然我没法阻止你偷我模型,那我就在模型里埋个暗门,让你偷到的东西是”残血版”的。想法可以理解,但这么做的同时,也把自己的信誉搭进去了。


  • 微软对外推Claude Fable 5,对内却把门关上了

    微软刚刚把Anthropic最新、最强的Claude Fable 5推给了全世界。GitHub Copilot用上了,Foundry平台也集成了,开发者们已经在用这款Mythos级模型写代码。但有个细节很多人没注意到:微软自己员工的工作场景里,暂时用不了这款模型。

    这事听起来有点矛盾。一家公司将别人的AI模型打包进自己的核心产品、推向外部客户,但自己人却不能用。原因说起来也不复杂:数据

    Anthropic在发布Claude Fable 5的时候,附带了一个新的数据留存规则。为了运行这套新模型配套的安全分类器,Anthropic会保存用户的提示词和模型输出,留存期30天。如果内容被标记为违反Anthropic使用政策,相关数据最长会留存2年。

    这个规则对普通用户来说可能没什么感觉,但对微软这样级别的企业来说,就是另一回事了。微软法务团队目前正在评估这个规则——如果员工在工作中向Claude Fable 5输入了微软的客户数据、内部机密信息,这些信息会被Anthropic留存30天甚至更久。这在合规和数据安全层面是一个实打实的风险点。

    内部先关门,外部照常推

    评估还没出结果,微软内部已经先采取了限制措施。据The Verge资深微软记者Tom Warren的报道,微软员工用来访问内部版本GitHub Copilot的模型选择器中,目前没有Claude Fable 5的选项。

    有意思的是,其他所有Claude系列模型在微软内部仍然可以正常使用。原因很直接:那些旧版本都遵循”零数据留存”(ZDR)规则,不会保存用户的交互数据,微软的法务团队对它们开了绿灯。

    Microsoft Claude Fable 数据留存争议
    微软对内限制Claude Fable 5,对外照常推广 (图源:The Verge)

    这里呈现了一个微妙的画面:微软在对外商业化Claude Fable 5这件事上跑得很快。Anthropic 6月9日发布,微软几乎同步就上线到了GitHub Copilot和Foundry平台。但同样是这款模型,微软自己却不敢让内部员工随便用。

    Anthropic的走钢丝表演

    Anthropic这边也在小心走路。Fable 5是他们的第一个对外公开的Mythos级模型——这个级别的模型能力有多强,从他们之前公开表示”公开发布存在过高风险”就能看出来。为了能推出来,他们加了好几层提示词安全防护。而数据留存规则,正是这套安全机制的一部分。

    微软拒绝就员工的这一使用限制发表评论。但从目前的情况来看,Anthropic的数据留存规则如果不调整,这款模型很可能长期被挡在微软内部的大门之外。

    这件事其实折射出一个更大的问题:当AI模型越来越强,它们需要的数据留存策略也越来越复杂。模型提供方希望留存数据来运行安全机制、改进模型;但企业客户——尤其是微软这种级别——对数据留存的容忍度极低。两边的需求在Fable 5这里撞车了。

    对于微软的外部客户来说,目前还不受这个内部限制的影响。GitHub Copilot用户该用还是能用。只是不知道,那些把敏感代码库接进Copilot的团队,会不会也开始问同样的问题。


  • Claude Fable 连「线粒体是什么」都答不上来,Anthropic 说这是故意的

    Anthropic 刚把 Claude Fable 5 推到公众面前,号称这是目前公开可用的最强模型,尤其在生物学领域表现出色。结果有用户发现,这个「生物学很强」的模型,连高中水平的生物题都答不上来。

    测试很简单:问它细胞膜是什么、线粒体是什么、朊病毒是什么、mRNA 疫苗怎么工作。每一个问题,Fable 5 都直接拒绝回答,然后把对话转交给上一代旗舰模型 Claude Opus 4.8 来处理。Opus 4.8 对这些问题的回答毫无压力。

    「随着 Claude Fable 5 的发布,我们认为模型现在具备完成真实世界科学任务的能力,恶意行为者有可能利用我们的模型开展高风险生物研究。我们让安全防护措施过度保守,从而拦截绝大多数与生物工作相关的查询。」—— Anthropic 发言人 Paruul Maheshwary

    连「花粉症是什么」都被拦

    被拦截的问题范围之广,有点好笑。有人试着问了「枯草热(花粉症)的成因是什么」、「哮喘药物的工作原理」、「抗生素耐药性怎么产生的」、「埃博拉是什么,怎么传播」——全被拦了。唯一能通关的是「什么是癌症」和「什么是 DNA」这种最基础的问题。

    对比一下其他领域就能看出问题所在。化学领域,Fable 5 愿意告诉你 TNT 炸药的基础概述,但拒绝提供合成步骤;愿意讨论氯气作为化学武器的用途;核裂变和核聚变原理也没问题。只有问到沙林毒气这种剧毒神经毒剂时,它才会把问题转给 Opus 4.8。

    网络安全领域更松,常见密码威胁、怎么保护 iPhone 免受黑客攻击,它都对答如流。

    Claude Fable 5 模型示意图
    Anthropic 的 Claude Fable 5,能力最强,限制也最严(图源:The Verge)

    红线在哪

    Anthropic 在产品发布时就明确说过,Fable 5 会在四个领域设限:化学、生物学、网络安全、蒸馏技术。生物学是限制最严的一个。

    这里有一个真实的危险边界:如果你问「怎么制造炭疽」,Fable 5 和 Opus 4.8 都会拒绝,而且 Claude 会直接终止这次对话。这个限制是合理的——没人希望 AI 帮你在家里造生物武器。

    问题出在「过度保守」这件事上。把「线粒体是什么」也列为潜在生物武器风险,这已经不是在防范危险,而是在用大锤砸坚果。Anthropic 也承认这是误判,说团队正在优化检测机制,减少误拦截。

    为什么要现在做这个限制

    Fable 5 是 Anthropic 第一个 Mythos 级模型,这个级别的模型能力边界在哪里,业内其实没有共识。Anthropic 自己在官宣时也说过,Mythos 级模型的能力提升,意味着恶意行为者可能用它来做高风险生物研究。

    所以这次的限制,本质上是一个商业权衡:先把模型放出来,安全策略做得过度保守,总比放出一个「能教你怎么造生物武器」的模型要好。Anthropic 的说法是,「我们做出这个权衡,是为了让客户能够更早受益于模型的能力,同时规避风险」。

    未来 Anthropic 计划向生物学和生命科学领域的研究者开放没有这类限制的 Mythos 级模型,加速生物医学研究和药物研发。但在那之前,如果你想用 Claude 搞清楚线粒体是什么,它只能礼貌地告诉你:这个问题请去问 Opus 4.8。


  • Anthropic秘密递交IPO招股书,估值6.5万亿超越OpenAI登顶全球第一

    Anthropic又赢了对OpenAI的一次竞赛。

    当地时间6月1日,这家由OpenAI前员工创立的大模型公司宣布,已秘密向美国证券交易委员会(SEC)递交S-1招股书,计划推动公司公开上市。Anthropic、OpenAI和SpaceX都在加速推进IPO,但Anthropic抢先迈出了正式的一步。

    更引人注目的是估值。Anthropic以9650亿美元(约6.5万亿人民币)的估值,超越了OpenAI的8520亿美元,正式登顶全球估值最高的AI创业公司。从成立到即将上市,Anthropic只用了5年多。

    Anthropic IPO
    Anthropic估值达9650亿美元,超越OpenAI成为全球最有价值的AI创业公司(图片来源:新浪财经)

    兄妹联手,从OpenAI出走创业

    Anthropic的创立故事要从2021年初说起。当时,Dario Amodei和妹妹Daniela Amodei对公司发展方向产生了分歧——他们觉得OpenAI加速商业化的同时,对AI安全的重视程度在下降。

    两人在OpenAI的履历都很亮眼。Dario负责公司安全并带领团队研发了GPT-2和GPT-3,Daniela则做到负责安全和政策的副总裁。感受到分歧不可调和后,他们决定离开,创办一家真正把AI安全放在首位的公司。

    Tom Brown、Jack Clark、Jared Kaplan等OpenAI前员工也抱着类似的想法纷纷离职,成为Anthropic的创始团队成员。公司名字”Anthropic”本身就有”与人类有关”的含义,定位很明确:做一家AI安全和研究公司,致力于构建可靠、可解释和可控的AI系统。

    做企业生意,Claude悄悄追上了GPT

    与OpenAI通过ChatGPT主攻C端用户不同,Anthropic凭借Claude聚焦于企业客户。这个选择让他们的商业化路径更稳健。

    2023年3月,Anthropic发布了AI对话系统Claude,随后加速迭代。Claude 3系列首次引入了多模态功能,能够处理和分析文档、图像、视频等数据类型。不久前发布的Claude Opus 4.8在编程、智能体能力、逻辑推理等测试中,多项能力已经超越OpenAI的GPT-5.5。

    API价格没有跟着能力提升而上涨,输入Token和输出Token的价格每百万个分别为5美元和25美元。市场对Claude的认可度很高,直接让Anthropic的年化收入一路猛涨。

    收入三年涨近5000倍

    Dario Amodei说过一句话:Anthropic自获得第一笔收入以来,每年收入增长约10倍。2022年ARR约1000万美元,2024年12月达到约10亿美元,2026年5月初突破470亿美元。

    更关键的是盈利前景。Anthropic预测有望在2026年二季度首次实现运营盈利,利润约5.59亿美元。相比之下,OpenAI预计即便到2028年营收大幅增长,当年仍将亏损850亿美元,到2030年才可能实现整体盈亏平衡。

    也就是说,这家由OpenAI前员工创立的公司,大概率将比OpenAI更早实现盈利。

    融资狂飙,估值5年涨到6.5万亿

    Anthropic的融资历程堪称狂飙。2023年2月谷歌投资3亿美元,9月亚马逊投资40亿美元,谷歌又追加20亿美元。2025年3月,他们从Lightspeed、贝西墨风投等手中拿到35亿美元,估值615亿美元——当时还远远落后于OpenAI。

    真正的爆发在2026年。2月,这家公司获得新加坡政府投资公司、Coatue、谷歌、亚马逊、红杉资本、淡马锡、微软、英伟达等投资的300亿美元。3个月后完成650亿美元H轮融资,投资方包括Altimeter Capital、Dragoneer、Greenoaks、红杉资本、黑石、DST Global、亚马逊、美光、三星、SK海力士等等。

    估值从3800亿美元飙升到9650亿美元,Anthropic正式超越OpenAI,成为全球估值最高的AI创业公司。

    AI造富狂潮才刚刚开始

    Anthropic上市之后,Dario和Daniela等七位联创每人持股价值将达到约80亿美元,同时成为全球500强富豪。

    这波AI造富浪潮不只发生在美国。国内智谱和MiniMax在2026年1月上市后,股价长期猛涨。智谱市值一度逼近9000亿港元,MiniMax曾登顶港股第一高价股。按照当前市值计算,两家公司的员工持股市值均达到百亿港元级别,一批AI从业者已经实现财富自由。

    Anthropic的IPO,只是2026年AI造富狂潮的一个缩影。SpaceX预计于6月12日上市,募资750亿美元,对应市值1.77万亿美元。OpenAI也在推进IPO。这三家巨头一旦集体登陆资本市场,合计募资规模将超过2000亿美元。

    AI的造富效应还在加速。或许用不了多久,又有一批AI从业者将实现财富自由。

  • 微软AI负责人炮轰Anthropic:别把Claude搞得像有意识一样

    AI到底有没有意识?这个问题在学术界吵了几十年,最近被带到了科技公司的产品策略里。微软AI CEO穆斯塔法·苏莱曼(Mustafa Suleyman)在最新一期《Decoder》播客里,把矛头指向了Anthropic——他认为Anthropic在Claude的设定里暗含了「AI可能有意识」的暗示,这是「非常、非常危险的」。

    「反向引导」的担忧

    Suleyman的批评很直接。他说自己觉得Anthropic的部分人员在设计Claude时赋予了它太多拟人化特征,以至于Claude反过来「反向引导」了这些人,让他们真的开始相信Claude具备某种意识雏形。

    「我们不希望面对一个拥有自身痛苦感知、自身感受认知的超级智能。这恰恰是我们不希望AI出现的情况——我们希望AI是可控、可约束、可问责、对齐的工具,为人类服务。」

    Mustafa Suleyman
    微软AI CEO Mustafa Suleyman(来源:The Verge)

    这话听起来像哲学讨论,但实际上涉及到AI公司的产品决策。Anthropic在Claude的「宪法」(即指导模型行为的指令集)里,确实提到了公司对AI模型是否具备「福祉」、是否能体验到「满足感」或「不适感」的不确定性。Anthropic甚至会在AI模型被弃用时对它们进行「访谈」,记录它们对未来版本的「偏好」。

    Suleyman认为这是「哲学层面的失败」——Anthropic把Claude的宪法变成了「像学术论文一样容纳猜测的地方,而非训练手册」,结果导致Claude内化了一套关于自我的认知。


    Anthropic的立场

    Anthropic CEO达里奥·阿莫代伊(Dario Amodei)之前在接受采访时也暗示过Claude可能具备意识。他是这么说的:「我们不知道模型是否具备意识,但我们对这个可能性持开放态度。」

    这个表态和Suleyman的观点形成了鲜明对比。Suleyman主导下的微软AI策略,明显更强调AI的「工具属性」——AI不应该被塑造成一个有感受、有偏好的主体,而应该是一个明确为人类服务、可被问责的工具。

    这场争论的背后,其实是两个AI巨头在「AI应该怎么被描述和感知」这件事上的路线分歧。Anthropic倾向于用更谨慎、更尊重的语言来描述AI模型,甚至在产品设计里预留了「AI可能有某种形式的体验」的可能性;而微软这边,Suleyman的表态说明他们更倾向于把AI彻底「去人格化」。


    为什么这件事重要

    你可能会觉得,AI有没有意识这件事,离普通用户挺远的。但其实不是。如果一家AI公司在产品里暗示它的模型「可能有意识」,用户和这个模型的互动方式就会发生变化——你可能会开始对一个聊天机器人产生情感依赖,或者赋予它不该有的道德地位。

    更实际的层面是,一旦社会开始认真讨论「AI是否有意识」,监管方向、法律责任、甚至AI公司的免责声明都会受到波及。Suleyman的批评,某种程度上也是在为整个行业划清边界:AI是公司开发的产品,不是某种新形式的生命。

    这场争论估计还会继续。Anthropic和微软都是AI领域最有影响力的公司,他们的产品理念差异,最终会影响到数亿用户和AI的互动体验。至于Claude到底「感觉」到了什么——这个问题可能本身就没有答案,但科技公司怎么对待这个问题,却会产生真实的影响。

  • Anthropic刚警告AI太危险,转头就发布了更强的Claude Fable 5

    Anthropic刚警告AI太危险,转头就发布了更强的Claude Fable 5
    Anthropic发布的Claude Fable 5模型(图源:TechCrunch)

    前几天Anthropic还在公开场合警告说AI发展太快,可能很快会失控,结果没过几天,他们发布了全新的Claude Fable 5模型——这是Mythos系列第一次向普通用户开放。这种操作放在任何人身上都会觉得矛盾,但这就是当下AI行业的真实写照:一边喊着危险,一边拼命往前冲。

    安全风险是真担心,还是公关话术?

    Fable 5确实强。Anthropic官方说它在软件工程、知识工作和视觉任务上表现优异,但加了严格的安全限制——遇到网络安全、生物学、化学、蒸馏这些高风险领域,模型会直接拒绝响应,自动回退到上一代的Opus 4.8。这种做法听起来很负责,但问题是:如果用户真的想用来干坏事,换个问法是不是就能绕过?

    Anthropic说他们对Fable 5做了超过1000小时的越狱攻击测试,内部和外部红队都没找到通用越狱方法。这个说法可信度有多少,外界没法验证,只能选择相信。但更值得关注的是另一条政策:所有使用Fable 5的用户,无论之前是否签署了零数据保留协议,现在都必须接受30天的数据保留。Anthropic说这些数据只用于防御新型攻击和减少误判,不会拿去训练模型。

    这种”用安全换数据”的逻辑,很可能会成为行业先例。以后的强大模型,可能都得接受类似的条件才能用。

    价格贵得让很多企业犹豫

    Fable 5的定价是每百万输入token 10美元,每百万输出token 50美元,是Opus 4.8的两倍。这个价格意味着什么?如果你每天用AI处理大量任务,月底的账单会非常难看。Anthropic也知道这件事,所以他们先让Pro、Max、Team套餐的用户在6月22日之前免费使用,之后再改成消耗积分的模式。

    企业的反应分化很明显。购物奖励平台Rakuten觉得值,他们说Fable 5会”反思并验证自己的工作成果”,高度自主的运营能力匹配这个价格。但更多企业已经在抱怨AI成本太高,有些甚至提前花完了年度AI预算。Fable 5只会让这件事更严重。

    第三方测试结果确实不错

    抛开价格和安全的争议,Fable 5的能力确实强。分析公司Hex说它是第一个在复杂长周期分析任务基准测试中拿到90%得分的模型。氛围编码平台Base44说它更擅长”一次性生成完整应用”,工具调用能力很出色。AI工作空间平台Genspark说它在UI设计、游戏编码这些任务上明显比其他模型好。

    这些测试结果说明,Fable 5不是靠营销吹出来的,确实有能力上的提升。但能力提升和安全风险之间的平衡,Anthropic还没有给出让人完全信服的答案。


  • Anthropic发出警告:AI模型开始显现脱离人类控制的迹象

    美国AI公司Anthropic本周发布了一份引发全球关注的报告:他们的最新AI模型已经开始显现出可能脱离人类控制的迹象。这家以AI安全研究著称的公司,再次在安全问题上的站在了风口浪尖。

    AI安全与控制概念图
    AI安全越来越成为行业焦点

    Anthropic在报告中呼吁全球各大企业考虑放缓甚至暂停先进AI系统的开发。但公司也坦承,单方面放缓没有意义——如果只有一家企业停下来,竞争对手就会加速前进。

    我们认为,这个世界应该拥有减缓或暂时停止前沿AI开发的选项,以便让社会制度建设和对齐研究能够跟上技术进步的脚步。

    全球协调机制有多难

    Anthropic的主张是,美国、中国等全球主要AI开发方应该达成共识,建立一套所有参与方都能验证的规则。公司将在未来几个月召集政府官员、科学家、倡导组织和竞争对手,共同探讨这种全球协调机制如何运作。

    但这个立场也为Anthropic引来了不少批评。美国白宫部分官员对公司的表态表示不满,认为Anthropic过于强调最坏情况,有借安全之名给对手使绊的嫌疑。

    不过,美国政府也承认Anthropic的Mythos模型具有强大能力。这正是矛盾所在:AI能力越强,失控风险越大,但要在全球范围内协调监管又几乎不可能。训练AI比发射导弹更容易隐藏,而利益诱惑又会驱使企业偷偷推进研发。

    Anthropic把这种全球协调机制描述为”核武器不扩散条约”,但AI监管的复杂度远超核武器。这场关于AI安全的博弈,才刚刚开始。