标签: AI Chip

  • AMD 豪掷 50 亿美元投资 Anthropic,2GW 的 MI450 显卡就位

    这两天 AI 圈又有笔大钱落了地。AMD 在周三官宣,要往 Anthropic 投最多 50 亿美元,同时帮这家公司把算力盘子做大。作为交换,Anthropic 会用上最多 2 吉瓦(GW)的 AMD Instinct MI450 系列 AI 显卡,跑在 AMD 新推出的 Helios 机架级系统上。

    AMD 与 Anthropic 达成最高 50 亿美元战略合作
    AMD 将向 Anthropic 投资最多 50 亿美元,并部署 MI450 系列 AI 显卡。(图源:The Verge)

    光看数字可能没感觉,拆开说就明白了。2GW 是什么概念?大概相当于两座中等城市全年的用电峰值压进一堆机房里。Anthropic 计划先在 2027 年上半年把第一座 1GW 的集群点亮,剩下的后续铺开。这事儿最早是《华尔街日报》捅出来的,AMD 自己随后发了公告确认。

    “通过与 AMD 在全栈层面合作,我们既锁定了需要的算力容量,又能针对 Claude 的训练和推理做优化。” —— Anthropic 联合创始人、首席计算官 Tom Brown

    为什么是 AMD,而不是老朋友英伟达

    过去提到前沿模型的算力,大家默认就是英伟达的卡。Anthropic 虽然也不是纯英伟达阵营——它之前就搭过 Google 的 TPU、Amazon 的 Trainium——但 AMD 能拿下一家顶级实验室的”主粮”订单,意义不一样。MI450 是 AMD 今年力推的新一代 Instinct,配上 Helios 这种把计算、网络、散热打包好的机架方案,摆明了是要正面啃英伟达的蛋糕。

    对 AMD 来说,这笔买卖不只是一张订单。Anthropic 是当下最能打的大模型团队之一,它的背书等于给 MI450 做了一次硬核实测广告。往后别的公司采购时,心里会多一个”连 Anthropic 都在用”的参照。

    Anthropic 的算力拼图越铺越大

    把这次合作放进水里看,Anthropic 最近在算力上的动作密集得有点吓人。它前面已经和 SpaceX、TeraWulf 签了数据中心协议,又拉着 Google、博通(Broadcom)搞了一笔不小的基建交易,和 Amazon 也有算力方面的合作。甚至有传闻说,它跟 Meta 之间也可能谈成类似的租赁协议。

    一家原本以”安全优先”出名的实验室,现在像在同时下好几盘棋:一边要保证训练和推理用的算力源源不断,一边还得把供应方分散开,别被任何一家芯片厂绑死。2GW 的 AMD 卡,就是这张网里最新、也最显眼的一根线。

    钱之外的那层合作

    这次不是单纯的”我买你股票、你买我显卡”。双方还签了个多年工程协作:AMD 会把 Anthropic 的 Claude 用到自己的软件开发、工程和产品的日常流程里。换句话说,卖卡的人自己先成了重度用户——用 Claude 来写代码、做工程决策,等于把客户的工具嵌进了供应商的研发流水线。

    这种”你用我的模型优化我的芯片,我拿你的算力跑你的模型”的闭环,正在成为大厂之间的新默契。对 Anthropic 而言,多一个强力算力后盾;对 AMD 而言,多一个能帮它把软件生态磨顺的顶级伙伴。

    • AMD 最多投 50 亿美元,Anthropic 部署最多 2GW 的 MI450 显卡;
    • 首批 1GW 计划在 2027 上半年上线,基于 Helios 机架级系统;
    • Anthropic 近期算力合作已覆盖 SpaceX、TeraWulf、Google、博通、Amazon;
    • 双方另有多年工程协作,AMD 将 Claude 引入内部研发流程。

  • 前Google Brain研究员用AI智能体替非英伟达芯片写底层代码

    上个月,Jeremy Nixon 悄悄把一家公司推到了台前。这家叫 Infinity 的初创公司刚宣布拿到 1500 万美元融资,估值 1 亿美元,投资方里除了 Touring Capital、Principal VC,还有来自 OpenAI 和 Anthropic 的研究员个人。Nixon 本人是个有意思的人——他曾在 Google Brain 做研究,也是黑客社区 AGI House 的创始人。真正让外界注意到他的,是他抛出的一个有点狂的念头:AI 系统本身,能不能成为一种「元技术」,自己发明新东西。

    从「自动发明算法」到「自动写芯片代码」

    早在做 Infinity 之前,Nixon 就捣鼓过一个叫 Omega 的机器学习算法。它的特别之处在于,能自己创造出新的机器学习算法,然后在一个反馈回路里自动评估好坏。那次成功让他开始琢磨:这套思路能不能挪到别的地方?他盯上了硬件——自动化系统或许也能生成那些让芯片跑得更高效的底层代码,比如内核(kernel)这一类东西。

    英伟达的护城河,一半是软件

    这里得先说清楚一件事。很多人以为英伟达厉害是因为芯片性能好,这当然没错,但另一半答案藏在 CUDA 里。CUDA 是英伟达的软件层,让原本为图形设计的 GPU 能当通用处理器用,PyTorch、TensorFlow 都建在它上面。开发者用 Python 写应用,默认就跑在英伟达的卡上。问题是,绝大多数应用层公司既没资源也没本事自己写内核、把应用移植到别的芯片上。

    Nixon 想做的,是把 CUDA 这套「让芯片好用」的活儿交给一个 AI 智能体来干,而且不挑芯片——SRAM、GPU、手机芯片、Systolic Array 统统能适配。

    一个会自己改自己代码的智能体

    Infinity 的核心产品叫 Ignition,是个 AI 研究智能体。它的任务很硬核:为那些想挑战英伟达的芯片写 AI 推理所需的底层代码。它会测试、调试,测量硬件在这套代码下跑得快不快,不行就自动重写,直到性能提上去。整个系统是自优化的,会持续学习、自我改进,而且能适应不同的芯片架构,不管对方是不是闭源的。

    不收授权费,只抽性能提升的成

    这种打法听起来很「AI 原生」。Nixon 说,客户里已经包括 AI 芯片公司 D-Matrix——一家立志挑战英伟达的玩家,同时 Infinity 还在和其他大芯片厂、云厂商谈。更妙的是它的收费模式:不收前置授权费,而是从性能提升和成本节省里抽成,衡量的指标很直接,就是每秒令牌数(tokens per second)的变化。在一个案例里,这个智能体把原本可能要花几年或几个月的过程,压缩到了几小时或几天。

    • Infinity 不是第一家想拆英伟达墙角的公司,但它走的是「逐产品蚕食」的软件路线,而不是去造另一块卡。
    • 人类并没有被踢出局,而是给智能体定大方向,繁琐的体力活交给它。
    • 公司目前只有 26 个人,分布在设计、运营和工程岗。

    把视角拉远一点,Infinity 其实是这一波「AI 基础设施去中心化」浪潮里的一朵浪花。当训练和推理不再被绑死在某一家厂商的软件栈上,更多芯片公司才有机会把货卖出去。这条路能不能走通,取决于 Ignition 真能在不同架构上稳定逼近 CUDA 的水平——这是个需要时间验证的承诺,不是今天就能盖棺的事。

    Infinity 创始人 Jeremy Nixon
    Infinity 创始人 Jeremy Nixon(图源:TechCrunch)
  • 英伟达 Agent Toolkit:把 AI 智能体搬上桌面工作站

    英伟达最近给自家最强的台式工作站 DGX Station 塞进了一套新工具:Agent Toolkit。官方说,开发者只要三步、大概半小时,就能在本地把 AI 智能体跑起来——不用连云,模型和数据都留在你自己的机器上。

    本地 AI 智能体工作站概念图
    英伟达把智能体能力带到了桌面级工作站

    DGX Station 本身就不好惹,里面是一颗 GB300「Blackwell Ultra」GPU。Agent Toolkit 的价值,是把原来得靠云 GPU 集群才能玩转的复杂智能体,搬到了桌面端。

    借助 Omniverse 库,智能体可以在本地的安全运行时里调用工具与技能,完全不需要连接互联网。—— NVIDIA

    这一套到底装了什么

    它不是单个软件,而是一整个软件栈:

    • NemoClaw:开源的智能体蓝图,把模型、运行框架和 runtime 打包,方便团队照着自己的业务改
    • Nemotron 3 Ultra:一个 5500 亿参数的开放大模型,专为 DGX Station 优化,可以本地微调
    • Omniverse 库:把智能体接到物理仿真和 3D 工作流,机器人训练、自动驾驶仿真都能本地跑
    • OpenShell:开源的安全运行时,给智能体套上沙箱,按策略管住它碰什么工具、什么数据

    为什么是现在

    硬件底子是 GB300 超级芯片,最高 20 petaflops 的 FP4 算力、748GB 统一内存;网络用 ConnectX-8,带宽到 800GB/s,还能两台 DGX Station 并联扩容。NVIDIA 还拉上 Adobe、Blender、Unreal、Epic、Foundry、Canva 等伙伴做 MCP 接入,让智能体直接进到这些创作工具里干活。

    更关键的是战略转向。当资本市场开始计较 AI 的投资回报,英伟达把 Agent Toolkit 和 Omniverse 绑在一起,等于在说:我不只卖算力硬件,还想在你的工作站上长出一套软件生态。对怕数据出公司、又想快速迭代的企业来说,本地跑智能体确实少了一层顾虑。


  • Etched走出隐身:50亿美元估值、10亿美元订单,专打AI推理芯片

    一家芯片公司从隐身模式里走了出来

    Etched这家公司以前低调得很,但最近它直接把成绩单摊在了桌上:芯片已经由台积电成功制造出来,累计拿下了10亿美元的系统订单,整体估值也到了50亿美元。它的方向很专注——做Transformer推理专用的芯片和整机系统,专门帮前沿模型更快、更便宜地跑推理。

    所谓推理,就是用户输入问题后模型真正生成答案的那一步。对今天的AI公司来说,这一步既是用户体验的瓶颈,也是最大的成本中心。谁能把推理成本压下去,谁就能让大模型服务更便宜、响应更快。Etched赌的正是这一点。

    Etched已签10亿美元客户订单,累计融资8亿美元,最新一轮由Stripes领投,投后估值50亿美元。

    这家公司2022年成立,创始人Gavin Uberti和Robert Wachen都是哈佛辍学生,后来拿了Peter Thiel的Thiel Fellowship。其实他们早在2024年就跟TechCrunch聊过芯片计划。那时候他们已经从Primary Venture Partners等投资人手里拿到超过1.25亿美元。不过据他们在Patrick O’Shaughnessy的播客里回忆,2023年最初融资时非常艰难,他们拿着30页备忘录讲“AI未来需要专用芯片,而不是通用GPU”,结果几乎每个大投资人都拒绝了。

    投资人名单豪华,但市场考验才刚开始

    现在融资环境完全是另一个世界。Etched披露的累计融资额是8亿美元,其中去年12月那轮未公开的融资由Stripes领投,金额约5亿美元,估值50亿美元。参与方包括VentureTech Alliance、Jane Street、Hudson River Trading、Two Sigma、Ribbit Capital,以及Andrej Karpathy、Geoffrey Hinton、Fei-Fei Li、Arthur Mensch、Scott Wu等AI界名人。Peter Thiel和Stanley Druckenmiller也在股东名单里。

    不过融资热归融资热,芯片能不能真正兑现性能,还需要独立测试。Etched目前在做的是“前沿推理集群”——把芯片、定制机柜和软件打包成一套系统。它说自己比Nvidia的GPU更快、更省电、更便宜,但这些数字来自公司自己,真实世界表现还得等客户大规模部署后才能验证。

    AI推理芯片概念图
    专用AI推理芯片正试图从通用GPU手中抢走推理市场。

    在这个赛道里,Etched不是孤例。Cerebras今年率先IPO,Groq刚刚完成6.5亿美元融资,亚马逊、Google、微软都在做自己的AI芯片,OpenAI也推出了和Broadcom合作的首款定制芯片。推理芯片的竞赛正在升温,每家公司都在赌自己的路线。


    对AI行业来说,推理芯片的稀缺性正在被放大。训练一度是最大难题,但现在越来越多公司发现,真正烧钱的其实是服务用户时的推理。Etched的崛起说明,资本市场已经把这个环节视为下一个主战场。至于它能不能撼动Nvidia,还要看第一批客户订单交付后的实际表现。

  • SambaNova再融10亿美元、估值110亿:AI芯片烧到了银行金库

    SambaNova AI推理芯片与本地数据中心
    SambaNova 押注「本地推理」,把大模型放进企业的自有机柜里(配图由 AI 生成)

    AI 芯片公司 SambaNova 又拿到钱了。这轮 F 轮融资刚完成「首关」,金额 10 亿美元,估值冲到 110 亿美元,领投方是 General Atlantic。公司 CEO 兼联合创始人 Rodrigo Liang 跟 TechCrunch 说,接下来几周还会有更多投资人进来,第二关很快收尾。距离上一轮 3.5 亿美元的 E 轮,才过去五个月。

    这家 2017 年在加州帕罗奥图成立、如今九岁的公司,节奏明显在加快。今年 2 月它刚发布了新一代芯片 SN50,当时顺手拿了 E 轮的钱;现在 F 轮又来了。Liang 对「要不要一直独立」这个问题打起了太极——他说公司一直有人来打听收购,门没关死,但眼前的势头和增长「大概率会把它推向上市」。

    和英特尔越绑越紧

    SambaNova 跟英特尔的关系,比外界以为的更深。英特尔从 C 轮就是股东,这一轮也跟进了,两边还签了多年的合作,基于英特尔的至强(Xeon)芯片一起做 AI 推理产品,共同开发、共同卖。「这让我们能借英特尔的体量,放大自己的技术」,Liang 是这么说的。去年底彭博还报过英特尔想以约 16 亿美元收购 SambaNova 的消息,谈判最后黄了。

    「摩根大通决定用 SambaNova 做推理方案,这是件大事。它给银行业放了句话:是时候别完全依赖云服务了,这些银行想要的是异构的基础设施。」

    这话说的是一桩新买卖:摩根大通选了 SambaNova 当「推理基础设施伙伴」,用它的 SN40L 和 SN50 系统在银行内部跑安全、私有的 AI 推理。在 Liang 看来,像摩根大通这种级别的银行开始自建私有、安全的推理环境,是一个会超出金融业本身的信号——企业和政府「才刚刚踏上 AI 这条路」,之前的增长都集中在模型公司和前沿实验室手里,剩下的「大把收入」还在桌上。

    把万亿参数模型塞进一个机柜

    SambaNova 给自己找的差异化定位是「高端推理」——专门跑最大的模型,而且跑得快。现在的前沿模型动辄上万亿参数,SambaNova 的卖点就是能把多万亿参数的模型装进单个机柜,从而跑出速度。SN40L 在 2023 年 9 月发布,云上和本地都能用;SN50 今年 2 月亮相,计划 2026 年下半年开始给客户发货,软银是它的第一个部署伙伴。


    Liang 把客户分成三类:一是主权云(政府出钱扶本地伙伴建私有云),二是新锐云(neocloud),三是自己搭设施用的企业。除了摩根大通,沙特阿美、英特尔和一些日本企业也在客户名单上。

    这 10 亿美元主要用来两件事:把生意做大规模,以及在这波「难以置信的需求浪潮」里把供应链锁住。Liang 的原话是,钱要用来确保供应链,好兑现订单、买齐未来 12 个月要交付的材料。本轮跟投的名单很长,Seligman Ventures、T. Rowe Price、Capital Group,还有黑石、卡塔尔投资局(QIA)、Vista Equity Partners 等等都在里面。

    看下来,SambaNova 赌的其实是一个正在发生的转向:当云上的通用算力越来越贵、也越让人不放心,大机构开始想把最关键、最敏感的模型搬回自己的机房。芯片、合作、客户订单,都朝着这个方向摆。至于它最后是被收购还是敲钟上市,Liang 留了个活口——但这个市场里,「总有人来敲门」本身就是一种底气。

  • 法国初创ZML发免费工具:让各家AI芯片跑得一样快

    过去几年,只要聊到跑大模型,大家脑子里默认就是英伟达的卡。这种局面短期内还结束不了,但挑战者确实从四面八方冒了出来。最近巴黎一家叫 ZML 的初创公司丢出了一件免费工具,想做的事情挺大胆:让同一套开源大模型,能在英伟达、AMD、谷歌 TPU、苹果 Metal 甚至英特尔 Arc 的芯片上都跑得一样快。

    一个被图灵奖得主点名的小团队

    ZML 的创始人叫 Steeve Morin,圈内人可能更熟悉他上一个作品——Zenly,那个被 Snapchat 在 2017 年砸了九位数美元收购的社交地图应用,Morin 当时是工程副总裁。这家新公司本身规模不大,只有 20 个人,却让图灵奖得主、AI 圈泰斗 Yann LeCun 都公开点过赞。光看阵容,ZML 不像临时起意凑热闹的团队。

    他们刚发布的产品叫 ZML/LLMD,本质上是一个大模型推理服务器。Morin 跟 TechCrunch 说,他们的野心是打破现在各家芯片各自为战的孤岛状态,让不同的芯片都能以自己最快的速度、甚至比原厂还快的速度去跑 AI 任务。

    异构AI芯片在统一软件层上协同推理
    ZML 想用一层软件把不同品牌的 AI 芯片连起来,跑同一套模型

    它到底在解决什么麻烦

    随着 AI 一点点渗进我们的工作和日常,怎么把模型”跑起来”(也就是推理、处理用户提问)这件事,重要性已经悄悄超过了训练模型本身。可现实中这块体验并不顺滑,软件架构的壁垒把大家锁死在单一供应商身上,想换芯片?成本高得劝退。

    Morin 的原话是:想法是”把创造自己系统的权力还给大家,让 AI 真正扩散开,而不是被几家大厂攥在手里”。

    对企业来说,这意味着可以混搭不同类型的芯片——有些更便宜,有些更省电。ZML 这套软件辅助,顺势也能帮一把那些名气没那么响的新锐芯片厂,Morin 一口气点了好几家欧洲的:Axelera、Fractile、Kalray、Q.ANT、SiPearl 等等。对他而言,产地其实没那么重要,关键是 ZML 能和他们一起做”全世界还没人做过的事”。

    为什么大厂都在盯着”推理”这块肥肉

    推理赛道早就是兵家必争之地,有人直接把它叫”推理淘金热”。ZML 的对手不算少:估值冲到 130 亿美元的 Baseten、脱胎于开源项目 vLLM 的 Inferact、背后是 SGLang 的 RadixArk。vLLM 和 SGLang 跟 LLMD 多少有些重叠,但 Morin 的胃口明显更大。

    • 他放话说,ZML 已经走到”和芯片一起做联合设计”的阶段,不只是写上层软件。
    • 团队虽小,钱却不少——早年就融了 2000 万美元,投资方里既有 Harry Stebbings 的 20VC,也有 Xavier Niel 的 Kima Ventures。
    • 股东名单也挺唬人:Docker 创始人 Solomon Hykes、Hugging Face 的 Clément Delangue 和 Julien Chaumond,还有 LeCun 本人。

    有意思的是,Morin 并不唱衰英伟达。他说双方关系其实不错,毕竟英伟达自己也在为推理时代的到来做准备。ZML 想做的是在英伟达之外,给大家多一个不绑死的选择。

    免费,但野心一点不小

    ZML 最早在 2024 年开源过一个机器学习框架,今年三月还更新过。但这次的 LLMD 没有走开源路线,而是以免费产品的形式推出,目的很实在——先看看大家怎么用,再决定怎么赚钱。”我宁愿先量一量,在最有价值的地方收钱,也不想一上来就贪心把增长憋死。”Morin 这么说。

    现在判断 LLMD 什么时候变成付费产品、又能拿下多少用户,显然还太早。但从资本和同行的反应看,欧洲确实开始长出能在家门口做成事的 AI 公司了。Morin 说得很直白:”除了巴黎,我哪儿都做不出 ZML。”


  • 三星利润暴涨19倍背后:AI数据中心把内存芯片买疯了

    堆叠的AI高带宽内存芯片与数据流动
    AI数据中心对高带宽内存(HBM)的渴求,正把三星的利润表彻底改写

    三星电子刚交出的二季度成绩单,把整个市场都看愣了。运营利润同比翻了大约19倍(折算下来就是1400%的涨幅),这个数字甚至超过了它过去三年的利润总和。你很难想象一家上年同期还在为内存价格探底发愁的巨头,能在一年的时间里完成这种级别的反弹。

    但别误会,这跟手机卖得多好没什么关系。真正把利润表顶上去的,是AI数据中心在疯狂扫货内存芯片。

    HBM,这场反弹的真正引擎

    核心角色叫HBM,高带宽内存。当英伟达、AMD这些GPU厂商拼命往外吐新一代显卡时,背后需要一种能在极短时间内吞吐海量数据的内存来配合。这种专用芯片单价高、工艺难,谁能量产谁就能吃下AI服务器的订单。

    有意思的是,三星在这块业务上曾经被老对手SK海力士压着打。但这一季它明显追了回来——靠着HBM3E和更新的HBM4拿下了关键供货协议。分析师们的判断很直接:需求已经不单纯来自亚马逊、谷歌这类传统云厂商了,几乎每个想把生成式AI塞进自家业务的行业都在抢内存。供给追不上需求,三星的议价权和利润率自然就上去了。

    有分析师点破得很直白:只要AI还是全世界企业的头等优先级,能造出最尖端内存的厂商,就站在了价值创造的正中央。

    不只是HBM,普通内存也回暖了

    除了高端的HBM,普通的DRAM和NAND闪存价格也结束了长期供过于求的状态,慢慢爬了回来。这两块业务的复苏叠在一起,才把整体业绩推到了这个高度。

    一个细节很能说明问题:三星内存芯片部门的员工,今年平均能拿到约34万美元的年终奖。一家公司愿意为某个部门开出这种级别的奖金,往往意味着那个部门正在替全公司赚大钱。

    三星的下一注:2纳米和端侧AI

    赚钱之外,三星也在为下一阶段铺路。它在代工业务上砸下重金,押注2纳米制程去跟台积电抢地盘;Galaxy手机则把”端侧AI”当成了核心卖点,想守住移动市场的底盘。

    • HBM4计划在2026年进入量产,支撑参数规模上万亿的AI模型;
    • 同步探索CXL和存内计算(PIM)等新架构,试图绕开数据传输的瓶颈;
    • 但中美出口管制和CHIPS法案要求在美国扩产,是绕不开的外部变量。

    三星这份成绩单,其实是AI基础设施狂热的一面镜子。它提醒我们,在这场看似关于模型和算法的竞赛里,最底层的那块硅片,同样能决定谁赚得盆满钵满。

    📎 原文来源:$am$ung. | The Verge(综合 Reuters 报道)
  • SpaceX悄悄做了一个AI设备原型,比iPhone更薄

    马斯克又要搞新东西了。这次不是火箭,不是电动车,而是一款AI硬件。

    SpaceX AI设备原型概念图
    SpaceX AI设备原型概念图(AI生成)

    《华尔街日报》最近报道,SpaceX已经向投资者展示了一款”手持式”AI设备的原型。据看过原型的人说,这台设备比iPhone更轻薄,外形介于小屏触控手机和Rabbit R1之间。

    消息一出,马斯克在X上直接否认,说报道”完全失实”。但有趣的是,SpaceX确实已经把这款设备给部分投资者和利益相关方看过了,而且明确告诉他们产品还在早期,设计随时可能改动。

    马斯克否认了报道,但SpaceX展示原型这件事本身,已经说明他们在认真考虑这件事。

    SpaceX做硬件,不是闹着玩的

    很多人听到”AI硬件”四个字,脑子里第一个冒出来的可能是Humane AI Pin,或者Rabbit R1——这两款产品上市后的表现,说好听点是”不及预期”,说难听点就是翻车了。

    但SpaceX(以及同门的Tesla)和那些创业公司不一样。它们有大规模制造的经验,有供应链的话语权,更重要的是,它们能拿到足够的芯片。AI设备最怕的不是设计出问题,而是造不出来——这一点上,马斯克手里的资源比大多数硬件创业者多得多。

    还有一点值得注意:SpaceX最近在无线业务上动作不少,Starlink Mobile已经在和Verizon、AT&T抢生意。有分析师甚至猜测,T-Mobile或者AT&T都有可能成为SpaceX的收购目标——当然,这种收购花销不会小。

    在跟OpenAI赛跑

    这套打法听起来很熟悉,对吧?OpenAI也在做差不多的事——他们找来了苹果前首席设计官Jony Ive,正在开发一款AI硬件设备。Sam Altman说过,这台设备会比iPhone”更平和、更宁静”。

    但根据去年的报道,OpenAI的硬件项目进展并不顺利,细节一直定不下来。上周还有消息说,负责Vision Pro的苹果VP Paul Meade已经跳槽去了OpenAI的硬件团队——看得出来,Altman在拼命补强硬件人才。

    SpaceX的原型据说也是类似的思路:运行在自己的操作系统上,集成了xAI的技术(马斯克今年早些时候把xAI并进了SpaceX)。这意味着这台设备不会依赖Android或者其他公司的平台,从底层就是为AI交互设计的。


    消费者买不买账,是另一回事

    说到底,SpaceX有没有能力把AI设备造出来,和消费者愿不愿意买,是两码事。Humane和Rabbit的前车之鉴就在那里——投资者和科技媒体可以为AI硬件激动,但普通用户拿到手里之后,会不会真的每天用它,这是谁也说不准的事。

    目前这台设备还处在原型阶段,设计随时可能改,SpaceX也没有公开任何发布时间表。马斯克本人否认了相关报道,所以这件事的真实性,可能还要等一段时间才能见分晓。

    但不管最终产品出不出来,这个方向本身已经说明问题:AI公司(或者说AI大佬们)不再满足于只做软件了,他们想把AI装进一个能拿在手里的东西里。至于这个东西到底长什么样、好不好用,可能2027年我们就会有答案。

  • Anthropic找三星代工AI芯片,想摆脱对英伟达的重度依赖

    Anthropic正在认真考虑找三星帮忙制造自家定制的AI芯片,这是它应对算力短缺、减少对英伟达依赖的最新动作。

    Anthropic与三星合作开发AI芯片
    Anthropic与三星探讨定制AI芯片合作,试图在算力基础设施上掌握更多自主权

    从设想到落地

    早在今年4月,路透社就报道过Anthropic在考虑自研AI芯片。现在看起来,这个想法正在落地。

    据The Information报道,Anthropic已经和三星接触,探讨在待定的芯片项目上合作。不过报道也提到,Anthropic还没决定这颗芯片具体用来干什么、怎么放进服务器、性能要做到什么程度。

    Anthropic对TechCrunch的回复比较谨慎,只说包含谷歌、亚马逊和英伟达芯片在内的多元化硬件堆栈,对其算力战略来说依然至关重要。至于和三星的潜在合作,公司表示暂时没有更多信息可以分享。

    芯片从设想到量产,周期一般以年计算。Anthropic的这颗芯片什么时候能真正跑起来,目前还是个很大的问号。

    AI公司为何纷纷自研芯片

    这件事的背景是,越来越多的AI公司开始认真考虑自研或定制芯片。原因有两个:一是可以确保供应链的独立性,不再完全受制于英伟达;二是针对特定计算任务定制硬件,可以在能效和性能上做到更好的平衡。

    就在上周,Anthropic的主要竞争对手OpenAI刚刚宣布跟博通(Broadcom)合作,推出了自己的定制推理处理器,代号”Jalapeño”。OpenAI称这颗芯片在能效比上比竞争对手的方案更出色。

    亚马逊和谷歌其实早就在做类似的事了——亚马逊有Trainium,谷歌有TPU,都是作为云服务的一部分提供给客户使用的。


    三星在AI产业链里的关键位置

    三星在AI产业链里的位置也很关键。它已经是英伟达的重要合作伙伴,帮英伟达生产用于训练或运行AI模型的芯片。反过来,三星也用英伟达的软件来制造自己的芯片。

    两家公司还在韩国合建一座AI芯片工厂,并且三星据传也在和谷歌讨论代工其下一代AI芯片的事宜。

    Anthropic如果真的推进这颗定制芯片,意义不只是”多一个供应商”那么简单。它意味着这家以安全研究闻名的AI公司,正在从单纯的软件层面向硬件基础设施延伸,试图在自己的手里掌握更多的技术自主权。

  • Anthropic找三星谈定制芯片,AI军备竞赛烧到了硬件层

    Anthropic找三星谈定制芯片,AI军备竞赛烧到了硬件层

    Anthropic与三星讨论定制AI芯片
    Anthropic正与三星讨论合作开发定制AI芯片

    四月份路透社曾经报过,Anthropic在认真考虑自己搞AI芯片。当时看起来还只是个想法,结果现在看来,他们是动真格的。

    本周,The Information曝出Anthropic正在跟三星接触,讨论合作开发一款定制AI芯片。不过从目前披露的信息来看,这款芯片具体要用来干什么、怎么塞进服务器、性能要做到什么程度,Anthropic自己也没想清楚。

    我联系了Anthropic要评论,对方给了一个比较官方的回复,说他们会继续依赖多元化的硬件组合,包括谷歌、亚马逊和英伟达的芯片。这话没毛病,但也没否认跟三星谈合作的事儿。至于三星这个潜在合作伙伴,Anthropic说暂时没什么好补充的。

    AI公司为什么要自己做芯片

    这事其实不难理解。最近一两年,AI公司自己做芯片已经成了某种”潮流”。原因也很简单——针对特定计算任务定制硬件,效率肯定比通用芯片高;更重要的是,大家都想减少对英伟达的依赖。黄仁勋的公司现在是AI芯片领域毫无争议的霸主,但这种局面,无论是OpenAI、Anthropic还是谷歌,其实都不太舒服。

    上周OpenAI刚宣布了跟博通合作的定制推理芯片”Jalapeño”,据说在性能功耗比上比竞品更有优势。亚马逊的Trainium、谷歌的TPU,早就作为云服务提供给客户用了。

    OpenAI的”Jalapeño”芯片是跟博通合作的,主打推理效率。Anthropic如果真的跟三星敲定合作,很可能会走类似的路——先从中低端推理芯片做起,再逐步往训练端渗透。

    三星在AI产业链里的位置也很微妙。它本来就是英伟达的重要合作伙伴,帮英伟达生产训练模型需要的芯片,同时又用英伟达的软件来制造自己的芯片。两家还在韩国合建了一座AI芯片工厂。除此之外,三星跟谷歌也有过芯片制造方面的讨论。

    所以Anthropic找上三星,逻辑上是通的。三星有制造能力,有跟AI公司合作的经验,而且产能压力不像台积电那么大。


    硬件自主可控,下一阶段核心竞争力

    但这件事也透露出一个信号:大模型公司的竞争,已经不只是模型能力、应用生态这些软件层面的东西了。硬件自主可控,正在变成下一阶段的核心竞争力。

    当然,从”在谈”到”芯片真正做出来、用起来”,中间还有很长的路。Anthropic自己都没想清楚这款芯片的定位,说明项目还非常早期。不过,光是”Anthropic在跟三星谈”这个事实本身,就已经值得关注了。

    说到底还是一个”卡脖子”的问题。现在训练大模型,最烧钱的部分之一就是算力,而算力很大程度上取决于你能买到多少英伟达的GPU。如果英伟达产能跟不上,或者优先供货给某些客户,那其他公司就会很被动。

    自己掌握芯片设计,哪怕只是部分自主,也能在跟英伟达谈判的时候多一张牌。这不是Anthropic一家在想的事,整个行业都在往这个方向走。

    对三星来说,这笔潜在合作也有不小的价值。三星的代工业务一直以来都被台积电压着打,如果能拿下Anthropic这个大客户,对提升自己在AI芯片制造领域的话语权很有帮助。