标签: AI基础设施

  • Altman 给马斯克的太空数据中心泼了盆冷水

    太空中的数据中心概念图
    把算力搬进轨道,听起来很未来,账却没那么好看(图:TechCrunch / Getty)

    这个周末,Sam Altman 和 Elon Musk 在 X 上又吵了起来。Musk 骂 Altman 是骗子,Altman 回了一句挺损的话:老兄,你才是那个向公开市场投资者推销”短期太空数据中心”的人。

    撇开”老兄”这种称呼不谈,Altman 其实说出了很多专家心里的话,只是公开市场好像一直在装没听见:太空数据中心短期内根本成不了一门正经生意。

    两万亿估值,很大一块押在轨道算力

    SpaceX 计划发射一队轨道数据中心,专门跑 AI 推理任务。这件事正是它两万亿美元估值的重要支撑。看多的分析师说,这些算力要么喂给自己旗下的 SpaceXAI 模型,要么当一座”轨道新云”,在 AI 热潮里前所未见。

    可当你真去问行内人——不管是其他太空数据中心创业公司的创始人、Google 做轨道计算项目的团队,还是纯粹出于兴趣算过账的工程师——得到的答案出奇一致:在我们拥有更便宜的火箭、能低成本量产高功率卫星之前,这事儿掀不起什么水花。

    Musk 的杀手锏,依然是 Starship

    对于这种质疑,Musk 的回答很好猜:Starship。这款巨型火箭预计 7 月 16 日迎来第十三次试飞。只要能让它一遍遍飞起来,数据中心的商业逻辑就立住了。

    但现实没那么顺。即便这次两级都成功回收,真正运营级的可重复使用可能还要等好几年;而且太空数据中心的发射,大概率得给 SpaceX 对 NASA 的承诺、以及自家的 Starlink 网络让路。更关键的是,SpaceX 在 IPO 路演里自己都承认,Starship 短期内可能无法完全复用,每次发射都得扔掉第二级——这直接掐死了”经济型太空数据中心”的念想。

    所以 Musk 那句”我们明年就开始飞”,听着就有点虚。明年发射一颗能高速处理数据的卫星,SpaceX 绝对做得到;真正的问题是,它什么时候能规模化地发射和制造。这个问题的答案,大概率得去 2030 年代找。


    专家真正担心的三件事

    • 散热:在地面上你可以靠风扇加大型空调把热带走,到了轨道,只能靠又重又复杂的散热器,相当于在没抽油烟机的厨房里开大火。
    • 维修:服务器总会坏,地面几分钟换块硬盘,太空里每次维修都是一次发射任务。
    • 组网:AI 训练依赖高带宽、低延迟、稳定的链路,在轨道上把这件事做到大规模,至今还是个头疼问题。

    当然,也有少数窄场景站得住:对地观测就近处理、某些国防和遥感任务,或者哪天发射成本再降一个数量级。但这些更像是补充,而不是替代地面的 AI 集群。

    这件事之所以值得聊,是因为 AI 产业已经快把电网、冷却和芯片供应链挤爆了。所以一旦有大佬画出”轨道基建”的饼,所有人都竖起耳朵。只是别光看演示有多炫,得用最朴素的约束去量:相比在地球上,你到底多得到了什么?

  • Meta要把富余算力租给Anthropic,百亿美元协议藏着什么信号

    AI行业里最微妙的一幕出现了:Meta,这个社交媒体巨头,正在和Anthropic谈一笔可能高达100亿美元的生意——把自家数据中心的AI算力租给竞争对手用。据《纽约时报》报道,双方初步谈的是两年期协议,按月付费,任何一方都可以提前退出。这不像一份稳固合同,更像一份带有期权性质的“算力期货”。

    Anthropic不是第一次这么干。今年5月,它刚和SpaceX签了一份三年450亿美元的算力租赁协议,用Colossus 1的GPU资源跑付费订阅服务。4月,它跟Google和博通签下5GW的下一代TPU容量;两周后又和亚马逊签了最高5GW的新协议,承诺未来十年在AWS技术上砸超过1000亿美元。所以,Anthropic同时找Meta买算力,说明它觉得单一供应商已经喂不饱自己了。

    扎克伯格今年5月在股东会上说,几乎每周都有外部公司问能不能买Meta的算力,而且愿意溢价。“我们还没这么做,因为我们觉得自己用得上。”现在谈判开始,意味着Meta可能觉得自己手头的卡,开始多起来了。

    Meta为什么要当“算力房东”?

    Meta今年的资本支出预计最高达到1450亿美元,几乎翻倍。这么多钱砸下去,投资者当然会问回报率在哪。广告收入虽然稳,但满足不了市场对“AI故事”的期待。把富余算力租出去,哪怕只是杯水车薪,也能把成本中心的一部分变成现金流,顺便验证“算力即服务”的商业逻辑。

    更值得玩味的是人事信号。前亚马逊AWS高级负责人Dave Brown已经加入Meta,负责基础设施。一个做云生意的老手,跑到一个几乎不卖云的公司里管基础设施,摆明了是在为云计算业务铺路。

    但这件事离“落槌”还很远

    • 谈判还在早期,双方都能提前退出,100亿美元只是理论上限。
    • Anthropic要把自己的Claude模型跑在Meta的基础设施上,技术和安全磨合是个大工程。
    • Meta自己的Llama、Reels推荐、Meta AI都还在疯狂吃算力,真有多少“富余”还不好说。
    • 把算力租给竞争对手,长期来看会不会养虎为患,也是Meta内部会争论的问题。
    Meta与Anthropic算力租赁示意图
    AI算力正在从“内部消耗品”变成可交易的战略资产。

    这件事真正的意义不在100亿本身。它标志着AI算力正在从“军备竞赛里的弹药”变成“可交易的大宗商品”。从SpaceX到Meta,科技巨头纷纷把自己的GPU集群对外出租,而Anthropic这种顶级模型公司则在到处锁定长期供给。供需两端的紧张,远比任何一份合同的金额更能说明行业的真实状态。

  • AI抢走了内存芯片,印度人先买不起手机了

    几个月前分析师就提醒过,AI 疯狂吃内存芯片,早晚会传导到我们买的手机、笔记本上。现在印度成了第一个明显中招的地方——手机越卖越贵,出货量掉得厉害。

    印度智能手机市场受内存芯片涨价冲击
    AI 数据中心和你的手机,正在抢同一批内存芯片

    先说清楚问题出在哪。手机里的 RAM 和存储芯片,跟建 AI 数据中心要的其实是同一类东西。三星、SK 海力士、美光这些厂商发现,把产能挪去做 AI 加速器用的高带宽内存(HBM),单片晶圆赚的钱多得多,于是纷纷转产。结果就是给手机、电脑用的普通内存供给变少、价格上去了。

    印度为什么比中国还惨

    按出货量算,印度是仅次于中国的全球第二大手机市场。据 Counterpoint Research 的数据,今年第二季度(4 到 6 月)印度智能手机出货同比掉了 10%,是六年来第二季度跌得最狠的一次。同期中国只跌了 2%。

    印度大约 60% 的手机市场集中在 2 万卢比(约合 210 美元)以下的价位段,内存一涨价,最先扛不住的就是这批便宜机。

    Counterpoint 的研究副总裁 Tarun Pathak 告诉 TechCrunch,越便宜的机型,内存涨价占成本的比重越高,所以印度受的冲击比中国大得多。更极端的是 1.5 万卢比(不到 150 美元)以下这一档,出货直接同比暴跌了 45%。中国品牌恰好扎堆在入门和中端,它们在印度的合计份额跌到了 2020 年以来第二个季度的最低点。

    谁受伤,谁还撑得住

    不同品牌的日子差别很大。第二季度只有三星在印度实现了出货增长,同比涨 2%;苹果反而跌了 3%,不过那更多是供货和库存受限,iPhone 想多发都发不出来。走高端路线的品牌明显更抗跌——买贵手机的人对涨价不太敏感,加上分期付款把门槛拉低了不少。

    压力大了,厂商的打法也在变。这周中国品牌一加就宣布,要停掉在欧洲和北美的新品发售,只保留印度市场。Counterpoint 的数据显示,一加第一季度有 74% 的出货去了中国,比一年前的 59% 还高;印度的占比却从 30% 掉到了 19%。说白了就是收缩到还能赚钱的地方,其他战线先让出去。


    最后买单的还是消费者

    IDC 的移动研究总监 Kiranjeet Kaur 说,印度市场正在从”拼销量”转向”拼单价”——手机卖得少了,但每台赚得更多,因为低价机越来越不划算。据 Pathak 估算,不同型号的印度手机价格已经涨了 4% 到 68% 不等。面对涨价,消费者要么咬牙买贵的,要么拖着不换,要么转去二手市场。换机周期也从原来的约 3.5 年拉长到了 4 年左右。

    • 分期付款成了”能不能买得起”的关键,厂商和渠道还在节日季前囤货锁定低成本;
    • IDC 预计印度二季度出货会两位数下滑,比一季度的 4.1% 跌幅还陡;
    • Kaur 判断,内存紧张和手机涨价至少要持续到 2027 年底。

    对印度消费者来说还是双重打击:卢比走弱让进口更贵,厂商的利润压力最终又转嫁到了买家头上。AI 的算力盛宴还在继续,可账单已经悄悄摊到了普通人的口袋里。

  • 首笔推理芯片抵押贷落地:4亿美元押注AI算力的下一站

    算力生意的下半场

    训练一个大模型要烧掉天文数字的算力,但模型训好之后真正天天在跑的,是”推理”——也就是你每次提问、它给答案的那一下。最近一笔 4 亿美元的融资,把赌注压在了这块过去被忽视的市场上。

    AI 推理云创业公司 General Compute 拿到了 Upper90 的 4 亿美元贷款。有意思的是,这很可能是第一笔拿”推理专用芯片”做抵押的买卖。所谓推理芯片,专门用来高效跑已经训好的模型,不像训练芯片那么贵、那么吃水和电。

    General Compute 推理芯片
    General Compute 的推理芯片主打低功耗、免水冷(图源:TechCrunch)

    General Compute 的 SN50 芯片来自英特尔支持的 SambaNova,主打省电、不用昂贵的水冷,所以能比 GPU 更快铺进各种数据中心。公司声称推理速度能到 GPU 云的 16 倍。问题只有一个:作为一家新公司,怎么搞到足够多的芯片。

    “我们当年第一批给英伟达 GPU 融资时,市场还很低效,早进场的人能拿到风险补偿。”Upper90 的 Billy Libby 说。

    从 GPU 转向推理层

    这就轮到 Upper90 出场了。它的老板 Billy Libby 是个前高盛量化交易员,2021 年就曾给能源型数据中心创业公司 Crusoe 做 GPU 采购融资——他自称那是第一笔拿高端芯片做抵押的贷款。当时传统银行躲得远远的,怕芯片贬值太快;等 CoreWeave 把这种”芯片抵押”做成生意、还顺手搞出个轰动 IPO,大家才反应过来。

    现在 GPU 行情大家都摸透了,甚至有点买过头,Upper90 就把目光转向了 General Compute 这样的推理层公司。这个转向背后有个判断:不是谁都需要超级计算机,但谁都需要推理。开源模型越来越能打——月之暗面刚发的 Kimi K3 在编程基准上已经逼近 Anthropic 和 OpenAI 的旗舰——跑这些开源模型,便宜的推理芯片就够了。Groq、Cerebras 这类芯片公司也因此被收购方和公开市场盯上。

    General Compute 押注英伟达体系之外的芯片,逻辑和 TensorWave 绑定 AMD 类似:当替代方案越来越多,不被英伟达锁死的计算提供商,反而可能在成本上占优。

    “有一批芯片正在起量,总拥有成本惊人地好,速度也比英伟达快,但买家不多。”CEO Finn Puklowski 说,”和 Upper90 合作,不是’一个酷公司拿到钱买算力’这么简单,这是资本第一次组织起来,去敲碎英伟达的垄断。”

    对普通人来说,这事儿离得有点远。但它决定了你以后用 AI 是贵还是便宜:当推理产能不再被一家芯片厂卡脖子,模型跑起来的成本才会真正降下来。


    一句话看清这笔融资

    • General Compute 获 Upper90 的 4 亿美元贷款,或为首笔以推理芯片为抵押的融资
    • SN50 芯片(SambaNova)主打低功耗、免水冷,推理速度号称 GPU 云 16 倍
    • 资本从 GPU 转向推理层:开源模型崛起让低成本推理需求激增,英伟达之外的芯片有了空间
    📎 原文来源:Why the first GPU financiers are turning to inference chips in a $400 million deal(TechCrunch / Tim Fernholz,2026-07-17)
  • ASML上调全年指引:AI芯片热潮,把光刻机卖成了印钞机

    周三,全球光刻机龙头 ASML 交出了2026年第二季度的成绩单。一句话概括:赚翻了,而且它觉得接下来还能更赚。在 AI 芯片需求持续爆发的背景下,这家掌握着 EUV 光刻机垄断地位的荷兰公司,把全年销售指引又往上抬了一截。

    一份超预期的季报

    具体数字很亮眼。二季度 ASML 净销售额达到93.26亿欧元,同比增长约21%,高于它自己给的84亿到90亿欧元的指引区间;净利润29.18亿欧元,毛利率54%,两项都超出了市场预期。CEO 富凯(Christophe Fouquet)把功劳归给了 AI:相关投资还在持续推进,带动先进逻辑芯片和存储芯片的需求增长,客户们正在加快扩产计划。

    ASML EUV 光刻机概念图
    AI 芯片需求的底层,是一道叫做”光刻”的工序。而能造这台机器的公司,全世界基本只剩 ASML 一家。(配图由 AI 生成)

    富凯在财报里说:”基于强劲的订单势头,我们对未来市场需求拥有了更高的可见度。”

    第二次上调全年指引

    真正让市场兴奋的是指引的上调。ASML 把2026全年净销售额预期,从原来的360亿到400亿欧元,提到了430亿到450亿欧元,涨幅大约16%;毛利率指引也从52-54%提到了54-56%。这是今年内第二次上调。第三季度它预计净销售额在110亿到120亿欧元之间,毛利率55-57%。

    为了满足激增的订单,ASML 打算大举扩产能:2027年低数值孔径(Low-NA)EUV 光刻设备的产能,比2026年提高30%,2028年还可能再提30%;深紫外(DUV)设备也计划在2027和2028年各自提升30%产能。它透露,2027年的 EUV 产能已经接近售罄,2028年也收到了大量订单。

    英特尔先吃螃蟹

    技术层面有个标志性进展:英特尔将首次采用 ASML 的高数值孔径(High-NA)EUV 设备,来生产它最先进的 Panther Lake 处理器。这意味着这项曾被视作”实验室玩具”的技术,正式迈进了量产阶段。


    AI 淘金热里,卖铲子的最稳

    看 AI 芯片的新闻,大家的目光总被英伟达、AMD 或者各家自研芯片吸引。但往产业链更上游看一层,会发现一个更闷声发财的角色。不管你设计多厉害的芯片,最终都得靠光刻机把电路”刻”到硅片上。EUV 光刻机单价上亿欧元、交货要排队,而能造它的公司全世界几乎只此一家。AI 越热,这道工序就越紧张,ASML 的订单簿就越厚。

    当然,扩产也不是没有风险。产能砸下去要几年才能见效,万一 AI 投资的热度退潮,多出来的产线就可能变成闲置资产。但眼下,没有人怀疑这波需求是真的——从 ASML 连续上调指引的动作看,客户们扩产的决心比谁都坚定。

    • AI 芯片需求是这轮业绩的核心驱动力,逻辑芯片与存储芯片同步受益。
    • EUV 产能2027年近乎售罄,说明下游扩产已经排到两年后。
    • High-NA EUV 进入量产,光刻技术本身的军备竞赛才刚开场。
  • Meta要把囤的 AI 算力卖出去:从最大买家变身云厂商

    Meta要把囤的 AI 算力卖出去:从最大买家变身云厂商

    7月1日彭博社爆料,Meta在筹划一项叫“Meta Compute”的云业务,打算把自己囤的 AI 算力和模型访问权卖给外面的公司。消息一出,Meta 股价当天涨了 8.8%,市值多了大概 1270 亿美元;而专门做算力租赁的 CoreWeave 和 Nebius 分别跌了 14% 和 17%,连美光、闪迪这些存储芯片股也跟着跳水。一边是狂欢,一边是恐慌,同一条新闻让两拨人看到了完全不同的未来。

    全球最大的 GPU 买家之一,正式转身成为算力卖家——这被不少人视为 AI 基础设施商业模式的一个分水岭。

    为什么要卖?

    Meta 今年 4 月把全年资本开支指引提到 1250 亿到 1450 亿美元,比去年的 722 亿差不多翻了一倍,钱都花在了数据中心、芯片和电力上。问题是,训练一个大模型可能几个月里把几万张 GPU 吃满,但训练一结束,这批集群的利用率就掉到三成到五成,剩下的算力就在那儿空转、烧电费。扎克伯格的打法一直是“先囤够再说”,先按最高峰的训练需求把地基打好,至于建完怎么用,回头再想。现在“卖出去”就是那个回头再想的答案。

    两条路子:托管模型,或者直接出租 GPU

    据知情人士说,Meta Compute 至少规划了两条线。一条学 AWS 的 Bedrock,把托管在自家基础设施上的模型(包括自研的 Muse Spark)开放给开发者,按 token 收费。这对 Meta 是头一回能从 Llama 生态里直接赚到钱——开源这么多年,Llama 被别家云厂商免费拿去商用,Meta 一分授权费都收不到。另一条更直接,学 CoreWeave 那种新型云公司,把 GPU 集群按小时租给企业客户。两条线同时推,牵头的是基础设施负责人 Santosh Janardhan、超级智能实验室的 Daniel Gross,还有 Meta 总裁 Dina Powell McCormick。

    Meta 计划把囤积的 AI 算力对外出租,直接闯进云计算市场
    Meta 计划把囤积的 AI 算力对外出租,直接闯进云计算市场

    市场为什么慌?

    这事真正戳中的,是撑了 AI 产业两年狂奔的那套逻辑——算力稀缺。过去两年,“算力不够用”维持了坚挺的租赁价格,也给巨头们疯狂扩张提供了理由。可要是连 Meta 这种级别的买家都开始往外卖“富余”算力,投资人自然会问:基建是不是要到顶了?高盛的交易台已经警告,一旦供给上来、租赁价往下走,最先扈不住的就是硬件。衡量 H100 租赁价格的 ORNN 指数最近确实在往下掉。

    • 出租的是上一代 H100/H200 推理算力,前沿训练要用的 GB200、自研 Rubin 芯片 Meta 还在拼命买
    • 目标据说是每 GW 每年变现 100 亿到 150 亿美元,把“成本包被”变成创收资产
    • SpaceX/xAI 已经跑通类似模式:把孟菲斯的 Colossus 集群按月租给 Anthropic,月租 12.5 亿美元

    一家 To C 公司,能做好 To B 吗?

    麻烦也在这儿。AWS、Azure、谷歌云做了几十年,靠的不只是机房,还有成熟的软件平台、企业销售队伍和客服体系。Meta 靠广告活了 21 年,是个彻彻底底的 To C 公司,突然要去伺候企业客户,节奏、文化、人才都得重搭。更微妙的是反垄断:Meta 跟 CoreWeave 还有总额 352 亿美元的长期采购合同没走完,一边是人家最大的客户,一边又下场抢生意,这种双重身份监管一看一个准。

    短期看,Meta 卖算力是笔资产周转的买卖——把上一代推理算力拿出来回血,同时继续囤最新的训练卡。但往长了看,当算力从“抢都抢不到的稀缺品”慢慢变成“能挂牌出售的大宗商品”,整个行业的定价方式、竞争格局和投资故事,可能都要重写一遍。扎克伯格说过,几乎每周都有公司来问能不能买他们的算力,甚至愿意出高于成本的价。现在,这些人等到回音了。

  • 估值冲上10亿美元:Prime Intellect 想让每家企业都拥有自己的「AI实验室」

    估值冲上10亿美元:Prime Intellect 想让每家企业都拥有自己的「AI实验室」

    Prime Intellect 团队与算力集群
    Prime Intellect 把「AI 实验室」能力打包成企业可用的全栈平台(图源:TechCrunch)

    一家叫 Prime Intellect 的创业公司刚完成 1.3 亿美元 A 轮融资,估值一口气冲到 10 亿美元。它做的事有点反常识:别人都在帮你更好地用 OpenAI、Anthropic,它却想帮你彻底甩开这些前沿实验室,自己动手造 AI 智能体。

    从「租模型」到「自己造」

    过去企业想上 AI,基本只有一条路:去大厂的 API 里租现成模型。Prime Intellect 给出的是一套「全栈」——算力、强化学习框架、评估工具打包在一起,又像超市货架一样可以挑着用,不用担心被某个厂商绑死。创始人 2024 年才起步,看准的是强化学习这条技术路线:模型靠奖励和惩罚反复打磨,企业就能针对自己的业务训练专属智能体,相当于把「AI 实验室」搬回了公司内部。

    企业为什么突然想自己掌控

    动力很现实。把专有数据交给别人,企业怕的是失去控制权;更怕依赖的模型说关就关——Anthropic 的 Fable 项目上个月突然停摆,就是一记警钟。CEO Vincent Weisser 说得很直白:不该只有旧金山那几栋玻璃大楼里的人有能力训练模型,每家企业、每个国家都该有。

    「不该只是旧金山玻璃塔里那几个极客才有训练 AI 的能力,应该是每家企业、每个国家都行。」

    钱和数据主权一起到账

    这套打法已经有人买单。金融科技公司 Ramp 用它的平台做了个查表格的 agent,准确率压过前沿模型,速度更快,成本却只有零头。Zapier 也在客户名单里。快速起量把公司年化收入推到了 1 亿美元。领投方 Radical Ventures 的评价是:别人只给零件,Prime Intellect 给的是顶级 AI 实验室才有的「一站式」能力,而且价格企业扛得住。

    • 本轮由 Radical Ventures 领投,英伟达、英特尔、戴尔的战投悉数入局,还有 Perplexity 创始人等多位明星创业者个人跟投。
    • 平台走模块化路线,客户按需取用,不必一次性押上全部预算。
    • 背后是大公司在 AI 主权上的集体焦虑:数据要握在自己手里,供应链不能卡在别人手上。

  • OpenAI 首颗自研芯片 Jalapeño 出炉,不再只靠英伟达

    OpenAI 首颗自研芯片 Jalapeño 出炉,不再只靠英伟达

    OpenAI 首颗自研推理芯片 Jalapeño
    OpenAI 与博通联合发布首颗自研推理芯片 Jalapeño(图源:TechCrunch)

    OpenAI 一直被看作做模型的,6 月 24 日这天它跨过了那条线——和博通联合发布了一颗叫 Jalapeño(墨西哥辣椒)的芯片,这是 OpenAI 第一颗自己定制的 AI 处理器。合作去年 10 月就官宣了,但真把芯片摆到台前,还是头一回。

    专门为跑模型而生

    Jalapeño 的定位很明确:它是推理芯片,不是训练芯片。说人话就是,它负责把已经训练好的模型跑起来、响应用户指令,而不是从零去炼模型。OpenAI 在公告里特别强调,它在跑实时 coding 模型(比如 Codex)时运营成本很低。像预训练这种更吃算力的重活,短期内还得靠英伟达的 GPU,但光是把推理这一块的成本往下压,对 OpenAI 的账本就已经意义不小。

    我们不只是做前沿模型、在模型上搭产品,我们连底下的基础设施都自己设计了——芯片架构、内存系统、网络、调度、部署,全在一层一层地把同一件事优化到极致。

    AI 参与设计了自己的硬件

    最让我觉得绕的一个细节是:OpenAI 自己的 AI 模型,参与了这颗芯片的设计过程。从架构设计到把版图数据交给晶圆厂(tape-out),整段只用了大约九个月。OpenAI 自己说,这可能是高性能半导体领域有史以来最快的 ASIC 开发周期。硬件负责人 Richard Ho 来头也不小,在谷歌待了快九年,是 Cloud TPU 项目的核心工程师。

    为什么非得自己造?说白了是想少依赖英伟达的 GPU。这条路上谷歌有 TPU、亚马逊有 Trainium,都是同一个思路——用专门加速机器学习的硅,把特定工作负载跑得更快更省。OpenAI 总裁 Greg Brockman 的话很直白:我们太懂这个工作负载了,就去找那些没被伺候好的环节,想办法加速它。

    全栈公司的必然一步

    把视角拉高一点看,造芯是 OpenAI 从模型公司往全栈基础设施公司走的自然一步。模型、产品、数据中心、再到芯片,每一层它都想攥在自己手里。据外界披露,微软还承诺包销了 Jalapeño 首期大约 40% 的产能。芯片计划先以工程样片在实验室跑通 GPT-5.3-Codex-Spark 这类模型,后续再放到吉瓦级别的数据中心里规模部署。

    • Jalapeño 是 OpenAI 首颗自研推理芯片,由博通代工实现、台积电 3nm 制造
    • AI 模型参与芯片设计,九个月走完从设计到流片
    • 目标不是取代英伟达,而是把最贵的推理成本压下来

    这不是要和英伟达掀桌子,而是 OpenAI 想把自己最贵、也最日常的那块成本,从别人手里拿回来一部分。当一家公司的模型每天被几亿人调用,每一分钱的推理开销乘上去都是天文数字——自己造芯,只是时间问题。

  • 把AI数据中心搬进你家:Sunrun付费让110万户屋主托管算力节点

    如果有人付钱,让你把一小块AI数据中心搬进自己家,你干不干?美国最大的家庭光伏储能公司Sunrun,这周就抛出了这么个方案。

    Sunrun分布式AI算力家庭节点示意图
    把算力节点铺进千家万户,而不是盖一座大机房

    Sunrun启动了一个”分布式AI算力”试点:在装了它家太阳能板和储能电池的住宅里,放进一台台小小的算力节点——本质上就是分布式系统里的服务器单元。参与的屋主能拿到报酬,Sunrun则把这些节点汇聚起来的算力,卖给企业级的算力买家,比如AI公司。

    为什么不直接盖数据中心

    因为数据中心现在越来越不受待见。今年5月的一项调查显示,超过70%的美国人反对在自己家附近新建数据中心,理由无外乎污染、噪音、耗水耗电。Sunrun的思路正好反过来:不把算力堆进一座巨型机房,而是打散成无数个小节点,撒到全国各地的房子里。

    “AI公司正在拼命抢电力和算力。近二十年里,我们已经把运营、融资、规模化分布式资产这套本事练熟了。现在我们要用它,把算力搬到离能源和推理更近的地方。”——Sunrun总裁兼首席营收官 Paul Dickson

    这里有个关键区分:AI训练需要成千上万块GPU挤在一起、高度同步,很难分散;而推理不一样,它是模块化的、天然可以按地理位置铺开,而且对延迟很敏感——离用户越近越好。这恰恰是”边缘部署”的用武之地,也正好卡在Sunrun的能力圈里。据McKinsey预测,AI推理需求每年增长约35%,到2030年会超过训练,成为AI算力里占比最大的那部分。

    110万个家庭,就是它的底牌

    Sunrun手里有超过110万现有客户,这是它敢这么玩的底气。传统数据中心从审批、建设到并网,动辄要好几年;而Sunrun的分布式模式,能在很短时间内堆出可观的推理算力。它列出的几个优势也挺实在:

    • 节点装在电表之后,还配了家用电池,即便遇上部分电网停电也能继续跑
    • 省掉了买地、建输电线路、排队等电网接入这些漫长环节
    • 它本来就在为一百多万户家庭的能源设备做监控和维护,现成的运维体系直接能用

    不过资本市场没买账。消息公布当天,Sunrun股价盘前一度走高,开盘后调头下跌6.1%,算上这波,今年以来已经跌了38%。这个AI试点跟它上月宣布的、联合特斯拉和Renew Home把住宅聚成16吉瓦虚拟电厂的计划是分开的两回事。Sunrun说,试点会跑上几个月,评估结果后再决定要不要大规模铺开——目前它已经在跟企业算力客户、公用事业公司和房产开发商聊更大范围推广的事了。

  • Prime Intellect融资1.3亿美元,帮企业逃离OpenAI和Anthropic

    1.3亿美元、估值10亿,背后站着英伟达和英特尔

    Prime Intellect这家公司做的事听起来有点硬核:它给企业提供算力和一整套专门软件,让这些公司能自己动手训练AI代理。最新一笔钱是1.3亿美元A轮,估值直接站上10亿美元。领投的是Radical Ventures,跟投名单里躺着英伟达创投、英特尔资本、戴尔科技资本、Iconiq,还有一长串创始人天使——Perplexity的Aravind Srinivas、Box的Aaron Levie、Harvey的Winston Weinberg、Cognition的Jeff Wang都来了。

    公司2024年成立,核心念头就一个:让组织不用再依赖那些前沿实验室,也能训出自己的代理系统。这事搁几年前几乎不可能,但强化学习这套”做对了就奖励、做错了就惩罚”的法子成熟之后,企业确实有机会把自己的业务模型打磨成专属的”AI实验室”。

    企业AI代理基础设施概念图
    把算力、强化学习框架和评估工具打包成”全栈”,企业按模块取用

    真正卖点:帮你绕开OpenAI和Anthropic

    底层基础设施那摊事太复杂,绝大多数公司根本没本事把它拼成能上生产的系统,这正好是Prime Intellect切进去的缝。它做的”全栈”包含算力接入、强化学习框架和评估工具,平台像个集市,客户挑自己要的模块,不会被绑死在一整套里。

    Radical Ventures的合伙人David Katz说,别人都只给零碎零件,Prime Intellect的特别之处在于,它把顶级AI实验室的本事做成了”一站式商店”,而且价格企业付得起。

    钱花得值不值,看客户就知道。Ramp、Zapier、Flapping Airplanes都在付钱用它的托管版,这一波 adoption 已经把公司年化收入推到了1亿美元。Ramp拿它搭了个在电子表格里找答案的代理,Ramp联合CEO Karim Atiyeh的说法是:精度压过了前沿模型,速度更快,成本只有零头。


    企业为什么突然想”自己掌握智能”

    • 数据主权:把专有信息喂给OpenAI、Anthropic,企业怕失去对数据的控制权。
    • 断供风险:模型说关就关,上个月Anthropic的Fable就是活例子。
    • 竞争焦虑:Katz反问,我怎么知道合作方不会反过来把我这摊事也做了。

    创始人兼CEO Vincent Weisser把话挑得更明:企业正在集体离开闭源前沿模型,而他的公司就是那个让转型能落地的底座。”不该只有旧金山玻璃塔里那几个极客才配训AI模型,”他说,”每一家企业、每一个国家,都该有这个能力。”