标签: AI芯片

  • 英伟达GPU要上月球了:月球车用Jetson跑激光雷达,可能是月面第一颗GPU

    英伟达把GPU卖遍了地球上的数据中心,现在瞄上了38万公里外的月球。做太空机器人的初创公司Lunar Outpost周四宣布,他们的下一台月球车将用英伟达Jetson芯片来控制激光雷达系统。如果顺利落地,这大概率是月球表面出现的第一颗GPU。

    Lunar Outpost月球车测试
    Lunar Outpost正在测试的月球车,将搭载英伟达Jetson芯片(图源:TechCrunch)

    为什么是Jetson,而不是Blackwell

    Jetson在英伟达产品线里名气不如Blackwell、Vera Rubin这些AI训练主力,但它是很多实体AI系统的心脏——体积小、功耗低,能让机器人在本地实时处理传感器数据,不用把信号传回地球再等指令。对通信延迟以秒计的月球任务来说,这一点是刚需。

    Lunar Outpost CEO贾斯汀·塞勒斯说得很直白:他们正拿Jetson和自家更有航天资历的飞行计算平台做对比测试,”看看优势在哪、短板在哪,然后尽力把这些更强的GPU系统用到极端环境里去”。他透露,五年前公司的自主导航还是纯确定性算法,现在已经变成确定性模型加实体AI双轨并行。

    太空环境对GPU极不友好。近地轨道尚有地球磁场庇护,月面却直接暴露在宇宙辐射之下,温差随月相剧烈波动。塞勒斯说:”你的系统必须扛过月夜,而且得在极低功耗下活下来。”

    NASA买单,2028年等人来

    这背后是NASA的一盘大棋。仿照与SpaceX的合作模式,NASA正花钱请私营公司先去月球探路,为最快2028年宇航员重返月球做准备。Lunar Outpost的月球车将由Intuitive Machines的着陆器搭载,钻进环形山勘察地形、寻找水冰,年底前搭乘猎鹰9号发射。再下一次任务的目的地是月面磁异常区Reiner Gamma——那里的磁场之谜困扰了科学家几十年。

    英伟达在月球的布局不止这一处。它刚和首个成功软着陆月球的私营公司Firefly Aerospace达成合作,让Jetson在绕月卫星上处理影像数据,一边帮科学家绘制月图,一边追踪月面上越来越多的机器人。

    • 首发任务:Lunar Outpost月球车年底搭猎鹰9号升空,Jetson负责激光雷达
    • 绕月部署:与Firefly Aerospace合作,卫星在轨处理月球影像
    • 远期规划:载人月球车Pegasus在等蓝色起源的大火箭,目标2028年
    • 终极难题:宇宙辐射、月夜低温、极低功耗,GPU得先活下来

    从太空数据中心的畅想,到月面机器人舰队的蓝图,眼下都卡在同一件事上——一枚足够大的火箭。芯片已经准备好了,运力还在路上。

  • 英伟达把GPU送上月球:月球车用上Jetson芯片,太空算力这次玩真的

    英伟达的 GPU 已经铺满了地球上的数据中心,下一站居然是月球。太空机器人初创公司 Lunar Outpost 在7月23日宣布,他们的下一台月球车将搭载英伟达 Jetson 芯片来驱动激光雷达系统。如果顺利落地,这很可能是人类历史上第一块登上月面的 GPU。

    Lunar Outpost 月球车测试
    Lunar Outpost 的月球车正在测试中 | 图源:TechCrunch

    为什么是 Jetson,而不是 Blackwell

    很多人对英伟达的印象还停留在 Blackwell、Vera Rubin 这些吞电如喝水的 AI 训练芯片上。但真正上天的是低调得多的 Jetson——一个专为机器人设计的小型化、低功耗平台,能让机器在本地实时处理传感器数据,不用把一切传回地球等指令。在月球上,光是信号往返就要将近3秒,本地算力就是生死线。

    Lunar Outpost CEO 贾斯汀·塞勒斯说:”五年前我们的自主导航还是纯确定性算法,现在是确定性算法加物理 AI 双轨并行,这事挺有意思的。”

    这台月球车将由 Intuitive Machines 的着陆器送上月面,任务是带着一整套传感器钻进环形山这类轨道上看不清的角落。再下一次任务的目的地更有看头——赖纳伽马区,那里有一处让科学家困惑多年的磁异常。两次任务都计划在年底前搭乘猎鹰9号升空。

    月球对芯片可一点都不友好

    把 GPU 送上月球,难的不是发射,是活下来。近地轨道的芯片好歹有地球磁场罩着,月面上的设备要直面宇宙辐射,还要扛住昼夜间几百度的温差。塞勒斯的原话是:”你的系统必须熬过月球的黑夜,而且得用极低的功耗熬过去。”

    • 英伟达同时和 Firefly Aerospace 达成合作,让 Jetson 在环月卫星上处理影像,给月面测绘、跟踪越来越多的月球机器人;
    • NASA 正在花钱请私营公司探月,为最早2028年宇航员重返月球铺路,模式复制了当年扶持 SpaceX 的打法;
    • Lunar Outpost 还有一台能载宇航员的大型月球车 Pegasus,但它在等贝索斯 Blue Origin 的火箭——那枚火箭今年夏天刚出了事故,复飞时间未定。

    从探索到常驻,缺的是一枚大火箭

    塞勒斯把公司的目标说得很直白:从”去月球看看”变成”在月球住下”,靠的就是确定性算法加物理 AI 组成的机器人劳动力,人类到之前先让机器把重活干完。这个思路和最近炒得火热的太空数据中心是同一个逻辑——算力上天不是科幻,是排期问题。

    只不过无论是月面机器人军团还是轨道数据中心,眼下都卡在同一件事上:一枚足够大、足够便宜的火箭。GPU 已经准备好了,运力还没有。

  • AMD把「太阳神」搬进机房:Helios机架系统正面刚英伟达

    AMD Helios 机架级 AI 系统
    AMD 首款机架级 AI 系统 Helios,集 GPU、CPU、网络与软件于一体(概念图)

    7月20日,AMD 把憋了好久的一张王牌亮了出来——名叫 Helios 的机架级 AI 系统。名字取自希腊太阳神,摆明是要当算力界的「太阳」。这不是一块显卡,而是一整柜子:GPU、CPU、网络、软件全打包,直接对标英伟达那些动辄几百万美元的 AI 机柜。

    微软带头,巨头排队下单

    最让 AMD 长脸的是客户名单。就在发布当天,微软 CEO 纳德拉亲自表态,要在 Azure 数据中心部署 Helios,还顺手推出两款基于 AMD 新「Venice」CPU 的计算实例。更早之前,Meta 已经承诺逐步部署高达 6 吉瓦的 AMD GPU,其中 1 吉瓦今年就通过 Helios 机架交付;OpenAI 和甲骨文也点头要在年内大规模铺开;印度的塔塔咨询服务也在列。

    这背后是 AMD 十年的翻身账。它靠着三代产品路线图的严格执行,加上收购赛灵思、ZT Systems,一步步把 CPU 和 GPU 都做起来了。现在它敢说,Instinct GPU 已经服务全球前十 AI 公司里的八家,包括 OpenAI 和 SpaceX AI。

    苏姿丰此前放话:Helios 在推理、内存带宽和容量上,相比英伟达的机架系统有「显著优势」。

    算的是总账,不是单项性能

    AMD 数据中心业务负责人 Forrest Norrod 反复强调一个词:TCO,也就是总拥有成本。他说 Helios 追求的是最低的「每 token 综合成本」。道理不复杂——对微软、Meta 这种要养几吉瓦算力的巨头来说,单卡跑分高一点,不如整柜更省电、更便宜。

    不过现实也很骨感。研究机构 Futurum Group 估算,一台 Helios 机柜成本大约 500 万到 550 万美元,比英伟达第二代机架 Vera Rubin 的 350 万到 400 万美元还要贵;而且它重达 7000 磅,个头也更大。更要命的是份额:英伟达占数据中心 GPU 市场超过 95%,AMD 只有约 4.5%。

    • 分析师 Daniel Newman 认为,如果 AMD 执行到位,份额有望冲到 20%–25%,对应数千亿美元收入空间
    • AMD 一季度数据中心营收同比增长 57%,已是公司收入主力
    • 公司预计从 2027 年起,数据中心 AI 年收入将达到数百亿美元,大头来自 Helios

    硬件追上了,软件才是硬仗

    Counterpoint 的分析师 Neil Shah 点破了一层窗户纸:AMD 硬件已经和英伟达站到同一水平,但胜负手在软件生态。英伟达的 CUDA 护城河太深,AMD 这几年猛补 ROCm 开源生态,就是想拆这道墙。


    Helios 的早期部署马上就要展开。接下来一两年,市场会检验一件事:AMD 到底是靠真技术赢,还是仅仅因为英伟达产能紧缺捡了漏。对用算力的公司来说,多一个能打的供应商,怎么都不是坏事。

  • 谷歌悄悄研发新 AI 芯片 Frozen v2:要让 Gemini 省下大笔电费

    Google 自研 AI 芯片相关示意图
    大厂自研 AI 芯片已成趋势,Google 的 Frozen v2 瞄准的是推理能效(图源:TechCrunch)

    Alphabet 正在悄悄搞一颗新的服务器芯片,内部代号叫 Frozen v2,专门用来让自家的 Gemini 模型跑得更省、更稳。消息来自 The Information 的爆料,说这颗芯片大概会在 2028 年前后亮相。

    能效说是现在的六到十倍

    按那篇报道的说法,Frozen v2 的衡量标准是「每消耗一单位电力能生成多少 token」,在这个口径下,它要比 Google 现有的 AI 芯片高效 6 到 10 倍。对此 Google 既没承认也没否认,只给了一句四平八稳的回应。

    「我们的团队一直在研究和试验各种新方案,为用户和客户带来极致的性能与效率。」

    大厂为什么都在自己造芯

    把模型训练和推理从通用 GPU 上挪到自己定制的芯片上,已经成了大厂的共同动作。动机很直白:一是让自家模型跑得更划算,二是摆脱对英伟达的依赖——这家公司长期把持着 AI 芯片市场,也让所有大模型厂商都被它的硬件绑住。

    就在今年 6 月,OpenAI 刚亮出第一颗自研推理芯片 Jalapeño;本月初又有消息说,Anthropic 正在和三星谈新的芯片合作。Google 自己本来就有 TPU 这条线,Frozen v2 像是把这条路继续往下走。

    • 代号 Frozen v2,目标 2028 年前后发布,专供 Gemini 使用。
    • 能效按 token / 单位电力计,号称达现有芯片 6 到 10 倍。
    • 背景是 OpenAI、Anthropic 相继布局自研芯片,全行业试图降低对英伟达的依赖。

    股价先涨为敬

    这类消息背后,其实是投资者的算盘。大家一直担心 Alphabet 为了 AI 基建砸下的天价开支——公司年初说今年要花 1800 亿到 1900 亿美元。钱花出去了,得证明能回本。Frozen v2 一旦坐实,等于给市场一个「我们在把成本压下来」的信号。报道出来后,Google 股价周一上午就涨了大约 3%。

    当推理成本变成卖点,AI 的故事就从「大力出奇迹」变成了「谁更会过日子」。


  • AI芯片又一笔10亿美元:SambaNova估值冲到110亿,摩根大通把算力搬回自家机房

    SambaNova 这家公司,你可能没怎么听过,但在 AI 芯片这条赛道上,它刚干了一件挺有象征意义的事。7 月初,这家 2017 年成立的帕罗奥图创业公司宣布完成 10 亿美元 F 轮融资的第一笔交割,投后估值来到 110 亿美元。领投方是老牌成长基金 General Atlantic,贝莱德、卡塔尔投资局、Intel Capital 等一众机构跟投。

    有意思的是,这笔钱距离它上一次融资只隔了不到五个月。今年 2 月它才拿下 3.5 亿美元 E 轮,同时发布了第五代芯片 SN50。换句话说,资本市场的钱还在疯狂往 AI 基础设施里灌。

    SambaNova 的 CEO Rodrigo Liang 说了一句很直白的话:摩根大通这种级别的银行开始自己搭私有、安全的算力底座来跑推理,这个信号会传到银行业之外。

    它到底造的是什么芯片

    SambaNova 走的是和英伟达不一样的路子。它的芯片不是要取代英伟达,而是贴着英伟达一起用。公司主打”高端推理”——把今天动辄几万亿参数的前沿大模型,塞进一个机柜里跑,而且跑得飞快。Liang 对外说过,SN50 跑推理的解码部分比竞品快五到十倍。

    SambaNova AI 芯片
    SambaNova 的 AI 推理芯片(图源:TechCrunch)

    今年 2 月发布的 SN50 基于数据流架构,计算能力是上一代 SN40 的 5 倍,网络带宽是 4 倍,预计 2026 年下半年开始向客户发货,软银是它的第一个部署伙伴。

    三类客户,和一个 IPO 悬念

    Liang 把客户分成三块:一是主权云,各国政府出钱扶植本地私有云;二是新云(neocloud);三是自建自用的大企业。除了摩根大通,沙特阿美、英特尔以及一些日本企业也在客户名单上。


    • SambaNova 成立以来累计融资规模已相当可观,本轮后现金储备进一步增厚
    • 资金一大用途是锁供应链——在汹涌的需求面前先把产能和物料攥在手里
    • 与英特尔的关系也在加深,双方从投资到联合开发产品一起推向市场

    至于公司未来,Liang 话讲得很活。被问到连续融资是不是意味着铁了心独立,他说”一直有人来找我们”,这扇门在动态的 AI 市场里还开着,但增长势头更可能把公司推向”某天上市”。据 CNBC 报道,他甚至提到了 2027 年 IPO 的可能性,大概率选美国。

    AI 基础设施建设的热度,从这 10 亿美元里就能看出来。当大行都不愿意把最敏感的模型推理完全交给云厂商,像 SambaNova 这样专做”把大模型安全跑在自己地盘上”的芯片公司,就有了存在的理由。

  • AI抢走了内存芯片,印度人先买不起手机了

    几个月前分析师就提醒过,AI 疯狂吃内存芯片,早晚会传导到我们买的手机、笔记本上。现在印度成了第一个明显中招的地方——手机越卖越贵,出货量掉得厉害。

    印度智能手机市场受内存芯片涨价冲击
    AI 数据中心和你的手机,正在抢同一批内存芯片

    先说清楚问题出在哪。手机里的 RAM 和存储芯片,跟建 AI 数据中心要的其实是同一类东西。三星、SK 海力士、美光这些厂商发现,把产能挪去做 AI 加速器用的高带宽内存(HBM),单片晶圆赚的钱多得多,于是纷纷转产。结果就是给手机、电脑用的普通内存供给变少、价格上去了。

    印度为什么比中国还惨

    按出货量算,印度是仅次于中国的全球第二大手机市场。据 Counterpoint Research 的数据,今年第二季度(4 到 6 月)印度智能手机出货同比掉了 10%,是六年来第二季度跌得最狠的一次。同期中国只跌了 2%。

    印度大约 60% 的手机市场集中在 2 万卢比(约合 210 美元)以下的价位段,内存一涨价,最先扛不住的就是这批便宜机。

    Counterpoint 的研究副总裁 Tarun Pathak 告诉 TechCrunch,越便宜的机型,内存涨价占成本的比重越高,所以印度受的冲击比中国大得多。更极端的是 1.5 万卢比(不到 150 美元)以下这一档,出货直接同比暴跌了 45%。中国品牌恰好扎堆在入门和中端,它们在印度的合计份额跌到了 2020 年以来第二个季度的最低点。

    谁受伤,谁还撑得住

    不同品牌的日子差别很大。第二季度只有三星在印度实现了出货增长,同比涨 2%;苹果反而跌了 3%,不过那更多是供货和库存受限,iPhone 想多发都发不出来。走高端路线的品牌明显更抗跌——买贵手机的人对涨价不太敏感,加上分期付款把门槛拉低了不少。

    压力大了,厂商的打法也在变。这周中国品牌一加就宣布,要停掉在欧洲和北美的新品发售,只保留印度市场。Counterpoint 的数据显示,一加第一季度有 74% 的出货去了中国,比一年前的 59% 还高;印度的占比却从 30% 掉到了 19%。说白了就是收缩到还能赚钱的地方,其他战线先让出去。


    最后买单的还是消费者

    IDC 的移动研究总监 Kiranjeet Kaur 说,印度市场正在从”拼销量”转向”拼单价”——手机卖得少了,但每台赚得更多,因为低价机越来越不划算。据 Pathak 估算,不同型号的印度手机价格已经涨了 4% 到 68% 不等。面对涨价,消费者要么咬牙买贵的,要么拖着不换,要么转去二手市场。换机周期也从原来的约 3.5 年拉长到了 4 年左右。

    • 分期付款成了”能不能买得起”的关键,厂商和渠道还在节日季前囤货锁定低成本;
    • IDC 预计印度二季度出货会两位数下滑,比一季度的 4.1% 跌幅还陡;
    • Kaur 判断,内存紧张和手机涨价至少要持续到 2027 年底。

    对印度消费者来说还是双重打击:卢比走弱让进口更贵,厂商的利润压力最终又转嫁到了买家头上。AI 的算力盛宴还在继续,可账单已经悄悄摊到了普通人的口袋里。

  • 首笔推理芯片抵押贷落地:4亿美元押注AI算力的下一站

    算力生意的下半场

    训练一个大模型要烧掉天文数字的算力,但模型训好之后真正天天在跑的,是”推理”——也就是你每次提问、它给答案的那一下。最近一笔 4 亿美元的融资,把赌注压在了这块过去被忽视的市场上。

    AI 推理云创业公司 General Compute 拿到了 Upper90 的 4 亿美元贷款。有意思的是,这很可能是第一笔拿”推理专用芯片”做抵押的买卖。所谓推理芯片,专门用来高效跑已经训好的模型,不像训练芯片那么贵、那么吃水和电。

    General Compute 推理芯片
    General Compute 的推理芯片主打低功耗、免水冷(图源:TechCrunch)

    General Compute 的 SN50 芯片来自英特尔支持的 SambaNova,主打省电、不用昂贵的水冷,所以能比 GPU 更快铺进各种数据中心。公司声称推理速度能到 GPU 云的 16 倍。问题只有一个:作为一家新公司,怎么搞到足够多的芯片。

    “我们当年第一批给英伟达 GPU 融资时,市场还很低效,早进场的人能拿到风险补偿。”Upper90 的 Billy Libby 说。

    从 GPU 转向推理层

    这就轮到 Upper90 出场了。它的老板 Billy Libby 是个前高盛量化交易员,2021 年就曾给能源型数据中心创业公司 Crusoe 做 GPU 采购融资——他自称那是第一笔拿高端芯片做抵押的贷款。当时传统银行躲得远远的,怕芯片贬值太快;等 CoreWeave 把这种”芯片抵押”做成生意、还顺手搞出个轰动 IPO,大家才反应过来。

    现在 GPU 行情大家都摸透了,甚至有点买过头,Upper90 就把目光转向了 General Compute 这样的推理层公司。这个转向背后有个判断:不是谁都需要超级计算机,但谁都需要推理。开源模型越来越能打——月之暗面刚发的 Kimi K3 在编程基准上已经逼近 Anthropic 和 OpenAI 的旗舰——跑这些开源模型,便宜的推理芯片就够了。Groq、Cerebras 这类芯片公司也因此被收购方和公开市场盯上。

    General Compute 押注英伟达体系之外的芯片,逻辑和 TensorWave 绑定 AMD 类似:当替代方案越来越多,不被英伟达锁死的计算提供商,反而可能在成本上占优。

    “有一批芯片正在起量,总拥有成本惊人地好,速度也比英伟达快,但买家不多。”CEO Finn Puklowski 说,”和 Upper90 合作,不是’一个酷公司拿到钱买算力’这么简单,这是资本第一次组织起来,去敲碎英伟达的垄断。”

    对普通人来说,这事儿离得有点远。但它决定了你以后用 AI 是贵还是便宜:当推理产能不再被一家芯片厂卡脖子,模型跑起来的成本才会真正降下来。


    一句话看清这笔融资

    • General Compute 获 Upper90 的 4 亿美元贷款,或为首笔以推理芯片为抵押的融资
    • SN50 芯片(SambaNova)主打低功耗、免水冷,推理速度号称 GPU 云 16 倍
    • 资本从 GPU 转向推理层:开源模型崛起让低成本推理需求激增,英伟达之外的芯片有了空间
    📎 原文来源:Why the first GPU financiers are turning to inference chips in a $400 million deal(TechCrunch / Tim Fernholz,2026-07-17)
  • OpenAI 自研芯片 Jalapeño 出炉:九个月造出推理加速芯,英伟达不再是唯一答案

    一颗用墨西哥辣椒命名的芯片

    6月24日,OpenAI 把第一颗自己设计的芯片亮了出来,代号 Jalapeño,就是墨西哥菜里那颗青辣椒。这颗芯片不是找人代工贴牌,而是 OpenAI 自己定架构,博通负责把设计变成硅片,台积电用 3 纳米工艺代工生产。它也不是一颗通用 GPU,OpenAI 管它叫”智能处理器”(Intelligence Processor),说白了就是专门为大模型推理场景打造的一块加速芯片。

    要理解它为什么重要,得先想清楚一件事:你每次问 ChatGPT 一句话、开发者调一次 API、Codex 跑一个任务,背后都是一次推理。这是 OpenAI 每天发生最频繁、也最烧钱的动作。把这部分成本攥在自己手里,比再去买一堆英伟达 GPU 更有战略意义。Google 老早有自己的 TPU,亚马逊有 Trainium 和 Inferentia,头部的 AI 公司走到一定规模,都会补上自己的算力路线。

    “我们对自己要跑的负载理解很深,一直在找那些现有芯片没服务好的工作,然后想办法把它加速。”OpenAI 总裁 Greg Brockman 在自家播客里这么解释他们的思路。

    九个月,AI 帮着设计自己的硬件

    最让人意外的是速度。Brockman 说,Jalapeño 从最初的架构设计到完成制造流片,前后只花了大约九个月。作为对比,Google 第一代 TPU 从架构到流片花了差不多三年,传统芯片公司做同等规模的项目通常要五到七年。OpenAI 自己的说法是,这可能是高性能半导体领域有史以来最快的 ASIC 开发周期。他们半开玩笑地说,参与设计的还有 OpenAI 自己的模型——AI 正在帮着造跑自己的硬件。

    早期测试的数据挺漂亮:OpenAI 称 Jalapeño 的每瓦性能明显好于当前最先进的方案。不过公司没公布具体的基准数字,目前也还没有第三方独立验证。按定位,它主打推理而不是训练,像预训练这种吃算力的重活,短期还得靠英伟达。哪怕推理成本只降一点点,对 OpenAI 的账本也是实打实的好处。

    OpenAI 首颗自研芯片 Jalapeño
    OpenAI 与博通联合打造的首颗自研推理芯片 Jalapeño(图源:TechCrunch)

    全栈野心与冷现实

    OpenAI 的算盘不止一颗芯片。它和博通的合作要部署到吉瓦级的数据中心,计划 2026 下半年开始落地,到 2029 年全部完成,外界估算整个盘子可能花掉数千亿美元。OpenAI 想的是把模型、产品、芯片、数据中心全捏在自己手里,每一层都朝着”更快、更稳、更便宜”同一个目标优化。

    但别急着宣布英伟达时代结束。训练、显存、集群网络、软件栈,任何一环都不是单颗芯片能独立解决的,更何况 CUDA 生态、供应链和部署经验是 AI 公司绕不开的现实。Jalapeño 的出现更像一个信号:OpenAI 不想永远只当算力的买家了。

    • Jalapeño 是推理专用芯片,不是用来替代英伟达做训练的通用 GPU。
    • 从设计到流片约九个月,AI 模型本身也参与了设计流程。
    • 和博通、台积电合作,瞄准吉瓦级数据中心,2026 下半年起逐步部署。

  • OpenAI 首颗自研芯片 Jalapeño 出炉,不再只靠英伟达

    OpenAI 首颗自研芯片 Jalapeño 出炉,不再只靠英伟达

    OpenAI 首颗自研推理芯片 Jalapeño
    OpenAI 与博通联合发布首颗自研推理芯片 Jalapeño(图源:TechCrunch)

    OpenAI 一直被看作做模型的,6 月 24 日这天它跨过了那条线——和博通联合发布了一颗叫 Jalapeño(墨西哥辣椒)的芯片,这是 OpenAI 第一颗自己定制的 AI 处理器。合作去年 10 月就官宣了,但真把芯片摆到台前,还是头一回。

    专门为跑模型而生

    Jalapeño 的定位很明确:它是推理芯片,不是训练芯片。说人话就是,它负责把已经训练好的模型跑起来、响应用户指令,而不是从零去炼模型。OpenAI 在公告里特别强调,它在跑实时 coding 模型(比如 Codex)时运营成本很低。像预训练这种更吃算力的重活,短期内还得靠英伟达的 GPU,但光是把推理这一块的成本往下压,对 OpenAI 的账本就已经意义不小。

    我们不只是做前沿模型、在模型上搭产品,我们连底下的基础设施都自己设计了——芯片架构、内存系统、网络、调度、部署,全在一层一层地把同一件事优化到极致。

    AI 参与设计了自己的硬件

    最让我觉得绕的一个细节是:OpenAI 自己的 AI 模型,参与了这颗芯片的设计过程。从架构设计到把版图数据交给晶圆厂(tape-out),整段只用了大约九个月。OpenAI 自己说,这可能是高性能半导体领域有史以来最快的 ASIC 开发周期。硬件负责人 Richard Ho 来头也不小,在谷歌待了快九年,是 Cloud TPU 项目的核心工程师。

    为什么非得自己造?说白了是想少依赖英伟达的 GPU。这条路上谷歌有 TPU、亚马逊有 Trainium,都是同一个思路——用专门加速机器学习的硅,把特定工作负载跑得更快更省。OpenAI 总裁 Greg Brockman 的话很直白:我们太懂这个工作负载了,就去找那些没被伺候好的环节,想办法加速它。

    全栈公司的必然一步

    把视角拉高一点看,造芯是 OpenAI 从模型公司往全栈基础设施公司走的自然一步。模型、产品、数据中心、再到芯片,每一层它都想攥在自己手里。据外界披露,微软还承诺包销了 Jalapeño 首期大约 40% 的产能。芯片计划先以工程样片在实验室跑通 GPT-5.3-Codex-Spark 这类模型,后续再放到吉瓦级别的数据中心里规模部署。

    • Jalapeño 是 OpenAI 首颗自研推理芯片,由博通代工实现、台积电 3nm 制造
    • AI 模型参与芯片设计,九个月走完从设计到流片
    • 目标不是取代英伟达,而是把最贵的推理成本压下来

    这不是要和英伟达掀桌子,而是 OpenAI 想把自己最贵、也最日常的那块成本,从别人手里拿回来一部分。当一家公司的模型每天被几亿人调用,每一分钱的推理开销乘上去都是天文数字——自己造芯,只是时间问题。

  • 苹果造车计划黄了,却意外成就端侧AI最强芯片

    苹果造车计划黄了,却意外成就端侧AI最强芯片

    苹果芯片与神经网络引擎
    苹果十年造车梦碎,却意外喂出了端侧 AI 最硬的底牌(图源:The Verge)

    苹果那辆传了十年的车,最后还是没造出来。项目在 2024 年被悄悄砍掉,前后烧掉上百亿美元,外界大多把它当成苹果少有的滑铁卢。但彭博社 Mark Gurman 在最新的 Power On 通讯里捅破了另一层窗户纸:那场失败的豪赌,其实给今天的苹果 AI 埋下了一块最硬的底牌。

    一辆车逼出来的芯片

    故事得回到项目刚启动那会儿。苹果当时瞄准的是 L5 级全自动驾驶——车子完全不用人管,自己跑。要做到这一点,车必须在本地实时处理海量的感知和决策数据,对算力的要求高到当时的手机芯片根本扛不住。于是工程师们一头扎进机器学习研究和定制芯片,想做一颗专门塞进车体的 AI 处理器。

    结果这颗车规级芯片最终没流片,一辆车也没装上。但它在研发过程中催生的一套底层能力,并没有跟着项目一起进垃圾桶,而是演变成了后来人人都熟悉的神经网络引擎(Neural Engine)——今天几乎所有苹果设备里负责 AI 运算的那块核心。

    那笔钱没有白花。一个没能交付的产品,反而成了苹果在端侧 AI 起跑时偷偷抢到的身位。

    从认脸到跑大模型

    神经网络引擎第一次亮相,是 2017 年随 iPhone X 和 A11 仿生芯片一起登场的。那会儿它还很朴素,主要干计算机视觉的活儿:让 FaceID 在暗光下认出你的脸、把表情实时映射到 Animoji、再撑起一些 AR 效果。这些功能有个共同点——原本要传到云端处理的敏感图像,现在全锁在设备本地完成。

    真正让逻辑变清楚的,是 M 系列芯片把这块加速单元搬上了 Mac。消费级电脑开始能跑过去只有云端服务器才扛得动的模型。这一步,也给苹果后来那套隐私优先的叙事,提供了实打实的硬件支点:本地能算的越多,离开设备的数据就越少。

    软件掉队,硬件领跑

    客观说,苹果在 AI 软件上的节奏一直被吐槽——Apple Intelligence 落地慢、Siri 升级跳票,外界没少阴阳怪气。但硬件这一边,确实拿得出手。Gurman 透露,苹果接下来打算跳过即将到来的 M6 芯片的 Pro、Max 和 Ultra 版本,直接加速推进 M7,预计 2027 年上半年登场,神经网络引擎会有大幅升级。M7 Ultra 还会成为苹果新一代服务器产品的基础,最高支持到 1.5TB 内存。

    • 十年造车梦碎,却催生了贯穿全系设备的神经网络引擎
    • 端侧算力让苹果敢把隐私当核心卖点,数据尽量不离开设备
    • M7 提前加速,Ultra 版本直奔 1.5TB 内存的服务器场景

    回过头看挺有意思:一个烧掉上百亿、折腾十多年的失败项目,最后可能变成苹果在端侧 AI 时代最划算的一笔长期投资。当整个行业都在把大模型往设备本地搬的时候,那颗没能上车的芯片,倒先一步给了苹果抢跑的资格。