标签: AI基础设施

  • 微软不再只靠OpenAI了,它悄悄练出了一套自己的AI模型

    Microsoft MAI AI模型
    微软在Build 2026上发布的MAI模型家族,标志着AI战略的重要转向(配图由AI生成)

    Microsoft和OpenAI这对搭档,这几年几乎绑定在一起。Copilot用的是OpenAI的模型,Azure上跑的是OpenAI的API,连Windows里的AI功能都离不开GPT的底层支持。但这种关系正在起变化。

    在上个月的Build 2026大会上,微软悄悄干了一件大事——它发布了一套完全自研的AI模型家族,名字叫MAI(Microsoft AI)。其中最值得说的是MAI-Thinking-1,这是微软第一个自己从头训练的推理模型。

    说”从头训练”很重要。现在很多公司做模型都是拿别人的前沿模型来蒸馏,相当于抄作业。微软这次说的是,他们的训练数据是干净的,没有从第三方前沿模型里蒸馏,是自己从零开始训的。

    MAI-Thinking-1:350亿参数,MoE架构

    MAI-Thinking-1有多大?微软给的数字是350亿活跃参数。这里说的是”活跃参数”,因为模型用了MoE(混合专家)架构——每次推理只激活需要的部分,不用把整个模型都跑一遍。这样做的好处是效率高、成本低。

    性能方面,微软说它在SWE-Bench Pro上的表现跟Claude Opus 4.6差不多,但成本要低很多。GitHub的运营负责人Kyle Daigle说这个模型是冲着”高性能高效率”去的,token价格会很有竞争力。

    一口气发了7个模型

    但光有一个推理模型还不够。微软这次一口气发了7个模型,覆盖了文本推理、代码生成、图像生成、语音转文字、文字转语音整个链路。

    • MAI-Code-1-Flash:专门给GitHub Copilot和VS Code用的代码模型,主打推理效率高,适合大规模跑
    • MAI-Image-2.5:做文生图和图像编辑,在Arena.ai的图像榜单上排第二,微软说它是市面上性价比最高的图像模型
    • MAI-Voice-2:多语言语音合成,支持15种语言,还能保留说话人的声音特征
    • MAI-Transcribe-1.5:语音识别,支持43种语言,速度是同类模型的5倍

    为什么要独立?三个原因

    这些模型现在有的已经上线Microsoft Foundry,有的还在私人预览阶段。但方向已经很清楚了:微软要把AI的每一层都掌握在自己手里。

    这件事的背后是微软和OpenAI合作条款的重新谈判。新协议签下来,微软访问OpenAI模型和技术授权到2032年,但这个授权变成了非独占的——OpenAI可以卖给别人,微软也可以自己搞。

    微软为什么这时候要独立?有三个原因说得通。第一,不能把命门捏在一个外部供应商手里。第二,自己的模型可以针对自己的产品、硬件、企业客户做优化,不用迁就别人的路线图。第三,也是实在的,跑自己的模型可以省掉一大笔给第三方模型提供商的分成。

    AI操作系统的一步棋

    更值得关注的是,微软还在做一个叫Scout的永远在线的AI助手,基于OpenClaw开源项目。这东西能帮你准备会议、管日程、起草邮件,是往”AI操作系统”方向走的一步棋。有意思的是,微软之前一直把自主AI智能体当成安全风险来看,现在直接把它做成了产品功能。

    硬件端也在布局。微软发布了Surface RTX Spark开发者盒子,用Nvidia的芯片,让开发者可以在本地跑和测试模型。还有能在Windows PC上直接跑的Aion小模型,以及跟高通一起做的基于Android的AI设备原型。

    这些动作串在一起,看得出来微软的算盘:它不想只当OpenAI的分销渠道,它要自己做模型、自己做智能体、自己做硬件、自己做企业AI平台。对用微软产品的公司和开发者来说,这意味着以后会有更多选择,也可能用上更便宜的AI能力。

  • 美国说ASML的顶级光刻机可能流进中国了,但这事说清楚了吗?

    ASML EUV光刻机
    ASML总部位于荷兰,其EUV光刻机是全球最先进的芯片制造设备

    美国政府最近抛出一个消息——商务部长霍华德·卢特尼克在多次会议上告诉ASML高管,他担心这家荷兰公司的最尖端极紫外光刻机(EUV)可能已经流入中国。这不是小事,EUV是地球上唯一能印制最先进半导体图案的工具,自从特朗普第一任期开始,美国就禁止ASML向中国出售EUV设备。

    但问题是,美国政府到现在都没有拿出实锤。彭博社报道说,高级政府官员声称有证据表明ASML向中国运送了EUV相关组件和运输设备,但他们对彭博社,甚至对ASML本身,都拒绝展示证据。ASML方面坚决否认,说中国境内从来没有、也不可能有这台机器。

    为什么这事这么重要

    ASML虽然名气不如英伟达,但它是全球AI基础设施建设中最关键的公司之一。没有ASML的EUV光刻机,就没有台积电生产的英伟达和苹果的最先进处理器。ASML花了大约20年、投入无数资金,才造出这台机器。目前地球上没有第二家供应商。

    这种垄断地位让ASML成为欧洲市值最高的上市公司,本周市值约7000亿美元。如果真有一台EUV流进中国,那将是美国过去几年构建的出口管制体系中最严重的漏洞之一。

    ASML CEO Christophe Fouquet告诉我:”没人能追上我们。你要造出一台EUV机器,80%的技术来自几十年的积累,而剩下那20%——怎么产生EUV光本身——我们花了20年。”

    ASML自己的说法

    我六周前刚采访过Fouquet,当时直接问了他关于中国的问题。他说ASML追踪它售出的每一台机器——它们要么在被监控的客户那里运行,要么已被拆解并归还给公司。

    他还说公司多年前就建立了一套内部防火墙:能够接触EUV技术、文档和培训的员工,与不能接触的员工是完全隔离的。他的核心论点是,你无法逆向工程一台你从未拥有过的机器,而中国没有人拥有过EUV。

    还有一个更简单的商业逻辑:ASML确实向中国出售老一代的深紫外(DUV)设备,但Fouquet明确说这是保护性策略,让中国客户仍能做一些业务,但造不出下一代竞争对手。ASML预计2026年约20%的收入来自目前获准的对华销售。为了一单非法交易而冒掉整个EUV禁令的风险,这说不通。

    幕后的政治算盘

    但这场争议出现的时间点很有意思。在卢特尼克领导下,美国商务部去年底同意向xLight注入最多1.5亿美元的纳税人资金,这家初创公司正在开发下一代光源技术,被描述为ASML EUV垄断核心的长期挑战者。

    xLight自己的CEO去年说,他们认为自己是ASML未来的合作伙伴,而不是竞争对手。但Fouquet对此并不买账。卢特尼克突然向ASML施压,跟xLight有没有关系?目前没有任何公开信息把两件事联系起来。

    还有一项横跨两党的法案正在国会推进,范围远比EUV更广——它要求有效禁止ASML所有深紫外(DUV)设备向中国出货,这些设备约占该公司预计2026年收入的五分之一。该法案今年4月已获关键委员会通过。


    • EUV光刻机重达180吨,需要三架波音747运输
    • 单价约1.5亿欧元,目前地球上没有第二家供应商
    • ASML花了20年才造出第一台EUV机器
    • 美国出口管制从特朗普第一任期开始禁止对华出售EUV
  • AI推理公司Baseten估值5个月翻近3倍,130亿美元背后的淘金热

    5个月,估值从50亿跳到130亿

    AI推理公司Baseten正在谈一笔15亿美元的融资,估值跑到130亿美元。算一下,比5个月前刚拿的50亿估值涨了160%。

    AI推理与创业融资
    AI推理层正成为VC砸钱的新战场

    5个月前,Baseten刚宣布拿下3亿美元的E轮,估值50亿。再往前9个月,是1.5亿美元的D轮。现在直接蹦到130亿——这个速度,连AI圈自己人都得愣一下。

    《华尔街日报》的报道还提到一个细节:这一轮是”分价轮”(split-priced round),意思是同一轮融资里,不同投资人拿到的股价不一样。有的按130亿估值进来,有的按110亿。这种做法最近在AI创业公司里挺流行,说白了就是把 headline valuation 做好看一点,让领投方纸面上好看。

    Baseten到底是做啥的

    先把”推理”(inference)这个词掰明白。训练模型是第一步,但训练完了之后,用户每次提交一个提示词,模型给出回答——这个过程叫推理。随着AI使用量爆炸,推理成本成了所有人都头疼的问题。

    Baseten的卖点是:把推理跑快,同时把成本压住。做法是把请求路由到最适合当前任务的模型,尤其是那些能力强、便宜的开源替代品。客户不用自己操心底层用哪个模型,Baseten在后面调度。

    这波被称为”推理淘金热”——VC们正在把大把的钱砸向构建推理层的公司。

    谁在领投

    这一轮据说由Spark Capital、Sands Capital、Altimeter Capital和Wellington Management共同领投。Baseten成立于2019年,算是这波AI浪潮里跑得比较稳的一家公司——不怎么高调,但每次融资都能拿到大机构的钱。

    值得提一下背景:训练层的巨头效应已经很明显了(OpenAI、Anthropic、Google),但推理层还在混战阶段。Baseten想做的是推理层的”基础设施”——让所有用AI的应用都能快速、便宜地跑推理,而不用自己建一套。

    估值疯涨的背后

    Baseten这波估值跳涨,其实是整个AI推理层被重估的缩影。训练一次模型要花几亿美元,但推理是每次用户提问都要发生的事——使用量越大,推理次数越多,这笔账就越好算。

    投资人押的不只是Baseten这家公司,而是”AI的推理层会变成像云计算一样的基础设施”这个假设。如果这件事真的发生,现在拿到的股权将来可能值很多倍。

    当然,分价轮这种操作也说明,130亿的估值不是所有人都完全买账。110亿进来的那批投资人,显然觉得130亿有点撑。但这就是2026年AI投融资的日常:公司在疯涨,投资人在FOMO和理性之间反复横跳。

  • 印度首富Ambani把AI塞进了每一个电话、每一款App和每一个家庭

    Reliance AI印度战略
    Reliance Industries正在将AI植入印度每一个电话、App和家庭

    印度在全球AI竞赛中一直在找自己的代表选手,而亿万富翁穆克什·安巴尼(Mukesh Ambani)正在把信实工业(Reliance Industries)摆上这个位置。在周五的年度股东大会上,这家孟买企业集团一口气发布了好几款AI产品,目标很直接——让AI进驻5亿多Jio用户的每一次通话、每一款应用和每一个家庭。

    Hey Jio,帮我订个外卖

    最先亮相的是Jio Call Agent,一个可以”跳进”你电话里的AI助手。说出来”Hey Jio”,它就能加入通话,帮你转录对话、生成摘要,还能顺手帮你叫车、订餐、预约餐厅。Jio方面说这个功能会在今年晚些时候向全部5亿多用户推送。

    把AI助手直接嵌进电信网络而不是做成独立App,这个思路挺聪明。用户不用额外下载什么,AI就成了打电话这件事的原生功能。这也意味着Jio可以少依赖第三方通话助手App,在越来越挤的AI市场里拿到一个实实在在的分发优势。

    “印度不应该只是别人造出来的AI的消费者。它必须成为AI的创造者、采用者和全球领导者。”——穆克什·安巴尼,69岁

    从eSIM到客厅,AI全包了

    除了通话AI,Reliance还推出了MyJio App的AI升级版——用户可以用自然语言开口提要求,比如开通eSIM、选漫游套餐,App自己就能搞定。再往家里走一步,他们发布了TeleFrame,一款带AI助手的智能家庭显示屏,能主动推送天气预警、日程提醒、家务备忘录这些信息。

    这个打法看着眼熟是有原因的——Amazon的Alexa和Google的Nest Hub都在往同一个方向走,只不过Reliance的战场在印度。TeleFrame看起来就是冲着”家里那个AI助手”的位置去的,至于印度家庭买不买账,还得看定价和实际使用体验。

    1100亿美元的AI赌注

    Reliance的AI野心不是这几天才冒出来的。去年他们就启动了Reliance Intelligence,目标是给消费者、企业和政府都做AI基础设施和服务,还要支持22种印度语言。今年2月,公司又宣布了1100亿美元的AI基础设施投资计划。

    合作伙伴名单也挺豪华:Google、Meta、Nvidia都在列。上周Reliance还和Meta签了协议,要在印度古吉拉特邦建一座AI数据中心。这是Meta投资Jio Platforms之后两家合作的延续,也是印度AI主权战略的一块重要拼图。


    医疗、教育、农业,一个都没落下

    这次股东大会上还发布了一整套面向具体行业的AI服务:JioHealthIQ(医疗)、JioLearnIQ(教育)、JioKrishiIQ(农业)和AI Vyapar(小企业)。这些产品都用多种印度语言设计,针对本地需求定制。这个打法和美国那帮纯云端AI公司不太一样——Reliance想做的是覆盖全行业的AI基础设施。

    但有一个问题没法绕开:Reliance把AI塞进通话、App和家庭之后,用户数据怎么处理?公司说这些服务都会在用户同意的情况下运行,但没回答数据会不会拿来训练AI模型、会不会分享给技术合作伙伴。对于一家掌握了5亿用户通信数据的公司来说,这个问题不会消失。

    Jio上市前需要新故事

    这次发布会还有一个不能忽视的背景:Jio Platforms的IPO终于要来了。股东大会上,Ambani宣布Jio Platforms董事会已经批准了IPO草案,拟发行最多2.7亿股新股。对Reliance来说,IPO之前讲一个AI故事,时机掐得很准。

    但资本市场买不买账是另一回事。Reliance今年的股价已经跌了大约17%,投资者在等Jio拿出新增长引擎的证明。AI能不能撑起这个期待,要看这些产品到底能留住多少用户、能产生多少收入,而不只是发布会上的演示。

  • 美国能源监管层大开绿灯,AI数据中心接电不再排队

    AI数据中心电网接入
    美国联邦能源监管委员会为AI数据中心开辟电网接入快速通道

    美国AI竞赛里最卡脖子的不是芯片,是电。

    6月18日,美国联邦能源监管委员会(FERC)做了一件AI行业盼了很久的事:下令六大电网运营商,给数据中心的并网申请开“快速通道”。以后AI公司想接电,不用再跟传统电厂排同一条队了。

    等了又等,AI公司快撑不住了

    电网接入的队伍有多长?到2023年底,全美国待接入的发电项目总容量,已经超过了现有电网的总供电能力。换句话说,排队等接电的项目,比电网能承载的极限还多——这条队,本质上永远排不到头。

    AI公司等不起。数据中心的需求预计2035年前要翻近三倍,电网运营商过去二十年习惯了需求零增长,突然被这波AI浪潮砸懵了,有些电网(比如全美最大的PJM)已经乱到有几家大公用事业公司威胁要退群了。

    讽刺的是,等不到电网接入的科技公司,被迫自己掏钱搞”表后发电”——在自己数据中心旁边自建电站。这比接公网更贵、更麻烦,但总比没电用强。

    FERC的新规到底放了什么大招

    FERC的指令主要有几层意思。第一,六大电网运营商必须在30天内上报自己还有多少富余的供电能力;60天内为数据中心”辩护或修改”电价方案。第二,电网运营商必须考虑”替代输电技术”——比如固态变压器或超导输电线,这些都是能让现有电网跑得更猛的新玩意儿。

    第三,也是最有实质意义的:数据中心要为并网成本自己买单,但作为交换,他们不用再跟发电项目一起排长队了。

    这个决定的背后推手是能源部长Chris Wright。他去年10月就公开表态,说数据中心接电的延误已经威胁到美国在全球AI竞赛中的竞争力。话音刚落,FERC就动起来了。

    电价已经在疯涨,这道绿能解多少渴?

    一个无法忽视的现实是:批发电价已经比五年前飙涨了最多267%。数据中心疯狂抢电,推高了所有人的用电成本。FERC开了快速通道,但并没有变出新电厂来——发电容量短缺这个根本问题,依然存在。

    更有意思的是时机。就在FERC出台新规的前两天,特朗普政府刚宣布掏7.65亿美元,让可再生能源开发商Invenergy取消加州、缅因州和纽约州附近的四个海上风电租约。Invenergy转而要用这笔钱在中西部建天然气电厂。

    到目前为止,特朗普政府已经花了大约26亿美元来拆海上风电的台。AI要电,政府给数据中心开绿灯,但同时又在对清洁能源使绊子——这其中的矛盾,恐怕日后还要找补。


  • 亚马逊自研AI芯片要对外卖了,英伟达迎来最强劲对手?

    英伟达在AI芯片市场的霸主地位,终于有人正面挑战了。据Bloomberg报道,亚马逊云科技(AWS)掌门人Peter DeSantis透露,AWS正在洽谈将自研的Trainium AI芯片出售给其他公司,用于其数据中心。如果这桩生意做成,将是迄今为止对英伟达AI芯片统治地位最强有力的冲击之一。

    贝佐斯想卖芯片,Jassy把话说在前头了

    这事儿其实有伏笔。今年4月,亚马逊CEO Andy Jassy在年度股东信里就写得明明白白:如果我们的芯片业务独立成一家公司,把今年生产的芯片卖给AWS和其他第三方,年化营收规模大约在500亿美元左右。”我们对自家芯片的需求太旺盛了,未来很有可能会把整机架的芯片卖给第三方。”

    亚马逊AI芯片挑战英伟达
    亚马逊Trainium芯片冲击AI芯片市场格局

    500亿美元是个什么概念?英伟达目前的年化营收是3260亿美元,500亿当然还”干不掉”英伟达。但这个体量已经跟英特尔的全年营收相当——也就是说,如果AWS真的对外卖芯片,它一上来就是个”英特尔级别”的选手。

    为什么AWS一直不卖芯片?

    既然芯片这么强,为什么AWS憋了这么久不外卖?根本原因是一个”瀑布效应”——芯片是引子,真正赚钱的是后面的存储、安全、网络、监控等一整套云服务。客户买了Trainium的算力,顺带就要用AWS的S3存数据、用CloudWatch做监控、用IAM管权限……这笔账,比单纯卖芯片划算多了。

    另一个现实问题是产能。Jassy在股东信里说,目前的Trainium芯片产能一上线就被抢光,连下一代Trainium4的产能也早就预订完了——而这芯片要到一年以后才上市。自己都不够用,怎么卖给别人?

    AWS发言人Doron Aronson确认了对外销售芯片的可能性:”虽然我们历史上一直拒绝直接销售芯片的请求,但Andy说过,未来我们很可能会把整机架的芯片卖给第三方。”

    台积电的产能争夺战

    真要外卖芯片,AWS得先解决制造端的问题。Trainium芯片由台积电代工,而台积电的先进制程产能是全世界科技公司争抢的香饽饽。最新消息是,英伟达已经取代苹果,成为台积电的最大客户——这意味着黄仁勋在产能谈判桌上,比AWS有更多话语权。

    所以AWS要外卖芯片,不仅仅是”我想卖”的问题,还得在台积电那里挤出产能来。这事儿的难度,不亚于做芯片本身。

    黄仁勋的200亿,Jassy的500亿

    这场竞争有个有趣的对照:黄仁勋最近宣布英伟达发现了一个全新的2000亿美元市场——卖CPU给AI基础设施(不只是GPU),直接入侵英特尔和AMD的地盘。Jassy的500亿美元芯片野心,则是反过来从英伟达碗里分肉。

    两家公司的CEO都在押注同一件事:AI基础设施的市场,远远没有见顶。区别在于,英伟达是从芯片往系统走,AWS是从系统往芯片走——最后谁更能打,接下来几年就见分晓了。


    • AWS Trainium芯片年化营收潜力约500亿美元,相当于英特尔全年营收规模
    • 英伟达当前年化营收3260亿美元,地位短期难以撼动
    • AWS外卖芯片的最大障碍:自身产能不足 + 台积电产能争夺
    • 亚马逊从云服务端往芯片端渗透,与英伟达的”反向包抄”形成对决
  • 数据中心不想等电网扩容了,它们开始学会「看脸色」用电

    数据中心不想等电网扩容了,它们开始学会「看脸色」用电

    当几百万英国人同时在世界杯期间烧水泡茶,电网会经历什么?答案是:一场突如其来的用电高峰。但2025年12月的一次模拟实验显示,如果伦敦的一台数据中心当时装了一款叫Conductor的软件,它会在千钧一发之际自动给芯片降速,把电让出来。

    这听着像科幻,但已经是真实产品在测试了。Emerald AI在做的事很简单——让数据中心变成电网的「好邻居」,而不是永远张嘴要电的贪吃蛇。

    等等,电网怎么了?

    AI boom来了,数据中心想上网,电网说:排队吧您内。美国最大电网运营商PJM处理新发电项目并网要8年。数据中心盖好了,电接不进来,这生意怎么做?

    传统思路是:建更多电厂。xAI在孟菲斯搞燃气轮机,微软和Oracle提议搞超大型离线数据中心。问题是:燃气轮机不够用,新的电厂环评和建设又要好几年。这条路走不通。

    数据中心电网灵活性示意图
    科技公司在数据中心能源问题上开始寻找新出路(配图由AI生成)

    灵活性:给电网留点余地

    有一派人说:换个思路。电网其实有闲力,只是你不会用。2025年Duke大学的研究发现,如果数据中心愿意一年只让电0.25%的时间(大约22小时),美国电网能多挤出76GW——够到2030年的数据中心增长需求了。

    普林斯顿大学和两家电网现代化公司给PJM区域做了个测算:一个500MW的数据中心如果能做到一年99%以上的时间不拉闸,并网速度可以快3到5年。这就是「灵活性」(flexibility)的核心逻辑。

    数据中心不再要求「随时给我满电」,而是跟电网商量:「我可以在用电高峰时少拿一点,你让我早点并网行不行?」

    几家公司在做的事

    Emerald AI的产品Conductor就是干这个的。它在2025年12月做了那个「英德足球赛」模拟:AI程序在几百万个电热水壶同时启动的瞬间,给数据中心发指令降速。CEO Josh Parker说:「AI工厂的灵活性,是AI需求和电网局限之间的桥梁。」

    GridCare的思路更激进一些。这家硅谷创业公司用生成式AI给电网建「数字孪生」,把发电厂、输电线、变电站、家庭用电全部建模,然后找到在不牺牲可靠性的前提下解锁容量的方案。CEO Amit Narayan打了个比方:电网的平均利用率只有30%左右,如果你是个航空公司,飞机利用率30%,你不会去买新飞机。

    灵活性并网的好处

    • 电网更稳定。数据中心在用电高峰时让电,能避免拉闸限电。
    • 少建电厂。如果现有容量能挖潜,就不需要为了AI狂建天然气电厂。
    • 电费可能更低。Duke大学2026年2月的研究发现,灵活性能让电价降低0.5%到2.8%。

    为什么科技巨头们还在搞燃气轮机?

    听起来很美好,但为什么微软、Oracle、xAI还在搞离线电厂和燃气轮机?一个字:惯性。电网的设计哲学是「保守」——必须按照最高需求来建设,宁可闲置也不能掉链子。

    数据中心的传统做法也是「我要全功率」,因为每一秒的算力都可能意味着钱。xAI在孟菲斯的做法就是典型案例:等不了电网扩容,直接把燃气轮机用卡车拉过来。结果?当地居民和监管机构不干了,排放和污染问题一堆。

    但变化在发生。Emerald AI的首席科学家Ayse Coskun观察到一个趋势:「运营商越来越愿意用某种程度的灵活性,来换取更快的并网速度。」

    这不是一个「技术能不能做到」的问题,而是一个「谁先迈出第一步」的问题。2026年,这笔账会被算清楚的。

  • 一家迈阿密AI创业公司说它突破了LLM十年的数学瓶颈,外界将信将疑

    一家迈阿密AI创业公司说它突破了LLM十年的数学瓶颈,外界将信将疑

    一家迈阿密AI创业公司说它突破了LLM十年的数学瓶颈

    一家叫Subquadratic的迈阿密AI创业公司,上个月从隐身模式走出来,扔了一颗重磅炸弹:他们说自己解决了一个卡了LLM近十年的数学瓶颈。

    细节很少,很多人不信。但Subquadratic开始拿出证据了——他们公布了第三方公司Appen对他们的新模型SubQ的独立评估结果。结果看起来,这家公司的说法或许值得认真看待。

    Subquadratic AI模型突破LLM瓶颈
    Subquadratic声称SubQ模型突破了LLM的二次方计算瓶颈

    根据Subquadratic的说法,他们开发了一种全新的LLM,叫SubQ,比市面上任何其它模型都更快、更便宜、能耗也低得多。公司还声称,SubQ一次性处理的文本量是最其它大多数模型的12倍,可以执行分析数百份文档或者整个代码库这样的数据密集型任务。

    SubQ在编码等关键任务上的表现基本上能跟Google DeepMind、OpenAI和Anthropic的最佳模型持平。

    问题就在于,这家公司一开始除了少数几个自己发布的测试分数之外,几乎没提供什么证据。而且SubQ至今还没有广泛开放给公众试用。

    所以Subquadratic的说法遭到质疑一点也不奇怪。AI工程师Dan McArthur在X上总结了很多人的反应:”SubQ要么是自Transformer以来最大的突破……要么它就是AI圈的Theranos。”

    注意力机制

    要理解为什么Subquadratic的说法很重要,我们需要深入了解一下大多数LLM是怎么工作的。LLM内部的核心机制是一种叫做”Transformer”的神经网络,它运行一个叫做”密集注意力”的过程。今天的LLM通常将多个Transformer串联在一起。

    密集注意力的工作原理是这样的:当Transformer处理一段文本时,它首先将每个词编码成一个数字,然后将每个数字与那段文本中的每个其它数字相乘。一段10000个词长的文本会触发近5000万次单独的乘法运算。这是大量的计算,也是LLM以能耗巨兽著称的主要原因。

    随着文本长度的增加,计算次数会急剧上升。词的数量翻倍,计算次数大致翻两番,这种增长速度被称为”二次方扩张”。

    削减成本

    Subquadratic的解决方案是抛弃密集注意力,转而使用”稀疏注意力”,这大幅减少了所需的计算次数。稀疏注意力不是将分配给每个token的数字与每个其它数字相乘,而是只选择其中一些数字来相乘。

    “稀疏注意力说,不是所有那些关系都重要,因为它们本来就不重要,”联合创始人兼CTO Alex Whedon说。”如果你在读一本书,你不会去看第一个词和第二个词,第一个和第三个——那太疯狂了。”

    这听起来简单,但Subquadratic也不是第一个尝试的。以前选择哪些数字相乘的技术,都没能产生一个能像密集注意力一样好地捕捉文档含义的机制。

    Subquadratic声称终于破解了这个问题。他们将SubQ宣传为第一个在性能上能与主流密集注意力模型匹敌的稀疏注意力LLM。

    “从历史上看,大多数机制都使用固定模式,”Whedon说。”这相当局限。我们的机制动态选择哪些是重要的,这是对每段文本即时计算的。”

    测试结果

    第三方公司Appen评估了SubQ。在一个纯粹的速度测试中,Appen发现SubQ比使用以前稀疏注意力技术的模型快56倍。在LiveCodeBench编码测试上,SubQ得分89.7%,跟其它顶级编码模型差不多。

    成本方面,根据Subquadratic的说法,通过RULER 128测试,运行Anthropic的Opus 4.6要花费2600美元。SubQ花了8美元。

    SubQ似乎确实能够处理非常大的数据集。该模型有一个长达1200万token的上下文窗口。今天大多数顶级模型的上下文窗口是100万token长。


    尽管得分很高,在更多人亲自上手试用模型之前,一些质疑是有道理的。独立AI研究员Will Depue说:”他们可能做出了真实有用的东西。但公开证据还不足以证明他们解决了二次注意力瓶颈这一更强硬的说法。”

    与此同时,Subquadratic联合创始人Whedon坚持认为,做出不同的东西是他唯一的选择。”如果你想构建一个有竞争力的模型,你必须要有新想法,”他说。

  • 印度首富要把AI塞进每一个电话里,Jio的5亿用户成了他的试验场

    印度首富要把AI塞进每一个电话里,Jio的5亿用户成了他的试验场

    印度在全球AI竞赛里想当选手,不想只做观众。这话说了好几年,但真正有大动作的人,是那个控制着全印度最大移动网络的亿万富翁。

    Mukesh Ambani上周在Reliance年度股东大会上宣布了一整套AI新计划。Jio Call Agent——一个可以直接加入电话通话的AI助手——能帮用户记录对话、生成摘要,还能顺手帮你叫车、订餐、预约餐厅。说一声”Hey Jio”就能激活,预计今年晚些时候向Jio的5亿多用户开放。

    印度AI战略
    Reliance在AI领域全面布局,从电话到家居全覆盖

    不是做一个App,是把AI塞进电话本身

    Jio的思路和硅谷不太一样。他们不打算做一个独立的AI助手App跟ChatGPT抢用户,而是把AI直接嵌进电信网络。电话打通的那一刻,AI就已经在后台待命了。这种方式让Reliance在一个越来越拥挤的AI市场里拿到了一个很扎实的发行优势——用户不需要额外下载任何东西。

    除了通话助手,Reliance还推出了AI版的MyJio应用,用户可以用自然语言激活eSIM、选择漫游套餐。他们还发布了TeleFrame——一款用AI主动推送信息和建议的家庭显示屏,功能类似亚马逊和谷歌都在押注的”环境AI助手”方向。

    “印度不应该只是别处创造的AI的消费者。它必须成为AI的创造者、采用者和全球领导者。”——Mukesh Ambani,69岁

    110亿美元的赌注

    Reliance去年推出了”Reliance Intelligence”,目标是为消费者、企业和政府开发AI基础设施和服务,支持22种印度语言。今年早些时候,公司宣布计划投资1100亿美元建设AI基础设施。他们还跟谷歌、Meta、英伟达结成了伙伴关系。

    上周,Reliance还宣布跟Meta合作,在古吉拉特邦建立一个AI数据中心。这个合作建立在Meta早些时候对Jio平台和去年成立的合资企业的投资基础上——那个合资企业的目标是为印度和国外的企业客户开发AI解决方案。

    Reliance并不是唯一一个在AI领域押注的印度巨头。Tata咨询服务、Infosys和对手Adani集团都在扩大自己的AI计划,跟Anthropic、谷歌和OpenAI等全球玩家建立合作。但Reliance的赌注尤其高——它正在准备Jio期待已久的股市亮相,需要新的增长引擎。


    数据隐私的问号

    Reliance的AI野心也带来了关于数据处理的问题。公司说这些服务会在用户同意的情况下运行,但没有回答这些数据是否会被用来训练AI模型,或者是否会跟技术伙伴共享。当一个公司同时控制着你的电话网络、你的应用和你的智能家居设备时,它能看到的用户画像比任何硅谷巨头都要完整。

    最近美国政府对Anthropic最新型号的限制,反而让印度公司更加意识到依赖外国AI模型的风险。决定是在海外做出的,但受影响的是在印度做AI产品和服务的创业公司——这类供应链风险正在推动印度大企业走向自建技术栈,而不是租别人的。

  • 卖鞋的Allbirds摇身一变成了AI公司,新CEO今天上班第一天

    卖鞋的Allbirds摇身一变成了AI公司,新CEO今天上班第一天

    四月的时候,Allbirds宣布转型AI,很多人都觉得这是个玩笑。就是那种硅谷梗剧看多了会心一笑的玩笑——一家卖舒适鞋履的DTC公司,在股价跌跌不休之后,突然说要去做人工智能了。

    但这次不是玩笑。公司以4300万美元卖掉了鞋履业务,又从股市融了1亿美元,把名字改成了Smartbird。昨天,新CEO Nadia Carlsten正式上班了。

    AI基础设施与云计算概念图

    从鞋履到算力,这一步跨得有多大

    Carlsten不是随便什么人。她有工程学博士学位,之前在AWS(亚马逊云科技)任职,最近一份工作是欧洲计算公司DCAI的负责人。她从阿姆斯特丹接受TechCrunch采访时说得很直白:团队要从零开始招,办公场地也要去搞定,鞋履业务昨天正式结束了。

    她的任务是把Smartbird做成一家AI基础设施提供商。方向是那些需要对自己模型运行环境有完全控制权的客户——通常是因为政治原因或者商业模式原因。这类客户看重的不是公有云能扩到多大,而是数据主权。

    Carlsten说她的潜在客户需要的芯片数量在”几百到几千”这个范围,重点不是规模有多大,而是集群的灵活度,是对整个基础设施栈的控制力。

    这生意到底成不成

    Smartbird的对标不是超大规模云厂商,也不是那些拼命压价的新兴云(neocloud)。Carlsten说他们竞争的是企业内部的IT项目——那些大公司自己搭的私有算力池。

    但这个市场到底有多大,其实没人说得清。Carlsten自己也没给出估算,只说这个市场还非常早期,很多企业还在试点AI工具的阶段。对比一下,另一家做推理云的公司General Compute上个月才出stealth,直接宣布了3000亿美元的芯片采购订单。

    Carlsten拿到的薪酬包是:70万美元年薪,外加约900万美元的股票。Allbirds转型AI这件事,从叙事角度已经赢了一次——股价因为”AI概念”涨过一波。现在的问题是,Carlsten能不能把故事变成真实的收入。


    还有一个值得玩味的细节。Allbirds转型的同时,放弃了它的公益企业(PBC)资质。这个资质原本是用来固化公司的可持续发展承诺的——毕竟”环保鞋履”是Allbirds起家的故事。现在这个故事换成了AI基础设施,PBC资质也就不要了。

    这件事其实提出了一个挺有意思的问题:一家公司的”使命”到底能有多大的约束力?答案似乎是,当股价和生存压力来了,使命声明也就是一张纸。